TL;DR
日本に一時帰国して、新しいビザを取得し、2 年目の研究生活が始まった。 1 年目と異なるラボに移動したことで、ラボ運営の違いなども体験することができ、いい勉強になっている。 (Photo: 機内からの SF。Golden Gate Bridge、Alcatraz Island、Bay Bridge など)
0. Novel Prize in Physics 2024
AI 業界の巨匠であるヒントン教授とホップフィールド教授が、Novel Prize in Physics 2024を受賞した。 物理学賞で AI の研究者が受賞するのは快挙であり、物理研究者からの受け止め方は様々なものがあると思われるが、CS 界隈では非常にポジティブな反応で皆のモチベーションも上がっている。
1. Research
09/12 OpenAI o1 release: “deep-thinking reasoning model”
10/01 OpenAI dev day
Tue Lab Meeting
Thu Lab Lunch新たなラボでの研究の方向性を相談し始めた。
New Release in AI Field
9/12 の OpenAI o1 のリリースは Game Changer で、衝撃的なものだった。
- OpenAI の「考える能力」を得た人工知能、Strawberry の正式名称が "o1" に決まり、そのプレビュー版 "o1-preview"がリリースされた。
- スケーリング則は学習時だけでなく、推論時においても(推論 computing 時間に対して)成り立つことが示された。
- 従来型の LLM は、教育プロセスやファインチューニングに計算コストを費やすことにより能力を上げることに専念して来たが、OpenAI は、推論のプロセス側の計算コストを費やすことにより能力を上げることが可能であることを発見し、それを実現したのが、Strawberry(o1)
- 推論に時間をかけるのであれば、UI としては対話型ではなく、ローカルで時間をかけてバッチ処理するような方法が fit するかもしれない
10/1 の OpenAI dev day も多くの発表があり、特に Vision の Finetuning 機能に注目している。 以前、Multimodal LLM での画像の In-Context Learning による推論を試したときには、 Supervised Learning の性能と競合することができなかったが、今回の Finetuning 機能により、その性能が向上することが期待される。
また 10/10 の Tesla RoboTaxi 発表に注目している。 世の中を確実に変えるであろうロボタクシーがどこまで現実化するのか気になるところ。 Cruise(, GM, Uber)や Waymo(, Google)の事業へのインパクトが大きい。 内容次第で株価も大きく変動するだろう。
9 月に紹介された Meta の AR Glasses もとても魅力的な発表だった。
Ottoという SaaS も面白い。 各セルに AI Agent がいて、調査を代行してくれる。 例えば、会社の業績を調べてくれたり、競合他社の動向など、を Column の Title に書くと、AI Agent が調査して自動的に埋めてくれる。
My thoughts on AI Agent in Manufacturing
LLM-OS (Karpathy) で、IF が AI Agent 化されていくようになると考えられる。 すでに ERP や CRM では Disruptive Innovation が起こりつつある。 Manufacturing の分野では、Digital Twin Factory から一歩進んで、意思決定まで AI に任せられる未来が来ると思う。 そのためには、従来の意味での Digital Twin Factory の実現(IoT 的な)はさっさとやるのは当然。 その上、意思決定機能も API 化して、AI Agent が意思決定するのが当たり前になる時代に備えていくのが必要だと感じている。
2. Life
08/31-09/02 🐟 Lake Tahoe
09/xx Boardgame
09/xx Hiking
09/xx @Japan休日には友人と集まって、ハイキングやボードゲーム、BBQ を楽しんでいる。 有名な Lake Tahoe も友人にガイドしてもらって、透明度の高い湖を満喫した。
