TL;DR
- Research: PoC 開発が進行中。CES'24 に参加し、最新の市場動向を把握。
- Life: 年末年始で 🇲🇽Mexico に旅行。冬休みが明けて、友人たちと再会し、近況を語りあった。
1. Research
1/9-12 CES'24 @🇺🇸LasVegas
1/31 AI User Conference @🇺🇸SanFrancisco
Progress
PoC 開発
- PoC といいつつ、開発しているうちに、これも必要だぞという機能が増えてきて、MVP よりも本番環境に近いものになってしまっている。
- アルファ版は本番ドメインにデプロイ済みなのだが、破壊的な開発を予定しておりユーザーデータが入ってしまうと困るため、未公開となっている。
- 同時にツールキットとして PythonSDK [PyPI] も構築中。
論文調査
- SpacialVLM (Google): 空間推論データを用いて VLM を訓練することにより、空間認識能力を改善した VLM。
- LUMIERE (Google): 映像生成のための時空拡散モデル。相変わらずデモが凄い。
- DPO (Stanford): 従来の RLHF は人力フィードバックが大量に必要で非常にコストが大きい。DPO は強化学習&人力評価を不要にした。代わりに事前の”嗜好データセット”を用意する。RLHF と DPO の数学的等価性も示された。
Future Plan
- PoC: 早期に収集をつけて、ベータ版リリースに向けてスケジュールを再調整し、限定ユーザーからのフィードバックをもらう。
CES'24
CES(100 周年)のイベントに参加。生成 AI に関連した展示が至るところにあり最新の市場動向を捉えるのに役立った。 現地参加したことで、EV や、AR・VR を実際に体験できたのも良かった。 Samsung・LG をはじめとして韓国メーカー・スタートアップが一番目立っていた印象だった。他にも次の印象的な展示があった。
- Rabbit: 自然言語をベースインターフェースとする OS、AI コンピュータ。
- VolksWagen MercedesBentz: Finetuned LLM を搭載し、車と対話して運転がサポートされる。
- Sony: Playstation Controller で操作できる EV。
- Samsung: Ballie - Home Assistant Robot
AI User Conference
Hands-on Workshop がとても勉強になった。早速、活用していく予定。 出典企業は、Custom Chatbot 等の RAG 開発のための SaaS 系が多かった。 また LLMOps を中心に Eval 手法やその重要性の盛り上がりが理解できた。 生成 AI の評価は、従来の分類問題とは異なり、人間の主観に依存するため、評価指標の設計が難しい。 基本的な戦略としては、json 形式など スキーマの決まった出力に対しては、人間が生成したテキストを入力として、生成 AI がそれをどの程度再現できるか(match, include, ..)を評価する。 一方、要約タスク等の"非構造的な"出力に対しては別の LLM を使って評価するなど様々な方法が検討されているところ。 LLM ベースのサービスをプロダクトレベルで提供する場合は、その CI が特に重要になる。 なぜなら、生成 AI を扱うシステムは Traditional なそれより挙動が予測しづらいものとなるため。 Evaluation Pipeline を導入して、hallucination や data drift, offensive output 等を監視するのが重要。 LoRA(Low-Rank Adaptation)や QLoRA(Quantized LoRA)等の Fine-tuning 系の知識と方法(transformers)も再確認できた。 他には、OpenRouter(unified interface for LLMs)等が興味深かった。
2. Life
12/31-04 @🇲🇽MexicoCity
12/04-07 @🇲🇽PlayaDelCarmen
01/07-09 @🇲🇽Cancun
01/28 🏈Watching 49ers game @SportsBar,PaloAlto
01/23,30 ESLWinter Vacation
🇲🇽Mexico に旅行。マヤ・アステカ遺跡、コロニアル建築、ストリート壁画、セノーテ、シカレパーク、カリブ海ビーチ、、と見どころ沢山だった。遺跡観光はもちろんのこと 🚠Mexicable 🛶Xplor がお勧め。
🏈Watching 49ers game @SportsBar,PaloAlto
地元チームの大逆転勝利で大盛り上がりだった。30 年ぶりの SuperBowlChampionship まで残り 1 勝。 (SuperBowl は NFL32 チームの優勝決定戦。そのハーフタイムショーや独創的な企業 CM 広告も有名であり、スポーツイベントを超えて、米国の文化的現象とも言える。)
