12th month @Stanford
August 29, 2024

TL;DR

Silicon Valley の地の利を活かし、AI Meetup に参加したり、Uber 本社をツアーしてもらったりした。 Lab を変更することになり色々な人の力を借りながら無事、新しい教授にお世話になることが決まった。 AI の最新動向を追いながら、2 年目の研究方針を模索中。

oracle-park

0. Stanford Athletes in Paris Olympics 2024

パリ五輪で Stanford 選手団が活躍したそう(米大学最多メダル)。 米トップ大学は、アスリート枠など一芸に秀でた学生を多く受け入れている。 ソーシャルスキルなどペーパーテストでは測れない能力にも優れた学生が多いことも実感する。

1. Research

08/05 AI Meetup @GithubHQ
08/15 AI Meetup @AmazonSF
08/19 Office Tour @UberHQ
08/19 AI Meetup @GithubHQ
08/27 Stanford CENTAUR Annual Meeting 2024
08/28 Stanford AI Safety Annual Meeting 2024

AI Meetup

Tech Company での AI Meetup にいくつか参加し、最新の AI エンジニアリング動向を学んだり、ネットワーキングを楽しんだ。

OpenAI から公式にStructured Output のサポートが発表され、 Programming における Typing の重要性が更に高まっている。python+pydantic あるいは ts+zod が デファクトスタンダードになりつつある。 Jason Liu の Pydantic is all you needの講演(2023)は有名。 ちなみに今年の彼は Pydantic is still all you need のタイトルで講演した。(近いうちに youtube にアップされるはず。)

Github 上に魅力的な AI SaaS が色々と公開されているが、その中でも Teableは特に注目したい。 Spreadsheet-like Interface な No-Code Postgres で Gen-AI 機能 (Natural Language Query や AI Agent など)も開発ロードアップにありウォッチしたい。

Sakana AI の AI Scientistがこちらでも話題になっているのは 日本勢として喜ばしい。

個人的にアツいのが、Supabase の postgres.new と、Vercel の v0

Uber Office Tour

Stanford CS から Uber の Summer Internship に参加している友人の Christina に招待してもらって、Uber のオフィスを見学させてもらった。 バイキング形式の食堂は種類が豊富で、社員は無料で食べ放題(夕食分のテイクアウトも)。オフィス内にジムや瞑想ルームもある。 ドリンクやスナックも無料で提供されており、出社したくなる工夫が感じられる。

なお 学部 2 年生 21 歳の彼女の Internship は $8k/mo。(Fulltime のエントリークラスは$200k/year、マネージャークラスは$500k/year 目安だそう。)

Stanford CS Annual Meeting

CENTAURAI Safety の年次会議に参加した。

初日は Automated Reasoning がテーマだったが、多くの発表が数式を多用していて正直ついていくのが難しかった。 2 日目は AI Safety で、技術的には Bias や Alignment の話題が中心だったため 研究トレンドはもちろん、 Large Language Monkey など 実践的な応用アイデアも獲得できた。

Switching Lab

現在サポートを受けている Chris 教授 が Stanford を休職する予定ため、 2 年目はCarlos 教授からのサポートを受けることでお願いした。 Explanable AI(LIME や SHAP 等)が専門だが、Xgboost でも有名。 最近はStanford Alpaca など LLM に注力している。

1 年目は LLM の実装理解やチューニングなどのローレベルの技術から、アプリケーションの開発まで幅広く追いかけたが、 2 年目も実用的なアプリケーションサイドに注力しつつも、短期的目線になり過ぎると燃え尽きたりモチベーションの継続が難しくなるため、よく考えて進めていきたい。

いずれにせよ、Silicon Valley での生活から学べることは多いので、この機会を大切にしていきたい。

2. Life

08/00 ⚾️ Watch Baseball @Oracle Park
08/04 🥾 Hike @Stanford Dish
08/09 🍣 Dinner @Japanese Restaurant
08/14 🎲 Boardgame @Stanford Library
08/22 🥾 Hike @Castle Rock State Park
08/29 🎲 Boardgame @Stanford Library

Social Life @Stanford

友人とハイキングやボードゲームを楽しんだ。リフレッシュの中で、英会話の機会が得られるのはとても有難い。