巷ではLarge Language Model (LLM) の次なる進化や、AIエージェントの自律性がどうのこうのという議論が喧びすしいが、一旦そのようなデジタル空間のコップの中の嵐からは視点を引き上げたい。言語モデルがテキストやコードを生成できることは既に自明の理であり、インフラ化のフェーズに入りつつある。真に注目すべき次なるフロンティアは、デジタルな「Bits」の世界から、物理的な「Atoms」の世界への拡張である。
先日配信されたNo Priors podcastにて、OpenAIでGPT-4のプロダクション化を主導し、ChatGPTの共同開発者(co-creator)の一人でもあるLiam Fetus氏が、自身の新たなベンチャーであるPeriodic Labsのビジョンについて語った。彼が目指しているのは、マテリアルサイエンス(材料科学)や化学の領域に特化した「AI foundation lab for atoms」の構築だ。
本稿では、Liam Fetus氏の技術的知見に基づき、物理科学分野におけるAIのアーキテクチャ、データ戦略、そしてそれがもたらす自己改善(Self-Improvement)のパラダイムシフトについて深く掘り下げて分析する。
物理学者たちがAIに惹かれる理由と、現代のマンハッタン計画
Liam Fetus氏のキャリアは、Google BrainやOpenAIでAIの最前線を走る前、物理学のバックグラウンドから始まっている。暗黒物質(dark matter)の研究に従事していた彼は、パーティクル・リコンストラクション(粒子再構成)の過程で機械学習の課題に直面し、AIの持つ圧倒的なレバレッジの高さに魅了され、コンピュータサイエンスの領域へと舵を切った。
興味深いことに、AnthropicのDario Amodei氏をはじめ、現在のAI革命を牽引するトップランナーには物理学出身者が非常に多い。この現象についてLiam Fetus氏は、物理学者の持つ「原理原則に基づくアプローチ(principled approach)」と「厳格な分析力」が、未知の知能を創出する現在のAI研究と極めて親和性が高いからだと分析している。これは単なる技術開発というより、新しい形態の知能を探求する「現代のマンハッタン計画」と呼ぶに相応しい熱狂を帯びている。
OpenAI時代、強大なパラメータを持つ事前学習済みモデルであったGPT-4を、いかにしてユーザーが使えるプロダクトに落とし込むかという課題に対し、彼らは「ミーティングの議事録ボット」のような退屈なアイデアを捨て、最も汎用性の高い「チャットボット」すなわちChatGPTを生み出した。しかし、デジタル空間での成功を収めた彼が次に見据えたのは、AIを物理世界に接続するという、より困難で、しかし不可避な未来であった。
データと汎化能力:インターネットのテキストだけでは「物質」は創れない
Periodic Labsが直面する最大の壁であり、同時に最大の競争優位性となるのが「データ」の性質である。LLMの成功は、インターネット上に存在する数十兆トークンという膨大なテキストデータを喰い尽くすことで達成された。しかし、マテリアルサイエンスの世界には、そのような都合の良い巨大コーパスは存在しない。
Liam Fetus氏によれば、既存のオープンソースモデルなどが持つ自然言語やコードの理解力は、基礎的な汎化能力として十分に再利用可能であるという。Periodic Labs自身も、コーディングモデルの開発にゼロからリソースを割くことはせず、既存の強力なモデルをテコ入れに活用している。問題は、化学空間や物質探索といった特定のドメインに足を踏み入れた途端に発生する。
過去の文献から抽出された物質の特性データは、報告者によって数桁もの誤差(orders of magnitude)があることが珍しくない。このようなノイズだらけの分布をいくら学習させても、ground truthには到達できないのだ。ここで必要になるのが、モデルに高い「サンプル効率(sample efficiency)」を持たせるための強力な事前知識(prior)と、それを検証・補正するための「実験データ」である。
物理科学におけるAIの汎化は直感に反することがある。例えば、量子力学的な効果を極めて正確にモデル化できたからといって、それが流体力学にそのまま応用できるわけではない。しかし、「化学合成の基本ステップ」や「原子間の相互作用(ファンデルワールス力など)」といった第一原理的なレベルでの汎化は十分に可能であり、ここに特定の実験データを掛け合わせることで、AIは単なるデータのプールから「閉ループ(closed-loop)」の探索システムへと進化する。
オーケストレーション層としてのLLMと、特化型モデルの融合
プロダクトとしてのアーキテクチャの観点から見ると、Periodic Labsのアプローチは非常に示唆に富んでいる。彼らはLLMを万能の神として扱うのではなく、あくまで「オーケストレーション層(orchestration layer)」として位置づけているのだ。
LLMは文献を読み込み、実験データを解釈し、次の実験の方向性を指示する司令塔(あるいはコパイロット)として機能する。しかし、実際の原子システムにおける対称性を認識し、低レイテンシで計算を行うようなタスクには、そのために特別に設計・ファインチューニングされた特化型のニューラルネットワークが呼び出される。LLMがこれらの特化型モデルを「ツール」や「報酬関数(reward function)」としてオーケストレートするこの構造は、今後のエンタープライズAIやロボティクス領域において標準的なアーキテクチャになっていくことは想像に難くない。
ロボティクスによる「データのボトルネック」解消
このclosed-loopシステムを真にスケールさせるためには、物理世界での実験を自動化するロボティクスの存在が不可欠となる。現在、リキッドハンドリング(液体分注)などの自動化機器は存在するものの、それらは高度なカスタマイズを要し、システムとして非常に脆弱で遅い。
Liam Fetus氏は、高度に汎用的なロボット(例えば、非構造化された実験室を歩き回り、指示通りに確実に実験をこなすヒューマノイドなど)の登場が、AIによる科学的発見の「巨大なアクセラレーター」になると断言している。高品質で多様な実験データを圧倒的なスループットで生成できるようになれば、AIは物理世界のフィードバックをデジタル空間と同等の速度で吸収できるようになる。
科学における「自己改善」の遅延と、物質生成の未来
AI研究界隈では、モデルが自らを改善していくRecursive Self-Improvement (RSI) の到来が議論の的となっている。Liam Fetus氏はこれを、約10年前のNeural Architecture Searchの延長線上にあると捉えている。
ソフトウェアエンジニアリングの領域では、ユニットテストなどの「安価で検証可能な環境」が存在するため、RSIは既に現実のものとなりつつある(数個のCPUがあれば、コードがパスしたかどうか瞬時に判定できるためだ)。しかし、科学的AIの研究においては、実験という物理的なステップを挟むため、このフィードバックループ(outer loop)は必然的に遅くなる。モデルが収束したか、汎化能力が向上したかを確認するためには、GPUを回すだけでなく、実際の物理的な検証時間を要するからだ。
だが、この遅延を乗り越え、物理科学におけるスケーリング則(scaling laws)が確立された時、世界は劇的に変わる。デジタル世界がここ数年で経験した進化のスピードが、そのまま物理世界(半導体、航空宇宙、エネルギー、先端製造業など)に持ち込まれるのだ。
Liam Fetus氏が思い描く未来は、AIが論文を書いたりコードを生成したりするだけでなく、文字通り「物質を生成(generate matter)」する世界である。これは人類にとって、農業革命に匹敵する物理的な生産性とイノベーションの爆発を意味する。
ソフトウェアエンジニアの数に対して、物理世界で「モノづくり」に関わる人々の数は圧倒的に多く、同時に深刻な労働力不足に悩まされている。AIとロボティクスがインターフェースとなり、Bitsの世界の圧倒的な進化速度をAtomsの世界へと注ぎ込むこれからの10年は、我々の想像を遥かに超えるエキサイティングな時代となるに違いない。