数兆パラメータを誇る巨大なクローズドモデルが毎月のように覇権を争い、国家間の覇権争いすらチラつく現在のLarge Language Model (LLM) 界隈。その中で、一見すると「コーディング支援AIのスタートアップ」に過ぎないと思われていたPoolside AIが、極めて示唆に富むアプローチで反旗を翻している。
先日、彼らは最新モデルである「Laguna S 2.1」をリリースした。これは総パラメータ数118B、推論時のアクティブパラメータ数がわずか8BというMixture-of-Experts (MoE) モデルであるにもかかわらず、自身の10倍以上のサイズを持つThinking MachinesのInklingなどの巨大モデルに匹敵、あるいは凌駕するベンチマークを叩き出した。
Poolsideの共同CEOであるEiso Kantが、Latent Spaceのpodcastで語った内容を紐解くと、彼らの真の強みは「優れたモデル」を作ったことではなく、モデルを5〜8週間という驚異的なサイクルで量産・改善し続ける「Model Factory」というシステムそのものを作り上げたことにある。本稿では、天才的なひらめきではなく、泥臭いエンジニアリングの徹底によってArtificial General Intelligence (AGI) へ到達しようとする彼らの戦略と、LLM開発における次なるボトルネック(特にReinforcement Learningの壁)について深く分析する。
Model Factory:LLM開発は「90%がエンジニアリング」である
かつてFoundation Modelの構築は、一部のノーベル賞級の物理学者やトップリサーチャーにしか扱えない魔法やロケットサイエンスのように神格化されていた。しかしKantは、「モデル構築の90%はエンジニアリングの問題である」と断言する。
Poolsideが構築した「Model Factory」の思想は、一言で言えば「AI開発の徹底的な工業化」だ。彼らは、データセットをパッケージ化してクラスタにコピーし、そこからようやく学習を始めるという伝統的なバッチ処理の無駄を嫌った。代わりに、彼らの内製プラットフォームでは、データをリアルタイムにストリーミングしながら学習プロセスに直接流し込む。これにより、学習を止めることなくデータの混合比率(レシピ)を動的に変更し、数千に及ぶ実験を並行して回すことが可能になる。
さらに特筆すべきは、このModel Factoryの大部分が「AI Agent」によって自動化されつつある点だ。研究者がアイデアを出すと、Agentがコードを書き、ジョブをデプロイし、結果を評価し、次の学習パイプラインを自動的に修正する。現在、Poolsideでは70名未満のリサーチャーと約35名のエンジニアで、月に1万〜2万回もの実験(ablations)を回しているという。DeepSeekが「数百万ドルで学習できた」と界隈を持て囃させたが、学習の実行(Run)そのものは極めて退屈な消化試合に過ぎない。真のコストと競争優位性は、その消化試合に至るまでのデータパイプライン、再現性の担保、そして分散システムのインフラ構築にこそ宿っている。
Laguna S 2.1が証明した「生身の知性」より「振る舞い」の優位性
最新モデルLaguna S 2.1の成功は、LLMのスケール則に対する一つの興味深いアンチテーゼを提供している。
もちろん、純粋なパラメーターの拡大(スケールアップ)が知性の向上をもたらすことは疑う余地がない。ノーベル賞級の科学的ブレイクスルーを生み出すには、無関係に見える遠く離れた概念を結びつける「生身の知性(Raw Intelligence)」が必要であり、それには巨大なモデルが不可欠だ。
しかし、世界のGDPの25%を占めるナレッジワーク(プログラミング、法務、会計など)において、本当に必要なのはアインシュタインのような知性だろうか。Kantの洞察によれば、人間のプログラマを優秀たらしめているのは、バグに直面した際の「粘り強さ(Persistence)」、「検証能力(Verification)」、そして間違いに気づいて軌道修正する「バックトラッキング」の能力である。
Laguna Sは、事後学習(Post-training)において徹底的にこれらの「振る舞い(Behaviors)」を強化されている。その結果、118BA8Bという比較的軽量なMixture-of-Experts (MoE) モデルでありながら、複雑なソフトウェアタスクを自律的に解決できるようになった。これは何を意味するか。ナレッジワークをAIに代替させるための「モデルサイズの投資対効果(ROI)のピーク」は、私たちが想像しているよりもはるかに低い(小さい)サイズで到達する可能性があるということだ。もし数兆パラメータを必要とせずに実務レベルのタスクが完遂できるのであれば、知性のコモディティ化は一気に加速し、オープンソースモデルが市場を席巻する未来が現実味を帯びてくる。
Reinforcement Learning (RL) のボトルネックと、推論アーキテクチャからの逆輸入
Poolsideの分析において最も技術的にディープで興奮させられるのは、学習フェーズの限界とReinforcement Learning (RL) への移行、そしてハードウェアの制約に関する議論だ。
現在、業界全体が「Distillation(蒸留)」や「合成環境(Environments)での学習」という麻薬に溺れているとKantは指摘する。しかし、WebデータからのNext-token predictionにはまだ汲み尽くしていないポテンシャルがあり、将来的にはRLの概念がより初期のPre-trainingフェーズに組み込まれ、単なる「次の単語の予測」から「推論プロセスの学習」へとカリキュラムそのものが高度化していくという。
ここで立ちはだかる最大の壁が、RLにおける「計算時間のボトルネック」だ。Web全体のデータで学習するPre-trainingと異なり、RLはタスクの数が限られているため、バッチサイズを無限にスケールさせることができない。つまり、GPUをいくら並べても、Wall-clock time(現実の経過時間)を短縮できないという致命的な問題が生じる。
この課題に対してKantが提示する仮説は極めて鋭い。現在、LLMの推論(Inference)領域において、Prefill(プロンプトの読み込み)とDecode(トークンの生成)を別のハードウェア(例えばGroqのような特化型チップと汎用GPU)に分離するDisaggregated Inferenceの最適化が進んでいる。Kantは、「この推論領域で培われたPrefill/Decode分離のアーキテクチャや低精度計算(FP8やNVFP4など)のアプローチが、そのままRLの学習プロセスに逆輸入されるだろう」と予測している。限られたバッチサイズの中でスループットを最大化するために、RLの計算パイプライン自体を異種ハードウェア間で切り離す。これが実現すれば、カレンダー上の開発スピードは劇的に向上し、LLMの進化は次のフェーズへと突入するはずだ。
Agent Harnessの否定と、オープンエコシステムの闘争
技術面だけでなく、プロダクトとしてのAgentに対するPoolsideのアプローチも独自だ。Kantは「Model Context Protocol (MCP) や従来のTool Callsは馬鹿げている」と一刀両断する。
システムプロンプトに50個のツールを詰め込み、LLMに特定のフォーマットでJSONを出力させる現在のHarness(制御枠組み)は、過渡期の不格好なハックに過ぎない。高度な自律性を持つモデルは、コンテナ化された仮想マシン環境さえ与えられれば、自分でPythonスクリプトやBashコードを書き、動的にシステムを探索してタスクを完結させる。自由度を奪う複雑なHarnessよりも、自由なコンテナ環境で「コードを書かせる」ことこそが、汎用的なAgent、ひいてはArtificial General Intelligence (AGI) への最短経路であるというのが彼らの確信である。
最後に、なぜ彼らがオープンソース(厳密にはオープンウェイトおよびオープンリサーチ)にこだわるのかについて触れておきたい。
500百万ドル(約750億円)という巨額の資金を調達しながら、彼らがクローズドなエコシステムを作らない理由は、「たった5つの少数のメガテック企業が知性を独占するディストピア」を回避するためだ。安全性(AI Safety)を大義名分にした少数の企業や政府による過度な規制は、結果として新規参入を阻む「タバコ産業の広告規制」と同じように、既存プレイヤーによる寡占(Oligopoly)を固定化するリスクを孕んでいる。
Poolside AIが目指しているのは、自らが「5つの支配者」の1つになることではなく、「100のFoundation Model企業が林立する世界」の基盤を作ることだ。そのために、Model Factoryのノウハウを惜しげもなく論文やTechnical Reportとして公開し、世界中のエンジニアが自前でモデルを学習できる世界を担保しようとしている。
知性が電気や水道と同じコモディティになる未来において、勝負を決めるのはモデルのパラメーター数による単なる「暴力」ではなく、洗練されたエンジニアリングシステムと、タスクを最後までやり抜く泥臭い「振る舞い」である。Laguna S 2.1とModel Factoryの存在は、LLM開発が一部の特権階級の魔術から、真のソフトウェアエンジニアリングへと昇華したことを告げる号砲と言えよう。