先日公開されたDwarkesh Podcastにて、John Schulman、Beren Millidge、Charlie O’Neillという、現在のフロンティアモデル開発の深部を知る3人のAI研究者が顔を揃え、RSI（Recursive Self-Improvement：再帰的自己改善）の現実、データの役割、そしてAGIに至るまでのタイムラインについて議論を展開した。本稿では、その内容を読み解きながら、知能爆発の現実的な輪郭を分析する。
Sim-to-Realギャップと、Transformerパラダイムの限界
TransformerとRL（Reinforcement Learning）をこねくり回して計算資源を突っ込めば、明日にも超知能が完成する。そんな牧歌的なスケール則信仰に対して、彼らは極めて解像度の高い懐疑論を提示している。
即座の爆発的なAIの進化（ハードテイクオフ）を阻む最大の障壁として立ちはだかるのが、根深い「sim-to-real gap（シミュレーションと現実のギャップ）」である。AIがデータセンター内の閉じたシミュレーション環境において、いかに複雑なタスクを完璧にこなそうとも、非定常的でノイズにまみれた現実世界にそれを適用しようとすると途端にポンコツ化する問題は、いまだ解決を見ていない。
さらに、新しいモデルが登場するたびに「ついにAGIだ！」と世間が騒ぎ立て、実際に使い込んでいくうちにその限界が露呈し「なんだ、まだバカじゃないか」と失望するサイクルが繰り返されている事実も重い。現在のTransformerとRLに過度に依存したパラダイムは、単なるパラメータや計算量の漸進的なスケールアップの延長ではなく、真の汎用知能を解き放つための何らかの根本的なブレイクスルー、すなわち「不連続性（discontinuities）」を必要としているのではないか、という見立てだ。
中国AIラボの猛追を支えるDataとDistillationの功罪
AI開発の中心地が米国であることに疑いの余地はないが、中国のAIラボが不気味なほどの速度でフロンティアモデルに肉薄している事実も無視できない。その背後にあるのが、特殊な経路で取得された質の高いデータへのアクセスと、Distillation（蒸留）の徹底的な活用だ。
中国の開発者たちは、米国の制限を回避して最先端モデル（ClaudeやGPTなど）にアクセスするためのルーターサービス（Shadow API）から得られるユニークなデータセットを買い漁っているとされる。この「ユーザーがフロンティアモデルに何を求め、モデルがどう応答したか」という極めてリアルなログデータの存在が、Distillationにおいて決定的な役割を果たしている。
Distillationは、巨大モデルの出力を模倣させることでより小さなオープンモデルを訓練する手法であり、AIの寡占化に抗う力を持つ。しかし、それ単体では限界がある。質の高いPrompt Distribution（プロンプトの分布）がなければ、賢いモデルの「振る舞い」を表面的になぞるだけで終わってしまうからだ。さらに研究者たちは、モデルの能力を真に引き上げるのはDistillationによる模倣よりも、モデルが自ら試行錯誤して能力を限界突破するための「Environment（環境）」の構築にあると指摘している。しかし、現実世界のニュアンスを完全に捉えた動的で非定常的な環境を作り出すことは、極めて困難を極める。
次世代AI研究者の育成と、Moravec’s Paradox
RSIの究極の目標は、AI自身にAIの研究開発を自動化させることだ。では、自律的にAIを研究するAIエージェントはどのように訓練されるべきか。
初期のアプローチとしては、現在のAIモデルを使って特定のタスクに特化したより小さなモデルを訓練させることが考えられるが、より有望なのは、人間のフィードバックを活用して研究者の「Taste（センスや嗅覚）」を抽出し、多様で多段階にわたる研究シミュレーション環境と組み合わせることだという。
ここで興味深いのが、AIにとって何が難しく何が簡単かという「Moravec’s paradox（モラベックのパラドックス）」の概念が引用された点だ。コーディングや高度な数学の証明といった、人間にとって脳のメモリを極限まで消費するタスクはAIにとって簡単である一方、「次にどんな実験を行うべきか」「どのような目標を設定すべきか」といった、人間が日常的に（あるいは研究者が息を吸うように）行っている自己主導的な学習や目的創造こそが、AIにとっては絶望的に難しい可能性がある。AI研究を完全に自動化し、自律的に軌道修正しながら開発を進めるエージェントが暴走せずに機能し続けるためには、まだまだ高いハードルが存在する。
Sample Efficiencyの絶望的な差とRLの限界
Sim-to-real gapが埋まらない背景として、AIモデルと人間のSample Efficiency（サンプル効率）の差についても議論された。ビジネスの運営や金融市場のナビゲートといった長期的な視野（Long-horizon）が求められるタスクは、データセンター内でシミュレーションすることがますます困難になっている。
特定の学習シナリオにおいて、人間はAIモデルの100万倍効率的に学習している可能性があるのだ。現在のモデルが現実世界との相互作用から直接学習するには、あまりにもSample Efficiencyが低すぎる。In-context learningの進化によって一時的な適応力は上がっているものの、根本的な重みの更新（Weight updates）レベルでの効率の悪さは、RSIが急速に進むことを阻む根本的なボトルネックとなり得る。
一方で、初期にはデータ効率が悪すぎると批判されていたRLのスケールアップが、予想外の成功を収めている事実もある。これは、事前学習やMid-training（中間学習）によってモデルがRL向けに十分に「温められている」こと、そしてRLのアップデートが教師あり学習に比べて高いS/N比（信号対雑音比）を持っていることに起因する。
しかし、RLがAlphaGoの「Move 37」のような、人間の想像を超えた創造性をLLMにもたらすかについては見解が分かれている。報酬関数をハックすることに特化した結果、AIの出力が「モノカルチャー（単一文化）」化するという批判がある。現に、ClaudeからのDistillationに頼りすぎた結果、多くのOpen-weight modelが皆同じような「癖」を持つようになってしまった現状は、この危惧を裏付けていると言えよう。
予測されるタイムラインと、残された「人間の仕事」
技術的な課題をどれだけ並べ立てようとも、投下される資本と経済的圧力の前では、多くの壁は強行突破される運命にある。ポッドキャストの最後で展開された彼らのタイムライン予測は、課題を冷静に見つめる研究者から出たものとしては、やはり恐ろしいほどに速い。
- AI as a Drop-in Remote Worker（即戦力リモートワーカーとしてのAI）: 1〜3年以内。AIは多くのホワイトカラー業務を自律的にこなす優秀なリモートワーカーとして機能し始める。これはAIの進化だけでなく、企業側がAIに業務を渡しやすく組織を適応させることでも加速する。
- 10x Productivity Uplift for AI Researchers（AI研究者の生産性10倍向上）: 2年以内。AI研究者自身の生産性をAIが10倍に引き上げることで、AIの進化そのものが再帰的に爆速化する。
- AI Dominating All Cognitive Work（ASI：すべての認知労働の支配）: 3〜10年。数学やコーディングなど特定の領域はもっと早く制圧される可能性がある一方で、現実世界との深い相互作用やニッチな業界知識を要する領域は、もう少し時間がかかるかもしれない。
結論として、AIが全人類を即座に不要にするような「神の降臨」的AGIへの到達には、アーキテクチャの不連続な進化やSample Efficiencyの解決といった大きな技術的障壁がある。しかし、10年のスパンで見れば、あらゆる知的労働がASIに飲み込まれる未来へのカウントダウンは既に始まっている。
結局のところ、最後に残る人間の仕事とは、高度なコーディングでもデータ分析でもなく、「AIにどのような目的を与えるか（Objective creation）」と「その出力が我々の価値観に沿っているか（Alignment）」を見極めること、つまり研究者としての「Taste」の部分に収束していく。我々が今考えるべきは、数年後に現れる見えざる超優秀な部下に対して、的確な指示を出し、その手綱を握り続けるための「人間としてのTaste」をいかに磨くか、ということに尽きる。