Jalapeñoチップが示す「汎用」への回帰と、自己増殖的チップ設計の夜明け
OpenAIがHot Chipsカンファレンスで自社製AI推論チップ「Jalapeño」の概要を発表し、業界をざわつかせている。
同社のハードウェアVPであるRichard Ho氏の直近のインタビューを追うと、ソフトウェア企業であるはずのOpenAIがなぜシリコンからフルスタックで握ろうとしているのか、その深謀遠慮が見えてくる。ここではJalapeñoのプロダクトとしてのアーキテクチャの立ち位置およびOpenAI社の今後のインフラ戦略に焦点を当てる。
「汎用」という逆張りと、Jalapeñoの特異性
AIハードウェアの歴史を紐解けば、Central Processing Unit (CPU) が担っていた処理をGraphics Processing Unit (GPU) が奪い、その後Field-Programmable Gate Array (FPGA) を経て、GoogleのTensor Processing Unit (TPU) や各社のNeural Processing Unit (NPU) のような特定用途向けApplication-Specific Integrated Circuit (ASIC) へと細分化・特化していくのがこれまでの業界のセオリーであった。
しかし、OpenAIのJalapeñoチップは、このトレンドに真っ向から逆行している。彼らが目指したのは、特定のモデルに特化した断片的なハードウェアではなく、多種多様なAI推論タスクを一つのチップでこなす「汎用推論チップ」である。
Richard Ho氏のバックグラウンドは、D. E. Shaw ResearchでのAntonスーパーコンピュータ設計や、GoogleでのTPU開発初期メンバーという、まさにアクセラレータ特化型設計の王道を歩んできたものである。その彼が、OpenAIにおいて「白紙の状態（blank slate）」からアーキテクチャを描くにあたり、あえて汎用性を選択した理由は明白だ。Large Language Model (LLM) の進化速度が異常に速く、特定モデルに過剰適合（overfit）したハードウェアを作れば、製造ラインから上がる頃には陳腐化しているリスクがあるからだ。加えて、データセンター全体での稼働率を最大化するためには、ハードウェアリソースの柔軟性（Fungibility）が不可欠である。特定のワークロード専用のクラスターを組むのではなく、動的にリソースを割り当てられる均質なデータセンターを志向しているようにみえる。
このアプローチは性能面でも結果を出している。SemiAnalysisのInferenceXベンチマークによる検証では、NVIDIAのBlackwellシステムと比較して、ワット当たりのAI処理量で1.5〜1.9倍、エンドツーエンドのレイテンシで1.7〜3.6倍の改善を見せている。コンピュートヘビーなPrefillフェーズと、メモリ帯域律速となるDecodeフェーズの双方で高いパフォーマンスを叩き出した背景には、KV cacheをローカルに配置し、High Bandwidth Memory (HBM) バンクと演算コアを密結合させるNon-Uniform Memory Access (NUMA) 的なアーキテクチャの採用がある。データの移動を極限まで減らすという、古典的だが最も効果的なアプローチを、最新のAI推論に最適化して実装したわけだ。
AIによるAIハードウェアの設計という「不気味の谷」
Jalapeño開発におけるもう一つのハイライトは、自社開発のLarge Language Model (LLM) を駆使したチップ設計の加速である。
基礎研究的な観点で述べるならば、Electronic Design Automation (EDA) ツールにMachine Learningを取り入れる試みはSynopsysなどを筆頭に既に始まっている。しかし、OpenAIのアプローチは一段深く、社内の未公開モデル（おそらくはコーディングや推論能力に特化したバージョン）にHardware Description Language (HDL)、特にソフトウェアライクなXLS言語のコードを解釈させ、設計の最適化を行わせている。
Richard Ho氏によれば、モデルは人間には到底把握しきれない広大な次元空間の中で、チップ全体の構成を俯瞰し、配置配線やロジックの最適化を行い、結果として面積効率などを13%も劇的に改善したという。彼自身が「モデルがなぜその最適化解を導き出したのか完全には理解できない部分もある」と語っている点は非常に興味深い。
手作業で数ミリ秒のレイテンシを削るために徹夜するハードウェアエンジニアの姿は、AIエージェントの到来によって様変わりしつつある。モデルが吐き出した「なぜか動く、しかも高性能な」ブラックボックスに近い設計を、人間は従来のEDAツールを用いた検証フローを通して「安全性を確認する（Sign-off）」という役割に回っている。AIがより強力なAIを動かすためのシリコンを自律的に設計するという閉ループ（Closed-loop）が、今まさにOpenAIの社内で回り始めているのだ。
これは開発スピードの観点でも驚異的だ。JalapeñoはA0ステッピングでシステムとソフトウェアの立ち上げを行い、そのまま息継ぐ間もなくB0ステッピングへとスプリントをかけた。この異常な速度感は、優秀なエンジニアリングチームと、彼らを「スーパーエンジニア」に引き上げる自社LLMの相乗効果によるものに他ならない。
Sam Altmanの巨大な野望と、NVIDIAへの当て馬
ここで忘れてはならないのが、OpenAIが依然としてNVIDIAの最大級の顧客であり、今後もそうあり続けるという事実である。自社チップを作ったからといって、GPUへの依存が明日からゼロになるわけではない。ではなぜ莫大なコストをかけて内製化に踏み切ったのか。
パートナーであるBroadcomとの協業を通じてサプライチェーンとパッケージング技術（2.5D/3D ICなど）へのアクセスを確保したOpenAIは、明確にNVIDIAに対してプレッシャーをかけている。Richard Ho氏が「GPUにはもっと良くなってほしいからこそ、我々の成果を世界に公開した」と語る通り、これは「我々には自前でこれだけのモノを作る能力がある。だからお前らももっと安く、もっと良いインフラを提供しろ」という強烈なメッセージである。
Sam Altman氏が数年前からTSMCやメモリベンダーを行脚し、ファウンドリ建設に巨額の投資が必要だと説いて回っているのは記憶に新しい。半導体業界は歴史的にシリコンサイクルと呼ばれる好不況の波に翻弄され、過剰投資を極端に恐れる体質がある。しかし、Altman氏の視線の先にあるのは、旧来の需要曲線の延長線上ではなく、人類がかつて経験したことのない「知能のコモディティ化」による指数関数的な計算需要の爆発である。この新しいベースラインに向けて、サプライチェーン全体が「会社を賭ける（Bet the company）」レベルの投資を行わなければ、AIの進化そのものがハードウェアの物理的制約によって頭打ちになってしまう。
だからこそOpenAIは、単なるAIモデルのプロバイダーに留まらず、チップからインフラ、そしてデータセンター全体の設計に至るまで、フルスタックでの主導権を握ろうとしている。
プラットフォームとしての危うさと、インフラストラクチャの未来
ソフトウェアチーム（研究者やコンパイラ開発者）と同じテントにハードウェアチームを座らせ、ランチルームで議論しながらハードウェアとソフトウェアの協調設計（Co-design）を進めるという理想的な開発環境は、確かにスタートアップとしては素晴らしい。しかし、彼らが最終的に目指している「AIインフラコストの劇的な削減」と「無尽蔵のトークン供給（まるで昔の電話料金が従量課金から定額制へと移行したように）」が実現したとき、その巨大なインフラを支配するのは一体誰になるのか。
NVIDIAのCUDAエコシステムに対抗する形で、自社のインフラに最適化された独自アーキテクチャへと突き進むOpenAIは、ある意味でプラットフォームのブラックボックス化を加速させている。彼らが開発者に向けてオープンなAPIを提供し続ける一方で、その根底にあるハードウェアとソフトウェアの結合度はますます密閉されたものになっていく。Googleが長らく検索インフラにおいて自社専用のTPUを極めすぎた結果、外部のクラウド開発者向けのエコシステム構築でAWSやAzureに対して後れを取ったように、特化しすぎたクローズドなフルスタックインフラは、将来的なプラットフォームとしての柔軟性を損なうリスクを孕んでいる。
Jalapeñoが示すNUMA的アプローチや、AIによるコード最適化の手法は、間違いなく今後のAIチップ設計のトレンドを牽引するだろう。しかし、それが「人類全体のための知能の恩恵」として還元されるのか、それともOpenAIという単一の帝国をより強固なものにするだけの堀（Moat）となるのかは、ソフトウェア側でのモデル統合化戦略と併せて注視する必要がある。
いずれにせよ、Jalapeñoという名のスパイスは、現状のハードウェア市場における単なるカンフル剤には留まらない。次世代のインフラストラクチャを巡る主導権争いは、今まさに熱を帯び始めたばかりである。