AlphaFold 3の登場を以てタンパク質構造予測は完全に解かれたと、まるで科学の終焉を告げるかのように言い切る人が後を絶たないが、一旦そのような短絡的極まりない未来観測的与太話は無視し、Latent Space podcastで語られたBiohubのHead of Science、Alex Reevesの深淵なる洞察をもとに、Protein Language Model (PLM) の現在地および今後のProgrammable Biologyの行方に焦点を当てる。
ESMC as a World Model の強み
Evolutionary Scale Modeling (ESM) シリーズの最新版、ESMCのポイントは大きくわけて三つある。①約70億（6.8 billion）の非冗長なタンパク質配列と11億の予測構造という前例のないデータスケールを用いていること、②Metagenomics（メタゲノミクス）データの活用によりScaling Lawsの頭打ちを突破したこと、そして③Mechanistic Interpretability（メカニスティック解釈可能性）によるモデル内部の生物学的World Modelの存在証明、である。
まずAlphaFoldのようなモデルとの決定的な違いについてだが、AlphaFoldがMultiple Sequence Alignment (MSA) や進化的圧力といった人間の生物学的ドメイン知識（Inductive bias）を多分に組み込んだアーキテクチャであるのに対し、ESMシリーズはより純粋な言語モデルのアプローチをとっている。つまり、進化の過程で生み出されたアミノ酸配列の「次のトークン」を予測させるという、極めてシンプルな自己教師あり学習に根ざしている。
基礎研究的な観点で述べるならば、巨大なTransformerモデルに系列データを流し込むという構成要素自体に真新しい要素はない。しかし、Rich Suttonが提唱した「Bitter Lesson（苦い教訓）」——人間の事前知識をハードコーディングするよりも、純粋な計算量とデータスケールに任せた方が最終的には勝るという経験則——が、自然言語だけでなくBiologyの領域においても完全に成立することを実証してみせた点において、ESMCの功績は計り知れない。
手元で特定のタンパク質の構造を解こうとするならば、MSAベースの手法でも事足りるかもしれない。しかし、抗体（Antibodies）やscFvのような治療薬の設計においてはそうはいかない。抗体は多様性を生み出すために進化の圧力が他とは逆の働き方をしており、従来のMSAに依存したアプローチではモデリングの限界がある。
そこでESMCは、PDB（Protein Data Bank）のような美しくキュレーションされたデータだけでなく、深海の熱水噴口から人間の腸内細菌に至るまで、あらゆる環境から採取された所属不明の「メタゲノム」のノイズまみれの配列データを大量に飲み込んだ。結果としてESM-2で見られかけたScaling Lawsの限界を突破し、抗体設計などにおいても顕著な成果を上げ始めている。toCオンラインサービスの本質がログデータのNを増やすことにあるように、AI主導の生物学もまた、自然界が走らせてきた「数十億年分の並列実験ログ」をどれだけモデルに食わせられるかが勝負の分かれ目となる。
Sparse Autoencoderが暴く進化の逆コンパイル
さらに興味深いのは、ReevesらがESMCの6 Billionパラメータモデルの表現空間に対してSparse Autoencoder (SAE) を適用し、深いMechanistic Interpretabilityの分析を行った点だ。
事前知識を一切与えられていないにもかかわらず、モデル内部には生化学的特性から、「nucleophilic elbow」のような高度に抽象化された構造モチーフに至るまで、人間の生物学者が数十年の歳月をかけて解き明かしてきた還元的階層構造が自然発生的（emergent）に形成されていたのである。驚くべきことに、進化の系統樹上では全く異なる経路を辿ってきたはずの遺伝子編集システム群が、モデルの表現空間内では同じ機能クラスターとして認識されていた。
これは、自然言語モデルが文脈から単語の意味論的構造を理解するように、PLMが数十億年の進化のプロセスが書き残したDNAのログから、タンパク質を支配する物理法則を自律的に「理解」し始めていることを示唆している。モデルは単に既存の配列を暗記しているわけではなく、未踏の生物学的空間を探索し、新たなタンパク質を設計するための潜在変数をもったWorld Modelを獲得したと言ってよい。
Virtual Cellへの道：開発者は後回し？否、実験データの枯渇が先か
ESMCのオープンソース（MITライセンス）化に見られるBiohubの姿勢は手放しで歓迎すべきだが、ひたすら褒め称えて終わるのも座りが悪いので、次に立ち塞がる現実的な壁についても触れておく。
Biohubの最終的な野望は、タンパク質単体のモデリングに留まらず、細胞全体、さらには生理学（Physiology）レベルのシステムをデジタル上で再現する「Virtual Cell（仮想細胞）」の構築である。これが実現すれば、数百万の科学的仮説をデジタル空間上で並列検証し、未知の疾患に対するProgrammableな治療法をゼロから設計することが可能になる。
しかし、開発者や生物学の研究者ならお分かりの通り、現在のAIは細胞内の動的な相互作用（Protein-protein interactions）やシグナル伝達を第一原理からシミュレーションするには程遠い。Reeves自身も認めているように、細胞レベルのモデリングを実現するためには、Compute（計算資源）の増強だけでは全く足りない。モデルの学習に耐えうる次元と量を持った「マルチモーダルな動的データ」そのものが決定的に不足しているのである。
これまでの生物学のデータセット（例えばPDB）は、個々の研究者が個別の目的（例えば自身のPh.D.論文のため）に収集した結果の寄せ集めに過ぎず、Machine Learningのために最適化されたものではなかった。このデータ収集プロセスの非効率性が、Virtual Cell構築における最大のボトルネックとなっている。
だからこそBiohubは、Cryo-electron tomography（クライオ電子線トモグラフィー）やLight sheet microscopy（光シート顕微鏡）といった次世代の計測技術の開発に巨額の投資を行っている。AIモデルが仮説を立て、自動化されたロボティクスが実験を行い、その結果を新たな計測器で観察してモデルを更新する「Lab-in-the-loop」の体制構築である。AIアルゴリズムの進化スピードにデータ取得技術が完全に置いてけぼりを食らっている現在、ハードウェアを含むデータ生成プロセスの抜本的な再構築なしに、Virtual Cellの実現は絵に描いた餅に終わる。
「クローズドAI」へのアンチテーゼ
我々は今、Programmable Biologyという新たな科学的パラダイムの入り口に立っている。AIが進化の「苦い教訓」を飲み込み、生命の設計図を自律的に書き換える未来は確実に近づいている。
最後に特筆すべきは、Biohubがこれほどまでに巨大な資本と計算資源を投じて構築した基礎モデルを、惜しげもなくコミュニティに解放している点だ。一部のAI企業がモデルのAPIエンドポイントを小出しにしては開発者を振り回し、クローズドなエコシステムへの囲い込みに躍起になっている昨今の状況を鑑みると、このアプローチは極めて対照的である。
プラットフォーム企業が悪手中の悪手とも言える外部開発者軽視の姿勢を強める中、真に科学の進歩を加速させるのは、こうしたオープンサイエンスの徹底である。少なくともBiohubの取り組みは、クローズドなサイロに閉じこもる企業たちに対する、最も強力で実践的なアンチテーゼとなっているように感じる。未来の科学的ブレイクスルーは、ブラックボックスの中ではなく、誰もがアクセスできるオープンなWorld Modelの上で産声を上げるはずだ。