GitHub Radar

這是 Latent Space（AI Engineer Podcast）在研討會錄製的特別座談，約 32 分鐘，來賓為 Google DeepMind 的 Pushmeet Kohli 與 Biohub 的 Sal Candido，由 Brandon Anderson 主持，主題是 AI for science 中資料、建模與 AlphaFold 的侷限。

資料版的 bitter lesson

主持人問「可擴展的方法終將勝出」是否也適用於資料。Candido 認為對的資料至關重要，許多 scaling law 並非自動成立，關鍵工作是找到「更多算力與資料能穩定改善結果」的情境；一旦找到，進展就變成架構與資料兩方面的工程問題，而模型只能從訓練資料中的資訊泛化。他也承認建模者常用手邊有的資料：好處是蛋白質語言模型用低品質的宏基因體序列（很多甚至不是完整蛋白質）訓練後反而變好；壞處是容易放大容易產生的資料，而非問題真正需要的資料。Biohub 因此強調開放、社群驅動，讓資料產生與建模互相回饋。

DeepMind 的觀點：問題優先

Kohli 把 bitter lesson 讀成概念層次的提醒：不要執著於「建模者」或「資料產生者」這類單一身分，應先定義問題，再決定靠建模、算力還是產生資料。AlphaFold 仰賴既有的 PDB，因為當時領域沒有資源把它擴大一個數量級；反觀細胞基因體資料還不足以支撐虛擬細胞，所以 DeepMind 認為必須先有資料。除了資料與建模，專業知識是第三個要素。他的建議是跨領域、理解問題的目的、辨識資料量或可負擔模型大小等限制，並「快速失敗」以判斷哪些方法長期可行。

科學 inductive bias 與擴展

AlphaFold 2 被形容為手工打造，Kohli 說其設計編碼了生物物理知識（例如殘基彼此影響），因此更省資料；而整理好資料（涵蓋度、去重）本身就是難題，更多資料不一定更好。Candido 認為 inductive bias 在小資料規模最有幫助，但在大規模時可能限制表現，存在轉折點；擴展本身仍需大量演算法手藝與更客製的架構，他不認為已進入「後 Transformer 時代」，但架構正在被修改。

為何 AlphaFold 沒有解決整個蛋白質生物學

結構預測常被報導為「已解決」，但功能、動態與設計仍是開放問題，距 AlphaFold 2 發表約五年。Kohli 指出蛋白質不是簡單的積木，它們有無序區、形狀隨情境改變；AlphaFold 學的是複製 PDB 中存檔的結構，而非蛋白質構象的真實分布。進展是真的，但動態尚未被理解，研究資金應持續。他建議直接從 cryo-EM 顯微影像而非推導出的結構學習，因為原始影像可能保有動態與分布資訊，他試過但還需要更多工作。Candido 用腳踏車比喻：只模擬一根輻條，但目標是理解整台車，模型必須從單一分子走向輪子、再到整個系統並放進生物脈絡；摺疊模型仍會持續進步、值得投入。

創造與理解

主持人引用 Feynman「我無法創造的，我就不理解」，問可解釋性與黑箱設計（例如 picomolar 等級的結合子）孰輕孰重。Candido 指出黑箱設計早於 AI，理解仍重要，挑戰在於把模型學到的知識萃取出來讓人理解；Biohub 的可解釋性研究發現蛋白質語言模型除了結構，還編碼了功能與運動資訊，他認為這些模型把演化資訊壓縮成類似世界模型的東西，檢視它們本身就有價值。

信心、校準與可解釋性

Kohli 說 AlphaFold 2 當時在 benchmark 上 GDT 約 90，但即使接近 95，若 pLDDT 信心分數校準不佳也不可信；不確定性校準至關重要，使用者必須知道模型能做與不能做什麼。可解釋性取決於對象：AlphaFold 2 對人類不可解釋，但對能看到其 activation 的更大模型或許可以；使用者還發現 AlphaFold 2 能預測無序區，顯示其泛化能力。主持人總結 Kohli 的立場：對可行動的決策而言，可信度與校準比嚴格的可解釋性更重要；Kohli 認為未來的前沿模型或許能解釋 AlphaFold 2 如何運作。

AI 何時改變藥物開發

Kohli 認為「AI 成果進入臨床」是個定義不良的問題，因為 AI 已用於藥物開發各環節；要達到 10 到 100 倍的時程加速，取決於加速的是哪個階段（先導化合物最佳化、標靶發現、臨床前或毒理），也需要更好的生物模型。Candido 認為關鍵指標是結果，例如完全由 AI 做出的藥物，並預期進展會很快，因為工具已在使用中。

10 倍思維

Candido 回憶在 Google 學到的一課：問「做到 10 倍改進需要什麼」能發現漸進式工作錯過的解法。10% 與 10 倍兩種路線都有價值，而 Biohub 治癒所有疾病的使命需要 10 倍思維。