GitHub Radar

這篇是 Ankit Maloo 在 Latent Space 發表的長文（約 16 分鐘），試圖解釋為什麼 AI 今年突然擅長數學，並預測它接下來會解出哪類問題。開頭列出今年的成果：5 月 OpenAI 內部模型找到 Erdős 單位距離猜想（1946 年提出）的反例；之後發表 Cycle Double Cover 問題的證明、7 月前再解十個開放問題、9 月發表 Navier-Stokes 證明；Anthropic 則發表費馬最後定理的形式化與黎曼假說相關界限的進展。

問題複雜度

作者的心智模型是：解題需要一串「洞見、苦工、洞見、苦工、解答」。Gowers 在評論單位距離反例時用類似概念，把證明難度定義為讓專家能重建證明所需的最短提示序列，即「相對於專家的 Kolmogorov 複雜度」。他給單位距離問題的三個提示是：找反例；把已知最佳構造推廣；嘗試次數遞增的數體序列並處理有界範數的質理想。Gowers 提出的公式是 2^k + t，k 為最短提示序列長度，t 為發展它所需的工作量，複雜度隨所需洞見數指數成長。提示的價值取決於它事前看起來多不可能、事後多顯然，以及它在序列中的位置；提示有順序，因此「列出一千種技巧逐一組合」的暴力法行不通。

人類廣度優先，LLM 深度優先

人類會產生候選方向、淺嘗、放棄多數、只投入少數，因為發展一個想法要數月，必須先有理由相信它有前途。LLM 則是貪婪的深度優先：給一個 prompt 就給出一個完整解答，平行跑十個 agent 就得到十個發展到底的嘗試，單獨看會產生漂亮但錯誤的證明。加上自動 verifier 修剪完成的軌跡後，在不確定的想法上大量投入算力就變得合理，幾分鐘內就知道成不成。但 verifier 只能判斷完成的論證，無法判斷半成品是否有前途。對人類來說提示品質門檻很高，對模型而言幾乎消失，等於以算力換時間。

失敗本身就是提示

每個錯誤解答都能回饋為下一輪的負面提示。作者描繪一個典型 harness：Drafter 根據模型先驗與先前失敗撰寫 prompt；Solver 用平行 subagent 產生候選解；Verifier 檢查論證是否有效。他以 OpenAI 的 CDC prompt 為例：要求「假設完整的肯定證明存在」以避免模型因預訓練得知這是開放問題而放棄；明列一長串不算數的替代品（特殊圖類、有界長度變體、歸約到另一個未證猜想等）；要求用對抗 agent 檢查重複邊、平行邊、割點、循環論證等失敗模式；外加一句「不要因為目前方法失敗就回傳」。作者認為每一行都是一條失敗路徑寫成的指令。

重建單位距離證明與 Tsimerman

第一個提示「找反例」最難，因為社群與模型先驗都認為猜想成立，Drafter 很可能是因為一直證不出來才轉向。第二個提示是標準動作，但推廣的對象是幾乎沒人在找的反例，屬於 t 很大的一步。第三個提示在前兩步之後才成為標準工具。順序至關重要。現已加入 OpenAI 的數學家 Jacob Tsimerman 當年其實嘗試過反例方向，也考慮過遞增次數，卻停下來了，原因不是能力不足，而是在泥沼中數週看不到彼岸。心理學研究（Metcalfe 與 Wiebe）顯示，在洞見型問題上，解題者直到解出前都感覺不到進展，也就是沒有梯度。LLM 的優勢在於能撐得更久、走進更險惡的水域而不被壓垮；Tsimerman 本人也說這可能是一個預兆。

其他證明與今年模型的變化

OpenAI 的 Navier-Stokes 證明長 166 頁，作者粗讀認為它是把 Córdoba 與 Martínez-Zoroa 的工作推到完成，概念跳躍不多；Anthropic 的費馬與黎曼工作也呈現同樣骨架：數百個失敗想法、多 agent 由一個 orchestrator 指揮、少數關鍵跳躍。三個能力疊加促成今年的突破：善於串接原語（降低 t）、自我驗證能在軌跡中抓出錯誤步驟（讓修剪更便宜，OpenAI 特別訓練了數學驗證）、以及編排 subagent 與記憶，讓負面提示得以累積。

分支因子

Gowers 的公式漏掉探索提示樹的時間。設每步有 b 個合理提示，k 個提示就有 b^k 條路徑。人類靠品味讓有效 b 很小；AI 必須探索幾乎所有分支但速度快。因此模型擅長 b^k 乘以算力成本較小的問題。這也解釋為何資安最先被攻下：中間步驟的分支因子約只有 1 到 2，解法形態事先已知。找反例之所以強大，是因為它壓縮了解空間與 b。中間步驟缺乏修剪訊號，只能窮舉，Tsimerman 付出的是士氣，AI 公司付出的是算力，實驗室會挑解空間窄的問題展示成果。推論是：AI 最擅長在概念跳躍已完成後把繁瑣複雜的數學做完，Navier-Stokes 證明用了 10,000 個 agent、3,000 億 token、88 小時。Gowers 認為人類的優勢在搜尋樹深且分支多、沒有嚴格修剪就連電腦也無法搜尋的問題。

有趣的分歧

人類花數月投入的失敗方法本身有資訊量，因為有人深信到願意投入；AI 的失敗便宜，大多天真，而且我們很少看得到。CDC prompt 大概是最接近的窺視。作者認為這形成互補：人類擅長縮減分支，模型擅長縮短修剪一個分支的時間，專家可以先請模型把一個想法跑到底，再決定是否值得投入三個月。需要大量洞見的問題對兩者都難。他引用 Terence Tao：解題是加深理解的代理，只公布最終解答是把目的地誤當成旅程，而互補只有在我們看得到失敗時才成立。

附錄：LLM 能否推出廣義相對論

有人提議用 1901 年前的資料訓練模型，看它能否推出廣義相對論。作者認為若研究者針對這個目標優化，可能很快就能做到，因為所需提示不多：關鍵提示是把重力當幾何，之後的數學極難，正是模型擅長之處。模型會先嘗試把重力當力、當平直空間中的場、修改牛頓平方反比律，每次都撞上 1901 年前已知的事實（例如水星近日點進動），每次失敗都讓幾何解釋更可能。腳註補充了愛因斯坦從 1907 年「最快樂的念頭」到花八年完成理論的歷史，以及無限隻猴子打字也需要 verifier 才知道打出了莎士比亞等比喻。