2026/10/30 · Weekly Radar
swyx 訪談 Anthropic 工程與產品負責人,談 Opus 5.5 防蒸餾(跨回合保留 thinking blocks)、Managed Agents 把 harness「大腦」與沙箱「雙手」拆開並由代理注入憑證,以及 Messages API 改寫成 Rust 省下 40–50% CPU。
這篇是 swyx 在 Latent Space 發布的原創 podcast 文章(含編者導言、節目筆記、時間戳與自動生成逐字稿),來賓是 Anthropic 工程負責人 Katelyn Lesse 與產品負責人 Angela Jiang。節目接在 Anthropic 提交 S-1 之後,主題是 Opus 5.5——主持人形容它上市一個月後已被普遍視為頂尖 LLM。
主持人引用 S-1 的效率數字:每位員工營收約 $6.6M,一年前為 $1.4M;並說 Anthropic 在 2025 年 Q2 每一美元營收約虧半美元,如今每一美元成本約賺回兩美元。導言與逐字稿對前一年的 GAAP 虧損率數字並不一致。主持人點出兩個成長迴圈:改進迴圈(更好的 Claude 帶來更多用例與回饋,再造出更好的 Claude)與投資迴圈(採用帶動成長、成長帶動投資、投資帶動能力)。依節目中讀到的 S-1,營收 $100K 以上的客戶有超過 50% 使用 Claude Platform;主持人也主張 Claude Code 與 Cowork 跑在平台對外開放的同一套原語上。
Opus 5.5 主打品質與成本。先前 Opus 版本被反映太囉嗦,團隊說這次整理了寫作;Anthropic 表示新模型運行成本低於前代,但省多少取決於工作負載與快取脈絡。Anthropic 讓 API 更難被蒸餾,主要手段是跨回合保留 thinking blocks,保護思考鏈不被擷取;團隊說他們在使用者痛點與蒸餾風險之間權衡,目標是不讓客戶完成不了任務,而不只是增加整合摩擦。為了平順過渡,Anthropic 與開源 harness 維護者和大客戶合作,並在 API 推出新的 compaction 功能,讓手動壓縮在保留思考下會壞掉的客戶可以改用。團隊說防蒸餾措施降低了他們能量測到的效應,並把這個議題主要定位為安全問題,因為蒸餾出來的模型可能沒有防護分類器;也提到在商業上,蒸餾者其實也在付 API 錢。
早期存取計畫讓客戶在自家 harness 中測試、回報退化與「感覺」回饋並跑自己的評測,Anthropic 藉此看到模型在自家產品沒涵蓋的任務上的表現;來賓說最有用的回饋是負面的,因為它指向該修的地方。他們也提到「偷懶」與「主動」的取捨:某個早期 Opus 版本太懶,因此被送回去再訓練。
Managed Agents 把 harness 與 session log(「大腦」)和執行程式碼的沙箱(「雙手」)分開。harness 跑在持久的伺服器上,只在需要時啟動沙箱,所以沙箱掛掉不會結束 agent 的 session。安全上,憑證放在獨立的保險庫,agent 只看到佔位符,對外連線時由代理注入真正的憑證;沙箱從不持有秘密,生成的程式碼也就沒東西可讀。對外流量控制包括網域白名單或完全關閉網路。早期設計是把整個 coding agent 放進沙箱、包在 API 後面,結果首 token 前多了啟動延遲,而且沙箱沒了 agent 也沒了。推動拆分的產品經理認為最重要的好處是安全,來賓如今也同意。主持人主張許多沙箱「逃脫」事件發生在刻意施壓 agent 的訓練過程,而非正式環境;正式環境有線上防護與隔離的基礎設施。
「Dreaming」是一個 managed agent 回顧另一個 managed agent 先前的工作並寫回記憶,來賓形容為「managed agents all the way down」。Anthropic 計畫開放底層原語,讓開發者打造自己的多 agent 策略,例如 best-of-N、驗證者 agent、共享記憶的平行 agent,但這些是計畫而非已上線功能。harness 刻意保持簡單、不帶強烈主張,希望內建最佳實踐又不讓平台過度貼合。隨著發布越來越難,團隊重心轉向安全;skill 仍在更新,記憶與做夢的進度則比今年稍早慢了下來。
來賓認為大家普遍低估評測投入,多數人需要的評測集比想像大,但可以從小做起。工程應該當研究做:定義目標、把它形式化成評測、找出為什麼失敗——常常錯的是評測本身,也可能是環境,偶爾才是模型。Claude 能協助建立與分析評測,包括把標註與評分轉成給自己的回饋。個人化仍是開放問題:使用者想要不同行為,例如更主動或更不主動,而各客戶的 CLAUDE.md 會互相衝突;目前他們用 effort 等級等參數與依客群調整預設值處理,並預期之後會有更好的機制。主持人指出像 Frontier Code 這種基準可能懲罰使用者明確設定關掉的行為。預設 effort 已改為 medium,且依產品方案與介面(免費、Pro、Claude Code、Cowork、Enterprise、API)而不同。
模型上線如今牽涉資料保留、線上與離線防護、各模型存取控制等政策決定;Opus 5.5 沒有 Fable 那樣的保留要求,每次上線都個別決定。資安與生命科學驗證計畫讓通過審核的使用者在雙重用途工作上使用較寬鬆的防護。來賓描述一套通用的「trust grant」系統,管控誰能存取某個模型或計畫,也能支援一鍵撤回模型。節目提到 Fable 曾被撤回,來賓說一次政府推動的下架顯示路線圖押注如今是機率性的。
CPU 是瓶頸,需求涵蓋 API、產品服務、沙箱與 CI,並在研究與產品之間分配;Anthropic 要跟雲端供應商談 CPU,且必須提前規劃容量。Jiang 一年前加入時,Messages API 還是單一 GCP 區域的 Python 單體,團隊之後改為多區域,並把 API 改寫成 Rust——而做移植的團隊一開始沒有 Rust 開發者。方法是用 Rust 完整 fork、以 shadow traffic 與 Python 系統比對、再用 feature flag 逐步切流量;這是純移植、不加新功能,並與功能開發同時進行。回報的成果是 CPU 省約 40–50%、首 token 時間降低約 10–20%,長時間工作負載的收益更大。未來構想是伺服器端保存對話狀態,讓客戶端不必每次重送完整歷史,對長對話有幫助。
逐字稿是自動草稿,說話者未標註、人名與術語有誤植;本摘要依據的文字在約 1:11 處截斷,之後時間戳上的主題(安全分類器、模型路由、新興工作負載、slop、管理、DevRel,以及 Opus 5.5 值得嘗試的用法)未涵蓋。
標題喊用 Claude 造 Claude,最具體的工程故事卻是一支原本沒人會 Rust 的團隊,靠 shadow traffic 把 Python 單體搬走。遞迴口號很好聽,省 CPU 的還是老派功夫。