GitHub Radar

這是 Latent Space 在 AIE NYC 錄的一集，宾客是 SF Compute 的 Evan Conrad；逐字稿是自動轉錄、講者標記未經核實。整集的框架是把 SF Compute 的模式比擬為軟體定義網路（將控制平面與資料平面分隢）的延伸，而這一套正在輪到 GPU。主持人對比舊模式：要跑私有超算集群得先拿出大約 5,000 萬到 1 億美元、簽承諾、並把整堆疊的工作全做完；他也引用雲端時代的對比——Cisco 曾出價 6 億美元要買 Nicira，VMware 最後以 13 億美元得標。

公司現況與「旅館」比喻：SF Compute 一開始只是想把一個 GPU 集群轉租出去，但客戶的後續需求（清潔、客房服務、保全）一直擴大範圍，Evan 的旅館比喻是公司最後「把整間旅館都管了」。它的供應商現在更接近一檔基金或一家能進機房的雲；公司聲稱已經建出雲的大部分運作能力，才能可靠地交出算力。

実物交割：意思是買方拿到的是可用的算力，而不只是綁在指數上的現金結算。Evan 把它比擬為石油與電力市場，那些市場的交割需要実體基礎設施，並引 2020 年油價転負的事件為例。SF Compute 是把実物交割與訂單簿一起設計的，所以訂單簿能編碼真實的限制條件（例如某個工作負載在有快速恢復儲存的前提下能不能被中斷）。

流動性與市場成熟度：Evan 直言這個市場「不怎麼成熟、不深、不夠流動」；總容量約 5% 在訂單簿上，佔比正在成長。成交量不大，但流動性集中在訂單簿。他用的一個指標是：花 $100 買容量的客戶，轉賣平均能賺到約 $25；他認為流動性該用「有沒有解決客戶的問題」來衡量。

標準化與非標準算力：完全的合約標準化「還很遠」，Evan 認為必須先把運作做成一致。他舉例：同一營運商的兩種 VM 效能可以差約 40%，部分因為 GPU kernel 啟動開销。他們的做法不是等標準，而是跑一個搶合引擎，讓買賣單帶多種屬性（時間窗、硬體與其他條件）。代價是流動性被打散到更多變種上、造成更寬的買賣價差，Evan 認為這也為能吃下多種容量的參與者創造套利空間。相關維度包括：現貨對未來容量（賣現貨要中斷正在跑的工作負載，未來容量較好交易）、儲存類型與位置（影響工作負載中斷後怎麼恢復，跨集群搜動需要快速跨域網路）、以及集群地點（GPU 集群常建在電力旁而不是客戶旁，可能讓網路路徑變差）。

硬體批次與 burn-in：早期的 H100 與 GB200 有瑰疵，買方可能顟意為較晚生產批次多付錢。好的雲會在交給客戶前先做 burn-in 並把壞件 RMA。有些瑰疵是韌體問題，可能源自 Super Micro 這類 OEM 而不只是 GPU 廠商；公司自己就曾處理過 B300 的韌體問題。

期限結構與定價：集群通常以三到五年融資；公司要求客戶全額預付區塊，而不是設計長期付款流。訂單簿支援從一小時到三年的各種期限。不同工作負載對中斷的容忍度不同：批次推誺一小時以內的通知就能中斷，有 SLA 的即時推誺則需要數月的通知才能調整，Evan 說這些定價不同，而這個市場實質上是在交易「提前解約」。遠期曲線有一個「駝峰」，他認為是正常健康的曲線形狀：越接近到期的現貨越便宜，遠期則視買方而定。套利範例：一張 B300 滿載跑推誺每小時約賺 $40（使用率 50% 約 $25），而 B300 在市場上每小時只要 $5-6，他的評語是「這兩個數字總有一個要變」。

SKU 與硬體世代：客戶在意 GPU 世代，因為 VRAM 與 NVLink 網域大小等因素，算力無法被抽象成一個通用單位。SF Compute 的做法是讓買方程式化定義需求再與賣方搶合，例如買方可以說「任何 Blackwell，只要不超過此價」；他提到公司正在加入具名查詢。

実物對現金結算：Evan 認為現金結算期貨是好事，但應該從実物交割衍生而來，否則有風險變成與真實容量脈絡脫節的場外賭注。主持人舉出 CDS 市場遠大於其参照債券的例子與 LIBOR 操縱案；Evan 的擅心是建在小資料集、與實際成交價相關性弱的指數很容易被操縱。

生態系與營運模式：Silicon Data 與 Compute Exchange 被視為先行者，Evan 認為実物與現金結算可以互補共存；其他類別包括標準工作（SemiAnalysis）、殘值保險、以及為雲合約先擐信用風險的放貸。SF Compute 做雲做的事卻不擁有硬體，為的是在遠期市場上保持中立（「我們必須是瑞士」）；職責包括現場勘查、BOM 設計、與 OEM 的供應鏈協調、集群架構、機櫃建置（自做或透過夥伴）與背板管理（PDU、交換機、DPU、UFM、BMC）；它不自己蓋機房，但透過夥伴管理機房專案。主持人把它形容為「算力界的 Palantir」。

主權算力與為何不是 NVIDIA 做：SF Compute 全球部署集群、主要在美國，並與各地建主權雲的本地玩家合作，帶進承購、專業與集群建置；Evan 拒絕點名主要夥伴，只說「一到兩週」會宣布。至於 NVIDIA，宾客的看法是它從市場存在中獲利，卻不能自己來跑，因為沒有交易者要求的獨立性；neocloud、超大規模雲與推誺供應商有同樣的結構限制。他的論証是中立的交易所能拉低全產業的融資成本，但要跑交易所就得放掉大量推誺與雲生意。

進展與產品公告：成交量已有數億美元；相當多的新集群正在路上；推出彈性 InfiniBand 分割，讓客戶自己切分 IB fabric 而不必聯絡 SF Compute，Evan 把它與集群的彈性扩縮綁在一起；以及一組讓平台能被 PaaS 公司使用的新功能。他把這些總結為「把機房虛擬化、讓它可程式化」，並類比於雲端的早期。最後的呼籲是：想從 GPU 集群拿到殘值的投資人或擁有者，SF Compute 可以幫忙建置、營運超算層並承擔 SLA；若擁有者想退出，集群也可以賣給其他買家、不留在資產負債表上。