H100 一片以 25 萬美元(當前約 183 萬元人民幣)的價格進行計算,預估蘋果 2023 年在 AI 服務器上的采購成本為 6.2 億美元(備注:當前約 45.38 億元人民幣),明年預估會達到 47.5 億美元(當前約 347.7 億元人民幣)。
在此附上郭明錤研究簡報的其它信息如下:
但即便是 2024 年 Nvidia AI 芯片供應較為緩解,Apple 采購的 AI 伺服器數量仍低于其他競爭對手。以 Meta 為例,僅 2024 年采購的 AI 伺服器數量約為 4 萬臺。更不要說 Meta 在 2024 年前擁有的 AI 伺服器數量就已經遠高于 Apple。
假設 Apple 不提供類似云端虛擬主機的服務 (Cloud hosting service),故不適合拿 Microsoft (2024 年 AI 伺服器采購量約 8–10 萬臺) 與 Apple 比較。
我相信 Apple 在訓練其 AI 大型語言模型時,基于安全性、隱私與設計彈性考量,應該會較偏好用自行采購與建置 AI 伺服器,而非用其他云端服務商提供的虛擬主機服務。
Apple 的 AI 基礎建設算力低于主要競爭對手,若要趕上競爭對手則必須具備更優異的軟件開發能力。
以上均不計算其他費用 (人力成本、基礎建設營運費用等)。故合理推估 Apple 需要每年至少投資數十億美元才有機會追趕競爭對手。如果 Apple 真的打算只愿意每年花 10 億美元用于開發生成式 AI,我的研究錯了不要緊,但我真的很為 Apple 的生成式 AI 事業 / 服務前景擔心。
我知道一定會有人說 Apple 可以自行開發 AI 伺服器芯片以節省 AI 伺服器采購費用。我也同意這是一個值得注意的趨勢,但是目前此事仍沒能見度。