美股

被黃仁勳譽為「AI工廠界的台積電」預言:百萬專用模型時代將來臨

鉅亨網編輯林羿君

在輝達(NVDA-US) \執行長黃仁勳盛讚 Fireworks AI 為「AI 晶圓代工廠的台積電」數月後,該新創公司的共同創辦人兼技術長德米特里·朱爾加科夫(Dmytro Dzhulgakov)預期,AI 市場將從依賴單一前沿模型,逐步轉向數以百萬計的專用開放權重模型。

cover image of news article
被黃仁勳譽為「AI工廠界的台積電」預言:百萬專用模型時代將來臨。(圖:shutterstock)

Fireworks AI 致力於建構基礎設施與作業層,協助企業有效率地大規模部署、客製化並執行 AI 模型。


黃仁勳以台積電比喻 Fireworks,凸顯這家公司的核心定位:並非自行打造龐大的專有模型,而是負責運行及最佳化 AI 模型,提高速度並降低成本。

不過,Dzhulgakov 預期,隨著開放權重模型快速追趕前沿 AI 實驗室,市場還將迎來更大的轉變。前沿模型業者正面臨一項日益明顯的限制,也就是缺乏客戶的專有數據。

Dzhulgakov 表示,Cursor、Cognition、Perplexity、Genspark 及 Harvey 等 AI 原生新創,通常先以通用型模型打造產品,再利用內部數據微調專用的開放權重模型。

這種模式可將特定任務的效能從 80% 至 90%,進一步提高至 95% 至 99%,同時將成本降至原本的十分之一,也使使用者產生的數據,其價值遠高於底層程式碼本身。

不過,模型日益碎片化並未簡化 AI 基礎設施,反而使其更加複雜。

Dzhulgakov 指出,AI 推論涉及一整套技術堆疊,包括 GPU 核心程式、硬體協調、模型分片、流量路由及負載平衡。即使是相同模型,若客戶重視的是速度或成本,也可能需要截然不同的配置。

Fireworks 橫跨多家雲端服務供應商運作,實際上建立了一個「虛擬雲端」,替客戶整合不同類型的運算資源。Dzhulgakov 表示,Fireworks 刻意不涉足硬體及資料中心管理,而是專注於運算資源協調與軟體平台。

黃仁勳將 Fireworks 比作台積電,其意義最終可能不只侷限於 AI 推論。
如果 AI 產業真的從少數幾個大型模型,轉向數以百萬計的專用模型,未來的贏家可能還包括那些在使用者看得見的應用程式背後,默默負責運行、最佳化及串接各種模型的企業。

Fireworks 押注的是,AI 工廠同樣需要一套自己的營運層,就如同晶片工廠也需要一套完整的營運體系。


section icon

鉅亨講座

看更多
  • 講座
  • 公告

    Empty
    Empty