不只造車還要造雲端晶片?理想汽車傳探索自研推理晶片

不只造車還要造雲端晶片?理想汽車傳探索自研推理晶片 (圖:shutterstock)
不只造車還要造雲端晶片?理想汽車傳探索自研推理晶片 (圖:shutterstock)

理想汽車 (LI-US) 正把自研晶片版圖從車端延伸至雲端。據《晚點Auto》引述多名業內人士報導,理想正在探索開發雲端推理晶片,初步規畫沿用旗下智慧駕駛晶片採用的資料流架構,但整項專案仍處於早期階段。

若計畫順利推進,理想未來可望以自研晶片承接部分原本由GPU處理的雲端推理工作,包括智慧駕駛模型的資料處理、測試與模擬,以及大型語言模型的請求處理。不過,涉及參數更新的模型訓練工作,仍需交由專門的訓練晶片執行。

延續車端晶片設計 降低重複研發成本

知情人士表示,將資料流架構由車端延伸至雲端,在技術上具有可行性。其中一種做法,是沿用車載NPU (神經網路處理器) 的運算設計,再把多個AI運算晶粒整合封裝,搭配高頻寬記憶體 (HBM) 與高速互聯技術,組成運算規模更大的雲端推理晶片。

這種設計可讓車端與雲端晶片共用部分硬體架構、軟體工具及開發經驗,進而分攤研發成本。對理想而言,也有機會提高智慧駕駛模型從雲端開發、測試到車端部署的整合效率。

不過,雲端晶片並非把車載晶片直接放大即可。車端通常處理較固定的模型與感測器資料,運行節奏也相對穩定,設計重點主要放在低功耗、低延遲及可靠執行。

相較之下,雲端系統必須同時支援更多模型,並應對頻繁更新、輸入長度不一及請求量劇烈波動等情況,因此還涉及HBM、多晶片互聯、動態批次處理及叢集調度等複雜技術。

單顆晶片效能並非唯一關鍵

一名晶片業人士指出,做出達到特定效能指標的單顆晶片並非最困難的部分,真正的挑戰在於能否讓整套推理系統具備成本競爭力。

因此,資料流架構從車端轉向雲端後,是否能為理想帶來實際效益,仍取決於晶片支援不同模型的能力、軟硬體協同效率,以及整體系統的運行成本。

目前海外也有多家晶片公司探索資料流架構,包括SambaNova、Groq及Tenstorrent。SambaNova與Groq的核心成員分別具有史丹佛大學及Google TPU專案背景;Tenstorrent則由曾負責特斯拉自動駕駛晶片的Jim Keller領導。

不過,相較於GPU,資料流架構在模型通用性、軟體生態及大規模部署能力方面,仍有待進一步驗證。

兩名晶片研發主管離職 專案進度是否受影響待觀察

就在理想探索雲端推理晶片之際,公司晶片團隊也傳出人事異動。《晚點Auto》從多個管道確認,理想晶片軟體研發負責人金一華,以及晶片前端設計一組負責人戴頡均已離職。

兩人先前皆向算力單元負責人羅旻匯報,而羅旻則向理想集團技術長謝炎報告。

目前尚不清楚兩名主管離職的原因,也無法確定相關人事變動是否會影響雲端推理晶片專案的開發進度。由於計畫仍在早期階段,理想最終是否會正式立項、投入量產,以及實際推出時間,仍存在不確定性。


相關貼文

prev icon
next icon