AI版礦機革命?哈佛輟學生新創籌得1.2億美元 自研Sohu晶片比輝達H100快20倍
美國矽谷 AI 晶片新創公司 Etched,宣布成功獲得 A 輪融資 1.2 億美元,並將與台積電合作開發,目標打造能與輝達 (NVDA-US) 相互競爭的頂級 AI 晶片。
Etched 總部與蘋果 (AAPL-US) 公司同位加州庫比蒂諾,是由哈佛輟學生 Robert Wachen、Gavin Uberti 和 Chris Zhu 兩年前創立的 AI 晶片新創公司,目前公司有 35 名員工。
目前該公司正開發一款名為 Sohu 的晶片,將使用「Transformers」來訓練和部署人工智慧模型,與 OpenAI 的 ChatGPT 的核心架構相同。
聯合創始人兼執行長 Gavin Uberti 表示,隨著人工智慧的發展,該技術的大部分耗電運算需求將由 ASIC 晶片滿足,因僅執行其設計的 AI 模型而有高效率,與輝達強大的通用圖形處理單元 (GPU) 不同,但成本可以降低許多。
「我們正在 AI 領域下最大賭注,如果 Transformers 跑偏了,我們就會完蛋;但若成功,Etched 將成為有史以來最大公司之一。」Uberti 說。
Sohu 晶片採用台積電 4 奈米製程,為 ASIC 客製化硬連線晶片,因架構更簡單和用途單一,藉此提高效率,為單一設計目的 AI 模型進行運算。儘管 Sohu 整體不比輝達的通用 GPU 強大,但是在專用生成器上的速度可快上超過 10 倍,且成本更低、耗能更少。
Etched 認為,「一台 Sohu 伺服器可取代 160 台 H100 GPU,對於需要專用晶片的企業來說,是更實惠有效率,且更環保的選擇。」
Etched 聲稱,Sohu 晶片推理 Llama-3 70B 的速度比輝達的 H100 快 20 倍,而功耗卻大大降低。
同為哈佛輟學生的創辦人、Etched 營運長 Robert Wachen 表示:「整個未來科技的發展,都將取決於基礎設施是否能夠承載所需的規模。」
Etched 正準備將 Sohu 推向市場,預計今年稍晚時展示產品。Uberti 指出,透過專注於變壓器,Sohu 晶片可將更少空間分配給記憶體,從而釋放更多空間給提供運算能力的電晶體。此外,專用 AI 晶片的影響,類似 2013 年首次推出專用於挖掘比特幣或乙太坊的 ASIC,這減少對輝達 GPU 的需求。
2013 年,專為比特幣挖礦而設計的 ASIC 晶片問世,與先前主導的 CPU 和 GPU 相比,ASIC 的挖礦效率大幅飛躍,革命性地改變比特幣挖礦格局。
最新一輪募資籌得 1.2 億美元,由 Primary Venture Partners、Positive Sum Ventures 兩家創投公司主導,參與的知名天使投資人包括 Peter Thiel、Github 執行長 Thomas Dohmke、Coinbase 前技術長 Balaji Srinivasan、Cruise 創辦人 Kyle Vogt、Stanley Druckenmiller 等人。
雖然 1.2 億美元已是鉅額融資,但 Etched 面對的卻是全球資本最雄厚、最具競爭力的公司,這樣的金額大約輝達半日營收。輝達的銷售額已連續三季年增率 3 倍跳,最近一季達到 260 億美元。
據估計,輝達目前佔有 80% 以上 AI 晶片市場。儘管輝達處於領先地位,但新創晶片製造商仍前仆後繼加入市場,包括 Cerebras Systems,該公司正在建造體積更大的 AI 晶片,以及 Tenstorrent,該公司正在使用一種名為 RISC-V 的流行技術來構建 AI 晶片。
PitchBook 數據顯示,創投公司 2023 年向人工智慧半導體公司投資了 60 億美元,略高於 2022 年的 57 億美元。