英特爾宣布Aurora genAI模型 參數規模是ChatGPT的5倍

在 ChatGPT 的推動下,愈來愈多公司開始參與生成式 AI 的開發,英特爾 (INTC-US) 成為最新參與的科技巨頭,並在近日公布一個名為 Aurora genAI 的產品,它是一個主要用於科學領域的生成式 AI 模型。

英特爾 Aurora genAI 模型以 Megatron 和 DeepSpeed 為基礎,其規模達到了 1 兆個參數。相較之下,ChatGPT 的規模為 1750 億參數,Aurora genAI 在參數規模上增長了約 570%。

據指出,Aurora 超算共有 10624 個節點,每個節點 2 組 CPU 及 6 組 GPU,CPU 是 Sapphire Rapids-SP 架構的,總計 21248 個,GPU 是 Intel 最強的 Ponte Vecchio,總計 63744 個。

此外,還有 10.9PB 的 DDR5 記憶體,1.36PB 的 HBM CPU 記憶體,8.16PB 的 HBM GPU 記憶體,峰值頻寬分別可達 5.95PB/s、30.5PB/s、208.9PB/s。儲存系統則為 230PB 容量,30TB/s 頻寬。

Aurora genAI 模型將在通用文本、科學文本、科學數據和與該領域相關的代碼上進行訓練。它主要用於科學計算領域,包括生物學、癌症、大氣科學、天文學、高分子化學等領域。