AI 聊天機器人 ChatGPT 掀起全球熱潮，也讓外界進一步關注大型語言模型 (LLM)、生成式 AI 的快速發展，品牌大廠華碩 (2357-TW) 今(14) 日宣布旗下台智雲 (TWS) 領先全台成為首個成功建置 1760 億個參數的 BLOOM 大模型，並推出 AI 2.0 大算力顧問服務的一站式整合方案，協助企業進入 AI 2.0 世代。
台智雲技術長陳忠誠指出，AI 技術結合大型語言模型已是產業科技發展的趨勢，不過企業要單獨執行 LLM 專案的難度極高，因此利用一站式 AI 2.0 大算力顧問服務，將可更專心投入研發專案，大幅降低進入門檻。
陳忠誠說，台智雲的 AI 2.0 大算力顧問服務，將整合新世代 AI 的基礎建設、開發環境及專業技術團隊服務，而台智雲 AIHPC 高速運算平台結合技術資源團隊，將以全新服務模式，提供完整的 AI 外部支援，目前已有高科技研發製造、金融、零售領域企業洽談合作中。
華碩補充，以台智雲完成的 BLOOM 大模型成果為例，資料集包含 46 種人類語言、13 種程式語言，參數量達到 1760 億個，整體資料量高達 1.5TB 以上，運用 840 個 GPU 做跨節點 (node) 訓練，除效能逼近線性理論值外，也可收斂訓練結果，若欲增加效能，也能用線性的方式擴容 (scale out)，增加 GPU 來提升平行運算能力。
此外，華碩指出，企業自行推動 LLM 專案，需熟悉分布式訓練架構、建置 AIHPC 高速運算系統、理解微調技術 (fine-tune)、大模型推論 (inference) 等，布建門檻極高，若使用台智雲 AI 2.0 大算力顧問服務，可望快速降低投入時間、技術成本、開發風險、硬體設備、人力投資等成本，打造自有生成式 AI 應用。
