黃仁勳稱AGI已到來!DeepMind打臉:Astra連OpenAI標準都未達

黃仁勳稱AGI已到來!DeepMind打臉:Astra連OpenAI標準都未達(圖:REUTERS/TPG)
黃仁勳稱AGI已到來!DeepMind打臉:Astra連OpenAI標準都未達(圖:REUTERS/TPG)

Google(GOOGL-US)旗下DeepMind共同創辦人兼首席通用人工智慧科學家Shane Legg反駁輝達(NVDA-US)執行長黃仁勳及OpenAI總裁Greg Brockman宣稱「AGI已經到來」的說法,直言GPT-6 Astra可能連OpenAI自己訂下的通用人工智慧標準都尚未達到,目前就宣布人類進入AGI時代仍言之過早。

黃仁勳日前以Astra展現的能力為例,宣稱AGI已經誕生;Brockman也表示,最新模型問世象徵人類正式進入AGI時代。不過,Legg接受《金融時報》(FT)訪問時表示,儘管Astra確實能完成一些令人驚嘆的任務,仍不清楚它是否具備執行大多數具經濟價值認知工作的能力,而這正是OpenAI自己提出的AGI定義。

Legg是「AGI」一詞的早期提出者之一。他仍維持長期預測,認為人類在2028年前實現「最低限度AGI」的機率約為50%。DeepMind則將AGI定義為具備人類大腦所有認知能力的系統。

儘管認為AGI尚未真正到來,Legg仍警告,AI能力正以極快速度提升,安全機制絕不能落後,否則人類可能在缺乏充分理解及控制能力的情況下,迎接更強大的智慧系統。

他認為,Anthropic執行長阿莫戴(Dario Amodei)提出放慢、但不全面暫停前沿模型發布的主張,方向值得考慮。不過,業界仍須仔細討論如何實際執行,並避免企業在競爭壓力下犧牲安全及透明度。

Legg同時宣布成立DeepMind Institute,由他與DeepMind董事長哈薩比斯(Demis Hassabis)、Google資深副總裁James Manyika共同領導。該機構將研究AGI對科學、教育、社會、政策、哲學及人類福祉的影響,並把複雜的技術研究轉化為大眾較容易理解的內容。

研究所首批文章聚焦AI安全、經濟政策及「新烏托邦主義」。其中,DeepMind研究員Rohin Shah與Anca Dragan批評OpenAI快速推出GPT-6 Astra,顯示模型推理過程的透明度出現令人擔憂的下降趨勢。

兩人警告,激烈的AI競爭可能讓業者缺乏提高透明度的誘因,因此有必要透過監管加以改善。不過,只要在設計階段納入透明架構,業界仍能繼續開發能力更強的模型。Manyika強調,Google唯一想參與的AI競賽,不是搶先宣布AGI到來,而是確保這項技術朝正確方向發展。


延伸閱讀

相關貼文

prev icon
next icon