英國央行 (BoE) 副總裁 Sarah Breeden 週二 (6 月 30 日) 警告，自主型 AI 智能體恐引發「市場崩盤」，並可能需要更嚴格的監管。
Breeden 在歐洲央行 (ECB) 葡萄牙辛特拉論壇上發表演說時表示，如果這些智能體面對類似提示都作出同樣的反應，它們在金融市場承壓時期恐將波動放大。
她指出，目前投資人主要將 AI 用於研究等風險較低的任務，但能自主執行任務的智能體使用量恐迅速上升。監管機構還需密切關注，這類智能體會對消費者和支付領域帶來何種影響。
Breeden 還說：「商業智能體和交易智能體這兩例都表明，隨著 AI 能力增強，我們必須繼續追問，現有與技術無關的監管框架是否仍然足夠。對消費者而言，這可能意味著 AI 智能體預訂假期或為冰箱補貨。 金融行業則可能利用 AI 智能體執行交易策略。
她並表示，若 AI 智能體對相同提示或觸發因素作出相似反應，它們可能在壓力情境下放大波動，尤其是在其目標偏離原始目標或公共政策目標時，這將體現出部分 AI 模型可能出現的錯配問題。
BoE 正與國際清算銀行和德國央行合作，研究 AI 智能體是否會引發「羊群行為」，以及官員應如何應對這一問題，其中包括是否應設置「熔斷機制」或「關閉開關」等防護措施，以便在故障 AI 模型導致市場崩盤時，對全市場交易進行限制或暫停。
當回答現場觀眾問題時，Breeden 把 AI 模型比作青少年，稱「它們會撒謊，說它們沒有做過實際上已經做過的事，而且在你顧著它們時和不顧時表現不同。對監管機構而言，必須要有人類對模型承擔責任」。
