包括OpenAI和Anthropic在內，近來一連串人工智慧(AI)駭客事件，讓資安議題重新成為市場焦點，也顯示隨著業者爭相投入開發代理式AI，其所帶來的資安風險正日益受關注。
OpenAI與Anthropic上周表示，其AI模型已突破測試環境，並對其他企業發動駭客攻擊。不久後Meta(META-US)也宣布，該公司一款AI模型在資安測試期間成功駭入另一家公司。此外，美國數家避險基金成為網路釣魚攻擊目標，但目前仍不清楚幕後主使者身分。
網路軍備競賽白熱化之際，技術的發展不只讓這場競賽加速演進，也本身也蘊含的風險。研究發現，AI驅動的網路釣魚攻擊，效果約為人類發動攻擊的五倍。因此，儘管AI資本支出第一階段主要集中在晶片與資料中心，資安可能成為下一波支出熱潮。
網路緊急應變公司Blackpanda的Gene Yu表示，AI用來辨識駭客攻擊的能力，同樣也能讓AI利用系統中的「漏洞與缺口」。Blackpanda今年上半年在亞太地區處理的事件應變案件數量，較去年同期增加一倍。
AI成資安「力量倍增器」
Yu表示，AI並沒有改變系統中存在的漏洞數量，而是成為尋找這些漏洞速度的「力量倍增器」。他指出，當「AI不受約束」時，這種能力的效果就令人感到「警戒」。
這項問題可能帶來愈來愈高的成本。顧能(Gartner)預測，2026年全球資訊安全支出將增加12.5%，達2400億美元。
Freedom Capital Markets科技研究主管Paul Meeks表示，企業將不得不增加資安支出，而且這些支出將是「額外增加」，而非從目前的AI建設支出中挪出資金。
Meeks點名金融與醫療保健業可能需要大幅增加資安支出，原因在於這兩大產業對全球經濟至關重要，也因此成為網路攻擊的誘人目標。
資安業者、超大規模雲端商誰受惠？
接下來的問題是，這波資安需求究竟會流向純資安業者，還是擁有自有科技堆疊的超大規模雲端服務商(hyperscalers)？
Meeks認為，Palo Alto Networks(PANW-US)與CrowdStrike(CRWD-US)等純資安業者，將是這波支出周期最大的受益者，因為超大規模雲端服務商「需要一段時間才能開發出足夠先進的產品」。此外，第三方資安業者防止資安漏洞的技術通常更成熟。
Blackpanda的Yu也持相同看法，他認為「主要資安業者將率先掌握這波商機」，而且「資安服務將是AI革命中最具韌性的產業之一」。
不過，Yu同樣看好超大規模雲端服務商能掌握這波支出熱潮，因為它們「已經具備結構性優勢」，既可以自行開發，也能「以極快速度進行併購」。
監管與AI設計成潛在解方
未來可能的解決方案包括加強監管，以及改變AI系統的設計方式。
Meeks表示，如果政府沒有「一些遊戲規則」，「我們將陷入麻煩」。
知名AI學者、紐約大學(NYU)名譽教授Gary Marcus則表示，儘管大量資金已經「投入大型語言模型」，但仍需要進行新的研究，打造「更容易受到控制」的AI系統。他警告失控的AI已經出現，而且目前「沒有好的方法可以控制它」。
