西班牙資料保護局(AEPD)公布首宗疑似由人工智慧(AI)代理人執行的個人資料外洩通報案件。AEPD表示，受影響機構通報稱，一名第三方利用AI代理人尋找系統漏洞、登入系統並自主執行後續操作，最終修改個人資料並存取帳單。AEPD強調，目前相關資訊仍在審查，尚不足以確認更廣泛的趨勢。
AEPD周一(14日)在官方網站發布文章指出，這起事件涉及一個使用知名大型語言模型(LLM)的AI代理人。根據受影響機構提交的通報，該AI代理人先成功登入目標系統，之後自主搜尋應用程式中的弱點，在發現漏洞後進一步修改個人資訊，並查看帳單資料。
AEPD沒有公布遭攻擊機構名稱，也沒有透露涉案的大型語言模型名稱。該機構表示，使用特定AI模型並不代表模型本身或模型供應商的基礎設施遭到入侵，也不代表相關AI工具原本就是為惡意活動而開發。
AEPD指出，這起案件之所以受到重視，在於第三方疑似利用AI代理人，在有限的人為介入下，成功串連網路攻擊的多個階段。與傳統生成式AI協助撰寫釣魚郵件、翻譯詐騙內容或分析程式碼不同，AI代理人可以接收目標後，自主規畫中間任務、使用工具、執行程式碼、解讀結果，並根據取得的資訊調整後續行動。
AEPD表示，這次通報尚不足以證明AI代理人發動的攻擊已形成統計上的普遍趨勢，但案件顯示，AI輔助攻擊已開始從理論風險進入涉及真實個人資料處理的事件。AEPD並指出，AI本身並沒有創造全新的威脅，但能提高既有惡意技術的速度、規模及適應能力，進而縮短企業發現及控制攻擊的時間。
這也意味著企業過去針對惡意軟體、釣魚攻擊或未經授權存取所建立的風險評估，可能需要納入AI代理人的攻擊情境。AEPD認為，不能只在風險模型中籠統加入「AI」一項，而應考慮AI自動化可能改變攻擊發生的機率、速度及影響範圍。
AEPD同時提醒，企業也必須重新檢視資安事件的回應時間。傳統由人員執行的攻擊可能需要較長時間完成，但AI代理人可以同時分析多個資產、嘗試不同存取方式，並根據結果迅速改變策略。如果企業仍使用以人工操作速度為基礎的偵測及應變程序，可能無法及時阻止攻擊。
數位身分、帳號及憑證管理也成為重要風險。AEPD指出，如果AI代理人取得具有過度權限的帳號、密碼或權杖(token), 便可能以機器速度在不同服務之間活動，並在組織發現異常行為之前存取更多資料。
因此，AEPD認為，企業不能只依賴人工監督來確保個人資料安全。人類監督仍然重要，但必須搭配能夠以足夠速度運作的偵測、遏止及應變機制，以因應AI代理人可能帶來的快速攻擊。
這起事件也凸顯歐洲監管機構近期對代理型AI(agentic AI)的關注。AEPD今年2月已發布代理型人工智慧與資料保護指南，針對能夠自主規畫、排序及執行任務的AI系統提出資料保護相關風險及管理建議。
AEPD在相關指南中指出，代理型AI可能涉及資料最小化、目的限制、記憶管理、權限控管及人類監督等問題。由於代理人能夠跨越不同工具及環境執行任務，企業需要確認AI可以儲存哪些資料、為何儲存以及保存多久，並避免因AI在不同任務之間共享資料而產生目的偏移。
根據AEPD資料，2025年西班牙資料控制者向該機構通報超過2,700起個人資料外洩事件，涉及超過2億筆個人資料。這項背景也顯示，AI代理人加入資安攻防後，資料保護機構面對的風險管理環境正在改變。
AEPD表示，企業的資料控制者、資料處理者及資料保護官(DPO)都需要為攻擊速度持續提升的情境做好準備。尤其當AI代理人能夠自主完成漏洞搜尋、系統存取及資料操作等多個步驟時，傳統以人類行為速度為基礎的資安防護模式可能需要重新檢視。
目前AEPD尚未公布這起事件的完整調查結果，也沒有說明何時會完成審查。該機構強調，目前掌握的資訊主要來自遭影響組織提交的通報，因此在正式分析完成前，不能據此判定涉案AI模型、供應商或相關技術本身存在安全漏洞。
這起案件發生之際，美國及歐洲監管與資安機構都正在加強檢視更高階AI系統可能帶來的風險。隨著企業快速採用能夠自主執行任務的AI工具，監管機構面對的問題也逐漸從「AI能做什麼」轉向「當AI能自行採取行動時，企業如何控制其權限、資料及操作範圍」。
對企業而言，這宗通報最直接的訊息是，AI代理人相關風險已不能單純視為未來情境。雖然目前只有單一案件，尚不足以建立統計趨勢，但AEPD認為，事件已顯示AI支援的攻擊開始涉及實際個人資料處理，因此企業需要將AI代理人納入資安、個資保護及事件應變的風險評估框架。
