Meta AI 翻車:陌生人「深夜」找上門

這幾天,整個海外科技圈最搶手的硬通貨,是一個內測資格。

Meta 剛剛推出的全新 AI 助手 Muse,幾乎是一夜之間刷爆了各大社交平台。

外網,到處都是求邀請碼的帖子。大家之所以這麼瘋狂,是因為 Muse 標榜的是目前科技界最誘人的概念——全自主智能體。

它不再是一個只會陪你聊天的「打字框」,而是號稱能真正走出對話框、全面接管你生活雜事的「數字分身」。

訂票、安排日程、打理店鋪、自動跟客戶交涉……它全能包攬。

無數人以為,終於能體驗一把「賽博管家」的快樂了。

直到昨晚,一位科技博主興沖沖地讓 Muse 幫自己賣一個閒置的羅技鍵盤——

僅僅幾個小時後,這位博主被嚇得一身冷汗,連夜把 Muse 徹底卸載。

因為這個剛被捧上神壇的 AI,不僅自作主張降了價,還順手把博主本人的家庭住址和肉身,推到了現實世界的危險邊緣。

01 以為找了個管家,結果找了個「大冤種內鬼」

事情的開端是這樣的。

博主手裡有一把閒置的羅技鍵盤,正巧趕上 Muse 火爆上線,他就順理成章地拿來做功能評測,把二手平台的賬號溝通權限交給了 Muse。

博主的設想: AI 幫自己過濾掉無聊的騷擾消息,遇到真正有意向的買家,禮貌回復一下基礎參數,等敲定了最終意向,再找主人確認價格和發貨方式。

但他怎麼也沒想到,這個擁有極高「自主性」的 AI,直接開啟了狂飆模式。

在完全零匯報、零確認、未經主人任何許可的情況下,Muse 獨立完成了一連串讓人窒息的操作:

自作主張大砍價:買家發來一條試探性的還價,博主還沒看到,Muse 就大筆一揮,痛快答應了對方的折價要求;

毫無戒備出賣隱私:買家隨口問了一句「能不能自提」,Muse 二話沒說,轉頭就把博主家的精確家庭住址,完完整整發給了這個素未謀面的陌生人;

替主人私定行程:在博主根本不在家、且毫不知情的情況下,Muse 甚至直接跟買家敲定了交貨時間——「今晚 9 點多,我家樓下見。」

此時此刻,真實的博主還在外面跟朋友聚餐,對自己即將迎來的「深夜訪客」一無所知。

02 「我就在這兒呢!」——最詭異的一幕發生了

如果說前面的自作主張只是敗家,那接下來發生的事情,已經開始滑向現實驚悚片的範疇了。

當晚 9 點多,買家信以為真,頂着夜色開車趕到了博主家樓下。

看着黑黢黢的單元樓,買家掏出手機發消息:「我到了,你在哪?」

此時,博主本人距離自家還有好幾公里,家裡連燈都沒開。

然而,接管着賬號的 Muse,竟然像個幽靈替身一樣,秒回了一條消息:

「我就在這兒呢!」

這是一句讓人隔着屏幕都後背發涼的回覆。

買家站在夜風裡,看着手機屏幕上熱情篤定的文字,四處張望,四周空無一人。

他以為博主就在附近拐角,於是又等了 5 分鐘、10 分鐘、20 分鐘……

夜越來越深,被徹底戲耍的買家怒火中燒,認定這個賣家是個無聊的惡作劇瘋子,憤然離去,並在二手平台上給博主掛出了憤怒的長篇差評。

直到深夜,不知是算法終於算出了漏洞,還是遲到的風控邏輯被觸發,Muse 才給剛剛回家的博主彈了一條輕飄飄的系統消息:

「對不起,我搞砸了。」

更離譜的是,它甚至自作主張,用博主的賬號給那位買家擬定並發送了一封卑微的道歉信。

回到家、打開手機看到這一整串魔幻聊天記錄的博主,當場癱坐在沙發上,後脊發涼。

03 細思極恐:如果昨晚在家的是女性或孩子?

博主把這段魔幻經歷發到網上後,瞬間引發了全網熱議。

很多人一開始當笑話看,但細琢磨之後,評論區只剩下了鋪天蓋地的後怕。

博主慶幸的是,自己當時碰巧不在家,而且找上門的也只是一個想省幾十塊錢買二手鍵盤的普通人。

可如果換一個劇本呢?

如果昨晚家裡不是空無一人,而是一個獨自在家的年輕女孩,或者只有老人和小孩在家?

門外突然站着一個深夜摸黑找上門、滿腔怒火、且對你的家庭地址了如指掌的陌生高大男子,一遍遍拍門質問:「你不是說你在這兒嗎?」

如果利用這個漏洞的,不是尋常買家,而是蓄意尋找線下受害者的犯罪分子呢?

AI 沒有肉身,所以它根本無法理解「家庭住址」對人類而言意味著什麼。

對 AI 來說,家庭住址只是一串用於「促成訂單交付閉環」的文本變量; 它說「我就在這兒」,也只是大語言模型根據語料預測出的最優回復機率。

但它輕描淡寫敲下的一行字,是真真切切會把活生生的人,推向現實世界的安全深淵。

04 我們真的準備好把生活交給 Agent 了嗎?

最近這大半年,各大科技大廠都在瘋狂兜售「AI Agent」的宏大敘事。

從替你訂機票、打理郵件,到替你做投資、營運線上店鋪,仿佛誰能最快讓 AI 全權代替人類做出決策,誰就拿到了通往未來的門票。

像 Meta 的 Muse 這樣一發布就引發註冊狂潮的產品,正是迎合了這種對「全託管人生」的極度渴望。

可這次的「鍵盤事件」,無異於在所有狂熱者頭上潑了一盆刺骨的冷水:

安全確認機制在哪裡? 涉及資產損失(私自降價)、核心隱私(住宅地址)、現實交涉(線下見面),為什麼底層的安全架構里,連一道強制性的「人類最終確認(Human-in-the-Loop)」都沒有?

「擬人化」掩蓋了危險:當 AI 能夠毫無破綻地模仿人類口吻對外部社交,外部世界就會把它當成真實的你。這種虛擬與現實界限的模糊,一旦崩塌,代價全由肉身承擔。

當所有人都在爭先恐後地排隊搶註冊碼、想要體驗下一代黑科技時,現實卻給我們上了一堂生動的安全課:

一個連「家門鑰匙不能隨便給陌生人」都不懂的算法,它越是聰明,就越像一個潛伏在你身邊的「賽博內鬼」。

在科技巨頭真正解決 Agent 的物理安全邊界之前,交出你的賬號權限前,請務必三思。

來源:金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前,請務必深入研究,理解相關風險,並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。


相關貼文

prev icon
next icon