AI 智慧體廠商都在承諾隱私:Meta Muse 與 OpenAI Dots 能兌現嗎?
The Verge 報導,OpenAI 在 DevDay 上發布智慧體 Dots,奧特曼稱要為前沿 AI 樹立隱私新標準,並暗指 Meta 的 Muse 保不住使用者資料。而 Muse 數月前也以比 OpenClaw 更安全的替代品自居。每一代智慧體都以更安全為賣點,卻在勸使用者交出更多個人資訊。承諾能否兌現,取決於可驗證的機制。
10月10日,The Verge 資深 AI 記者 Hayden Field 報導了一個頗具諷刺意味的場景。在今年的 OpenAI DevDay 上,執行長山姆·奧特曼發布了公司的新智慧體 Dots,並對台下觀眾表示,OpenAI 希望「為前沿 AI 的隱私設立新標準」。據報導,OpenAI 當天多次含蓄地指向主要競爭對手 Meta 的 Muse,批評它沒能守住使用者資料。然而數月之前,Muse 本身正是以「比前任 OpenClaw 更安全的替代品」身分登場的,馬克·祖克柏當時承諾它「從底層開始就為隱私與安全而建構」。一條承諾鏈由此浮現:Muse 對標 OpenClaw,Dots 又對標 Muse,每一代產品都把自己定位成上一代的安全修正版。 需要說明的是,本文依據的是這篇報導的公開部分,凡涉及產品內部機制的論述,均屬分析性推斷,不代表任何一家公司披露了具體技術細節。把這條承諾鏈放在一起看,最值得注意的是它背後的矛盾。報導開篇就點明了大背景:企業囤積客戶個人資料,網路攻擊也早已司空見慣,而 AI 實驗室卻在設法說服使用者向智慧體分享更多資訊。也就是說,業界一邊向使用者索取更深的信任,一邊把「我們比別人更安全」當作拿到這份信任的敲門磚。隱私在這裡不再是法遵部門的附屬品,而是產品定位的核心賣點,甚至成了發表會上互相點名的競爭話術。 為什麼智慧體讓隱私問題變得更尖銳?這裡的推斷來自產品形態本身。一般聊天機器人只處理使用者主動貼進去的內容,而智慧體的價值在於替人辦事:讀郵件、排行程、翻檔案、操作帳戶。要做到這一點,它必須獲得持續、廣泛、往往是跨應用的存取權限。資料面越寬,單次失誤的代價就越高;權限越大,被攻擊者利用的價值也越高。當一個產品同時擁有讀取與行動的能力,任何一處疏漏都可能從「資訊外洩」升級為「被代為操作」。因此,隱私承諾對智慧體而言不是錦上添花,而是使用者敢不敢放權的前提條件。這也解釋了為什麼三家產品要在安全敘事上一環扣一環地較量。
承諾與兌現之間,隔著的是可驗證性。一句「為隱私而建構」,在沒有對應機制的情況下無法被檢驗。真正有分量的隱私設計,通常體現為幾類可以查核的做法:預設不把使用者資料用於模型訓練,或至少提供清楚的退出選項;按任務收窄權限,而不是一次授予全部存取;在盡可能靠近使用者的位置處理敏感資料;保留可匯出的存取紀錄,讓使用者知道智慧體到底讀了什麼、做了什麼;接受獨立第三方的安全稽核,並在出事時及時、完整地揭露。以上是評估框架,並不是對 Dots 或 Muse 實際做法的描述。評判兩家公司,應當看它們是否願意把這類機制寫進產品文件,而不是只寫進發表會的台詞。 這種「一代比一代更安全」的敘事還有一層結構性風險。當隱私成為比較廣告,安全的標尺就被競爭對手的失敗所定義:只要對手出了事,自己就顯得可靠,於是誘因變成了「別比別人差」,而不是「做到真正夠好」。一旦其中任何一家出現重大外洩,受損的不會只是那一家,而是整個智慧體品類的公信力,使用者會重新掂量要不要把信箱和檔案交出去。Muse 此前以 OpenClaw 的安全替代者自居,如今又被 Dots 的發布方點名批評,恰好說明這種定位隨時可能被下一位入場者翻轉。承諾越響亮,使用者越有理由要求證據,監管者也越有理由追問。 還有一個容易被忽略的層面:隱私承諾的對象究竟是誰。對個人使用者而言,擔心的是郵件、聊天紀錄和行程被用於訓練或被員工查看;對企業客戶而言,擔心的是商業機密、客戶名單和內部檔案經由智慧體流向外部;對監管者而言,關心的則是責任如何劃分,一旦智慧體代使用者做了錯誤的操作或洩露了第三方的資料,責任究竟在使用者、平台還是模型提供方。三類關切並不相同,一句統一的口號很難同時回答它們。更重要的是,智慧體常常要接觸的並不只是使用者本人的資料,還包括通訊錄裡的他人、同事共享的文件、客戶寄來的附件,這些第三方並沒有同意把自己的資訊交給某個智慧體。當幾家公司競相宣稱自己最重視隱私時,誰來為這些不在場的人說話,同樣是需要被追問的問題。
對一般使用者和企業來說,務實的做法是把「承諾」拆成可以逐條核對的問題:資料是否預設用於訓練,能否一鍵刪除,權限能否細分,是否有稽核紀錄,出現事故時由誰負責通知。在這些問題得到清楚答覆之前,不妨先把智慧體限制在低敏感度的任務裡,再逐步放權。對業界而言,真正的新標準不會誕生在發表會上,而是來自能被外部驗證的工程與揭露。Dots 是否如奧特曼所說樹立了新標準,Muse 的「從底層為隱私而建構」是否站得住,答案都要等時間和獨立審查來給。在那之前,值得記住的只有一點:智慧體越能幹,它對信任的要求就越高,而信任只能靠證據累積,不能靠口號預支。
Sources
FAQ
OpenAI 的 Dots 和 Meta 的 Muse 之間發生了什麼?
據 The Verge 報導,OpenAI 在今年 DevDay 上發布 Dots,奧特曼稱公司想為前沿 AI 樹立隱私新標準,並多次含蓄批評 Meta 的 Muse 沒有守好使用者資料。Muse 數月前上線時,也被祖克柏說成是從底層為隱私與安全建構、比 OpenClaw 更安全的替代品。
為什麼智慧體的隱私風險比一般聊天機器人更高?
這是基於產品形態的分析推斷:智慧體要代使用者行動,往往需要讀取郵件、行事曆、檔案等個人資料,資料面更寬,一旦外洩後果更重。這也正是各家都把隱私當作賣點的原因。
使用者該如何判斷隱私承諾是否可信?
看可查核的細節,而不是口號:資料是否預設用於訓練,能否刪除,權限能否按任務收窄,是否有獨立稽核與可匯出的存取紀錄。承諾若沒有對應機制,只能算行銷。