AIエージェント各社が「プライバシー」を約束:MetaのMuseとOpenAIのDotsは実現できるか

10月10日、The Vergeのシニア AI 記者ヘイデン・フィールドは、皮肉に満ちた光景を報じた。今年のOpenAI DevDayで、サム・アルトマンCEOは同社の新しいエージェント「Dots」を発表し、聴衆に向かって「最先端AIのプライバシーに新たな基準を打ち立てたい」と語った。報道によれば、OpenAIはその日、最大の競合であるMetaの「Muse」がユーザーデータを守れていないと、あからさまではない形で何度も批判したという。ところが数か月前、Muse自身が前身の「OpenClaw」より安全な代替として登場し、マーク・ザッカーバーグCEOは「プライバシーとセキュリティのために土台から作られている」と約束していた。MuseはOpenClawに対抗し、DotsはMuseに対抗する。各世代が前の世代の「安全版」を名乗る、約束の連鎖が見えてくる。

断っておくと、本稿が依拠するのはこの報道の公開部分であり、製品の内部の仕組みに関する記述はすべて分析上の推論である。いずれかの企業が技術的な詳細を開示したという意味ではない。そのうえで、この連鎖の根底にある矛盾は見過ごせない。報道は冒頭で背景を明確に述べている。企業は顧客の個人データをため込み、サイバー攻撃はありふれているのに、AI研究所は利用者にエージェントへより多くの情報を共有させようとしている。つまり業界は、より深い信頼を求めながら、「他社より安全だ」という主張をその信頼を得るための鍵に使っている。プライバシーはもはやコンプライアンス部門の脚注ではなく、製品の看板機能であり、DevDayでは名指しの競合に向けた宣伝文句にまでなった。 なぜエージェントはプライバシー問題を先鋭化させるのか。この推論は製品の形そのものから来る。通常のチャットボットは、利用者が自分で貼り付けた内容だけを扱う。一方、エージェントの価値は代行にある。メールを読み、予定を組み、ファイルを探し、アカウントを操作する。そのためには、継続的で広範な、しばしばアプリをまたぐアクセス権が要る。データの範囲が広いほど一度の失敗の代償は大きく、権限が大きいほど攻撃者にとっての価値も高まる。読む力と動く力を併せ持つ製品では、欠陥が「情報漏えい」から「本人になりすました操作」へと拡大しかねない。だからエージェントにとってプライバシーの約束は付加価値ではなく、利用者が権限を預けられるかどうかの前提条件である。三つの製品が安全性の物語で競い合う理由もここにある。

約束と実現の間にあるのは検証可能性である。「プライバシーのために作られた」という一言は、裏付ける仕組みがなければ確かめようがない。本当に重みのあるプライバシー設計は、外部から確認できる実践として現れることが多い。利用者のデータを既定ではモデル学習に使わない、少なくとも明確なオプトアウトを用意する。権限を一括で与えず、タスクごとに絞る。機微なデータはできるだけ利用者に近い場所で処理する。エージェントが何を読み、何を行ったかを示す、書き出し可能なアクセスログを残す。独立した第三者の監査を受け、事故が起きれば速やかに、かつ全面的に開示する。これは評価の枠組みであり、DotsやMuseの実際の仕様を述べたものではない。両社を公平に測る物差しは、こうした仕組みを基調講演の台詞だけでなく、製品文書に書く気があるかどうかである。

「世代ごとに安全になる」という物語には、構造的なリスクもある。プライバシーが比較広告になると、安全の物差しは競合の失敗によって決まってしまう。相手がつまずけば自社は信頼できるように見えるため、誘因は「本当に十分な水準に達する」ことから「他社より悪くならない」ことへ傾く。三者のうちどれかが深刻な漏えいを起こせば、傷つくのはその一社だけではない。エージェントというカテゴリ全体の信用が揺らぎ、利用者は受信箱やファイルを預けてよいのか考え直す。MuseはOpenClawの安全な後継を名乗ったが、いまはDotsの発表元から批判されている。この位置づけが次の参入者に容易にひっくり返されることを、その事実が示している。約束が大きいほど、利用者が証拠を求める理由も、規制当局が問いただす理由も大きくなる。 一般の利用者や企業にとって現実的なのは、約束を一つずつ確認できる問いに分解することだ。データは既定で学習に使われるのか。ワンステップで削除できるのか。権限は細かく分けられるのか。監査ログはあるのか。事故の際、誰が通知の責任を負うのか。これらに明確な答えが得られるまでは、エージェントを機微度の低い作業に限り、権限を段階的に広げるのが賢明である。業界にとって、本当の新基準は基調講演の舞台では生まれない。外部が検証できるエンジニアリングと情報開示から生まれる。Dotsがアルトマン氏の言う基準を打ち立てたのか、Museの「土台からプライバシーのために作られた」という主張が成り立つのかは、時間と独立した検証が答えを出すだろう。それまで心に留めておくべきは一点である。エージェントが有能になるほど、求められる信頼は大きくなる。そして信頼は証拠によって積み上げるものであり、スローガンで前借りすることはできない。