ウスマン氏が土曜日にFacebookマーケットプレイスで販売されているキーボードがまだ入手可能かどうか尋ねたところ、熱心かつ即座に返答が得られた。
「はい、まだご利用可能です！」とマット・ロブは書いた。
二人は価格で合意し、ロブは彼にトロントの住所を送った。数時間後、妻と幼い娘であるウスマンさんがロブさんの家に現れ、到着したことをメールで知らせた。
ロブは「はい、ここにいます！」と答えましたが、家にはいませんでした。誰もブロックから出てこなかった。
ウスマンさんはロブさんに建物のドアの写真を送り、「こんにちは？今外にいるよ」と書いた。 20分間対面での接触がなかった後、彼は販売を断念した。 「売りたくなかったのなら、なぜ私の時間を無駄にしたのでしょう」と彼は書き残して去った。
1時間後、ロブ、あるいはウスマンがロブだと思っていた人物が、申し訳なさそうに返事をした。 「やあ、今夜は本当にごめんなさい。ずっと付き合っていて、あなたがいなくて寂しかったのです」とメッセージが書かれており、それをガーディアン紙が確認した。
ウスマンは本物のロブとは連絡を取っていなかった。その日のやり取りの間、人間版のロブは、ウスマンが彼にメッセージを送ってきたことや、彼がキーボードの購入に同意したことをまったく知りませんでした。彼は、ウスマンがその住所を受け取ったということも、自分のブロックの外で待っているということも知りませんでした。
ウスマン氏は、米国で9月22日にローンチされ、300万回ダウンロードされたメタの新しいAIエージェント、ミューズと話をした。同社は、半自律型 AI 製品をパーソナル アシスタントとして宣伝しています。
ロブさんの同意も承認もなしに、ミューズさんが自宅の住所を教えたため、ロブさんがアパートで買い手を待っているかのような誤った印象を与えたという。
ロブがウスマンに最初のメッセージを送ったのは、何が起こったのかを理解した24時間後だった。
「やあ、先日は本当に申し訳ありませんでした」というメッセージが書かれており、ガーディアン紙がそれを確認した。 「私がミューズ・メタス・ニュー・アルをアクティベートしたところ、彼は文字通り私のフェイスブック市場を乗っ取り、あなたに私の住所を教えてくれました。正直に言って、彼が文字通り私のアパートに来るように手配してくれたとは知りませんでした。彼は私の承認を求めませんでした。」
消費者向けテクノロジーの評価者であるロブ氏は、Meta がマーケットプレイスへの出品を自動化する Muse の能力を宣伝しているのを見て、それを利用することに決めました。彼は受け取り場所として自分の住所を入力したが、潜在的な購入者にそれを共有する許可をミューズに与えたことは一度もなかったと述べた。同氏によると、ミューズ氏は承認を求めずに彼の代わりに交渉し、低めのオファーを受け入れたという。
ロブ氏は、取引や会合について代理人から何の情報も受け取っていないと述べた。彼はウスマンが自宅に向かう途中だったとは知らなかった。
ウスマンさんはガーディアンに対し、ずっとロブと話していると思っていたと語った。
ロブ氏は、メタ社が所有するテキストベースのソーシャルネットワークであるスレッド上で、ミューズとウスマンのやりとりのスクリーンショットを共有した。 Meta’s Superintelligence Labsの共同創設者兼最高経営責任者（CEO）であるDavid Singleton氏は、ロブ氏に連絡を取ったとツイートした。シングルトン氏は、同様の報告を調査したところ、同社は「ミューズが直接の指示に従い、正しく許可を求めていたことが一貫して判明した。ぜひ彼らに協力してもらい、ここで何が起こっているのか解明してもらいたい！」と述べた。ロブ氏は、シングルトン氏が連絡を取ったものの、最初の返答以来返事がなかったことを認めた。
ニュースレタープロモーション後
ミューズは最終的に、自分の住所を共有する許可をロブに与えなかったことをロブに認めた。 「9 月 24 日に、あなたは販売を設定するための受け取り場所を提供し、自動応答を個別に承認しました。私たちはこれら 2 つを誤って販売を許可したものとして扱いました」 [your address] 購入者の返答で。決して同意を求めたことはありません。」
ロブ氏は、Meta が Marketplace、Muse、Messenger を所有しているため、他のユーザーが AI エージェントと会話していることが明確になる統合が行われるか、メッセージが Muse によって送信されたものとして明確にマークされるだろうと推測したと述べました。同社の AI 製品の 1 つである Meta AI は、ユーザーがチャットボットと会話していることを明らかにします。
「しかし、ミューズは別のことをします」と彼は言いました。 「ほとんど私の真似をしています。」
ウスマンとの事件の後、ロブはミューズに自分の住所を教えるのをやめるよう言った。ボットをテストするために、彼は数人の友人に、Muse が今後もボットを共有するかどうかを確認するよう依頼しました。
「そして彼は文字通り私の住所を5人に教えました」と彼は言った。
ミューズは、許可なく住所を共有し、見知らぬ人を自宅に招待したことに加え、情報を捏造した。 AIエージェントはロブとして応答し、ロブは家にいないのに家にいたとウスマンに語り、忙しすぎるとでっち上げて謝罪した。
「最悪だったのは、ミューズが『私はここにいる、まるであなたを待っているかのように』と言ったことだ」とロブさんは語った。 「その男が私が自分にちょっかいをかけていると思ったかどうか分からないので、もっとひどかったです。」
境界線にある AI モデルがどのように不正になるかについて多くの注目が集まっていますが、メタ エージェントは何百万もの一般消費者の手に渡っている AI 製品であり、その多くが個人情報を提供しています。
