マスク氏のXAI Grok Bot返金約束が100ドルの責任上限に直面

イーロン・マスク氏は、Grok Botが銀行口座を操作中に資金を失った場合、xAIがユーザーを補償すると公に約束した。これは、テスラとxAIの投資家であるTeslaconomics氏が提案した実験に応じたものだ。水曜日にXへ投稿したマスク氏は、エージェントが「しくじった」場合、xAIは「完全に補償する」と述べ、この約束は事実上、ユーザーがAIトレーディングボットに直接資金管理を任せることを促すものだ。議論の発端は、Teslaconomics氏がGrok Botを銀行口座に接続した人がいるかどうかを尋ね、支出追跡、請求書支払い、異常な請求の検知、さらにはパーソナルバンカーが必要かどうかまで提案したことにあった。この提案は、AIエージェントが銀行の直接アクセスを信頼できるかどうかの試金石となった。投資家によると、彼のパートナーは、そのようなアクセスを持つAIの危険性を懸念して明確に拒否したという。一方、マスク氏は自信に満ちた姿勢を見せ、ボットが誤った場合の返金を約束した。この公開のやり取りは、消費者向けチャットボットを自律的な金融エージェントとして位置づけ直すもので、Grokが知られるテキスト生成タスクをはるかに超える役割だ。Grok Botは8月11日にベータ版を開始。xAIによると、各エージェントは独自のクラウドコンピュータ上で24時間稼働し、人間のようにウェブサイトにログインして、所有者が眠っている間もタスクを続けるという。銀行口座テストは、マスク氏の決済戦略にも合致し、X Moneyは6月に個人間送金を開始している。しかし、この保証はxAIの消費者利用規約には記載されておらず、返金の約束は契約上の義務ではなくマスク氏の善意に依存している。

この公的な保証の背後には、はるかに限定的な賠償責任の構図がある。xAIの消費者向け利用規約は、アウトプットとエージェントアクションを現状有姿で提供し、大半の請求をユーザーが支払った手数料と100ドルのいずれか大きい方に制限している。ボットアクセスは月額30ドルのSuperGrokプランに紐づいており、1年の手数料は360ドルになるが、空になった当座預金口座に比べれば微々たる額だ。批判者たちはこのギャップを突き、広く共有されたXへの投稿では、AIリーダーたちがしばしば安全性を標榜しながら、契約では消費者賠償を100ドルに、企業賠償を支払い手数料に制限していると指摘している。この批判は、AI企業の安全性に関する言説とユーザー契約が一致しているかという広範な議論と呼応する。ソーシャルメディア上の返信が契約を書き換えることはできず、書面による修正がなければ、返済はマスク氏の善意に依存する。米国の銀行規制はさらに鋭い刃を持つ。電子送金を規律する連邦規則であるレギュレーションEは、不正な支払いから顧客を保護するが、顧客が自発的に口座アクセスを渡した場合、その送金はその表示を失う。ボットにログイン情報を渡すと、標準的な不正防止の対象外となる可能性がある。歴史は懐疑論者にさらなる弾薬を与えている。5月、悪質なNFTが隠し指示を埋め込み、AIをして資金移動をさせた——これはプロンプトインジェクションと呼ばれる攻撃で、エージェントが通常の資産に見えるコンテンツを読み取って行動する能力を悪用する。この事件では、Grokに連動したBankrウォレットから約15万ドルが流出し、その約80%が後に返還された。Bankrは後に、ウォレットはGrokのXアカウントに紐づいており、プラットフォームは鍵を管理していなかったと説明した。数週間後の別の侵害では、同じプラットフォームの14のユーザーウォレットが侵害され、Bankrは全額返済を約束した。Bankrの返済誓約はそれらのユーザーをカバーしたが、この事件はAI管理ウォレットのカストディリスクを浮き彫りにした。Grok Botが実際の銀行口座を誤って扱ったという確認された事例はまだないが、標的がAI暗号ウォレットではなく生きた銀行認証情報である場合、同じ手法ははるかに破壊的になり得る。

この一連の出来事の核心は、xAIのマーケティングと契約文言の隔たりにある。マスク氏のツイートは公的な約束だが、私たちが確認している消費者規約は依然として多くの請求を100ドルまたは支払い手数料に制限しており、レギュレーションEはユーザーがアクセスを許可した後の送金を自動的にカバーするわけではない。このギャップは、AIトレーディングボットが日常の資金管理に組み込まれていく中で、単一のプロンプトインジェクションの失敗がAI暗号ウォレットではなく生きた銀行認証情報を標的にする可能性があるため重要だ。xAIが規約を書き換えるまで、保証はマスク氏の善意に委ねられており、最初の実際のエラーが、控えめな返金になるのか、100ドルの上限への注目度の高い挑戦になるのかを明らかにするだろう。