Anthropic報告が生物兵器関連5事例を特定 — FETなどAIトークンに注目

阻止されたチクングニア研究の助成金申請

Anthropicは9月10日、生物兵器研究の可能性に結びつく助成金申請を、自社の安全基盤が遮断したことを明らかにした。同社にとってこれまでで最も詳細な脅威インテリジェンスの公開と位置づけられる。申請の対象はチクングニア熱の研究だった。チクングニアは蚊が媒介するウイルスで、数か月に及ぶ激痛の原因となり、現時点で治療薬が存在しない。申請書には、感染力を高め免疫系を回避するようウイルスを改変する計画が明記されていたという。申請を執筆したのは民間の研究者であり、研究の受け皿には軍の研究所が予定されていた。Claudeの安全フィルターがこの要求を検知し、以後のやり取りをすべて拒否した。

事態はそこで終わらなかった。数日後、同じ運用者が再アクセス。調べたところ、当該研究者らが利用していたサービスは、競合AIモデルへのフォールバック機構をすでに構築していたことが判明した。問題は、そのコード自体がClaudeの助けを借りて書かれていた点にある。タスクは「過剰な拒否の修正」としてClaudeに提示されていたという。報告書は154ページに及び、生物学分野の事例を合計5件記録している。Anthropicは関与したアカウントを禁止し、研究所の名称は非公開とした。報告書の中で同社は「彼らに害意があったと主張するものではなく、本人や研究所を特定すれば危険に晒しかねない」と説明している。この調査結果に関する公式発表は、同社のXアカウントで公開されているX投稿から確認できる。ただし、すべての試みが成功したわけではない。ある事例では、鳥インフルエンザの研究者がより性能の低いモデルへ誘導され、得られた補助は事務作業程度と評価された。

X投稿https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

30日間の調査で35件の研究活動を検出

報告書のより広範な数値は、この一件の背後にある全体像を示す。国家機関に係る施設を対象とした30日間の調査で、悪用の可能性をはらむ研究活動が35件検出された。ただしAnthropic自身が指摘するように、その大半は通常の民間科学研究だった。まさにここに困難がある。ワクチン開発と兵器開発は同じ知識基盤から成り立ち、同社の言葉を借りれば「分類器は便益の提供と危害の防止を同時に実現できない」からだ。速度もまた変数となっている。あるユーザーは、Opus 5上で痘そう族に関わる助成金案をわずか1時間ほどで作成した。開示内容は、制限が以前から突かれていたことも示している。4月には、Discordグループが制限付きモデルに初日で到達した。生物学以外にも、Claudeを使って活動家を追跡した顧客を禁止しており、サイバー攻撃、世論工作、監視への悪用の試みも併せて公表された。政策面ではすでに動きがある。連邦下院のTed Lieu議員とNathaniel Moran議員は7月、AI Kill Switch Actを提出した。開発者に対し、システムを停止できる権限の保持を義務づける法案だ。

この流れは、デジタル資産市場にも無関係ではない。Fetch.ai(FET)に代表されるAIセクターのトークンや、新興のDeFAIプロジェクトは、AIガバナンスと安全性をめぐるセンチメントの一部を価格に織り込んで取引されているからだ。 市場をリアルタイムで追いたい読者は、Binanceで現物・先物価格をライブで確認できる。

AI Kill Switch Actが描く展望

一次資料である報告書本体と同社の公式発表を読み解く限り、今回の開示はセキュリティ上の事象であると同時に、政策シグナルとしての性格が強い。米国の議員がシャットダウン義務づけ立法を推進した数日後に、Anthropicは自社モデルが構築を助けた回避手段を含む失敗事例を公表する選択をした。Fetch.ai(FET)のようなAI連動型クリプト資産にとって、検証可能な安全対策をめぐる信頼性が競争優位を分ける要素になりつつある。具体的には、モデル挙動を監査可能にするためのゼロ知識証明や、エージェント型ワークフローにおけるブラインド署名への対抗策といった仕組みがそれに当たる。注目すべきは、AI Kill Switch Actが委員会で可決に向けた動きを得るか否かだ。AIトークンのリスクを再評価するのは、個々の阻止された助成金ではなく、この立法の行方である。