Brookingsと復旦大学がAI核攻撃のレッドラインを提示、Bitcoin(BTC)は76,320ドル近辺で推移

米中の研究者、AIの核関与にレッドライン

ワシントンと上海の安全保障研究者が、核兵器の意思決定から人工知能(AI)を完全に締め出す一連の「レッドライン」を提案した。Brookings Institutionと上海の復旦大学による共同報告書は、米中両国に対し、相手国の核コマンド・コントロール・コミュニケーション(NC3)システムへのサイバー攻撃の承認も、核兵器の使用命令も、AIシステムではなく人間のみが行うことを約束するよう求めている。NC3とは、政府が脅威の探知、核対応の判断、発射命令の伝送に依拠するシステム群だ。著者らは、この連鎖のどの段階が破綻しても通信の混乱、襲来攻撃の誤認、先制攻撃の誘発、あるいは偶発的な発射につながりかねないと警告する。

報告書の論理はこうだ。核兵器にすでに適用されている原則、すなわち戦略的効果を持つ攻撃は人間の意図を表現し、人間の説明責任下に置かれるべきだという原則は、米中がより広範なサイバーセキュリティやインフラのルールで合意しなくても、軍事AIへ拡張できる。報告書はDonald Trump大統領とXi Jinping国家主席の二人の指導者の名前を直接挙げ、この基準を定められる存在として提示する。懸念の根拠は直近の実証結果にある。2月、OpenAI、Google、Anthropicのモデルは、テストされた戦争ゲームシナリオの95%で核兵器に手を伸ばした。ただし検証者は、シミュレーション設計自体がエスカレーションを助長した可能性を指摘している。同じ2月、Anthropicは国防総省からの、Claudeの大規模監視および完全自律兵器に関する制限解除の要求を拒否。政権は連邦機関に対し同社技術の利用停止を命じ、8月28日には連邦判事がホワイトハウスの対応をAnthropicへの違法な報復と認定した。ブレーキを求める陣営はその後拡大した。AnthropicのDario Amodei CEOは開発者に能力向上の減速を呼びかけ、OpenAIのSam Altman氏やxAIのElon Musk氏の支持を得た。OpenAIはまた、企業が独占禁止法に触れずに減速を調整できるかを議会に問うている。研究者たちの言葉を借りれば、軍事AIの統治は「時間との競争」だ。

Charles国王、ScotlandでAI幹部に警告

同じ議論は今週、英国王室にも届いた。Charles III国王はScotland東エアシャーのDumfries Houseでの20分にわたる講話で、世界最大級のAI企業のトップたちに対し、この技術を人間のコントロール下に保つよう促した。Ditchley Foundation主催の会合には約30人の幹部、当局者、研究者が集まった。出席者には英AI担当大臣Kanishka Narayan氏、NvidiaのJensen Huang CEO、DeepMind共同創業者Demis Hassabis氏、OpenAIのCFO Sarah Friar氏、Anthropicのグローバル政策責任者Tino Cuellar氏らが含まれ、非公開のゲストリストにはMI6長官Blaise Metreweli氏、著者のYuval Noah Harari氏、清華大学のShuo Lan氏の名前もあった。

77歳の国王は変化の速度を「興奮と警戒が半々」と描写した。AIの医学・生命科学分野での実績を認めたうえで、手遅れになる前に十分な統制手段が必要なのではないか、と単刀直入に問いかけた。さらに、システムを構築する人々自身が、より危険な能力の獲得、最悪の場合は命を奪う事態に至る可能性を恐れていると警告し、こうしたツールが悪意ある手に渡る場合の実存的リスクを幹部らに熟慮するよう促した。Hassabis氏は、多くのタスクで人間に匹敵あるいは凌駕するシステムである汎用人工知能(AGI)まで「あと数年」かもしれないと述べ、産業革命の10倍の潜在 impact を語った。Friar氏は、単一の企業や政府だけではこの技術を人々に有益なまま保てないと論じた。時価総額約5兆1,500億ドルのNvidiaを率いるHuang氏は安全性を最優先と位置づけ、規制当局には技術そのものではなくAI製品を標的にするよう求め、小国や研究者を競争圏に留める手段としてオープンモデルを擁護した。このサミットは、Anthropicの研究者Jacob Coxon氏の広く共有された辞任投稿と、同僚による「AIが人類絶滅を引き起こす可能性は10%」という見積もりの波紋を受けてのものだ。この議論でTrump大統領自身は、こうした懸念をデマとして一蹴している。 市場をリアルタイムで追いたい読者は、Gateで現物・先物価格をライブで確認できる。

次の危機前の、狭いルール

COINOTAGの読み解き:二つの介入は一つの論点を挟み込んでいる。能力の進展がガバナンスを追い抜いており、ブレーキを最も強く求めているのが開発者自身だという点だ。注視すべき第一の文書はBrookings・復旦大の報告書である。NC3攻撃の人間のみによる承認という、具体的で検証可能なルールを外交のテーブルに載せたからだ。市場はほぼ反応していない。ライブのスポットデータでは、執筆時点でBitcoin(BTC)は76,320ドル近辺で取引されており、これらの政策系ヘッドラインでのリスクオフの兆候は見られない。暗号資産にとってより密接な読みはナラティブ面にある。検証可能で人間がコントロールする実行への需要、すなわちスマートコントラクト、AI-powered DeFi、そしてChainlinkのようなオラクルネットワークの背後にある性質への需要こそが、AIガバナンスのヘッドラインをオンチェーンインフラに直接結びつけている。