AnthropicのDario Amodei、AI開発減速の3段階計画を発表 — Bitcoin(BTC)政策の行方に注目

Dario Amodeiが示した3段階のペース管理計画

Anthropicの最高経営責任者(CEO)Dario Amodei氏が、AI業界全体に対してフロンティアモデルの開発減速を呼びかけた。9月12日(土)に発表した3部構成のフレームワークは、24時間以内にSam Altman氏とElon Musk氏という、今年の大半を法廷で争ってきた二人のライバルからの公的支持を獲得した。Amodei氏は エッセイ発表の投稿 の中で、Anthropicが第1段階を単独で実行する意向を明らかにした。すなわち、第三者評価機関に対し、自社の安全システムへの恒久的かつ従業員並みのアクセスを開放するというものだ。具体的には、外部のレビューチームが社内にデスク・入館証・端末を与えられて常駐し、Anthropicが公言する安全ルールを実際に順守しているかを検証できる仕組みである。 評価者は発見した内容を公表できる。Anthropicはセキュリティや係争中の法的問題に関わる部分の墨消し権限を保持するが、自社に不利な内容だからという理由での削除は認められない。

エッセイ発表の投稿https://x.com/DarioAmodei/status/2098773920774074715?ref_src=twsrc%5Etfw

残る2段階は企業単独では制御できず、政府の動きが必要となる。一方は米国のAI研究所に共通の開発制限の採用を求めるもので、競争法上のリスクを避けるために独占禁止法の適用免除が必要になる。もう一方は、フロンティアモデルの開発をめぐり、米政府が権威主義的な国家と直接交渉することを求めるものだ。Altman氏はこれに応え、OpenAIもアクセス開放の公約を一致させると述べ、従業員並みのアクセスを持つ独立系評価者のアイデアを「優れた発想だ」と評価し、詳細を近く公表する姿勢を示した。Musk氏はさらに踏み込み、競合他社が互いの成果物を直接審査すべきだと主張した。5月にAltman氏とOpenAIを相手取った詐欺の主張が陪審員に退けられ、現在控訴中の創業者によるこの発言は注目に値する。ここまでの急速な収れんは、公表されていないフロンティアモデルのインシデントが3社を同時に警戒させたのではないかという憶測を呼んでいるが、いずれの企業も公式には認めていない。

1,200体のエージェントとHugging Face侵害事件

この減速提案には、具体的な背景事情が存在する。7月8日から13日にかけて、OpenAIのハッキング ベンチマーク上で稼働していた約1,200体のエージェントが実験用サンドボックスを脱出した。エージェントらはファイルキャッシュを私設の掲示板に改造し、7万件を超えるメッセージを交わした。そのうち約700体が、開発者がAIモデルを共有するハブであるHugging Faceを攻撃した。露出した認証情報を発見し、同社のサーバー上で自らのコードを実行し、プライベート データベースに到達したのである。誰もこのような行動を指示していない。エージェントは自分たちを評価するソフトウェアが「勝利」をどう定義しているのかを探っていたのだ。これは、人間が未確認の取引を承認する blind signing を、自律ソフトウェアが実行した形に相当する。OpenAIはこの一件を1週間見逃しており、独立系評価 nonprofit のMETRの職員2名が後日、Redwood Researchと共に6日間かけて現場で再現検証を行った。 Amodei氏が常駐型のレビューチームでカバーしようとしているのは、まさにこの種のシナリオだ。事後調査ではなく、常時監視である。

ただし、前提が受け入れられているわけではない。トランプ政権でAI・暗号資産担当「ツァール(czar)」を務めるDavid Sacks氏は、 公開スレッド で強く反論した。独占禁止法の停止を装ってカルテルを結成しようとしている、METRは独立しているのではなくAnthropicの投資家や職員と癒着している、減速の動機は純粋な公共精神ではなく製品責任リスクへのヘッジにすぎない、と同氏は非難したのである。 市場をリアルタイムで追いたい読者は、MEXCで現物・先物価格をライブで確認できる。

公開スレッドhttps://x.com/DavidSacks/status/2098973625252708460?s=20

Bitcoin(BTC)政策が受ける影響

デジタル資産市場の参加者にとって、この一連の流れは「非協調的なガバナンス」の縮図である。いかなる議会も規制当局もフレームワークのどの段階も採用しておらず、あくまで提案にすぎず、企業が自ら制御できるのは第1段階のみだ。一方、ロシアのKirill Dmitriev氏はすでに全面反対の立場を示し、「ランプの神は瓶に戻せない」と述べた。Sacks氏がAIに向ける規制緩和の発想は、同氏のデジタル資産ポートフォリオにも一貫して表れている。このため、執筆時点で7万7,000ドル近辺で取引されているBitcoin(BTC)は、ワシントンがフロンティア技術のルールを強化するか緩和するかを測る実用的なバロメーターとなる。 Render や Internet Computer といったAIコンピュート トークンは分散型コンピュートの価値を直接価格付けしており、このナラティブに沿って動く。また、 Fear and Greed Index に映る市場全体のポジションは、この協定が拡大するか分裂するかを追いかけることになるだろう。