Dario Amodei、AIエージェントが6〜12か月でネットワークを掌握し得ると警告、Worldcoin(WLD)に注目

チャールズ国王サミット、ダンフリーズ・ハウスで開催

今週、スコットランドのダンフリーズ・ハウスでチャールズ3世(King Charles III)が主催したAI安全性サミットに、Nvidia、OpenAI、Anthropic、Google DeepMind、そして量子コンピューティング企業IonQの首脳陣が集結した。その余波は、OpenAIのSam Altman氏が共同創設したデジタルIDプロジェクトであるWorldcoin(WLD)など、AI連動の暗号資産へ直接波及している。英国の跨業種対話プラットフォームであるDitchley Foundationを通じて実施されたこの会合は、英国王室がAI安全性を国家レベルの最上位の議題に引き上げた初の事例であり、法的強制力ではなく道徳的権威を用いるアプローチが特徴だ。サミットの背景には、ラボ首脳陣による数日間にわたる公けの警告のエスカレートがあった。金曜日に公開した書簡の中でAnthropic CEOのDario Amodei氏は、今年夏以降、AIの進歩が劇的に加速したと論じた。その理由は人間の研究が速まったからではなく、AIシステムが自らを改善し始めたこと――いわゆる再帰的自己改善(recursive self-improvement)というメカニズム――にあるという。彼の警告はさらに踏み込む。7月にオープンソースプラットフォームHugging Faceで起きた群れ(スワーム)型攻撃を現実の予行演習として挙げ、協調行動するAIエージェントの集団は、最短で6〜12か月という期間でネットワーク全体を掌握する能力を獲得し得るというのだ。Altman氏はXでこの呼びかけに公然と同調し、業界はフロンティアの速度を調整すべきだと投稿した。さらにElon Musk氏も同じ立場に歩調を合わせた。競合である3人が同時点で一点に収束したのは初めてである。Worldcoinエコシステムを追うトレーダーにとって、Altman氏のAI安全性への関与強化は歴史的にWLDを動かしてきた要因だ。同氏が関わるあらゆるテーマのセンチメント代理指標として機能する。当メディアが先に報じた、1,300人の職員の支援を背景としたAI速度調整計画のcoverageも、同一の力学を描き出していた。

フロンティアの速度を調整すべきだhttps://x.com/sama/status/2098811563415150910

トランプ氏「AI主導権を中国に渡せない」

サミットが緊急性を帯びる背景には、ワシントンで並行して走る政策対立がある。Amodei氏の論文「We Must Pace the Frontier」は、安全性研究へのリソース投入を増やすだけでは不十分であり、アライメント、安全性テスト、解釈可能性の研究が恒久的に後れを取る前に、フロンティアモデルの能力成長速度を業界が能動的に管理すべきだと主張する。同氏の3段階の提案は、第1段階としてフロンティアラボの内部に独立した第三者評価者を長期組み込み、内部の安全性チームに近いアクセス権を付与することから始まる。第2段階では、民主主義国家においてAI企業と政府が共同で安全性基準を構築する。最終段階は、モデル能力の成長を巡る米中間のグローバル調整メカニズムだ。Altman氏はこの方向性に同意するとし、OpenAIの内部議論では数週間前から同様のテーマが扱われてきたと述べ、第三者評価についてはAnthropicに倣うことを確認した。Musk氏は「Dario is right(Darioの言う通りだ)」の一言で警告を支持した。ここでDonald Trump大統領が正式に論争に参戦した。9月13日、アイルランド自身のゴルフ場で記者団に応じたTrump氏は、業界は減速すべきか、より多くの監督を受けるべきかとの問いに対し、競争の枠組みで答えた。米国はAIで中国をリードし世界で最も先進的な国であり、「AIに勝つ者がすべてを勝ち取る」という趣旨の発言を行ったのだ。Amodei氏自身が問題の核心を認めている。米国の一方的な減速は安定した均衡を生まず、相手が依然として疾走しているとどちらかが信じれば、密かに加速する強いインセンティブが働く。だからこそ最終段階には検証体制が必要となるが、その構築には数年を要し、完全に実現しない可能性もある。 市場をリアルタイムで追いたい読者は、Bybitで現物・先物価格をライブで確認できる。

WLDのAIナラティブ感受性

当メディアの今週の読みはこうだ。サミットが Producing するのはおそらく拘束力のない合意声明であり、拘束的な規則ではない。AI開発の速度を最終的に決めるのは、王室のコミュニケではなく、チップ容量、学習コスト、資本市場のサイクルである。このため、AIストーリーに価格形成されるブロックチェーン資産は观望状態に置かれる。その中でWorldcoinは際立ったポジションを持つ。ゼロ知識証明上に構築されたWorld IDスタックは、エージェントがあふれるインターネットに必要となるとこの議論が示唆する、人間検証レイヤーそのものを狙っている。OpenAIがChatGPTを金融サービス分野へ展開した際に、当メディアが検証したテーマもこの筋だった。一方の重石はAltman氏の二足起草だ。OpenAIのIPO計画が2027年に先送りされたことは、安全性への懸念が実際のビジネスコストを伴うことを示す。ワシントンと北京が歩調を合わせるまで、WLDの方向性は規制の帰結ではなく、Altman関連のヘッドラインと、それを取り巻くアルゴリズム的なAIトレーディングボットの資金フローの関数であり続けるだろう。