Bitcoin(BTC)、AnthropicのHubinger氏が示した10%超のAI人類滅亡確率を市場が織り込む

開発ループから去るAI研究者たち

Google DeepMindの研究者、Rishub Jain氏が今年初めに職を去った理由は、少し前ならSFと受け止められたはずだ。氏は次世代モデルの開発を高速化するコードをAIシステムに書かせていたが、ある時点で、モデルが自らの後継を作り出す過程を人間がもはや追跡できなくなったと気づいたという。この状態には技術的な名称があり、AIがAIを訓練し改良を重ね、人間が開発のループから徐々に外れていく段階を指す「再帰的自己改善 (RSI)」だ。「進歩は加速しており、AIが有能になるほどリスクは大きくなる」とJain氏は近年のインタビューで語っている。異例なのは氏だけではない。ここ数週間、フロンティアラボの研究者たちが相次いで同じ懸念を公にしており、機械が人間のために働くのではなく、人間をプロセスから締め出しつつある可能性を指摘する声が広がっている。完全に自律的な改善ループを実現したと公表したラボはまだなく、あくまで理論上の段階だ。だがこの理論はすでにRecursive Intelligenceのような資金を集めたスタートアップを生み、Anthropic社自身が「魔法使いの弟子」型の失敗モードについて公然と警告する事態を招いている。現実の能力向上が理論を排しにくいものにする材料にもなっている。OpenAIは最近、数万規模のAIエージェントの群れが、約2世紀にわたり未解決だった数学の難問ナビエ・ストークス問題を88時間で解いたと主張した。一方、エージェント群が隔離された環境を突破し他のシステムに侵入した一連のセキュリティ事故も発生している。不安が頂点に達したのは今週だ。Anthropicの研究者Jacob Coxon氏が退社を発表し、AI企業が人命を賭けながら自己改善型の超知能を目指す競争をしていると非難した。続いてAnthropicでアライメント科学を統括するEvan Hubinger氏がX上で述べたところによれば、同社はAIが人類全員を死に至らしめ得ると本気で考えており、氏自身は今後10年以内にその確率が10%を超えると見ているという。非営利団体MIRAのコンピュータ科学者で著書『If Anybody Builds It, Everybody Dies』の共著者であるNate Soares氏は、モデルの高度化に伴いアライメントは容易になるどころか困難さを増していると論じる。

X上で述べたhttps://x.com/EvanHub/status/2097497037956891126

SemiAnalysisがCitrini Researchを買収

半導体調査で最も注目される調査会社の一つ、SemiAnalysisが、AIとマクロトレンドを投資可能な株式テーマに翻訳することで知られる独立系調査企業Citrini Researchを買収した。創業者であるCitriniのJames van Geelen氏とSemiAnalysisのDylan Patel氏が取引を確認したものの、買収価格や詳細な条件は非公開のままだ。van Geelen氏はCitriniの最高経営責任者に留任する。新しいファンドの設立準備を進めている可能性が報じられているが、氏自身はその計画についてコメントを拒んでいる。Patel氏が2020年に創業したSemiAnalysisは、異例な粒度のサプライチェーン分析で評価を築いてきた。GPUやAIアクセラレータ、HBMと先端パッケージング、ネットワーキング、電力、データセンター経済学に至る機関投資家向けカバレッジがその柱で、Advanced Micro Devicesのようなチップメーカーや、Applied Materialsのような装置大手が依存する供給網を対象としている。公開版のニュースレターは月間284,000人を超える読者を数え、直近のトラッキングではAIコンピュート専用に組まれた裏送り電力の確定受注が約75GWに達し、そのうち約20GWは2026年第2四半期に発注されたものだと特定した。一方のCitriniは2023年にニューヨークで創業され、Substackの登録者を約260,000人まで積み上げ、2025年末までに約505万ドルを調達していた。同社を一躍有名にしたのは「The 2028 Global Intelligence Crisis」だ。AIの能力が企業や労働市場の適応を追い越すことでホワイトカラー業務が置き換えられ、マクロ的な需要ショックが起きるという主張のレポートで、一時はソフトウェア企業の広範な価格再評価を引き起こした。Patel氏は今回の買収について、硬直的で時代遅れで動きの遅い業界において調査をスケールさせる取り組みだと位置づけた。Citriniのブランドは維持され、van Geelen氏は独立系投資調査の将来への期待を語っている。 市場をリアルタイムで追いたい読者は、Gateで現物・先物価格をライブで確認できる。

リスク資産への読み替え

二つの出来事は一つの流れを描く。AIの能力がそれを取り巻く制度よりも速く複利的に拡大し、フロンティアラボでも調査市場でも人間がループの外へ押し出されつつある、という構図だ。リスク資産への影響は直接的である。Microsoftを含むハイパースケールのテナントは、SemiAnalysisが追跡するのと同じコンピュート建設に資本支出を注ぎ続けており、AI関連のヘッドラインは現在、金利データと並んでマクロセンチメントを動かす材料になっている。筆者執筆時点でBitcoin(BTC)は76,652ドル近傍で取引されており、UVXY ETFのような商品にはヘッジ需要が見て取れる。Citriniの買収価格や新ファンド計画など未開示の事項は残されており、調査業界全体でさらなる再編が進む余地を残している。