-
イーサリアムの共同創設者であるヴィタリック・ブテリンが、急速に進化する超知能AIのリスクに対して緊急の防御策を呼びかけています。
-
ブテリンは、AIフレームワークに人間の監視を優先させるべきだと主張し、AIの軍事化が世界的なリスクを悪化させる可能性があると指摘しています。
-
彼の提案では、潜在的な悲劇的結果を軽減するための責任ルールや国際的なコントロールといった具体的な戦略が強調されています。
この記事では、人工知能がもたらすリスクに対処するための規制措置に対するヴィタリック・ブテリンの緊急の呼びかけを検討し、人間の監視と責任を強調します。
ブテリンのAI規制計画：責任、停止ボタン、国際的コントロール
1月5日に発表したブログ投稿で、ヴィタリック・ブテリンは「d/accまたは防御的加速」の概念を説明し、技術は危害を防ぐために防御的に開発されるべきだと示唆しました。これは彼が以前に抱いていた人工知能の影響に関する懸念を引き続き示しています。 「AIが誤った方向に進むことで世界が悪化する一つの方法は（ほぼ）最悪のシナリオです：それは文字通り人類の絶滅を引き起こす可能性があります」と、2023年に彼は述べ、この問題の緊急性を強調しました。
ブテリンは、超知能が近い将来に実現する可能性があると改めて警告し、「AGIまでのタイムラインは3年、超知能までのタイムラインもさらに3年の可能性が高い」と言っています。このような予測は、高度AI技術に関連するリスクを軽減するための即時の行動を促します。
潜在的な災害に対抗するために、ブテリンは人間の意思決定に密接に結びついた分散型のAIフレームワークを提案しています。このアプローチは、AIが自主的な決定を下す能力を持つのではなく、ツールとして機能することを確保することを目指しています。
AIリスクにおける軍の役割
さらにブテリンは、ウクライナやガザのような紛争地域におけるAIの軍事化の懸念される進展に言及しています。規制の枠組みから大部分免除される可能性のある軍隊に対して、ブテリンは警告を発しています、「軍が『AIの破滅』シナリオに対する責任ある行為者になり得る」と。これは、軍事的な文脈でAI技術がどのように管理されるべきかの再評価の必要性を浮き彫りにします。
彼の規制の青写真では、AI技術のユーザーがその出力と結果に対して責任を負うシステムを提唱しています。 「モデルがどのように開発され、それがどのように使用されるかの関係はしばしば明確ではないが、ユーザーは正確にAIの使用方法を決定する」と彼は指摘し、ユーザーを責任に持たせる重要性を強調します。
コントロール手段の実施
効果的な責任措置が失敗した場合、ブテリンは社会に重大な危険をもたらすAIの開発を一時的に停止させる「ソフト停止」ボタンの実装を提案しています。彼は、「重要な期間において、世界中で利用可能な計算能力を約90〜99％削減する能力を持つことが目標であり、人類が準備するための時間を確保することになるだろう」と述べています。これは、社会が適切に進歩を管理し規制できる重要な余裕を提供するものです。
この停止を実施するために、ブテリンはAIの位置確認および登録のメカニズムを提案しています。また、AIシステムが特定の条件下でのみ機能するようにするためのハードウェア制御メカニズムの必要性も唱えています。彼は、「このチップは、AIシステムが国際機関から週に三つの署名を受け取った場合にのみ機能することを可能にする」と述べ、これらの署名のうち少なくとも一つは非軍事組織でなければならないと付け加えています。
しかし、ブテリンはそのような措置が完璧ではないことを認めており、それらが固有の制限を持つ一時的な保険手段であると述べています。
結論
ヴィタリック・ブテリンのAI規制の必要性に関する洞察は、技術業界が未制御の人工知能の進展によるリスクについて高まる懸念を強調しています。彼の責任措置の提唱や国際的なコントロールの確立は、安全性と監視を優先するフレームワークを実装する緊急性を際立たせています。これらの提言は、AI技術の進化が人間の安全と倫理的配慮の犠牲にならないようにするために重要である可能性があります。
