Microsoft AI安全誓約：Suleyman氏が超知能開発の潜在リスクで停止の可能性を強調

• マイクロソフト、OpenAIとの提携再編成により、超知能AIの構築に向けた自由を回復。

• 現在のAIツールであるCopilotは依然として実験段階で、複雑な消費者タスクに信頼性を持って対応できる状態ではありません。

• スレイマン氏は、安全に関する約束を不可欠だと考えていますが、AI業界全体では珍しいものであり、大手企業から大規模な害の証拠は見つかっていません。

マイクロソフトのAI安全誓約：ムスタファ・スレイマン氏、リスク発生時は開発停止を約束。人間中心の調整を優先しつつ超知能を可能にするこの変化を解説。倫理的AI進展の最新情報をチェック。

マイクロソフトのAI安全に対する立場とは？

マイクロソフトのAI安全は、人間の利益に沿った超知能システムの構築を軸とし、安全を脅かす場合には開発を停止することを中心としています。同社の消費者向け人工知能責任者であるムスタファ・スレイマン氏は、ブルームバーグの「The Mishal Husain Show」でのインタビューでこの約束を述べました。彼は、安全策なしに純粋な力の追求は許されないと強調し、マイクロソフトを責任あるAIイノベーションのリーダーとして位置づけています。

マイクロソフトとOpenAIの提携はどのように進化したか？

マイクロソフトとOpenAIの提携は10月に大幅な変更を遂げ、マイクロソフトが人工汎用知能（AGI）および超知能の開発権を回復するようになりました。以前は、OpenAIのモデルへのアクセスとインフラ支援の代わりに、そうした作業を契約上制限されていました。現在、OpenAIはソフトバンクやオラクルなどのパートナーからデータセンター契約を確保したことで、マイクロソフトは独自の先進AI技術の追求が可能になりました。スレイマン氏は、過去18ヶ月間マイクロソフトが汎用AI開発者として活動してきたものの、この変化により人間のパフォーマンスを超えるタスク全般を扱うシステムの探求が可能になったと述べています。ブルームバーグの報道によると、この再編成によりマイクロソフトは従来の制約から解放され、AI市場での直接的な競争を強化できます。

よくある質問

マイクロソフトがOpenAIとの契約を再編成したきっかけは何ですか？

再編成は、OpenAIがマイクロソフトのコミットメントを超えるデータセンターを追加で確保するため、ソフトバンクやオラクルとのインフラ提携を拡大したことがきっかけです。その見返りとして、マイクロソフトは人間の能力を超える可能性のある独自の先進AIシステム開発の自由を獲得しました。これは、スレイマン氏のブルームバーグインタビューで説明されています。

マイクロソフトのCopilot AIは日常の消費者利用に適していますか？

マイクロソフトのCopilotは、エージェントのような機能がまだ実験段階にあり、チケット予約やスケジュール計画などのタスクで常に信頼性を持って動作するわけではありません。スレイマン氏は、成功事例を魔法のようなものと表現しつつ、消費者や経営者の生産性向上はまだ進行中だと強調しています。

主なポイント

• AI開発の安全第一：AIが制御不能になるリスクがあれば、マイクロソフトは開発を停止します。これはスレイマン氏が業界では明らかだが珍しい立場だと述べています。
• 提携の転換点：10月のOpenAIとの契約により、マイクロソフトの自治が回復され、超知能研究が可能になりました。一方、OpenAIはインフラ支援を多様化しています。
• 実用的制限：長期的な野心にもかかわらず、Copilotのような現在のツールは現実世界の期待を確実に満たすためのさらなる洗練が必要です。

結論

要約すると、ムスタファ・スレイマン氏のリーダーシップの下でマイクロソフトがAI安全に再焦点を当て、人間中心の調整を優先した超知能への慎重かつ野心的な一歩を踏み出しています。同社が過去のOpenAI制約から解放される中、セキュリティを損なうことなく倫理的イノベーションを提供することを目指しています。将来的に、このアプローチはAIセクターのベンチマークとなり、業界全体の責任を促進する可能性があります。技術の未来への影響を理解するため、進展を注視してください。

マイクロソフトの消費者向け人工知能責任者ムスタファ・スレイマン氏は、先進AIが人間の安全を脅かす場合、開発を即座に停止すると述べました。ブルームバーグの「The Mishal Husain Show」での発言で、ムスタファ氏はマイクロソフトの焦点が人間の利益に沿った超知能構築であり、無制限の力の追求ではないことを誓いました。

「私たちから逃げ出す可能性のあるシステムの開発を続けるつもりはありません」とムスタファ氏はインタビューで述べました。彼は、この立場が物議を醸すものではないとし、明らかなものだと呼びかけましたが、AI業界全体ではまだ珍しいと信じています。

マイクロソフト、先進AIシステム構築の自由を回復

ムスタファ氏は昨年初頭、マイクロソフトが彼のスタートアップInflection AIの知的財産とチームの大部分を買収した後、OpenAIを離れて消費者向けAIツールに注力する形で同社に加入しました。

買収後、ムスタファ氏は市場で最強のモデルと直接競う製品の構築を任されました。

その期間の多くで、彼の仕事には制限がありました。マイクロソフトとOpenAIの提携による契約条件により、同社は人間レベルの性能を発揮する人工汎用知能（AGI）、および人間の能力を超える超知能の開発がブロックされていました。

ムスタファ氏は、マイクロソフトがOpenAIの最新モデルへのアクセスを代償にこれらの権利を放棄したと述べました。その取り決めには、数年にわたりOpenAIのためのデータセンターの構築と装備も含まれていました。

その構造は10月に変わりました。新たな契約が関係性を再形成し、開発権をマイクロソフトに戻しました。

ムスタファ氏は、OpenAIが今やソフトバンクやオラクルを含む他のパートナーとのインフラ契約を持ち、マイクロソフトがコミットした以上にデータセンターを構築できると述べました。「彼らは今、ソフトバンクやオラクルなど多くのパートナーと契約を結んで、マイクロソフトが彼らのために構築したくなかった以上のデータセンターを構築しています」と彼は言いました。「その見返りとして、私たちは独自のAIを開発する権利を得ました。」

彼は、過去18ヶ月間マイクロソフトが汎用AI開発者として活動してきたが、今はタスク全般で人間のパフォーマンスを超える可能性のある仕事に移行していると述べました。

「過去18ヶ月間、私たちは汎用AI開発の場として活動してきましたが、今はすべてのタスクで人間のパフォーマンスを超える可能性のある技術と方法論に取り組めます」とムスタファ氏は述べました。「これは私たちにとって変化です。」

スレイマン氏、ツールが未完成のまま慎重なアプローチを概説

先月、ムスタファ氏はブログ投稿で超知能の取り組みを正式に発表し、そうしたシステムは人々のために設計されなければならないというマイクロソフトの立場を述べました。他の主要プレーヤーであるOpenAIやAnthropic PBCも、安全と人間の利益に関する同様の主張をしばしばしています。

「誰もが自分たちの立場と運営方法を決める必要がありますし、今の彼らの運営を判断したくありません」と彼は述べました。「大規模な大量害の証拠は見当たりません。」

超知能への長期的な焦点にもかかわらず、ムスタファ氏は現在の議論はまだ学術的だと述べました。

消費者はチケット予約やショッピング計画の整理などのタスクを扱えるアシスタントを期待しています。経営者は生産性向上を期待しています。どちらのグループもまだ完全に実現していません。

ムスタファ氏はマイクロソフトの消費者アシスタントであるCopilotを例に挙げました。彼は、そのエージェントのような機能がまだテスト中であり、常に意図した通りに動作しないと述べました。

「私たちはまだこれを試しています」とムスタファ氏は述べました。「しかし、うまくいくと、それはこれまで見た中で最も魔法のようなものです。」