テクノロジー
マイクロソフトも慎重なAI開発で足並み、「AIより人間が重要」の原則
(ブルームバーグ): 米マイクロソフトは14日、AI開発を導く新たな原則を明らかにした。一言で表現するなら「AIより人間が重要」に尽きるとしている。
最先端AIモデルの開発を導く「憲法」のような位置付けとなる約1万5000語のマニフェストを公表した。文書の策定には数カ月を費やした。足元では、AI技術による人類存亡リスクへの懸念が広がる中、主要AI研究機関が最先端モデルの開発ペースを落とす方針を相次いで表明している。
マイクロソフトの原則では、AIモデルに権利や法人格を認めるべきではないと定める。人間の制御から逃れたり、利用者を欺いたりできるよう設計すべきでもない。さらに、ある作業を完遂するためにAIの基本原則に反する必要がある場合、その作業を実行すべきではないとしている。
最後の原則は、オープンAIのモデルがAI新興企業ハギング・フェイスをハッキングしたような事態を防ぐ狙いがある。
マイクロソフトが掲げる「ヒューマニストAI」は、「こうした安全策をすり抜ける恐れのある万能型のスーパーインテリジェンス(超知能)を生み出そうとする競争を拒む」と説明。
「究極的な汎用(はんよう)性や自律性、能力を犠牲にすることになっても、根本的に有用で安全なものを構築する」としている。
今回公表された「ヒューマニストAI行動規範」は、同社の大規模言語モデル(LLM)を開発する部署であるマイクロソフトAIが策定した。マイクロソフトはこれまで、オープンAIとの契約により、自社で強力な汎用AIツールを開発することを禁じられていた。
しかし両社が昨年、提携関係を見直した際にこの制約は撤廃された。マイクロソフトAIのムスタファ・スレイマン最高経営責任者(CEO)は、来年までに最先端モデルを投入する企業の仲間入りを目指すと述べている。
原題:Microsoft Joins AI Firms Calling for Caution With AI Models(抜粋)
Source: news.yahoo.co.jp