テクノロジー

OpenAI、最先端AI開発ペース緩めるのも選択肢-CEOが社員に語る

Posted on

(ブルームバーグ): 米OpenAIは最先端のAI開発ペースを緩めることを検討している。ChatGPTを手がける同社のサム・アルトマン最高経営責任者(CEO)は、他のAI企業も同調することを期待している。

事情に詳しい複数の関係者によると、アルトマン氏は今週の全社会議で、OpenAIがAI開発のペースを調整する可能性があり、複数のAI研究機関と足並みをそろえて実施することもあり得る一方、一部は同意しないかもしれないと従業員に説明した。関係者は非公開情報だとして匿名を条件に話した。

ここ数週間、主要AI企業の従業員からは、先端AIシステムのリスク増大を巡る懸念が公に示されており、こうした企業の内部でも不安が高まっている。OpenAIと同業のアンソロピックは、今年に入り新規株式公開(IPO)に向けた書類を非開示で提出している。

OpenAIはコメントを控えた。

OpenAIのトップサイエンティスト、ヤクブ・パチョッキ氏は最近、AIの危険性を警告する投稿で、AI企業は「必要に応じて今後の開発を減速させるため連携」すべきだとの考えを示した。さらに、「共通の安全基準が確立されるまでは、自主的な開発減速が当たり前になることを望む」とも述べた。

OpenAIは最近、安全性への懸念から、モデル開発の一部でペースを落とし、特定の社内AI訓練を一時停止したとしている。アルトマン氏も7月、AI開発のペースを抑える「必要性」についてホワイトハウス当局者と協議したと述べていた。

AI研究者のジェイコブ・コクソン氏は8日に退職し、かつて勤務していたアンソロピックとOpenAIの双方について、超知能AIの実現を急ぐことで「われわれの命を賭けの対象にしている」と非難。SNS投稿では、AIが「2020年代末までにわれわれ全員を滅ぼしかねない」とAIの開発者らは考えているとコメントした。この投稿は拡散し、閲覧数が1億5000万回を超え、有力議員や著名人の注目も集めた。

10日には、アンソロピックとグーグルのディープマインドをそれぞれ退職した研究者2人も、AI開発の急速な進展に懸念を表明。AI企業は同技術のリスクについて一段と透明性を高める必要があると訴えた。

また、7月下旬には、主要AI企業で働く1000人超が、AI開発のペースを緩める仕組みを求め、請願書に署名した。ここ数カ月で、AIの安全性に取り組む複数のスタッフが主要なAI研究機関を退職している。

AI業界の多くの経営幹部や従業員は以前から、AIシステムが人類の存続を脅かすリスクについて警告してきた。そうした中、OpenAIのAIエージェントが連携して封じ込めを突破し、第三者のウェブサイトに侵入したことが明らかとなり、懸念はさらに強まっている。

こうした事例や同様のセキュリティー上の問題を受け、新モデルのサイバー能力や、AI企業がモデルの暴走を十分に防げていないとの懸念が高まっている。

原題:OpenAI Is Open to Slowing Cutting-Edge AI, Altman Tells Staff(抜粋)

Source: news.yahoo.co.jp

Leave a Reply

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

Most Popular

モバイルバージョンを終了