生成AI「ChatGPT」を手がけるアメリカの企業オープンAIは、AIの安全対策を強化するための新たな委員会を設置しました。この委員会は、AIの安全性に関する重要な決定について勧告を行う役割を担います。
今回は、こちらのニュースについて解説していきます。
サム・アルトマンCEO主導の新委員会を設置
OpenAIは2024年5月28日、サム・アルトマンCEOをはじめとする主要メンバーで構成される委員会を設立し、AIの安全対策を強化する方針を発表しました。この委員会は、会社の全プロジェクトにおける安全性に関する重要な決定を取締役会に勧告する役割を果たします。
この委員会は、AGI（汎用人工知能）に向けた次のモデル開発を進める中で、90日間をかけてオープンAIの安全対策を包括的に評価する予定です。これは、AI技術の進展と共に増大する安全性への懸念に対処するための取り組みです。
辞職した幹部の批判と最新モデルへの抗議
OpenAIは最近、幹部の辞職に伴う批判にも直面しています。中旬に辞職した幹部はSNSで「ここ数年、安全性は華やかな製品開発に比べて後回しにされてきた」と公然と批判しました。
さらに、アメリカのメディアによると、13日に発表された生成AIの最新モデルの音声機能について、俳優のスカーレット・ヨハンソン氏が「自分の声に不気味なほど似ている」と抗議する声明を出しました。会社側は「意図的に似せたつもりはない」と指摘を否定する一方で、音声機能の一部を停止する措置をとっています。
こうした背景の中、OpenAIが新委員会を設置したことは、安全性を重視する姿勢を強調する意図があると見られます。同社はAI技術の進展と共に安全性への取り組みを強化し、社会的な信頼を維持するための措置を講じているのです。
この動きは、AIの進化とその安全性に対する社会の関心が高まる中、重要な一歩となるでしょう。
