OpenAI、ChatGPTを悪用するイランの誤情報集団を摘発

OpenAIは最近、同社の人工知能チャットボットChatGPTを利用して政治的プロパガンダを拡散しようとしていたイランの影響力作戦グループを特定し、排除したと発表しました。この動きは、AIツールが誤情報キャンペーンの新たな手段として使用される可能性に対する警鐘を鳴らしています。

Storm-2035：ChatGPTを悪用する誤情報キャンペーン

OpenAIの調査によると、「Storm-2035」と呼ばれるイランの影響力作戦グループが、ChatGPTを使用して偽情報を生成し、オンラインで拡散しようとしていたことが明らかになりました。このグループの主な戦略は以下の2点でした。

これらの投稿や記事は、2024年の米国大統領選挙、イスラエルとハマスの紛争、米国のラテン系住民の権利など、注目度の高い政治的トピックに焦点を当てていました。

OpenAIは、この誤情報キャンペーンが実際にはほとんど効果を上げていなかったことを強調しています。生成されたコンテンツの大部分は、オンラインユーザーからほとんど反応を得られませんでした。

OpenAIの主任研究員ベン・ニモ氏は次のように述べています。

「この作戦は、AIの使用によって視聴者の関心が著しく高まったという恩恵を受けていないようです。実際の人々からかなりの関心を得ている兆候はまったく見られませんでした。」

OpenAIは迅速に対応し、この作戦に関連するChatGPTアカウントのクラスターを特定し、禁止しました。また、同社は他の技術企業や政府機関と情報を共有し、このような悪用を防止するための協力体制を強化しています。

この事件は、ChatGPTのような高度なAIツールが誤情報キャンペーンの新たな手段として悪用される可能性を示しています。特に、2024年に世界中で重要な選挙が予定されている中、AIが生成したコンテンツに対する警戒が必要です。

OpenAIの対応は、技術企業が自社のAI技術の悪用を積極的に監視し、防止する責任を負っていることを示しています。同社のスポークスパーソンは次のように述べています。

「我々は常に警戒を怠らず、ChatGPTを含む当社の技術の不適切な使用を積極的に追跡し、阻止していきます。」

OpenAIの発表に先立ち、マイクロソフトとグーグルも同様のイラン関連の誤情報キャンペーンを特定したと報告しています。

マイクロソフトは、Storm-2035を正当な報道機関を装った4つのウェブサイトで構成されたイランのネットワークであると特定しました。これらのサイトは、大統領候補、LGBTQの権利、イスラエルとハマスの紛争について報道していました。

グーグルは、イランとつながりのあるハッキンググループAPT42が、フィッシング攻撃でトランプ氏とバイデン氏の大統領選キャンペーンを標的にしたと報告しています。

AIツールの進化に伴い、誤情報の生成と拡散の手法も洗練されていく可能性があります。技術企業、政府機関、メディア、そして一般市民が協力して、このような脅威に対抗することが重要です。

OpenAIの取り組みは、AI企業が自社の技術の悪用を防ぐための積極的な姿勢を示す好例となっています。今後、AI技術の発展と並行して、誤情報対策の強化が求められるでしょう。