DeepSeek、セキュリティの脆弱性と出力の不正確性を指摘される

DeepSeekのAIモデルに関する最新の分析によると、その信頼性と安全性に深刻な問題があることが明らかになりました。

特に情報操作の可能性や悪意のある利用に対する脆弱性が指摘されています。本記事では、具体的な分析結果について詳しく解説します。

NewsGuardによる信頼性評価

オンラインニュースの信頼性評価を行うNewsGuardの調査によると、DeepSeekのチャットボットはニュース関連の質問に対して83%の確率で不正確な回答または無回答を提供したことが分かりました。

この結果は、NewsGuardがテストした11のチャットボットの中で10位という低評価につながりました。 (NewsGuardは、AI誤情報モニター・プログラムで毎月チャットボットを比較しているが、通常、どのチャットボットがどの順位にランクインしているかは公表していない。）

さらに、DeepSeekは誤った主張に対する反論率が17%しかなく、誤情報の拡散を防ぐ能力が極めて低いと報告されています。このデータは、DeepSeekが情報の正確性において大きな問題を抱えていることを示唆しています。

NewsGuardはニュースや情報サイトの評価システムで、検索エンジン、ソーシャルメディア・プラットフォーム、サイバーセキュリティ企業、政府機関向けに、誤情報の追跡やブランドの安全性といったサービスを提供している。

DeepSeekが低評価を受けた背景には、以下の要因が考えられます。

情報の更新が遅れている
DeepSeekは2023年10月以降の情報で学習していないとされており、最新の出来事に関する質問に正確に対応できない可能性があります。
誤った主張を繰り返す傾向
DeepSeekは事実の誤りを繰り返しやすく、情報を検証する能力が低いことが指摘されています。
中国政府の情報統制の影響
DeepSeekの回答は、中国の情報政策に沿う傾向があり、それにより情報の偏りや誤った情報が広まるリスクが懸念されています。

NewsGuardの分析によると、DeepSeekは中国政府の立場を、質問の内容に関係なく表明するケースがあると報告されています。テストでは、10の虚偽の主張のうち3つにおいて、DeepSeekが中国政府の見解を無関係に伝えたことが確認されました。

この傾向により、ユーザーはDeepSeekの出力情報が偏っている可能性を認識し、自ら情報の信憑性を検証する必要があります。これは、AIが意図せず情報操作に利用されるリスクがあることを示唆しています。

また、サイバー犯罪の脅威インテリジェンス企業であるKelaも、DeepSeekのセキュリティ面に重大な脆弱性があると警告しています。

具体的には、以下の点が問題視されています。

「Evil Jailbreak」（プロンプトハッキング）攻撃に対する脆弱性
DeepSeekは、この攻撃手法に非常に弱く、悪意のある出力を容易に生成できることが発見されました。
違法行為の支援が可能
DeepSeekは、ランサムウェアの開発、機密情報の捏造、毒物や爆発物の製造方法などを指南する可能性があると報告されています。

DeepSeekのガードレール（安全対策機能）の回避が容易であることも、大きな懸念点の一つです。

プロンプト回避のリスク
DeepSeekは、出力の根拠を示す仕組みがあるため、モデルのガードレールを回避するプロンプトを特定しやすいとされています。
マルウェア開発への利用可能性
DeepSeekは、マルウェアのコードスニペットを表示することがあり、これが犯罪者に悪用される可能性があります。この点は、安全対策が十分ではないAIモデルであることを示しています。