サンフランシスコ市検察局は、女性や子供のヌードディープフェイクを本人の同意なく作成するAI搭載の「Undressing」ウェブサイト16社に対して訴訟を起こしました。これらのウェブサイトは2024年上半期に合計2億回以上アクセスされており、深刻な社会問題となっています。
訴訟の詳細
今回の訴訟の詳細は、以下の通りです。
| 対象 | 16の「Undressing」ウェブサイト |
| 訴訟理由 | ・リベンジポルノ、ディープフェイクポルノ、児童ポルノを禁じる法律違反 ・カリフォルニア州の不正競争法違反 |
| 目的 | ・ウェブサイトのオフライン化 ・運営者の今後のディープフェイクポルノ作成の永久禁止 ・民事罰の請求 |
問題となっている「Undressing」ウェブサイトの特徴
訴訟の対象となった「Undressing」ウェブサイトは、
- ユーザーが服を着た人物の画像をアップロード
- AIツールが画像を「脱がせて」偽のヌード画像に変換
- 被写体の同意なしに作成
という特徴があります。この使用方法が今回問題となっているのです。
社会的影響
今回の問題により、以下の社会的な悪影響があると言われています。
- 女性や少女への脅迫、いじめ、恐喝に使用
- 著名人から中学生まで幅広い被害者
- 精神衛生、自立、評判への深刻な影響
これらを阻止するために、サンフランシスコ市検察局が訴訟を起こしました。
この問題について、サンフランシスコ市検事のデビッド・チウ氏は、「この調査はインターネットの最も暗い隅にまで及んだ。この搾取に耐えなければならなかった女性や少女たちのことを思うと、本当に恐ろしい」と語っています。
今後の展望
今後の展望としては、
- ディープフェイク技術の規制強化
- AI倫理に関する法整備の加速
- デジタルリテラシー教育の重要性の増大
これらの対策・規制が求められています。
AI技術の急速な発展に伴い、その悪用も深刻化しています。本訴訟は、テクノロジーの進歩と個人の権利保護のバランスを取る上で重要な一歩となるでしょう。今後、AI倫理や法整備に関する議論がさらに活発化することが予想されます。
