生成AI、実在しない観光名所を発信：自治体後援のサイトで誤情報問題発生

生成AIによる誤情報拡散の懸念が現実のものとなった。福岡県の観光PRを目的として今月開設されたウェブサイト「福岡つながり応援」において、実在しない観光施設や特産品が紹介され、行政の信頼を揺るがす事態となっている。

誤情報の実態

サイトには「うみなかハピネスワールド」という架空のアミューズメント施設や、すでに閉園している「かしいかえんシルバニアガーデン」が現存する施設として掲載された。さらに古賀市では実在しない「福津大自然公園」や「古賀刺身定食」などが観光スポットとして紹介されていた。

運営元の東京のウェブ関連会社は、生成AIを用いてインターネット上の情報を基に記事を作成していたことを認め、7日付で謝罪。全記事を削除する事態となった。

この事態を受け、サイトを後援していた福岡市は14日付で後援を取り消した。市担当者は「生成AIの使用は事前に知らされておらず、内容の正確性は大前提」と述べている。飯塚市も対応を検討中で、「生成AIの使用は把握していなかった」と困惑を示している。

情報セキュリティの専門家によると、生成AIによる情報生成には以下のようなリスクが伴うという。

本件は、生成AIの活用における適切な監視体制の構築と、情報の正確性確保の重要性を浮き彫りにした。特に行政関連の情報発信では、より慎重な対応が求められる。

運営会社の社長は「システムを過信し、十分な確認を怠った」と反省の弁を述べているが、今後は生成AI活用のガイドライン整備や、人的チェック体制の確立が急務となっている。

この事例は、生成AIの便利さと同時に、その運用には適切な管理体制が不可欠であることを示す教訓となった。