東京都内の私立中学校で、生成AIによる誤った情報の提供が原因で、生徒の半数以上が同じ誤答をしてしまった事態が起こりました。
このAIニュースのポイント:
- ある私立中学校の1年生250名の約半数が、理科の課題において、生成AIが表示した「誤答」を提出してしまう事例が発生しました。
- 教諭の指摘を受けて、誤答の出典となった企業は情報を修正しました。
- この出来事は、生成AIの情報を「鵜呑み」にするのではなく、情報の正確性を自ら確認する重要性を示しています。
原因は生成AIがネット上の「誤った情報」をもとに回答してしまったため
原因は、ネットを使った調べ物を許可されていた生徒たちに、生成AIが「唾液アミラーゼは食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする」という誤った回答を提供してしまったためでした。
この情報は、キユーピーの公式ホームページにも同様の記述があったため、生成AIはそれを信頼性のある情報として生徒たちに提供していたのです。
この間違いに気付いた男性教諭は、生徒たちに対してでんぷんは実際には口と十二指腸で分解されること、胃では消化されないことを説明しました。さらに、キユーピーに対して誤解を招きかねない表現の修正を要請し、同社は速やかにホームページの記述を訂正しました。
生成AIの使用には情報リテラシーの意識も必要
この事件は、生成AIが提供する情報の正確性を鵜呑みにせず、自分自身で情報を検証することの重要性を強調しています。
男性教諭は、「(正しい知識を学び直すことで)結果的に唾液アミラーゼの働きについて学習の理解が深まった。生成ＡＩは間違った回答を示すこともあり、生徒たちにとっては自分で調べることの大切さを知る良い機会になった」と話しています。
また、キユーピーが誤った情報を修正したことで、企業が外部に発信する情報の正確性に対して責任を持つことの必要性も示されました。
この一連の出来事は、教育現場だけでなく、一般の情報消費者にとっても、AI生成コンテンツを扱う際の注意喚起となります。
出典: 読売新聞
