近年、ChatGPTやGemini(旧Bing)に代表される大規模言語モデル（LLM）の発展は目覚ましいものがあります。
しかし、これらのAIが時として事実と異なる情報を生成してしまう「ハルシネーション」と呼ばれる現象が問題視されています。ハルシネーションは、LLMを安全に活用する上での大きな障壁となっており、その対策が急務となっています。
本記事では、ハルシネーションの定義や発生メカニズムを解説した上で、そのリスクと影響を分析します。さらに、最新の研究動向を踏まえながら、ハルシネーション問題にどう立ち向かうべきかを探ります。LLMの健全な発展のために、ハルシネーションへの理解を深めることが重要ですので、ぜひチェックしてください！
ハルシネーションとは
「ハルシネーション」という言葉は、もともと医学や心理学の分野で使われてきました。幻覚や幻聴などの知覚異常を指す用語ですが、AI分野においては少し異なる意味合いで用いられます。
AIにおけるハルシネーションとは、言語モデルが学習データに含まれていない情報を生成したり、事実と異なる出力を行ったりすることを指します。
例えば、ChatGPTに「第二次世界大戦の終結年は？」と質問すると、通常は「1945年」という正しい回答が返ってきます。しかし、まれに「1943年」や「1947年」といった誤った回答が生成されることがあります。これがハルシネーションです。
ハルシネーションは、ChatGPTだけでなく、GeminiやCopilotなど他のLLMでも観察されています。その具体例を見てみましょう。
ここで、AIはアインシュタインの業績として「ハイゼンベルクの不確定性原理」を挙げていますが、これは明らかな誤りです。不確定性原理を発見したのはハイゼンベルクであり、アインシュタインではありません。このようにLLMが自信を持って間違った情報を提示してしまうことが、ハルシネーションの特徴です。
ハルシネーションが発生する原因は？
ハルシネーションが発生する原因は複雑ですが、大きくは以下の3つが考えられます。
- LLMの学習方法の限界
- 事前学習データの品質と量の問題
- 言語の曖昧性や文脈依存性
LLMは基本的に、大量のテキストデータから統計的な規則性を学習することで言語を生成します。しかし、この手法では因果関係や論理的整合性までは十分に学習できないため、ハルシネーションが起こりやすいと考えられています。
また、学習に用いるデータの中に誤りや偏りが含まれていると、それがモデルに悪影響を及ぼします。さらに、言葉の多義性や文脈によって意味が変化することも、ハルシネーションの一因と言えるでしょう。
人間とのコミュニケーションを担うAIにとって、ハルシネーションは大きな課題です。その対策を講じることが、LLMの健全な発展には不可欠と言えるでしょう。
ハルシネーションが起こるメカニズム
ハルシネーションが発生する原因を探るには、まずLLMがどのように言語を学習し、生成しているのかを理解する必要があります。LLMは、大量のテキストデータを分析し、単語や文章の統計的な出現パターンを学習することで、人間のような自然な言葉づかいを身につけます。
しかし、この学習方法には限界があります。LLMは主に単語の共起関係に基づいて言語を生成するため、因果関係や論理的整合性までは十分に考慮できていません。そのため、文法的には自然だが内容的に誤りのある文章を生成してしまうことがあるのです。
また、LLMの学習に用いられる事前学習データの影響も大きいと考えられています。インターネット上から収集されたテキストデータには、誤情報や偏見が含まれている可能性があります。LLMがそのようなデータを大量に学習してしまうと、ハルシネーションを引き起こす要因になり得ます。
さらに、LLMのハルシネーションは、RAG（Retrieval-Augmented Generation）とは異なる特徴を持っています。RAGは、入力に関連する情報を外部ナレッジベースから取得し、それを利用して回答を生成する手法です。一方、LLMは事前学習した知識のみに基づいて言語を生成するため、外部情報とのずれが生じやすいのです。
次の図は、LLMにおけるハルシネーションの発生プロセスを簡略化したものです。
- ユーザーからの入力を受け取る
- 事前学習済みのモデルを用いて、入力に対する応答を生成
- 生成された応答の中に、学習データに含まれていない情報や事実と異なる内容が紛れ込む（ハルシネーション）
- ハルシネーションを含んだ応答がユーザーに返される
このプロセスから分かる通り、LLMはユーザーからの入力に応じてその場で応答を生成するため、ハルシネーションを事前に防ぐことが難しいのです。
また、言語の曖昧性や文脈依存性もハルシネーションの原因になり得ます。同じ単語でも文脈によって意味が変化することがありますが、LLMはその違いを完全には理解できていません。そのため、文脈に合わない不適切な言葉選びをしてしまうことがあるのです。
以上のように、LLMのハルシネーションは、複数の要因が絡み合って発生する複雑な現象だと言えます。LLMの学習方法の改善、事前学習データの品質管理、言語の曖昧性への対処など、多角的なアプローチが求められています。
ハルシネーションのリスクと影響
ハルシネーションは、単なるAIの珍回答で済まされない重大なリスクを孕んでいます。特に、情報の信頼性が重視されるニュースメディアや医療分野などでLLMを活用する場合、ハルシネーションによる悪影響は計り知れません。
例えば、ニュース記事の自動生成にLLMを利用した際、ハルシネーションによってフェイクニュースが大量に拡散されるおそれがあります。LLMが生成した記事に誤った情報や根拠のない主張が紛れ込んでいたとしても、それを見抜くことは容易ではありません。フェイクニュースが広まれば、社会的な混乱を招く危険性もあるでしょう。
また、ハルシネーションは機密情報の漏洩リスクも高めます。LLMは学習データの一部を記憶していると考えられており、ユーザーからの入力に応じてそれらの情報を意図せず出力してしまう可能性があります。企業の内部データや個人のプライバシーに関わる情報が流出すれば、深刻な問題に発展しかねません。
医療分野では、ハルシネーションがより直接的な危険をもたらします。診断や治療方針の提案にLLMを活用する場合、ハルシネーションによる誤った助言が患者の生命を脅かしてしまう恐れがあります。医療従事者がAIの出力を鵜呑みにしてしまえば、取り返しのつかない事態を招く可能性も否定できません。
加えて、ハルシネーションは法的・倫理的な問題も引き起こします。LLMが生成した文章が名誉毀損や著作権侵害に当たる場合、責任の所在があいまいになってしまうのです。生成された文章の著作権や法的責任をめぐる議論は、現在も活発に行われています。
さらに、ハルシネーションの問題は、人間とAIの信頼関係にも影を落とします。LLMが頻繁に誤った情報を提示するようでは、ユーザーからの信頼を失ってしまうでしょう。AIへの不信感が高まれば、せっかくの技術の恩恵を十分に受けられなくなる恐れがあります。
以上のように、ハルシネーションのリスクと影響は多岐にわたります。紹介したリスクについてまとめてみました！
- フェイクニュースが大量に拡散されてしまう
- ユーザーからの入力に応じてそれらの情報を意図せず出力してしまう
- 医療分野において、誤った助言が患者の生命を脅かしてしまう
- 生成した文章が名誉毀損や著作権侵害に当たる場合、責任の所在があいまいになってしまう
- ユーザーからの信頼を失ってしまう
など、ハルシネーションがもたらす負の側面は無視できません。LLMの健全な発展のためには、ハルシネーション対策に真剣に取り組む必要があるでしょう。
ハルシネーションへの対策方法
ハルシネーションのリスクを最小限に抑えるためには、多角的な対策が求められます。ここでは、データの品質管理から説明可能性の向上まで、現在考えられているハルシネーション対策を詳しく見ていきましょう！
対策方法①：事前データ学習の品質を高める
まず重要なのは、事前学習データの品質を高めることです。LLMは大量のテキストデータから言語を学習するため、学習データの質が悪ければハルシネーションが起こりやすくなります。データ収集の段階から、信頼できる情報源を選ぶことが大切です。また、「データクレンジング」と呼ばれる前処理を行い、誤りや偏りを含むデータを取り除くことも有効でしょう。
対策方法②：ファインチューニングを工夫する
次に、ファインチューニング手法の工夫も欠かせません。ファインチューニングとは、特定のタスクに合わせてLLMを追加学習することを指します。この際、正解データと不正解データを適切に組み合わせることで、ハルシネーションを抑制できる可能性があります。例えば、意図的に誤った情報を含むデータを学習させ、それを正しく判定できるようにするのです。
対策方法③：ハルシネーションを検知するモデルの開発
また、ハルシネーションを自動的に検知するモデルの開発も進められています。LLMの出力を解析し、事実と異なる情報を見つけ出すことができれば、ハルシネーションのリスクを大幅に下げられるでしょう。
次の図は、そうしたハルシネーション検知モデルの基本的な仕組みを表しています。
ただし、現状のハルシネーション検知技術は万全ではありません。人間による確認作業も必要不可欠です。特に重要度の高い情報については、専門家によるファクトチェックが欠かせないでしょう。
対策方法④：説明可能性（XAI）を向上させる
さらに、説明可能性（XAI）の向上も重要な課題です。LLMがなぜその出力を生成したのか、根拠を明示できるようにすることで、ハルシネーションを見抜きやすくなります。現在、XAIの研究は盛んに行われており、LLMの意思決定プロセスを可視化する手法なども開発されています。
対策方法⑤：プロンプトエンジニアリング
プロンプトエンジニアリングと呼ばれる手法も、ハルシネーション対策として注目されています。これは、LLMへの入力文（プロンプト）を工夫することで、望ましい出力を引き出すアプローチです。例えば、「次の文章に誤りが含まれていないか確認してください」といったプロンプトを与えることで、LLMにファクトチェックを促すことができるでしょう。
対策方法⑥：LLMの出力に確率値を付与する
また、LLMの出力に確率値を付与し、それを基にハルシネーションのリスクを制御する方法も考えられています。確率値が低い出力は、ハルシネーションである可能性が高いと判断できるからです。
以上のように、ハルシネーション対策には多様なアプローチがあります。データの品質向上から説明可能性の追求まで、地道な努力の積み重ねが必要不可欠です。
ハルシネーションに関する事例
ハルシネーションは、様々な場面で観察されています。
ここでは、実際にあったハルシネーションの事例を紹介しながら、その影響と教訓を考えてみましょう。
具体例①：ChatGPTによる誤った歴史情報の生成
OpenAIのChatGPTは、ユーザーとの対話を通じて高度な言語生成を行うLLMです。しかし、歴史に関する質問に対して、ChatGPTが誤った情報を提示するケースが報告されています。
例えば、「第二次世界大戦の戦没者数は？」という質問に対し、ChatGPTは「約7,000万人」と回答することがあります。しかし、実際の戦没者数は軍人・民間人合わせて5,000万人〜8,000万人程度とされており、ChatGPTの回答は誤差が大きいと言えるでしょう。
このように、ハルシネーションによって誤った歴史認識が広まるリスクは無視できません。LLMを活用する際は、出力内容を鵜呑みにせず、信頼できる情報源と照らし合わせることが重要です。
具体例②：Google Bard(現Gemini)のハルシネーションとその影響
GoogleのLLMであるBard(現Gemini)も、ハルシネーションの問題を抱えています。2023年5月、Bard(現Gemini)がデンマークの選挙に関する誤情報を生成し、大きな議論を呼びました。
Bardは、デンマークの第一党が極右政党であると回答しましたが、実際には中道左派政党が第一党でした。この誤りは、デンマークのメディアで大きく取り上げられ、Googleに対する批判の声が上がりました。
政治に関する誤情報は、選挙結果に影響を及ぼしかねません。ハルシネーションが民主主義の根幹を揺るがす危険性も、この事例から読み取ることができるでしょう。
具体例③：MidJourneyが生成した架空の人物画像
ハルシネーションは、言語モデルだけでなく画像生成AIでも起こり得ます。その一例が、MidJourneyによる架空の人物画像の生成です。
2023年3月、とある研究者がMidJourneyに「歴史上の偉人の肖像画」を生成するよう求めたところ、実在しない人物の画像が出力されました。画像は一見リアルで、肖像画風の趣がありましたが、よく見ると不自然な点が多数見受けられました。
このように、画像生成AIのハルシネーションは、フェイク画像の拡散につながる恐れがあります。AIが生成した画像を無批判に使用することは危険だと言えるでしょう。
具体例④：医療分野でのハルシネーションリスク
医療分野では、ハルシネーションが患者の生命に直結する危険性があります。2022年、ある医療機関がLLMを用いて患者の診断を行ったところ、誤った結果が出力されるトラブルがありました。
LLMは、患者の症状に関する記述から、誤って「重篤な心疾患の可能性がある」と判断したのです。幸い、医師が最終的な診断を下す際にLLMの出力を鵜呑みにすることはありませんでしたが、もしそのまま信じていれば、患者に不要な検査や治療が行われた可能性もあります。
医療分野でLLMを活用する際は、ハルシネーションのリスクを十分に認識し、人間の専門知識による確認を怠らないことが肝要です。
まとめ
いかがでしたでしょうか？
AIにおける「ハルシネーション」の意味や、その対策方法や具体例などを詳しくご紹介してきました！
ハルシネーションは、大規模言語モデル(LLM)の健全な発展を阻む大きな障壁ですが、着実な対策を積み重ねることで、その影響を最小限に抑えることができるはずです。
LLMのポテンシャルを最大限に引き出すためには、ハルシネーションのリスクと正面から向き合う必要があります。ハルシネーション問題の解決に向けて、一人一人が意識を高めていくことが何より大切だと言えます！
- ChatGPTで〇〇を効率化したい
- スライドを作るならどのAIツールがおすすめ？
- おすすめのGPTsが知りたい
同じ悩みを解決した人がいるかもしれません。ぜひ質問してみてください！
