ハルシネーションとは？

ハルシネーションの意味

生成AIが、事実に基づかない内容をもっともらしい文章として出力してしまう現象。日本語では幻覚と訳されます。文章としての自然さと内容の正しさが別物であることに起因します。FEでは生成AI活用時のリスクと対策として問われます。

ハルシネーションの具体例

存在しない論文名や条文番号、実在しないAPI関数を、自信のある口調で提示するといった形で現れます。対策は、出典を確認する、社内文書を検索して根拠付きで答えさせる、重要な用途では必ず人間がレビューする運用にすることです。

ハルシネーションは試験でどう引っ掛けられる？

「AIが嘘をつく意図を持つ」わけではなく、確率的に自然な語を並べた結果です。また、プロンプトを工夫しても完全にはなくならないため、対策は「発生させない」ではなく「検証する運用にする」が正解になります。

ハルシネーションと関連する用語

• 生成AI・AIの活用と倫理
• 大規模言語モデル（LLM）
• プロンプトエンジニアリング