ハルシネーション（AIがもっともらしい誤りを作り出す現象）
英語 hallucination
ハルシネーションは、AIが事実でない内容をもっともらしく作り出す現象です。AIの回答をサイトに載せる前に人が確認すべき理由です。
ハルシネーションとは、AIが事実ではない内容を自信ありげな口調で作り出してしまう現象です。分からない問題でも空欄にせず、それらしく埋めてしまう試験の答案に似ていて、一見すると正しい答えに見えます。存在しない研究や実在しないURL、誤った細部などがその例です。
気をつけたい点 同じ質問を複数のチャットボットに投げて見比べると誤りに気づきやすくなりますが、ハルシネーションを防げるわけではありません。サイトに載せる価格や日付、法律に関わる内容は、AIが書いたあとで公式の資料を使って人が確認してください。
出典: Google Cloud、IBM、arXiv「Why Language Models Hallucinate」