ハルシネーション

ハルシネーションは、AIが事実ではない内容をもっともらしく答えてしまう現象のことで、日本語では「幻覚」と訳されます。LLMは文章の意味を理解しているのではなく、それらしい言葉の続きを計算しているため、知らないことも作って答える場合があります。実在しない論文や誤った数字を挙げることが代表例です。とくに専門分野や新しい話題で起きやすく、回答の裏付けを確認することや、RAGなどの対策技術が必要になります。