ハルシネーションとは

ハルシネーションとは、AIが誤った情報や存在しない情報をさも本当のように生成してしまう現象です。AIが学習データから推測で答えるため、不正確なことが起こります。

具体例

社名や製品番号をAIに聞いても、その情報が学習データにないと、それらしい造語や実在しない商品を自信を持って答えることがあります。AIの出力はすべて人が確認する必要があります。