ハルシネーションとは?
一言でいうと: AIが事実でない内容をもっともらしく答えてしまう現象
ハルシネーションの基本
ハルシネーションとは、生成AIが事実とは異なる内容を、自信ありげにもっともらしく回答してしまう現象のことです。存在しない書籍や論文を紹介したり、実在しない人物の経歴を作ったり、日付や数字を取り違えたりする例が知られています。これは、AIが「正しいこと」ではなく「確率的に自然な文章」を生成する仕組みであるために起こります。知らないことでも、文章の流れとして自然な内容を補ってしまうのです。流暢で説得力のある文章として出てくるため、知識がない分野では見抜くのが難しい点が厄介です。生成AIを使ううえで、最も注意すべき性質の一つとされています。この現象は、使い方によっては大きな誤解やトラブルの原因になるため、仕組みを理解したうえで利用することが大切です。AIの性能が上がるにつれて頻度は下がってきているものの、完全になくなるものではないと考えられています。
ここがポイント
起きやすい場面
AIが「知らない」と言わずに答えようとする場面ほど要注意です。専門的で情報の少ない話題、ごく最近の出来事、数字や固有名詞が絡む質問で起きやすい傾向があります。逆に、一般常識レベルの広く知られた内容では、比較的正確な回答が返ってくることが多いとされています。
具体的な事例
存在しない判例や論文を引用する、実在の人物に別の経歴を語らせる、製品の仕様や機能を間違える、といった例が知られています。いずれも文章自体は自然で流暢なため、その分野に詳しくない人ほど誤りに気づきにくいのが特徴です。出典の確認が欠かせない理由です。
減らすための工夫
根拠となる資料を与えてから回答させる、出典やリンクを確認する、検索機能と組み合わさったサービスを使う、といった方法で頻度を下げられます。ただし、現在の技術では完全になくすことは難しいとされており、最後は人の確認が前提になります。鵜呑みにしない姿勢とセットで運用しましょう。
使うときのコツ・注意点
関連アイテムを楽天市場で探す
広告(PR):楽天市場へのリンクはアフィリエイトリンクです。リンク先で購入されると、このサイトに紹介料が入ることがあります(価格は変わりません)。