AI・ガジェット辞典

AIとガジェットの言葉を、わかりやすく

ハルシネーションとは?

AI用語
🌀
ハルシネーション

一言でいうと: AIが事実でない内容をもっともらしく答えてしまう現象

ハルシネーションの基本

ハルシネーションとは、生成AIが事実とは異なる内容を、自信ありげにもっともらしく回答してしまう現象のことです。存在しない書籍や論文を紹介したり、実在しない人物の経歴を作ったり、日付や数字を取り違えたりする例が知られています。これは、AIが「正しいこと」ではなく「確率的に自然な文章」を生成する仕組みであるために起こります。知らないことでも、文章の流れとして自然な内容を補ってしまうのです。流暢で説得力のある文章として出てくるため、知識がない分野では見抜くのが難しい点が厄介です。生成AIを使ううえで、最も注意すべき性質の一つとされています。この現象は、使い方によっては大きな誤解やトラブルの原因になるため、仕組みを理解したうえで利用することが大切です。AIの性能が上がるにつれて頻度は下がってきているものの、完全になくなるものではないと考えられています。

ここがポイント

起きやすい場面

AIが「知らない」と言わずに答えようとする場面ほど要注意です。専門的で情報の少ない話題、ごく最近の出来事、数字や固有名詞が絡む質問で起きやすい傾向があります。逆に、一般常識レベルの広く知られた内容では、比較的正確な回答が返ってくることが多いとされています。

具体的な事例

存在しない判例や論文を引用する、実在の人物に別の経歴を語らせる、製品の仕様や機能を間違える、といった例が知られています。いずれも文章自体は自然で流暢なため、その分野に詳しくない人ほど誤りに気づきにくいのが特徴です。出典の確認が欠かせない理由です。

減らすための工夫

根拠となる資料を与えてから回答させる、出典やリンクを確認する、検索機能と組み合わさったサービスを使う、といった方法で頻度を下げられます。ただし、現在の技術では完全になくすことは難しいとされており、最後は人の確認が前提になります。鵜呑みにしない姿勢とセットで運用しましょう。

使うときのコツ・注意点

AIの回答は、間違いであっても断定的な口調で提示されることが多いため、鵜呑みにしない姿勢が大切です。特に医療、法律、お金に関わる判断では、必ず専門家や公式情報で確認してください。「AIがそう言ったから」は根拠になりません。複数のサービスで同じ質問をして答えを比べる方法も、誤りに気づく手がかりになります。

関連アイテムを楽天市場で探す

楽天市場で「AIリテラシー 入門書」を探す →

広告(PR):楽天市場へのリンクはアフィリエイトリンクです。リンク先で購入されると、このサイトに紹介料が入ることがあります(価格は変わりません)。

関連する用語