AIのハルシネーション対策｜もっともらしい嘘に気づくために、AIを使い続けている会社員がやっていること

ChatGPTやClaudeなどのAIを使っていると、自信ありげに答えてくれた内容が、実は間違っていた、ということがあります。これを「ハルシネーション」と呼びます。

私は30代、SIerで設計・構築を担当しているエンジニアです。個人でClaude CodeとChatGPTを使い続けていて、存在しない仕様や、正しそうに見えて間違っている情報を出されたことが何度もあります。

先に結論を書くと、ハルシネーションを完全になくすことはできません。大事なのは、間違いが混ざる前提で使い、間違えると困る部分だけは必ず自分で確認することです。この記事では、私が実際にやっている対策をまとめます。

ハルシネーションとは

ハルシネーションは、AIが、事実と違う内容を、もっともらしい文章で答えてしまう現象です。

AIの文章は自然で、自信ありげに見えるため、知識がないと間違いに気づけないのが怖いところです。

ハルシネーションの2つのタイプ

タイプ	内容	例
渡した情報と食い違う	渡した資料や会話の内容と、違うことを答える	資料には「月10万円まで」とあるのに、要約で「月15万円まで」と書く
情報にないことを作る	どこにも根拠がない内容を、事実のように付け足す	存在しない機能、存在しない調査、存在しないURLを示す

1つ目は、元の資料と見比べれば気づけます。怖いのは2つ目で、自分に知識がないと、作られた内容だと気づけません。

ハルシネーションが起きやすい場面

起きやすい場面	例
細かい仕様や設定値	製品のオプション名、設定の上限値、コマンドの書き方
数字	料金、統計、日付、割合
最新の情報	最近変わった制度、新しく出た機能
固有名詞	人名、会社名、商品名、本のタイトル
出典	「〇〇の調査によると」の調査そのものが存在しない

私が実際に何度も経験したのは、1つ目の「仕様」です。それらしい機能の名前や設定を答えてくれたのに、公式のドキュメントを確認したら、そんな機能は存在しなかった、ということがありました。

私がやっている対策

1. 間違えると困る部分は、必ず公式の情報で確認する

AIの答えのうち、仕様・設定値・料金・制度・数字など、間違えると困る部分は、必ず公式のドキュメントやサイトで確認してから使っています。

逆に、アイデア出しや文章の言い回しのように、多少間違っていても困らない部分は、AIにどんどん任せています。確認する部分としない部分を分けることで、手間をかけすぎずに済みます。

2. 頼み方を具体的にする

AIを使い続けて感じるのは、頼み方によって、答えの精度がかなり変わるということです。

伝えること	例
目的	「◯◯を決めるための比較材料がほしい」
前提・制約	「この条件の中で考えて」
出してほしい形	「表で」「分からないことは分からないと書いて」

「分からない部分は推測せずに、分からないと書いて」と頼んでおくと、もっともらしい答えで埋められることが減ります。

3. 答える範囲と時点を、こちらで決める

AIに自由に答えさせるほど、根拠のない内容が混ざりやすくなります。次のように、答える範囲と時点を指定すると、確認もしやすくなります。

指定すること	頼み方の例
答える範囲	「貼り付けた資料の中に書いてあることだけで答えて。資料にないことは『資料にない』と書いて」
時点	「いつ時点の情報かを書いて。最新かどうか分からない場合はそう書いて」
事実と推測の区別	「事実と推測を分けて書いて」

検索機能のあるAIなら、「公式サイトを検索して、参照したページのURLも書いて」と頼む方法もあります。ただし、示されたURLを開いて、本当にそう書いてあるかを確かめるところまでが確認です。

なお、「ハルシネーションしないでください」と書くだけでは、ハルシネーションは防げません。AIは、自分が間違えていることに気づけないからです。「分からない時の答え方」を具体的に指定する方が効果があります。

4. 「おかしい」と感じたら、そのまま使わない

自分の知っている事実と合わない答えが出てきたら、そのまま使わずに、理由を聞いたり、条件を変えて聞き直したりします。

AIは、自分の答えが間違っていても気づけません。「おかしい」と気づけるかどうかが、人間側の仕事です。

5. 確認できない分野では、判断に使わない

自分に知識がない分野では、AIの答えが正しいかどうかを確かめられません。そういう分野では、AIの答えを判断の決め手にしないようにしています。調べるきっかけや、論点の整理に使うくらいにとどめます。

特に注意したい分野

間違えた時の影響が大きい分野では、AIの答えはあくまで「調べるきっかけ」にとどめます。

分野	確認先の例
お金・税金・制度	国税庁、市区町村、金融機関の公式サイト
健康・医療	医師・薬剤師、公的機関の情報
法律・契約	法令の原文、弁護士などの専門家
製品の仕様・料金	製品の公式ドキュメント・料金ページ
ニュース・最新の出来事	一次情報（発表元のサイト）や、複数の報道

ChatGPTとClaude Codeの使い分け

私は、ちょっとした調べものや相談にはChatGPT、正確さが必要なものやまとまった作業にはClaude Codeを使っています。どちらを使っても、ハルシネーションへの対策の考え方は同じです。

それぞれの使い方は、ChatGPTで効率化できない理由と、Claude Codeの使い方入門にまとめています。

確認する時のチェックリスト

AIの答えを使う前に、次の点を確認しています。

• □ 製品の仕様や設定値は、公式のドキュメントに載っているか
• □ 料金や制度は、公式サイトの最新の情報と合っているか
• □ 数字や日付は、出どころを確認できるか
• □ 出典として示された資料やページは、実際に存在するか
• □ 自分の知っている事実と、食い違っていないか
• □ 「たぶん」「一般的に」などのあいまいな答えを、事実のように扱っていないか

頼み方の例

調べものを頼む時

〇〇について、公式の情報で確認できることだけを教えてください。確認できないことや、分からないことは、推測せずに「分からない」と書いてください。

比較の材料を頼む時

〇〇を決めるための比較材料がほしいです。前提は△△です。選択肢を3つまで、表で、長所と短所を1行ずつ書いてください。事実か推測かが分かるように書き分けてください。

資料を要約してもらう時

次の資料を要約してください。資料に書いてあることだけを使い、資料にない情報は足さないでください。数字や固有名詞は、資料の表記のまま書いてください。

作ってもらったものを見直す時

今の答えの中で、間違っている可能性がある部分や、確認した方がいい部分を挙げてください。

最後の「確認した方がいい部分を挙げて」は、AIに自分の答えを見直させる方法です。これで完全に間違いがなくなるわけではありませんが、確認するべき場所の当たりをつけやすくなります。

仕事でAIを使う時のレビューの観点

観点	確認すること
正しさ	仕様・設定値・手順が、公式の情報と合っているか
前提	自分たちの環境や条件に合っているか
抜け漏れ	例外のケースや、エラーの時の対応が考えられているか
安全性	機密情報が含まれていないか、危険な操作が含まれていないか

※会社でAIを使う場合は、必ず社内のルールに従ってください。

ハルシネーションが起きる理由

ChatGPTやClaudeのようなAIは、大量の文章から学んだパターンをもとに、「次に来そうな言葉」をつなげて文章を作っています。事実を1つずつ調べて確認しながら答えているわけではありません。

そのため、学んだ情報が古かったり、そもそも情報が少なかったりする分野では、それらしい言葉をつなげて、事実と違う答えを作ってしまうことがあります。答えの文章が自然で、自信がありそうに見えるのは、正しいからではなく、自然な文章を作るのが得意だからです。

この仕組みを知っておくと、「AIが言っているから正しい」ではなく、「AIの答えは、確認するまでは仮説」と考えやすくなります。

間違いに気づきやすくするコツ

• 答えを2つの聞き方で確かめる：同じことを、違う聞き方でもう一度聞いて、答えが食い違わないかを見る
• 具体的な根拠を聞く：「その情報は、どの公式ドキュメントのどこに書かれていますか？」と聞き、実際にそのページを開いて確認する
• 自分が知っていることから試す：自分が答えを知っている質問をして、どのくらい正確かを確かめてから使う
• 最新の情報は、AIだけで判断しない：料金や制度、ニュースは、公式サイトで確認する

よくある質問

有料版を使えば、ハルシネーションはなくなりますか？

なくなりません。性能が高いモデルでも、ハルシネーションが起きることはあります。どのAIを使う場合でも、確認は必要です。

「ハルシネーションしないで」と頼めば防げますか？

防げません。AIは自分が間違えていることに気づけないため、そう書いても間違いは混ざります。「分からないことは分からないと書いて」「資料にないことは足さないで」のように、具体的な答え方を指定する方が効果があります。

出典を聞けば大丈夫ですか？

AIが示す出典そのものが、存在しないこともあります。出典を聞いた場合も、その出典が実際にあるか、内容が合っているかを確認してください。

仕事で使う時に気をつけることは？

会社のルールを確認することが前提です。そのうえで、AIの答えをそのまま成果物に使わず、自分で確認・修正してから使うようにしましょう。

関連：Claudeのメモリ機能とは？

まとめ

• ハルシネーションは、AIが事実と違う内容をもっともらしく答える現象
• 仕様・数字・最新の情報・固有名詞・出典で起きやすい
• 間違えると困る部分だけは、必ず公式の情報で確認する
• 頼み方を具体的にし、「分からないことは分からないと書いて」と伝える
• 確認できない分野では、AIの答えを判断の決め手にしない

AIで仕事がどう変わるかについては、Claude CodeとCodexでSIerの仕事はどう変わる？にまとめています。