生成AI仕事術入門 所要時間 約5分

AIの嘘を見抜く3ステップ:仕事で恥をかかない確認術

ハルシネーション(AIの嘘)を見抜くため、事実確認・引用元確認・複数ツール比較を行う実務的なチェック方法を学びます。

このレッスンで学ぶこと
  • AIの誤回答パターンを理解する
  • 回答を検証する手順を使える
  • 重要な業務でAIを安全に使う判断基準を持てる
使用ツール
ChatGPTGeminiGoogle検索
概要

AIは、もっともらしい嘘をつくことがあります。これを「ハルシネーション」と呼びます。AIは事実を「知っている」のではなく、次に来そうな言葉を「予測して」文章を作っているため、存在しない数字・URL・引用を、それらしく書いてしまうことがあるのです。

実際に海外では、弁護士がAIの作った「存在しない判例」をそのまま裁判に提出し、問題になった例もあります。会議や取引先の前で同じことをすれば、信用を失いかねません。

このレッスンでは、上司や取引先に出す前の「30秒チェック」3ステップを身につけます。完璧に防ぐ方法はありませんが、恥をかくような事故は、これでほぼ防げます。

実践ステップ
01

ステップ1:危ない箇所に印をつける

AIの文章で間違いが起きやすい場所は決まっています。数字・日付・固有名詞・URL・引用の5つです。まずこの5種類に印をつけ、「あとで確認する場所」として洗い出します。逆に、言い回しや文章の構成は、あまり間違えません。

02

ステップ2:AIに出典と確信度を言わせる

次に、AI自身に検証を手伝わせます。「各主張に出典URLと確信度(高・中・低)をつけて」と頼み、確信度の低い項目を洗い出します。なお「ハルシネーションしないで」と頼んでも効果はほぼありません。「分からないものは、推測せず分からないと書いて」と具体的に指示するのがコツです。

03

ステップ3:一次情報か別のAIで裏を取る

印をつけた箇所は、公式サイトなどの一次情報で確認します。時間がなければ、別のAI(または新しいチャット)に「この文章に事実の誤りがあれば指摘して」とレビューさせる方法もあります。ただし最終確認は、必ず人がおこないます。

そのまま使えるプロンプト

【 】の部分を自分の業務内容に置き換えて、そのまま貼り付けて使えます。

01 各主張に「出典と確信度」を付けさせる

使う場面:AIの回答の、どこを疑うべきか印をつけたいとき

プロンプト
あなたは事実確認が得意なアシスタントです。
以下の内容について、主張ごとに「出典(あればURL)」と「確信度(高・中・低)」を付けて整理してください。

# 条件
- 確信が持てないことは、推測で答えず「確信度:低」と明記する
- 確信度が「低」の項目を、最後にまとめて列挙する

# 出力形式
「主張/出典/確信度」の表

【内容】
(記入例:ここに確認したい回答や下書きを貼り付ける)

02 資料から「検証すべき箇所」を抜き出させる

使う場面:できあがった資料の、確認ポイントだけを洗い出したいとき

プロンプト
あなたは要点整理が得意なアシスタントです。
以下の文章から、事実確認が必要な箇所だけを抜き出し、検証リストにしてください。

# 抜き出す対象
- 数字(金額・割合・件数)
- 日付・期限
- 固有名詞(会社名・製品名・人名)
- URL・引用

# 出力形式
「箇所/確認方法」の表

【文章】
(記入例:ここに作成済みの資料を貼り付ける)

03 別のAIに、事実の誤りをレビューさせる

使う場面:時間がないとき、二重チェックを別のAIに任せたいとき

プロンプト
あなたは事実確認が得意な校閲担当です。
以下の文章を読み、事実の誤りや、根拠が怪しい記述があれば指摘してください。

# 条件
- 疑わしい箇所と、その理由をセットで挙げる
- 確認方法(何を見れば確かめられるか)も添える

【文章】
(記入例:ここにチェックしたい文章を貼り付ける)
出力例(出典と確信度つき)
・主張:申請の期限は◯月末(確信度:低/出典なし)
・主張:対象は従業員5名以上の企業(確信度:中/要確認)
・主張:制度名は「◯◯助成金」(確信度:高/公式サイトあり)

確信度が「低」の項目こそ、必ず一次情報で確認します。AIは自信たっぷりに書くので、この自己申告があるだけで「どこを疑うべきか」がひと目で分かります。

よくある失敗と直し方
01

AIの回答を、そのままコピーして提出する

出力は下書きです。とくに数字・日付・固有名詞は、そのまま信じず必ず確認します。文章がきれいなほど、内容も正しく見えてしまうので要注意です。

02

すべてを同じ手間で確認しようとする

リスクで手間を変えます。自分用メモは軽く、社外資料・金額・法務に関わるものは必ず一次情報で確認します。全部を完璧にやろうとすると、続きません。

03

「ハルシネーションしないで」と頼めば防げると思う

この頼み方はほぼ効きません。代わりに「確信が持てないことは、推測せず『分からない』と書いて」と具体的に指示するほうが効果的です。

確認チェックリスト
  • 数字・日付・固有名詞・URL・引用に印をつけて確認した
  • 重要な事実は、公式サイトなど一次情報で裏を取った
  • AIに出典と確信度を出させ、低いものを確認した
  • リスクに応じて、確認の手間を変えた(社外・金額・法務は特に慎重に)
  • 最終的な内容は、自分の責任で確認して仕上げた
演習

AIが作成した短いレポートを読み、確認が必要な箇所をマークします。

提出物の例: AIに入力した指示文、AIの出力、あなたが修正した最終版、確認したポイントを1つのメモにまとめます。
よくある質問
Q

AIの嘘(ハルシネーション)は、今後なくなりますか?

減ってはいますが、ゼロにはなりません。仕組み上、AIは「もっともらしい言葉」を作るため、確認は当面必要です。「いつか完璧になる」と待つより、確認を習慣にするほうが確実です。

Q

AIの嘘を100%防ぐ方法はありますか?

100%はありません。だからこそ「人が最終確認する」のが、唯一の確実な方法です。今回の3ステップは、その確認を短時間で終えるための手順です。

Q

AIの間違いで損害が出たら、誰の責任ですか?

一般には、その文章を使った人・会社の責任になります。「AIが言ったから」は通用しません。だからこそ、人に出す前の確認が欠かせません。

次の一歩

これからは、AIの文章を人に出す前に「数字・日付・固有名詞・URL・引用」の5つに印をつける——まずこれだけを習慣にしましょう。数秒で終わります。社外に出す資料や、金額・契約に関わるものは、必ず一次情報で確認します。「AIは下書き、確認は人」——この一言を、チームの合言葉にするのもおすすめです。

生成AI導入リーダーシップ・プログラム

無料レッスンは個人の実践。法人向けには社内導入の仕組みを提供します。

生成AI導入リーダーシップ・プログラムでは、管理者向けロードマップ、社内AI利用ルール、部署別活用設計、社員Activation Pathsまで含めて設計します。

プログラムを見る