職場のAIハルシネーション対策｜DX推進部が整備したルールとチェックリストの全記録

---

---

はじめに

「ChatGPTが書いてくれた内容、実は間違ってたんですが…」

DX推進部 副部長として社内にAIツールを普及させてきた過程で、何度もこの報告を受けました。生成AIが「もっともらしい嘘」をつく現象——ハルシネーション（Hallucination）——は、AIを業務に導入するうえで避けて通れない課題です。

私自身、2024年に社内でChatGPTの試験導入を進めた際、ハルシネーションによって起きた実例を複数経験しました。この記事では、その失敗から学んだ実践的なチェックリストと、職場全体のルール整備プロセスをまとめます。

---

ハルシネーションとは何か

ハルシネーション（幻覚）とは、生成AIが事実と異なる情報を、まるで確かな事実かのように出力する現象です。

AIは文章の流れとして「もっともらしい続き」を生成するよう学習されています。そのため、実際の事実とは無関係に、文脈的に自然な情報を生成することがあります。

よく見られるパターン

パターン	具体例
存在しない情報の捏造	実在しない書籍・論文・URLを出力
数値の誤り	統計データの数値が実際と異なる
最新情報の欠如	学習データ以降の情報を知らないのに答える
固有名詞の混同	人名・社名・地名を誤って組み合わせる

私が経験した実例：業界の市場規模について調べるよう担当者に依頼したところ、AIが出した数値が実際のレポートと数倍異なっていました。担当者はAIを信頼していたため、その数値のまま社内報告に使いかけました。

---

職場で使えるチェックリスト

チェック1：一次情報で必ず裏取りをする

AIが出した数値・固有名詞・法律条文・統計データは、必ず一次情報（公式サイト・政府統計・学術論文）で確認します。

ルール：AIの出力は「下書き」。事実確認は人間の仕事。

チェック2：URLや書籍名は存在確認を怠らない

AIが提示するURLや書籍の引用は、そのまま信じないことが鉄則です。

• URLを実際にブラウザで開いて確認
• 書籍名は国立国会図書館やAmazonで検索して実在チェック
• 論文のDOIやタイトルはGoogle Scholarで検索

実際に私のチームでは「AIが出したURLは原則アクセスして確認」というルールを設けています。

チェック3：「わからない」と言わせる質問を加える

AIは「わかりません」と言うのが苦手です。意図的に限界を引き出すプロンプトを組み合わせます。

例：

「この内容について確信がない部分や、最新情報が不足している可能性がある点があれば、明示してください。」

このひと言を追加するだけで、AIが自己評価を加えた出力をしやすくなります。

チェック4：重要度に応じてAI利用範囲を決める

すべての業務にAIを使うのではなく、重要度で使い分けます。

重要度	業務例	AI活用方針
高（対外発信・法的判断）	顧客向け資料・契約書	草案のみ。人間が全文確認
中（社内文書・分析）	議事録・市場調査	活用可。主要データは裏取り
低（アイデア出し・校正）	ブレスト・誤字確認	フル活用OK

チェック5：「いつの情報か」を意識する

ChatGPTやClaudeには学習データのカットオフ（締め切り）があります。最新の法改正・市況・製品情報については、AIだけに頼らず公式情報を確認することが必須です。

---

社内で実際に導入したルール

私のチームでは、AI活用開始時に以下の「AI利用ガイドライン」を3枚のスライドにまとめて共有しました。

1. AIは補助ツール、判断は人間がする
2. 数値・固有名詞・URL・法令は必ず一次情報で確認
3. 対外発信物へのAI出力のコピペは禁止

最初はルールに反発する社員もいましたが、実際にハルシネーションで困った事例を共有したことで、ほぼ全員が納得して運用できるようになりました。「怖い話」は最強の説得材料です。産業カウンセラー養成講座で学んだ「相手の懸念を否定せずに受け止める」姿勢が、このときも役に立ちました。正しさを押しつけるより、まず話を聞くほうが、人は動いてくれるものです。

---

AI活用で失敗しないための心構え

ハルシネーションを完全になくすことは、現状のAI技術では困難です。重要なのは「AIは間違えるもの」という前提で使うことです。

医師は患者の症状を聞いても、必ず検査データで確認します。AIの出力も同じ——信頼するのではなく、検証する姿勢が、現時点でのAI活用の正しい向き合い方だと思っています。「AIを使いこなしている人」と「AIに使われている人」の差は、まさにここにあると感じています。

---

投稿者の所感

ハルシネーション対策のルールを社内に展開したとき、最初は「そんなに厳しくしなくても」という反応もありました。でも実際に起きた事例を共有すると、「自分もこういう場面で信じすぎていたかもしれない」と気づいてくれる人が出てきました。人は正しさより、体験から動く。産業カウンセラーの勉強で学んだことが、こういう場面でも確かに役に立っています。

チームのメンバーが「AIが間違えるのは当たり前」という前提を自然に持てるようになったとき、AIを使ったアウトプットの質は一段上がります。AI活用は個人のスキルだけでなく、チーム全体のリテラシーで底上げされるものだと、現場を通じて強く実感しています。

---