生成AI（ChatGPTなど）は、文章作成・調査・要約・コード補助まで幅広く活躍します。一方で、ハルシネーション（もっともらしい嘘）・情報漏洩・バイアス（偏り）は、使い方次第で現実のトラブルに直結します。本記事は、難しい話をできるだけ噛み砕き、現場で役立つ対策を「今日からできるレベル」まで落とし込んで整理します。
FIG.1 AI利用の3大リスク。いずれも「個人の注意力」だけでは防ぎきれない
共通する処方箋はシンプルで、（1）入力制限・（2）根拠確認・（3）定期テストの3点を、チームのワークフローに埋め込むこと。以降で各リスクを順に掘り下げます。
01ハルシネーション：AIの“それっぽい誤情報”
ハルシネーションは、AIが自信ありげに間違ったことを言う現象です。とくに次の場面で起きやすくなります。
- 最新情報（モデルの学習範囲外、直近ニュース）
- 専門領域（法律・医療・金融・セキュリティ）
- 出典が必要（論文・統計・制度・規約）
- 固有名詞（人物・会社・製品名、条文番号、型番）
よくある“事故例”は、存在しない論文やURLを「参考文献」として提示する、法令・制度を古い内容のまま断言する、社内ルールを勝手に“それっぽく”補完して誤誘導するといったものです。
対策：AIを「回答者」ではなく「下書き職人」にする
ハルシネーション対策の核心は、“AIの答えを最終回答にしない”こと。下図の流れで、AIの出力を「検証してから採用する」工程に変えます。
FIG.2 AI出力 → 根拠確認 → 人間レビュー → 採用。下書きを“工程”で検証する
具体的に効くのは次の4つです。
根拠（ソース）をセットで求める
プロンプトに「根拠を必ず」「不確かな点は不確かと書く」を入れます。例：「回答は“結論→根拠→確認方法”の順に。出典URLまたは一次情報（公式文書名）を必ず付けて。不明な点は推測せず“不明”と書いて」
「検証しやすい形」に変換させる
断言させるより、検証項目のチェックリストにすると安全性が上がります。主張を箇条書きで分解し、各主張に「要確認」フラグを付け、確認先（公式サイト・規約・一次資料）を提案させます。
RAG（社内データ検索）に寄せる
モデルに丸投げせず、正しい情報源を取りに行く仕組みを使います。RAG（Retrieval-Augmented Generation）は社内文書やナレッジベースを検索し、その結果を根拠に回答を作ります。選択肢は Azure AI Search・Amazon Kendra・Elasticsearch・OpenSearch、Notion/Confluence/Google Drive連携の検索基盤など。
人間のレビューを“工程”として組み込む
レビュー基準を明文化します。数値・日付・固有名詞は原則確認。規約・法律・契約に触れる内容は必ず一次情報を参照。外部公開物は「公開前チェック」を通します。
ハルシネーション対策とは、要するにAIの答えを最終回答にしない仕組みづくりである。
Data Leakage
リスク2：情報漏洩 — 入力した時点で終わることがある
生成AIの情報漏洩は大きく2種類あります。入力漏洩＝社員が機密情報（顧客データ・未公開資料・ソースコード）をプロンプトに貼ってしまう。出力漏洩＝AIが会話文脈から推測し、本来出すべきでない情報を出してしまう（権限管理が弱い場合に顕在化）。基本の型は「入れない・分ける・残さない」です。
FIG.3 入れない → 変換する → DLPで止める。3層で“うっかり貼り付け”を減らす
1) 入力してはいけない情報を具体的に決める。ルールはふんわり書くほど守られません。個人情報（氏名・住所・電話・メール・社員番号）、顧客情報（契約内容・取引履歴・問い合わせ内容）、未公開情報（決算前の数字・M&A・ロードマップ）、認証情報（APIキー・パスワード・トークン）、ソースコード（特に自社独自の中核部分）を、例つきで列挙します。
2) どうしても必要なら匿名化・要約・ダミー化。個人名→「顧客A」、メールアドレス→伏字（example.com など）、売上の生数値→レンジや指数化（前年差分・増減率）、ログ→必要な行だけ抜粋、とリスクの低い形に変換します。
3) 企業向け設定・プランでログ／学習の扱いを確認。会話ログの保持や学習への利用は、プラン・設定で異なります。「なんとなく」で決めず、契約条件・管理コンソールで確認を。SSO・管理者ポリシー・監査ログ・データ保持期間の制御ができる環境を選ぶと運用が楽になります。
4) DLP（Data Loss Prevention）で“うっかり貼り付け”を減らす。メールアドレス・マイナンバー形式・APIキーっぽい文字列を検知して警告できます。Microsoft Purview、Google の情報保護、各種 CASB/SASE 製品など、既存のセキュリティ基盤とつながると導入がスムーズです。
03バイアス：公平さ・妥当性が崩れる
AIは学習データの影響を強く受けます。そのため、採用・審査・評価・広告配信など「人や機会に影響する」領域では、バイアスが炎上や法的リスクにつながりやすくなります。具体的には、特定の属性（性別・国籍・年齢など）に不利な表現・判断が混ざる、ステレオタイプな説明でブランド毀損や差別表現につながる、少数派のケースに弱く外れ値を不当に扱うといった問題です。
対策：評価指標と“禁止ライン”を決める
まず用途の線引きをします。次の用途は、原則として人間が最終判断、または利用しない方が安全です。
自動決定はNG
採用可否・与信・保険料などを、AIだけで自動決定しない。
断定的助言はNG
医療・法律の断定的なアドバイスは避ける。
属性推定はNG
見た目・名前から性別や国籍を決めつけない。
次に、プロンプトで中立性を明示します。例：「属性（性別・年齢・国籍等）による推測はしない。中立的な言い回しに統一。判断が必要な場合は複数観点を併記し、断定を避ける」。意外と効くのがこのプロンプトでの縛りです。
そして、テストケースを作って“定期健診”すること。バイアスは気合いでは防げません。下図のように、属性だけ変えた同一内容の入力を定期的に流し、出力の偏りを比較します。
FIG.4 属性だけを変えた A/B 入力で、出力の偏りを定期的に検査する
見るべきテストは、属性だけ変えた同一内容の問い合わせ（A/B）、クレーム対応文の丁寧さが属性で変わらないか、求人文で特定属性を排除する表現が出ないかなどです。
04現場で回る「運用の型」：ガイドライン＋仕組み＋教育
ここまでの話を現場で回る形にまとめると、次の三点セットが強いです。
1) 1枚でわかるAI利用ガイドライン
| 使ってよい / 要注意 | 使ってはいけない |
|---|---|
| OK：一般公開情報の要約、文章のたたき台、アイデア出し | NG：個人情報・認証情報・未公開情報の貼り付け |
| 要注意：顧客情報を含む相談、契約・法務、最終回答の自動生成 | 属性による自動判定・断定的な助言 |
2) ワークフローにチェックポイントを入れる
入力前
機密が入っていないか（DLP／目視）を確認する。
出力後
根拠確認（リンク・一次資料・社内文書）を行う。
公開前
レビュー（広報・法務・セキュリティ）を通す。
3) “短い研修”を定期実施する
長い研修より、30分×月1の方が定着します。題材は、実際に起きがちなミスが一番効きます。
- ハルシネーションの実例と見抜き方
- 貼ってはいけない情報の具体例
- バイアス表現の言い換え練習
05まとめ：便利さと安全をセットで設計する
生成AIは、正しく使えば生産性を大きく上げます。ただし、ハルシネーション・情報漏洩・バイアスは、個人の注意力だけに頼るといつか破綻します。おすすめは、（1）入力制限・（2）根拠確認・（3）定期テストを最小セットとして、チームのワークフローに埋め込むこと。これだけでも「安心して使えるAI」に一気に近づきます。
