社内AI導入前に知っておきたい、セキュリティリスクと対策まとめ
業務でのAI活用が急速に広がる一方、セキュリティ上の問題が表面化するケースも増えています。「とりあえず使い始めた」という状態が、実は最もリスクが高い。この記事では、企業のIT担当者が社内AI導入前に把握しておくべきリスクと、具体的な対策をまとめます。
起きうるリスクの全体像
まず「何が問題になりうるか」を整理します。
| リスク | 概要 | 深刻度 |
|---|---|---|
| 入力データの保存・閲覧 | サービス側にデータが保存され、学習や人間レビューに使われる | 高 |
| シャドーAI | 従業員が未承認ツールを業務利用し、IT部門が把握できない | 高 |
| プロンプトインジェクション | 悪意ある入力でAIが意図しない動作をする | 中〜高 |
| AI生成コードの脆弱性 | AIが生成した安全でないコードを本番投入してしまう | 中 |
本記事では、企業のIT担当として特に押さえておきたい①入力データの保存・閲覧リスクと②シャドーAIを中心に解説します。
リスク①：入力データの保存・閲覧
何が起きているか
ChatGPTなどにメッセージを送ると、そのデータはサービス側のサーバーに保存されます。問題はその後の使われ方で、大きく2つあります。
人間によるレビュー
品質改善やサポート目的で、サービス側のオペレーターがチャット内容を閲覧できる状態になっているケースがあります。つまり、社外の人間が機密情報を読める状態になりうる。
モデルの学習利用
入力データが将来のモデル改善に使われるケースがあります。「他のユーザーに直接出力される」わけではありませんが、データがサービス側に蓄積されます。プランや設定によっては最大5年間保持されることもあります。
「有料プラン＝安全」は誤解
ここで多くの企業が陥りがちな誤解があります。ChatGPT Plus、Claude Pro、Gemini Advancedはいずれも月額有料のプランですが、企業利用の観点では無料プランと大差ありません。これらはあくまで個人向けプランであり、データの取り扱いも個人ユーザーと同様です。
重要なのはプラン名ではなく、法人向けプランかどうかが分岐点です。
企業利用に必要な4つの条件
| 項目 | 内容 |
|---|---|
| 学習利用オプトアウト | 入力データがモデル改善に使われない |
| 人間レビューの制限 | 社外の人間がチャット内容を閲覧できない |
| DPA（データ処理契約）の締結 | データの取り扱いを法的に縛れる |
| データ保持期間の制御 | 不要なデータが長期保存されない |
DPA（Data Processing Agreement）とは、自社のデータを預かるサービス側が、そのデータをどう扱うかを法的に約束する契約書のことです。個人情報保護法やGDPRでは、個人データを外部サービスに処理させる場合にDPAの締結が求められます。DPAなしでは、何かあったときに企業側の責任が問われるリスクがあります。
サービス・プラン別の対応状況
⚠️ 2026年6月時点の情報です。 各サービスのポリシーは随時変更されます。導入前に必ず各サービスの公式ドキュメント・利用規約を確認してください。
ChatGPT（OpenAI）
| プラン | 学習オプトアウト | 人間レビュー制限 | DPA | 保持期間制御 | 企業利用可否 |
|---|---|---|---|---|---|
| Free / Go / Plus / Pro | △ 要手動設定 | ❌ | ❌ | ❌ | ❌ |
| Business | ✅ デフォルトOFF | ✅ | ✅ | △ | ⚠️ 条件付き |
| Enterprise | ✅ デフォルトOFF | ✅ | ✅ | ✅ カスタム可 | ✅ |
Free・Plus・Pro等のコンシューマープランは、設定でオプトアウトしない限りデータが学習に使われます。Business・Enterpriseプランはデフォルトで学習利用オプトアウト済みで、DPAの締結も可能です。データ保持期間のカスタマイズはEnterpriseプランのみ対応しています。
Claude（Anthropic）
| プラン | 学習オプトアウト | 人間レビュー制限 | DPA | 保持期間制御 | 企業利用可否 |
|---|---|---|---|---|---|
| Free / Pro / Max | △ オプトイン式 | ❌ | ❌ | ❌ | ❌ |
| Team | ✅ 対象外 | ✅ | ✅ | ❌ | ⚠️ 条件付き |
| Enterprise | ✅ 対象外 | ✅ | ✅ | ✅ カスタム可 | ✅ |
2025年9月のポリシー変更により、Free・Pro・MaxなどのコンシューマープランはAIの改善への同意を求められるようになり、同意した場合のデータ保持期間は最大5年に延長されます。Team・Enterpriseプランはこのポリシー変更の対象外で、契約上学習利用から除外されています。データ保持期間のカスタマイズはEnterpriseプランのみ利用可能です。
Gemini（Google）
| プラン | 学習オプトアウト | 人間レビュー制限 | DPA | 保持期間制御 | 企業利用可否 |
|---|---|---|---|---|---|
| 個人（無料・Gemini Advanced） | ❌ | ❌ | ❌ | ❌ | ❌ |
| Google Workspace 法人プラン | ✅ | ✅ | ✅ | ✅ | ✅ |
個人プランはGemini Advancedも含め、企業利用には不適切です。Google Workspaceの法人プランでは、コンテンツはモデルのトレーニングや人間によるレビューに使用されず、GmailやDocsなど既存のWorkspaceデータと同等のプライバシー保護が適用されます。
Microsoft Copilot
| プラン | 学習オプトアウト | 人間レビュー制限 | DPA | 保持期間制御 | 企業利用可否 |
|---|---|---|---|---|---|
| 個人（Free / Pro） | △ 要手動設定 | ❌ | ❌ | ❌ | ❌ |
| M365 Copilot Chat（Entra IDサインイン） | ✅ | ✅ | ✅ | △ | ⚠️ 条件付き |
| Microsoft 365 Copilot（有償ライセンス） | ✅ | ✅ | ✅ | ✅ | ✅ |
個人向けCopilotはデータがAIトレーニングに使用される場合があります。Microsoft 365のEntra ID（組織アカウント）でサインインしたCopilot Chatは、追加費用なしでEnterpriseデータ保護が適用されます。有償のMicrosoft 365 Copilotライセンスでは、プロンプトや応答が基盤モデルのトレーニングに使用されないことが明示されています。すでにMicrosoft 365を契約している企業は、移行障壁が低い選択肢です。
この問題への対策
- 利用するサービスのプライバシーポリシーとDPAを確認する（特に「training」「human review」というキーワードを探す）
- 法人向けプランへ移行し、DPAを締結する
- 入力してよい情報のレベルを社内ルール化する（例：個人情報・機密情報はNG、社外公開済み情報はOKなど）
リスク②：シャドーAI
何が問題か
シャドーAIとは、IT部門が承認していないAIツールを従業員が勝手に業務利用することです。
具体的なシナリオとして、以下のようなものが考えられます。
- 営業担当が顧客情報をChatGPT（個人アカウント）に貼り付けて提案書を作成
- エンジニアが未公開の社内仕様をAIに投げてコードを書かせる
- 人事担当が採用候補者の情報をAIに要約させる
リスク①との違いは、承認済みツールのリスクはIT担当がコントロールできるのに対し、シャドーAIは何が使われているか把握すらできない点です。インシデントが起きても発覚が遅れ、事後対応もできません。
なぜ禁止だけでは解決しないか
「AIツールの業務利用を全面禁止」という対応は、実態として隠れた利用を生むだけになりがちです。従業員からすれば、便利なツールを使えない状況は生産性低下につながり、結果として黙って使い続けるという行動になりやすい。
効果的な対策は「禁止する」ではなく「使っていいものを明示する」ことです。
この問題への対策
- 承認済みAIツールリストを整備して周知する
- 「何がダメか」より「何を使えばよいか」を示す
- ネットワークログやDLPツールで利用状況の把握を試みる
- シャドーAIを発見した場合の報告フローを定める
導入前チェックリスト
ツール選定
- 利用するサービスの利用規約・プライバシーポリシーを確認したか
- 法人向けプランを選択しているか（個人プランではないか）
- DPAを締結したか
- データの学習利用オプトアウト設定を確認したか
- データ保持期間の設定を確認・調整したか
社内ガバナンス
- 承認済みAIツールリストを作成・周知したか
- 入力してよい情報のレベルを定義したか（情報分類ポリシー）
- 従業員への周知・教育を実施したか
- シャドーAI発見時の報告フローを定めたか
- インシデント発生時の対応フローを定めたか
まとめ
AIツールのセキュリティリスクは、ツール自体の問題というよりも使い方とガバナンスの問題です。特に「有料プランだから安全」という誤解は根強く、ChatGPT PlusやClaude Proのような個人向け有料プランを企業の業務に使っているケースが散見されます。
まず取り組むべきは、法人向けプランへの移行とDPA締結、そして社内AIポリシーの整備です。完璧なポリシーを作ってから動き出すのではなく、まず基本的な枠組みを作り、実際の利用状況を見ながら育てていくアプローチが現実的です。