生成AIへのデータ入力、どんなリスクがある?

生成AIのセキュリティリスクは、大きく2つに分けて考えられます。

  • 学習への利用リスク:入力したデータがモデルの改善・学習に使われ、他のユーザーへの回答に間接的に反映される可能性がある。
  • データ保管リスク:クラウドサービス上にやり取りの履歴が保存され、アカウントへの不正アクセスや事業者のインシデントによって情報が漏れるリスクがある。

どちらのリスクも「使うツールの種類」と「利用規約の設定」によって大きく変わります。無料プランと企業向けプランでは、データの取り扱いが根本的に異なるためです。

無料プランと企業向けプランでデータの扱いはどう違う?

主要なAIサービスの無料・個人向けプランは、デフォルト設定のままだと入力内容がサービス改善に活用される場合があります。一方、企業・チーム向けプランでは以下が契約上保証されるのが一般的です。

  • ユーザーの入力データはモデルの学習に使用しない。
  • データは契約企業の管理下に置かれ、第三者に共有されない。
  • 管理者が利用状況を監査ログで確認できる。

例えば、ChatGPT Team/Enterprise、Claude for Work(Team・Enterprise)、Google Workspace のGemini機能は、いずれも企業向けの利用規約のもとで学習への非利用を明示しています。社員が個人アカウントでこれらのサービスを使う場合、企業としての保証は受けられない点に注意が必要です。

「何となくAIを使っている」状態から「管理された環境でAIを使っている」状態へ移行することが、組織的なリスク管理の第一歩です。

「入れてよいデータ」「入れてはいけないデータ」の仕分け方

すべての情報をAIから遠ざけるのは現実的ではありません。リスク管理の要は、情報の種類を仕分けることです。判断の基準はシンプルで、「その情報が外部に出たとき、問題になるか」という一点に尽きます。

  • 入れてよい情報(例):公開資料の要約・一般的な文書のリライト・汎用的な調査・社内の非機密ドキュメントの文章整理。
  • 原則入れてはいけない情報(例):顧客の氏名・連絡先・契約内容などの個人情報、未発表の事業計画・財務データ、取引先との秘密保持契約(NDA)対象情報、採用候補者の個人情報。

この線引きを社内ルールとして文書化し、全員に共有するだけで、インシデントの多くを未然に防げます。

ツール選びの3つの視点(セキュリティ観点)

安全なAI活用環境を整えるために、ツール選定時に確認すべき点を3つ挙げます。

  • ① 利用規約のデータ学習条項:入力データが学習に使われないことが契約上明記されているか確認する。「オプトアウトできる」と「契約上使わない」は意味が異なります。
  • ② 管理者機能の有無:組織のアカウントを一元管理でき、社員の利用状況を把握・監査できるか。インシデント発生時の原因特定にも不可欠です。
  • ③ データ保管場所と暗号化:データが国内サーバーまたは契約したリージョンに保管されるか、転送・保管ともに暗号化されるかを確認する。

これらの視点でツールを選定すれば、機能だけでなくセキュリティの面でも自社に合った環境を整えられます。

社内ルール整備の3ステップ

「ルールを作ろう」と思っても、どこから始めればよいかわからない場合の参考として、シンプルな3ステップを示します。

  • ① 現状把握:社員がどのAIツールをどのような業務に使っているかを確認する(アンケートでも可)。
  • ② 入力可否の基準を決める:上述の「入れてよい/いけない情報」の区分を自社の業種・業務に合わせて文書化する。
  • ③ 推奨ツールを指定して切り替える:個人アカウントの利用から企業向けプランへ移行し、管理者を設置する。

完璧なルールを目指すより、「まず基準を明文化する」ことが重要です。ルールは運用しながら改善できますが、基準がないまま使い続けることがリスクを積み上げます。

まとめ

生成AIの情報漏洩リスクは「使ってはいけない」という話ではなく、「どのツールで」「何を入れるか」を決めることで管理できます。無料プランから企業向けプランへの切り替え、そして入力情報の社内基準の明文化——この2つを実践することで、リスクを抑えつつAIの恩恵を最大限に活用できる環境が整います。

よくある質問

無料のChatGPTに業務情報を入力すると学習データになりますか?
デフォルト設定では入力内容がモデル改善に利用される場合があります。OpenAIの無料・有料プランでも「会話履歴とトレーニング」設定をオフにすることで学習への提供を止められます。ただし企業利用にはChatGPT TeamやEnterpriseプランが推奨されており、これらは契約上データが学習に使われません。
社員が個人アカウントで業務にAIを使うことのリスクは何ですか?
主なリスクは3つです。①入力した社内情報が利用規約上AIの学習に利用される可能性がある、②セキュリティ設定を個人任せにした結果、企業の管理が及ばない場所に情報が保存される、③インシデント発生時に利用状況を把握・監査できない。企業としての対策は、利用ツールを指定し、入力可否のルールを明示することが第一歩です。
AIに入れてはいけない情報は何ですか?
基本的な判断基準は「外部公開NGの情報かどうか」です。具体的には、顧客の氏名・連絡先・契約内容などの個人情報・機密情報、社内の財務データ・未発表の事業計画、取引先との秘密保持義務がある情報は原則入力禁止です。公開資料や一般情報はリスクが低く、社内ルール策定の際はこの「入れてよい/いけない」の線引きから始めると整理しやすくなります。
ビジネス用のAIプランは個人プランと何が違いますか?
主な違いはデータ管理の契約上の保証です。ChatGPT Team/Enterprise、Claude for Work(Team・Enterprise)、Google Workspace(Gemini)など企業向けプランでは、ユーザーの入力データをモデルの学習に使用しない旨が利用規約や契約書に明記されています。また管理者によるアクセス制御・利用状況の監査ログが提供されるため、企業としての情報統制が可能になります。

関連記事:生成AI、バラバラに使っていませんか?|チーム全体で活かすための社内ルール整備の考え方

株式会社DnDでは、生成AIの安全な社内導入を含む業務効率化のご支援をしています。ツール選定・社内ルール策定から実装まで、まずはお気軽にご相談ください。

お問い合わせ