生成AIの情報漏洩はなぜ起きるのか。ChatGPTやClaude、Geminiには、氏名や住所、会社の資料、お金のかかるAPIの鍵(プログラムから有料のAIを使うときに、使う権利を示す文字列です)を入れてはいけないと言われます。でも、入れた情報が裏でどこへ行って何に変わるのかは、ぼくもよく分かっていなかったので調べました。
よく聞くのは、「AIが入力を覚えて、別の人にしゃべってしまう」という説明です。本当にそういう動きなのか、ほかにどんな動きがあるのか。入れる情報ごとの場面で見てみます。
各社の扱いはときどき変わるので、ここで書くのは2026年11月17日時点の話です。
入れた情報の行き先と、入れる前に気をつける3つのことは、約3分の動画にもまとめました。目次のすぐ下にあります。
生成AIの情報漏洩、なぜ?
入れた情報の行き先を動画で見る
ぼくが作った動画です。長さは3分13秒で、「AIに入れた文章は覚えられて、知らない誰かにしゃべられる」という話の本当の部分から始めて、個人情報、勤め先の機密、有料APIの鍵の順に、入れたあとの行き先が出てきます。最後に、入れる前に気をつける3つのことをまとめています。
「AIが覚えて他人に話す」という説明の、本当の部分から見ていきます。個人向けのChatGPTは、オプトアウト(学習に使わないよう自分で止める設定)をしない限り、会話を学習に使うと、OpenAIが書いています。止めたあとの新しい対話は、学習に使われません。Claudeの個人向けも、許可した場合などには、会話が学習に使われます。
研究でも、学習に使われた文章が取り出された例があります。Carlini(カーリニ)らの2021年の研究は、GPT-2というモデルから、学習に使われた文字列を数百件、そのまま取り出しました。公開されていた氏名・電話番号・メールアドレスなども含まれていて、学習データの中に1つの文書にしか出てこない文字列でも取り出せたそうです。モデルが大きいほど取り出されやすい、という結果でした。2023年にはNasr(ナスル)らが、ChatGPTから学習データを、通常の150倍の率で出させる攻撃を示しています。
一方で、言い過ぎの部分もあります。個人情報保護委員会は、入力した個人情報が学習に使われることがあり、ほかの情報と統計的に結びついて、正確な内容でも不正確な内容でも出てくるおそれがある、と注意しています(2023年6月)。入れた文がそのまま返ってくる、という言い方ではありません。研究の取り出しも、研究者が学習データを取り出すための手順でモデルに問い合わせた結果です。1回入れた文章が、他の人の回答にどのくらいの確率で出るのかを測った研究は、探してみたのですが見つかりませんでした。知っている方がいたら教えてください。
そして、学習に回るかどうかの前に、会話は運営会社の側に残ります。保存、人の目、共有リンク、乗っ取りと、学習とは別の行き先もあります。
どれが起きるかは、使うAIや設定で変わります
入れた瞬間から、何が起きるかまでを5つに区切ると、こうなります。
- 入れた瞬間:送信ボタンを押した会話が、運営会社の側に残るところから始まります。
- どこへ行く:個人向けか、法人向け・API・有料枠かで、行き先が分かれます。
- 何に変わる:学習に回るのか、記録のまま残るのかで、情報の姿が変わります。
- どう漏れる:学習のほかに、人の目、サービスの不具合、共有リンク、アカウントの乗っ取りなどがあります。
- 何が起きる:漏れた先で、誰がその情報を読んで何に使うかで、困り方が決まります。
Claudeの画面に出るAnthropic Interviewerというインタビューの案内に答えると、その回答が学習に使われるのかを調べた記事もあります。

3つの場面に出てくる名前も番号も鍵も、見本として作ったものです。
氏名・住所・電話を入れたとき
引っ越しのお知らせの文面を整えたくて、氏名(山田太郎)、住所(〇〇県△△市□□1-2-3)、電話番号(090-XXXX-XXXX)、メールアドレス(taro.yamada@example.com)を、個人向けのChatGPTの画面にそのまま貼った人がいるとします。
- 入れた瞬間:送信すると、貼った文章は会話の記録として運営会社の側に残ります。ChatGPTでは、削除した会話や一時チャットは、30日以内に削除される決まりで、安全上や法律上の例外もあると、OpenAIのプライバシーポリシーに書かれています。消したあとも、しばらくは運営会社の側にある、ということです。
- どこへ行く:個人向けのChatGPTは、オプトアウトしていなければ学習に使われます。止めると、止めたあとの新しい対話から学習に使われなくなります。ClaudeとGeminiの扱いは、あとの表にあります。
- 何に変わる:学習に回った会話は、文章のまま取っておかれるというより、他の情報と統計的に結びついた形で、あとの回答に混ざりうるものになります。保存されたぶんは、学習とは別に、会話の記録のまま残ります。
- どう漏れる:学習のほかに、サービスの不具合、共有リンク、乗っ取りがあります(下の見出しで順に)。
- 何が起きる:氏名・住所・電話番号・メールアドレスがそろった形で誰かの手に渡ると、郵便・電話・メールのどれでも偽の連絡を作りやすくなります。たとえば、引っ越しの話を知った誰かが、業者を名乗って電話をかけてくる、ということも起こるかもしれません。
名前・住所・電話・メールは見本です
出どころ:OpenAIの説明・研究論文・ニュース(細目は下)
出典の細目を見る
会話を削除したあとの保存(30日以内に削除。安全上・法律上の例外あり):OpenAIのプライバシーポリシー(更新 2026年9月10日)
学習に使う設定(止めない限り使う):OpenAIの、データが学習にどう使われるかの説明ページ(更新 2026年3月13日)
他人の会話の題名が見えた不具合:OpenAIの2023年3月20日の障害についての発表。同じ不具合で、9時間のあいだに使っていたChatGPT Plus利用者の1.2%について、支払い関連情報が他人に見えた可能性がある。実際に他人に見えた利用者は極めて少ないとOpenAIは考えている
研究で取り出された例:Carlini ら(2021)の論文(arXiv 2012.07805。要旨)。ChatGPTではなく、GPT-2というモデルでの研究
個人情報保護委員会の注意喚起(2023年6月2日):入力された個人情報が機械学習に利用されることがあり、他の情報と統計的に結びついた上で、正確または不正確な内容で出力されるリスクがある
共有リンク:The Register・Engadget の報道(2025年8月)。なりすましてのログイン:Group-IBの発表を伝えた報道(2023年6月)
学習以外の漏れ方
サービスの不具合:2023年3月20日、OpenAIが使っていたオープンソースのライブラリの不具合で、一部の利用者に他人の会話の題名が見えました。9時間のあいだにChatGPT Plusを使っていた人の1.2%については、支払い関連の情報(氏名・メールアドレス・請求先住所・カード種別と下4桁・有効期限)がほかの人に見えた可能性があり、実際に見られた人はごく少ないと、OpenAIは見ています。カード番号の全桁は出ていません。
共有リンク:報道によれば、ChatGPTの共有リンクは、検索で見つけられるようにする選択肢に利用者が自分でチェックを入れた場合に、検索結果に載りました。OpenAIは2025年8月にその選択肢をやめました。
乗っ取り:報道によれば、2023年6月にGroup-IBが、ChatGPTのログイン情報を保存した感染端末が約10万台あると伝えました(情報を盗むウイルスに感染した端末です)。ログインできてしまえば、会話の履歴も見られるはずです。
パスワードのほかに、手元の小さな鍵(セキュリティキー)で本人確認を足す方法もあります。YubiKey 5 NFCはUSB-A、5C NFCはUSB-Cなので、使うパソコンの差し込み口の形で選びます。キーに対応しているサービスは、それぞれの設定で確かめてください。
差し込み口がUSB-Cのパソコンなら、こちらです。
社内の資料を入れたとき
会議の議事録と、まだ発表していない企画書の下書きを要約させたくて、会社員が個人向けのGeminiの画面に貼った場面を考えます。会社名は「〇〇商事」、資料の中身も見本です。
- 入れた瞬間:貼った資料の全文が、1つの会話として送られて残ります。
- どこへ行く:Geminiの個人向けは、履歴をオフにしても、今後の会話が約2か月保存されます。履歴の自動削除は、初期設定で18か月です。
- 何に変わる:Googleは、委託先を含む人間のレビュアーが会話の一部を読むと説明していて、見られたくない機密は入力しないよう明記しています。学習に使わない設定にしても、人間のレビュアーの助けを借りて会話を使います。レビューを受けた会話は、履歴を消しても削除されず、最長3年保持されます。
- どう漏れる:人のレビュアーの目に触れることと、消したつもりでも長く残ることです。アカウントを乗っ取られれば履歴ごと読まれうるのは、ほかのAIと同じです。
- 何が起きる:社外秘の資料が社外のサービスに残ること自体が、社内の決まりや取引先との約束に触れるおそれがあります。個人情報保護委員会は、事業者が本人の同意なく個人データを入力し、応答以外の目的で扱われると、個人情報保護法に違反する可能性があると注意しています。
報道によれば、サムスンは2023年5月に、一部の部門で、会社の端末と社内のネットワークでの生成AIの利用を禁止しました。直前に、社員が機密情報を入力したと報じられています。
AIの勉強に使わない設定にしても、人が読むことはあります
書類は見本です。個人向けのGeminiの場合です
出どころ:Googleのヘルプ(2026年11月)
出典の細目を見る
人が読む会話、履歴をオフにした場合の約2か月の保存、読まれた会話の最長3年の保存:GoogleのGeminiアプリのヘルプ(support.google.com/gemini/answer/13594961、更新 2026年11月16日)
法人向けなら安心?
会社が契約した法人向けやAPIでも、残る部分があります。各社では、こういうことがありました。
OpenAIでは、ChatGPTのTeam・Enterprise・APIなどビジネス向けの内容を、学習に使わないとしています。それでもAPIの入出力は最大30日保持され、承認を受けた従業員と、悪用の検証だけを行う外部の請負業者が見ることがあります。
GoogleのGemini APIは、無料枠が入力を製品改善に使い、人間のレビュアーも読みうる一方、課金を有効にしたプロジェクトは製品改善に使いません。
AnthropicのAPIは、30日以内に自動で削除されます。例外として、データを保存しない契約(ゼロデータ保持)や、利用方針に反する使い方への対応、法令による場合があります。
OpenAIは、ニューヨーク・タイムズとの訴訟での命令にもとづき、一般向けのChatGPTとAPIの内容を、期限を決めずに保存していました。この義務は2025年9月26日に終わりましたが、2025年4月から9月の限定的なデータは引き続き保管されると、OpenAIは説明しています。
OpenAIの説明では、2025年11月9日に、委託先のMixpanelが、攻撃者に自社のシステムの一部へ入り込まれ、限定的な顧客識別情報と分析情報を持ち出されたことを確かめました。OpenAIのシステムへの侵害ではなく、会話・APIのリクエスト・APIキー・支払いの詳細は漏れていないとしています。
MicrosoftのMicrosoft 365 Copilotでは、細工したメール1通で、認証なしにデータを持ち出せる弱点(セキュリティの用語で脆弱性といいます。登録番号はCVE-2025-32711です)があったと、論文の著者は報告しています(EchoLeakと呼ばれています)。AIに社内のメールや文書を読ませる使い方では、自分が入力していない文書も入り口になりえます。
AIの鍵(APIキー)を貼ったとき
天気を教えてくれる自作のプログラムが動かなくて、エラーの原因を聞きたくて、コードを丸ごとClaudeの個人向けの画面に貼った人がいるとします。コードの中にはAPIキーの行があり、見本では伏せ字で api_key = “●●●●●●●●” と書いてあります。
- 入れた瞬間:鍵の行も、コードのほかの行と同じように、会話の一部として送られます。
- どこへ行く:Claudeの個人向けは、削除した会話を30日以内に削除します。学習を許可していれば、保持は5年に延びます。利用方針に反するとして自動で印が付いた会話は、入力と出力が最長2年保持されます。
- 何に変わる:鍵も会話の中の文字なので、ほかの文章と同じように残る、と考えておくのが自然です。
- どう漏れる:会話が残っている以上、アカウントを乗っ取られれば履歴ごと読まれうるのは、どのAIでも同じです。ほかに、鍵がコードごと、みんなの見られる場所に載ってしまう流れもあります(下で順に)。
- 何が起きる:鍵が他人の手に渡ると、その人が鍵の持ち主の名前でAIを使えてしまい、料金は鍵の持ち主に請求されるおそれがあります。
起こりうる流れを描いた図です
出どころ:Anthropicのヘルプ(2026年11月時点)と、共有リンク・なりすましについてのニュース
出典の細目を見る
鍵と料金:Anthropicのヘルプ「APIキーのベストプラクティス:キーを安全に保つ」(support.claude.com/ja/articles/9767949、2026年11月時点)。鍵をクレジットカード番号にたとえ、他人に取られて使われると持ち主に料金が発生すると説明している
共有リンク:The Register・Engadget の報道(2025年8月)。なりすましてのログイン:Group-IBの発表を伝えた報道(2023年6月)
鍵が漏れる場所
会話の共有リンクを作れば、貼った鍵もいっしょにリンクの先の相手に見えます。ChatGPTでは、検索で見つけられるようにした共有リンクが検索結果に出たと報じられました。
AIに貼る以外の場所もあります。Anthropicのヘルプは、鍵の漏えいの最も一般的な原因の1つが、公開コードリポジトリ(コードをみんなが見られる形で置いておく場所。GitHubが有名です)や外部のツールでの偶発的な露出だと説明しています。GitHubは、公開された場所に載った鍵を検知して、提携したサービス提供者に通知する仕組みを持っていて、対応する形式にはOpenAI・Anthropic・Googleの鍵があります。鍵がコードごとそこへ載ってしまう流れです。
学習データから文字列を取り出した研究は、学習に使われた文章を取り出したもので、利用者が貼った鍵が他の人の回答に出たことを示した研究ではありません。
AIに貼った鍵が漏れて悪用された、とはっきり分かる例には、調べていて行き当たりませんでした。見つからないことと、貼って大丈夫なことは別の話です。Anthropicのヘルプは、鍵をクレジットカード番号にたとえて、誰かに使われると持ち主の代わりに料金がかかると説明しています。
料金の例として、報道によれば、2026年3月に、盗まれたGemini(Google Cloud)のAPIキーで、48時間に82,314ドルの請求が来たと、開発者が述べています。AIに貼った鍵の事例ではなく、鍵が盗まれたときの例です。
APIキーなど、AIまわりのセキュリティ用語を解説した記事もあります。

パスワードや鍵を、覚えたり会話に貼ったりせずに1か所でしまっておく道具として、パスワード管理ソフトがあります。
ChatGPT・Claude・Gemini比較
2026年11月17日時点の公式ページがもとで、Geminiの一時チャットだけ2025年8月13日の発表です。
| 項目 | ChatGPT(OpenAI) | Claude(Anthropic) | Gemini(Google) |
|---|---|---|---|
| 学習に使うか | 個人向けは、オプトアウトしない限り使う。止めたあとの新しい対話は使わない | 個人向けは、許可した場合・安全審査で印が付いた場合・テスターに参加した場合に使う。プライベート(Incognito)チャットは使わない | 学習に使わない設定がある。設定していても、人間のレビュアーの助けを借りて会話を使う |
| 残る期間 | 削除した会話と一時チャットは30日以内に削除。安全上・法律上の例外あり | 削除した会話は30日以内に削除。学習を許可すると5年。自動で印が付いた会話は入出力が最長2年 | 履歴をオフにしても今後の会話は約2か月保存。履歴の自動削除は初期設定で18か月 |
| 人が読むか | 法人向け:承認を受けた従業員と、悪用の検証だけを行う請負業者が見ることがある。個人向け:記述は見つからず | 人が読むかの記述は見つからず | 委託先を含む人間のレビュアーが一部の会話を読む。レビューを受けた会話は、履歴を消しても最長3年残る |
| 止め方 | 学習のオプトアウト | 学習を許可しない選択。Incognitoチャット | 履歴をオフ。一時チャット(最長72時間保持で、学習に使わない) |
| 法人・API | Team・Enterprise・APIは学習に使わない。APIの入出力は最大30日保持 | 法人・APIは2025年8月の個人向け規約変更の対象外。APIの入出力は30日以内に自動削除(例外あり) | Gemini APIは、無料枠は入力を製品改善に使い、人間が読みうる。課金を有効にしたプロジェクトは使わない |
この表の元になった公式ページです。
- OpenAIの、データが学習にどう使われるかのページ(※英語サイト・自動翻訳推奨)
- OpenAIの、法人向けのプライバシーのページ(※英語サイト・自動翻訳推奨)
- Anthropicの、データが学習に使われるかのページ(※英語サイト・自動翻訳推奨)
- Anthropicの、データの保存期間のページ(※英語サイト・自動翻訳推奨)
- Googleの、Geminiの履歴と人間のレビューのページ(※英語サイト・自動翻訳推奨)
- 個人情報保護委員会の、生成AIサービスの利用に関する注意喚起(PDF)
- Anthropicの、APIキーを安全に守るためのヘルプ
AIに入れる前の見直し
情報漏洩を避けるために、入れる前に考えたいのは、送信ボタンのあと、その文章が運営会社の側にしばらく残ってもいいか、人に読まれてもいいか、です。
| 気をつけたいこと | できること |
|---|---|
| 学習に回るとき | 学習を止める設定を確かめる。ChatGPTは、止めたあとの新しい対話から効く |
| 運営会社に残るとき | 消してもしばらくは残る前提で考える(ChatGPTとClaudeは30日以内に削除、Geminiは履歴をオフにしても約2か月)。残したくない情報は入れない。Geminiの一時チャットは、最長72時間の保持で、学習に使われない(2025年8月13日の発表) |
| 人が読むとき | 見られたくない機密は入れない(Geminiは、人が読むことがあるとGoogleが明記している) |
| 共有リンク | 必要なとき以外は作らない |
| 乗っ取り | パスワードを使い回さない。二段階認証かセキュリティキーで本人確認を足す |
| 名前・住所・電話・メールを入れるとき | 仮の名前や〇〇に置き換えてから、文面を整えてもらう |
| 社内の資料を入れるとき | 会社の決まりで使ってよいAIかを先に確かめる。会社名や数字は伏せる |
| APIキーを貼るとき | 貼る前に、鍵の部分を伏せ字に置き換える。貼ってしまったら、鍵を取り消す |
AIの学習を止める設定
学習を止める設定の場所は、各社の公式ページで確かめられます。止めても、運営会社の側に残る分は消えません。Geminiでは、学習を止めても、人の目は残ります。ChatGPTとClaudeの個人向けには、人が読むかどうかの説明が見当たらないのですが、読まないと書いてあるわけでもありません。いちばん確かなのは、残したくない情報をそもそも入れないことです。
APIキーを貼ってしまったら
Anthropicのヘルプは、APIキーが侵害された可能性があると思ったら、キーをすぐに取り消すことを勧めています。貼った鍵は、使い続けずに取り消して、新しい鍵に替えておくと安心です。
もっと知りたい人向けの2冊
もう一歩踏み込んで知りたいときの本です。1冊目は、サイバーセキュリティの分野でChatGPTを使う実践書として、出版社やAmazonの説明で紹介されています。
同じ生成AIとセキュリティの本として、こちらもあります。
迷ったら、名前や数字を仮のものに置き換えてから貼ってみてください。それだけでも、漏れたときに困る中身が減ります。


コメント