ChatGPTの情報漏洩は何が危ないのか。小さな会社が防げること・防げないこと
Share
ChatGPTで情報が漏れる経路は、大きく4つに分けられます。入力が学習に使われる設定のまま使うこと、社員が個人のアカウントで使うこと、共有リンクから外に出ること、そしてアカウントを乗っ取られることです。
このうち多くは、会社側の設定と、社内のルールで防げます。一方で、サービス側の不具合のように、使う側では防げないものもあります。
この記事では、実際に起きたことをもとに、小さな会社が何を防げて、何は防げないのかを整理します。
実際に起きたこと
まず、よく知られている出来事を3つ挙げます。
社員が、社外秘の情報をChatGPTに入力した(2023年)
韓国のサムスン電子で、社員が社内のソースコードをChatGPTに入力していたことが分かり、会社の端末や社内ネットワークでの生成AIの利用を禁止しました(Bloomberg)。韓国メディアの報道によると、コードの誤りを確かめる、会議の記録から議事録を作る、といった仕事を早く進めるための使い方だったとされています(The Register)。
サービスの不具合で、他の人の情報が見えた(2023年)
2023年3月、ChatGPTの不具合で、一部の利用者に他の利用者のチャットのタイトルが見える状態になりました。一部の有料会員の、名前やメールアドレス、カード番号の下4桁などの支払い関連情報も、他の人に見えた可能性があると、OpenAIが公表しています(OpenAI)。
共有したチャットが、検索結果に出た(2025年)
ChatGPTには、チャットをリンクで共有する機能があります。その中の「検索エンジンに表示できるようにする」という選択肢を選んで共有したチャットが、Googleの検索結果に出ていることが話題になりました。OpenAIはこの選択肢を廃止し、検索結果からの削除を進めました(Search Engine Journal)。
情報が漏れる4つの経路と、防ぎ方
1. 入力が学習に使われる設定のまま使う
ChatGPTの個人向けプランは、初期設定のままだと、入力した内容がAIの改善(学習)に使われることがあります。学習に使われた情報がどう扱われるかは、外からは確かめられません。少なくとも、社外秘の情報を自社の管理が及ばないところに渡していることになります。
防ぎ方は2つです。
- 個人向けプランなら、「設定」→「データコントロール」で「すべての人のためにモデルを改善する」(英語表示では "Improve the model for everyone")をオフにする
- 仕事で使うなら、法人向けのプランにする。OpenAIは、ChatGPT BusinessやEnterprise、APIのデータを、初期設定では学習に使わないとしています(OpenAI)
ただし、この設定が効くのは、オフにしたあとの新しい会話だけです。また、学習をオフにしていても、回答に👍や👎を押すと、その会話全体が学習に使われることがあります(OpenAIヘルプ)。使い始める前にオフにしておくのが安心です。
履歴に残したくないやりとりには、「一時チャット」も使えます。一時チャットは履歴に残らず、一時チャットのままであれば学習にも使われません。ただし、安全のため、OpenAIが最大30日間コピーを保持することがあります(OpenAIヘルプ)。
2. 社員が個人のアカウントで使う
小さな会社で一番起きやすいのは、これかもしれません。会社が何も決めていないと、社員はそれぞれ自分のスマホや個人のアカウントでChatGPTを使います。その場合、どんな情報を入れたのか、会社からはまったく見えません。設定を確認することもできません。
サムスンの件も、社員は仕事のためによかれと思って使っていました。何を入れてはいけないかの線引きが、実際の使い方に追いついていなかったと言えます。
防ぎ方は、会社のアカウントを用意して、仕事はそこで使ってもらうこと。そして、「何を入れていいか、入れてはいけないか」を短く決めておくことです。決め方は、以前の記事「生成AIの社内ガイドラインは、1枚で足ります」で書きました。
3. 共有リンクや画面から、外に出る
個人のアカウントで作った共有リンクは、URLを知っている人なら誰でも開けます。検索結果に出る選択肢は廃止されましたが、リンクをうっかり社外に送ってしまえば、中身は見られてしまいます。一方、ChatGPT BusinessやEnterpriseのワークスペースで作ったリンクは、同じワークスペースのメンバーしか開けません(OpenAIヘルプ)。画面共有や、画面のスクリーンショットから情報が出ることもあります。
防ぎ方は、仕事は法人向けのプランで使うこと、そして社外秘の内容を含むチャットは共有リンクにしないことです。社内で共有したいときは、必要な部分だけを社内の文書に貼るほうが安全です。
4. アカウントを乗っ取られる
2023年には、セキュリティ会社のGroup-IBが、情報を盗むウイルスに感染した端末のうち、ChatGPTのログイン情報が保存された10万台以上分の情報が、闇市場で取引されていたと報告しています(Group-IB)。ChatGPTの履歴には、それまでのやりとりが残っています。アカウントが乗っ取られれば、履歴もまとめて見られてしまいます。
防ぎ方は、2段階認証を設定すること、パスワードを使い回さないこと、そして端末のセキュリティ対策をしておくことです。
使う側では、防げないこともある
2023年の不具合のように、サービス側で起きる問題は、使う側では防げません。どんなに設定を整えても、ゼロにはできないということです。
なので、最後の備えは「そもそも入れない」ことになります。マイナンバーや給与、健康に関する情報、取引先から預かった秘密の資料などは、入れないと決めておく。万が一どこかから漏れても、困る情報がそこになければ、被害は小さくて済みます。
私自身も、仕事のデータを通すのは入力を学習に使わない契約のAIだけにして、そのうえで、入れない情報を先に決めています。
小さな会社が、まずやること
ここまでを、最初にやることとして3つにまとめます。
- 仕事で使うアカウントを、法人向けのプランにそろえる
- 「入れない情報」を決めて、1枚のルールにする
- 2段階認証を設定する
どれも、大きな費用や時間はかからないものだと思います。禁止して隠れて使われるより、安全に使える形を先に用意しておくほうが、結果的に漏れにくくなります。
社内AI利用ルールのひな形
「入れない情報」や「人が確認してから出すもの」を書き込むだけで使える、1枚のひな形を用意しました。
この記事のすぐ下の欄にメールアドレスを登録すると、Word形式のひな形をその場でダウンロードできます。あわせてニュースレターにも登録されます。
よくある質問
Q. 学習をオフにすれば、情報漏洩の心配はなくなりますか?
学習に使われる心配は減りますが、それだけで漏洩の心配がなくなるわけではありません。オフにする前の会話や、👍・👎を押した会話は、学習に使われることがあります。社員が個人のアカウントで使う、共有リンクを送ってしまう、アカウントを乗っ取られる、といった経路は、学習の設定とは関係なく残ります。
Q. 無料版を仕事で使うのは、やめたほうがいいですか?
公開済みの情報を調べるだけなど、社外秘の情報を扱わない使い方なら、問題になりにくいと思います。ただ、社員一人ひとりに毎回その判断を任せるのは負担が大きいので、仕事用は法人向けのプランにそろえたほうが、ルールはシンプルになります。
Q. 入力してしまった情報は、あとから消せますか?
チャットの履歴は、自分で削除できます。ただ、削除したからといって、すでに学習に使われた分や、サービス側で一定期間保持される分まで、すぐに消えるとは限りません。消すことより、入れる前に止めるほうが確実です。
出典
この記事の内容は、次の資料をもとにしています(2026年9月24日確認)。
- Samsung Bans ChatGPT, Google Bard, Other Generative AI Use by Staff After Leak(Bloomberg, 2023年5月2日)
- March 20 ChatGPT outage: Here's what happened(OpenAI)
- OpenAI Is Pulling Shared ChatGPT Chats From Google Search(Search Engine Journal)
- Group-IB Discovers 100K+ Compromised ChatGPT Accounts on Dark Web Marketplaces(Group-IB, 2023年6月)
- Samsung reportedly leaked its own secrets through ChatGPT(The Register, 2023年4月6日)
- OpenAI におけるエンタープライズプライバシー(OpenAI)
- Data controls in ChatGPT(OpenAIヘルプ)
- Sharing conversations and scheduled tasks in ChatGPT(OpenAIヘルプ)
- Temporary chat in ChatGPT(OpenAIヘルプ)