シンガポールのあるセキュリティ企業が2023年6月に報じた内容によると、この1年でChatGPTのユーザーアカウント情報が10万件以上盗み出された。ダークウェブ市場で発見された、情報窃取型マルウェア（インフォスティーラー）のログの中にChatGPTの認証情報が10万1,134件含まれていたというのだ。中でもChatGPTのアカウント情報の漏えいは、アジア太平洋地域で顕著だということが報告されている。さらに、最低でも661件は日本からの漏えいだったという。

韓国の大手テクノロジー企業では2023年4月にエンジニアが社内機密のソースコードをChatGPTに記入し、誤って流出させてしまったというインシデントが起こり、その後同社は生成AIを社内で禁止する旨を通知している。

上記のようなアカウント認証情報や、ChatGPTに入力した情報などは情報漏えいのリスクが指摘されており、多くの企業でも利用を制限するなどの対策が行われている。

ハッカーたちは、さまざまな手段でChatGPTに対してサイバー攻撃を仕掛けてくる。IDとパスワードを次々に自動入力して突破を試みる「総当たり攻撃」がその一つに挙げられる。総当たり攻撃も人力で行えば相当な手間だが、攻撃を最適化するツールなどがダークウェブで取引されていることもある。

ChatGPTへのアクセス数は、アメリカ、インド、日本の順に多い。普及すればそれだけターゲットが増えるため、日本でも今後さらにChatGPTへの攻撃が増えると考えておいた方がいいだろう。ChatGPTは、入力した内容と回答を学習していくシステムだ。そのために、入力した内容から第三者に情報がもれることがあり得るというのも意識しておこう。

通常の業務でChatGPTを活用する企業が増えているのと同時に、ChatGPTを活用したサイバー攻撃も増えてきている。

従来、フィッシングメールは日本語の不自然さからすぐにスパムだと判別できるものが少なくなかった。しかし、自然な日本語が生成されるChatGPTを活用すれば、メールの文面からはスパムだと気付けないケースが増えるかもしれない。日本語に限らず、英語や中国語など言語を指定すれば、どの言語からでもメールの作成が可能だ。つまり、海外からでもごく自然な日本語でスパムメールが送れるようになったということになる。

悪意のあるマクロを含むファイルの生成が誰でもできるようになってしまうため、サイバー攻撃が容易になることも考えられる。実際に、ChatGPTでPythonプログラムのマルウェアを生成したケースが発見されている。ChatGPTに「〇〇のマルウェアを作成してください」と入力してもマルウェアが生成されることはないが、入力内容次第では公開されているソースコードや論文などを利用してマルウェア生成に悪用できてしまうのだ。

セキュリティ対策として、パスワードを類推しにくいものにする、複数スタッフで共有しないというのは、どのツールでも共通の基本的なことだ。しかし、総当たり攻撃によってアカウント情報が数多く漏えいしていることから、比較的安易なパスワードが設定されていたと推察できる。

入力した内容と回答をAIの学習に活用させない方法もある。アカウント名の右の「…」から「Settings」を開く。画面左の「Data controls」の「Chat history ＆ training」をオフにする。これで履歴が残らないようになる。

ただし学習データが残らないと、AIが入力情報から学習をすることでより正確な回答を生成するというChatGPTの特徴を生かせなくなってしまう。個人情報や機密情報をChatGPTに入力しないことを徹底し、履歴は残す方が利便性は高いだろう。アカウント情報が漏えいして不正アクセスされた場合なども考えると、履歴をオフにしたとしても個人情報や機密情報は入力しないことをおすすめする。

ChatGPTの開発会社OpenAI社は、安全性を高める研究を行っていると述べている。ただ、システム側でセキュリティを高めても、ユーザー側での対策が不十分であれば情報漏えいのリスクはなくならない。

このような状況の中で、Microsoft 365 Copilotが2023年11月1日に一般公開されると発表された（2023年10月17日時点）。ChatGPT含む対話型AIが日常業務に取り入れられる日はそう遠くないだろう。対話型AIをお客様に販売する際は、セキュリティ対策も一緒に提案できるようにしておきたい。