マイクロソフトが警告「ChatGPT」に教えてはいけないこと

テクノロジー記事班

2年前

一般ユーザーや企業を問わず注目を集めているOpenAIのチャットAIサービス「ChatGPT」。しかしその一方で、一部の米テック企業はChatGPTの利用について懸念も示しています。

*Category:テクノロジー Technology *Source：Insider(1) ,(2) ,Bloomberg

Amazonやマイクロソフトが懸念する「ChatGPT」のリスク

先月、Amazonが従業員に対して、ChatGPTに「機密情報を共有しないよう」通達したと、米メディア「Insider」が報告しました。

同メディアによると、ChatGPTの回答が社外秘の資料と「密接に一致」するケースをAmazon関係者が発見したとのこと。このことからAmazonは「ChatGPTがチャットからも学習しているのではないか」と懸念したのです。

ChatGPTの利用を禁じたのはAmazonだけではありません。米経済誌「Bloomberg」によれば、JPモルガンやゴールドマン・サックス、バンク・オブ・アメリカといった金融機関は、すべて従業員のChatGPTの使用を制限しています。

他にも、ChatGPT開発元のOpenAIと提携しているマイクロソフトすら「機密情報は共有しないように」と従業員に警告したと「Insider」が報告しています。

OpenAIのエンドポイントに機密データを送らないようにしてください。将来のモデルのトレーニングに使用される可能性があります。

出典：Insider

このようなリスクを考えると、ChatGPTに機密情報や個人情報は共有するべきではありません。とくに現在のAIは不安定であり、開発者が制限をかけていても秘密にしなければならない情報を漏らしてしまう例も多数報告されています。

国内外で注目を集めるChatGPTを始めとしたチャットAIサービスですが、このような大規模言語モデルは便利な一方で、どのように機能しているのかについては未だに謎に包まれている分野です。第三者が学習した情報を引き出して悪用する可能性もあるため、うかつに自分や誰かの秘密をChatGPTに教えてしまわないよう気をつけましょう。