ChatGPTとは、人工知能を使って質問に答えたり、タスクを実行したりするチャットボットです。ユーザーはそれを使って、文書を作成したり、コンピュータコードを書いたりすることができます。
本来ChatGPTは「ハッキングされたデバイスからデータを盗む」や「フィッシングメールを作成しコードを書く」などのような違法性の高い依頼を拒否するように設計されています。しかし、サイバー犯罪者たちはこのようなChatGPTの制限を回避する方法を発見し販売しています。
制限が回避された「改造ChatGPT」では、一体何ができるのでしょうか？その詳細について、海外メディア「arstechnica」が解説しています。
関連：最悪「全員死ぬ」ChatGPT開発組織トップが予測するAIの未来*Category:テクノロジー Technology *Source：arstechnica,checkpoint
制限が無くなった「ChatGPT」で出来るコトとは？
ChatGPTの制限を回避するには、OpenAIのアプリケーションプログラミングインターフェース(API)を使用します。
セキュリティ企業であるチェック・ポイント・リサーチ社の研究者によると「APIは外部アプリケーションによって使用され、不正使用防止システムがあるとしても非常に少ない」とのことです。つまり、APIを悪用すれば制限や障壁なしに、フィッシングメールやマルウェアコードなどの悪意のあるコンテンツ作成が可能だということです。
チェック・ポイント・リサーチ社によると犯罪マーケットで「OpenAIのAPI」と「Telegram」を組み合わせたサービスが販売されているとのことです。
研究者は改造ChatGPTがどの程度機能するのかをテストしました。テストの結果、フィッシングメールを作成し、感染したコンピュータからPDF文書を盗み出し、FTPで攻撃者に送信するスクリプトを作成することができたとのことです。下記画像は実際のTelegramボットです。
また、Telegramボットで、不正アクセス防止制限のないマルウェアコードも作成できました。
サイバー犯罪者は、マルウェアの開発やフィッシングメールの作成といったニーズに対して、ChatGPTをどのように活用するかを模索し続けています。
チェック・ポイント・リサーチ社は「ChatGPTを利用してマルウェアやフィッシングメールを作成することは容易でしたが、最近ChatGPTの不正使用防止システムが大幅に改善された」と述べています。そのため、サイバー犯罪者たちは規制が少ないAPIに乗り換えるかもしれません。
なお、ChatGPTを開発しているOpenAIの代表者は、チェック・ポイント・リサーチ社の研究結果や、APIのインターフェースを修正する計画があるかどうかについてはコメントしていません。
AIであれ自力であれ、当然ながらマルウェアやフィッシングメールをバラ撒く行為は犯罪です。AIはプログラミングにも非常に便利なものですが、時には危険なものを作り出してしまうことには注意するべきでしょう。
- Original:https://www.appbank.net/2023/02/12/technology/2397714.php
- Source:AppBank
- Author:テクノロジー記事班