改造ChatGPTが「サイバー攻撃」に悪用されている

ChatGPTとは、人工知能を使って質問に答えたり、タスクを実行したりするチャットボットです。ユーザーはそれを使って、文書を作成したり、コンピュータコードを書いたりすることができます。

本来ChatGPTは「ハッキングされたデバイスからデータを盗む」や「フィッシングメールを作成しコードを書く」などのような違法性の高い依頼を拒否するように設計されています。しかし、サイバー犯罪者たちはこのようなChatGPTの制限を回避する方法を発見し販売しています。

制限が回避された「改造ChatGPT」では、一体何ができるのでしょうか？その詳細について、海外メディア「arstechnica」が解説しています。

関連：最悪「全員死ぬ」ChatGPT開発組織トップが予測するAIの未来

*Category:テクノロジー Technology *Source：arstechnica,checkpoint

制限が無くなった「ChatGPT」で出来るコトとは？

ChatGPTの制限を回避するには、OpenAIのアプリケーションプログラミングインターフェース(API)を使用します。

セキュリティ企業であるチェック・ポイント・リサーチ社の研究者によると「APIは外部アプリケーションによって使用され、不正使用防止システムがあるとしても非常に少ない」とのことです。つまり、APIを悪用すれば制限や障壁なしに、フィッシングメールやマルウェアコードなどの悪意のあるコンテンツ作成が可能だということです。

チェック・ポイント・リサーチ社によると犯罪マーケットで「OpenAIのAPI」と「Telegram」を組み合わせたサービスが販売されているとのことです。