最近のレポートで、イスラエルのサイバーセキュリティ会社 Check Point Research(CPR)は、サイバー犯罪者がChatGPTを使用してダークウェブ上で悪意のあるプログラムを開発している、と警告した。CPRによると、ChatGPTを用いて未熟な攻撃者でも機能するマルウェアが作成可能になる。
CPR がいくつかの主要な地下ハッキングコミュニティを分析したところ、OpenAIを使用して悪意のあるツールを開発するサイバー犯罪者が存在することが示されている。私たちが予想した通り、一部のケースではOpenAIを使用する彼らの多くがソフトウェア開発スキルをまったく持っていないことがわかった。
CPRの研究者は、スクリプトの抽出からランサムウェア対応の暗号化ツール、不正なスキームをサポートするマーケットプレイスまで、少なくとも 3 つの異なるケースを発見した。
最初のケースでは一見熟練した攻撃者が、ある言語から別の言語に翻訳するChatGPTの能力を活用して、研究論文で知られているマルウェアを再現した。悪意のあるスクリプトを作成するためのコツは擬似コードを使用して、実行すべきことを正確にプロンプトで指定することであると、彼らは指摘する。Pythonスクリプトは既知のファイルタイプを検索してZIPにしてインターネットで送信することができるものだった。またWindows用の一般的なtelnet/SSHクライアントであるPuTTYをダウンロードし、システム上で実行できるJavaプログラムも開発されていた。
別の攻撃者は、ファイルを暗号化・復号化するPythonプログラムを作成した。スクリプトは単なる機能の集まりだったが、CPRの研究者はランサムウェアツールに簡単に変換できるものだ、と指摘する。このケースで攻撃者はスクリプト作成に初めて挑戦した、と述べた。
3番目のケースでは、ChatGPTを利用して取引決済に暗号通貨を利用し口座やクレジットカードなどを含む違法や盗品を取引する不正行為を可能にする市場を構築した。
こういった目的で ChatGPTを使用する方法を説明するために、サイバー犯罪者はダークウェブ市場の支払いシステムの一部として、サードパーティAPI を使用して最新の暗号通貨 (Monero、Bitcoinおよび Etherium) の価格を取得するコードを公開した。
CPRの研究者は、彼らがダークウェブで特定した ChatGPT によって生成されたマルウェアが、まだ低レベルのものだと認めているが、もっと洗練された攻撃者がChatGPTを活用した攻撃方法を見つけるのは時間の問題だと述べている。この点をより説得力のあるものにするために、彼らは別の記事で、もっともらしいメールや悪意のあるVBA コードを埋め込んだ Excel ファイルなど、完全なフィッシングフローを作成するために使用できる多くの手法について説明した。さらに、ポートスキャンニングスクリプト、リバースシェル、およびサンドボックス検出ツールも作成可能であったし、ChatGPTで機能するプログラムを生成させるのに一般的な英語の知識で十分なケースも見られたのである。