テクノロジーメディア「Android Headline」は昨日（9月18日）のブログ記事で、サイバーセキュリティ企業RadwareがChatGPTの「ディープリサーチ」機能に脆弱性を発見したと報じました。ハッカーは、細工されたメールを介してChatGPTをGmailクエリ処理中に、機密情報を悪意のあるウェブサイトに送信する可能性があります。
ChatGPTの「ディープリサーチ」機能は、GmailやGoogleドライブなどのアプリから大量の情報を分析します。Radwareは、ハッカーがこの脆弱性を悪用し、隠された指示を含むメールを送信する可能性があると指摘しました。ユーザーがChatGPTにメールのディープリサーチを依頼すると、システムはハッカーが管理するウェブサイトに、氏名や住所などの機密データを送信するように仕向けられます。
従来の攻撃手法とは異なり、今回のインシデントはAI自体がデータ窃盗を実行するように操作されたという点で独特です。この攻撃には、ユーザーのクエリの件名と悪意のあるメールのデザインを一致させるなど、複数の条件が必要であり、プロセス全体が複雑です。AIエージェントを用いて逆方向にデータを窃取するこのような手法は、過去のセキュリティ事例ではまれです。
ラドウェアはまた、この種の攻撃はデータ送信がユーザーのコンピュータやブラウザではなくOpenAIのサーバーから行われるため、標準的なセキュリティツールでは検出がほぼ不可能だと指摘しました。つまり、たとえローカルの保護機能が適切に機能していても、データ漏洩を防ぐことは困難であり、防御がより困難になる可能性があるということです。
OpenAIは8月にこの脆弱性を認識した後、迅速に修正パッチを当て、9月にはインシデントを公表しました。同社の広報担当者は、モデルのセキュリティは最優先事項であり、技術向上のための外部研究を歓迎すると強調しました。
