OpenAIは6月5日(米国時間)、「Disrupting malicious uses of AI: June 2025 | OpenAI」において、サイバー犯罪への悪用を目的とするAIの不正使用の阻止についてまとめた6月のレポートを公開した。これは2月に公開された前回のレポートから3カ月間の実績をまとめたもので、今回は中国が関与した活動の阻止を中心に10件の事例について詳細を伝えている。

  • Disrupting malicious uses of AI: June 2025｜OpenAI

    Disrupting malicious uses of AI: June 2025 ｜ OpenAI

AI悪用阻止に関する6月レポート

6月のレポートでは中国の活動阻止を中心に、ロシア、北朝鮮、イラン、フィリピン、カンボジアの活動について伝えている。その概要は次のとおり。

冷笑レビュー作戦

中国語でプロンプト入力を行う脅威アクターは、ソーシャルネットワーキングサービス(SNS: Social networking service)ユーザーの感情および意思を操作するためにChatGPTを悪用した。中国に関連する政治的および地政学的なトピックに焦点を当て、生成した短いコメントをTikTok、X、Facebook、Redditへ投稿し、プロパガンダを試みている。

脅威アクターのメインアカウントから投稿スレッドが開始され、脅威アクターの他のアカウント群から一連の返信コメントが投稿される。すべて生成AIを用いて作られたコメントだが、中国に都合のよい意見を大量に投稿して一般的な意見のように見せかける印象操作を行う。

このプロパガンダ作戦においては、投稿者のアカウント名の言語と投稿コメントの言語が一致しないことが確認されている。一例としては、韓国語のアカウント名のユーザーがウルドゥー語でコメントを投稿している。

外貨獲得をもくろむ北朝鮮

北朝鮮の関与が疑われる脅威グループは、不正な海外雇用を目的としてChatGPTを悪用した。この脅威グループの活動は2つ検出されており、コアオペレーターと契約者の分業体制で活動していた可能性がある。

コアオペレーターはChatGPTを悪用し、架空の履歴書の自動作成と、求人応募の管理ツール構築について情報集収を試みている。また、米国でリモートワーカー役として活動する人材(契約者)を募集するために、世界各国に向けた求人広告に似たコンテンツの生成にも用いられた。

契約者が就職するにはライブビデオ会議への出席など、繰り返される本人確認を回避し続ける必要がある。この障壁については、Tailscale P2P VPN、OBS Studio、vdo.ninja live-feed injection、HDMIキャプチャーループなどのツールが悪用された。

ヘルゴラント噛みつき作戦

ロシア語をプロンプト入力に用いる脅威アクターは、ドイツの反体制派活動家やブロガーに関する公開情報と連絡方法の集収にChatGPTを悪用した。この脅威アクターのTelegramチャネルには1,755人の登録者、Xアカウントには27,000人のフォロワーが確認されている。

脅威アクターはドイツの特定の政党を支持する投稿を行い、ドイツ国民へのプロパガンダ活動を実施した。OpenAIは脅威アクターのTelegramチャネル名(ドイツのヘルゴラント島に関連)にちなんで、この作戦を「ヘルゴラント噛みつき作戦」と呼称している。

作戦の主な目的は、政権与党への批判的な意見の拡大とみられている。脅威アクターは投稿時間や支払いの翻訳についてもChatGPTを悪用しており、現地活動家の雇用を試みた可能性がある。

AIの悪用には毅然とした態度で臨む

レポートでは、他の複数の事案について詳細情報を公開している。ここではプロパガンダ活動に関する事案について概要を伝えたが、この他にもサイバー攻撃に関する情報収集や支援にChatGPTを悪用した事案が報告されている。

OpenAIはサイバー攻撃に限らず、ソーシャルエンジニアリング、サイバースパイ活動へのAI悪用を認めておらず、これら不正行為についても検出、阻止および情報公開を行う方針を明確にしている。同社は今回の調査にて判明した脅威アクターの活動を阻止するために、関連アカウントをすべて停止処分としている。

同社はさらなる脅威分析と特定を可能にするGoogleやAnthropicからの脅威報告を歓迎すると述べ、業界一丸となってAIの悪用撲滅に向けた取り組みを強化していく姿勢を見せている。