OpenAIは、ChatGPTを用いて虚偽の経歴書を作成した北朝鮮のアカウントを停止したことを発表しました。
OpenAIは、ChatGPTを用いて不正な経歴書を作成した北朝鮮のアカウントを削除したと発表しました。
OpenAIは、ChatGPTを不正利用して偽の履歴書を作成した北朝鮮関連のアカウントを特定し、削除したことを明らかにしました。OpenAIが現地時間21日に発表した公式報告書によると、これらの北朝鮮アカウントはChatGPTを使用して詐欺的な履歴書やオンラインプロフィールを生成し、西側の企業で不正に雇用を確保しようと、求人プラットフォームに投稿していました。北朝鮮は、西側から高度な技術を盗み出したり、違法な核兵器計画のための資金を確保するために、生成AIを活用することで知られています。しかし、OpenAIは削除された北朝鮮関連のアカウント数や削除のタイミングに関する具体的な詳細は明らかにしていません。
OpenAIは、北朝鮮のアカウントに加え、中国に関連するアカウントも削除したことを公表しました。一部の中国アカウントは、ChatGPTを使用して米国を中傷するスペイン語のニュース記事を作成していたことが判明しました。これらの記事は、南米の主要な報道機関において中国企業の名前で掲載されました。さらに、中国のセキュリティ機関が、ChatGPTを利用してソーシャルメディア上の反中国的な投稿を監視するAIベースの監視ツールを開発していたことが明らかになりました。このツールは、X（旧Twitter）、Facebook、YouTube、Instagramなどのプラットフォーム上で、中国の政治的および社会的なテーマに関連する投稿やコメントを収集・分析し、中国当局にデータを提供することを目的としていました。OpenAIは、この行為を「ピアレビュー」と呼び、監視ツールのコードの一部のデバッグ（エラー修正）プロセスにおいて、ChatGPTが使用されたことを確認したと説明しました。
OpenAIの上級研究員であるベン・ニモ氏は、「AIベースの監視ツールが検出されたのは今回が初めてです」と述べました。同氏はさらに、「悪意のある行為者がAIモデルを使用する際に残した痕跡を追跡することで、彼らのインターネット活動を把握し、有害な行動を検出することができます」と付け加えました。