中国、高市総理へのネガキャンなど世界に対する工作にAI活用・・チャットGPTは「拒否」

最近、AIが「身近になったな」と感じています。仕事に使う方々からするといまさらな話でしょうけど、自分のような人でも、レナのための簡単な音楽やイラストを描いてもらったり、金融市場の状況などをまとめてもらったりと、いろいろ使う機会が増えました。そういえば、人間って、人間以外の存在との会話にずっと憧れてきましたが、それができるようになったのがつい最近からだな・・と思うと、感慨深いですね・・たまにちょっとおかしくなることもありますが。いつだったか、「パーフェクトだ、ジェミニ(グーグルのAI)」と言ったら、「それはヘルシングのセラス・ヴィクトリアのセリフのことでしょうか」と返事されて、ちょっと笑ったこともあります。後はフィジカルAIでメイドロボの登場に期待です。

で、当たり前ですが、良からぬことに使う人たちも多いわけでして・・今回は、ちょっと中国の話にしてみたいと思います。中国が世界規模の工作を行っており、そのためにAIを活用した(しようとした)ことが話題になっています。CNN(日本語版)と韓国メディア(京郷新聞ニューシース、27日)などから、記事を引用してみます。チャットGPTのログなど、信憑性のある情報に基づいているのも、ポイント高いですね。高市早苗首相に対する工作も確認されていますが、チャットGPTはそのための助言を拒否したそうです。該当アカウントはバーンバンババンブレイバーンした、とも。少なくともジェミニやチャットGPTの場合、こういう要求(中傷やエチチなど)には応じないと聞いたことがありますが、本当だったようで一安心です。以下、<<~>>が引用部分です。




<<・・チャットGPTの開発元であるオープンAIの新たな報告書によると、大規模な中国の影響工作は、国外にいる中国の反体制派を威嚇することに重点が置かれていた。影響工作は中国の法執行当局者が「ChatGPT(チャットGPT)」を使用したことで偶然明らかになった。オープンAIによれば、その法執行当局者は、内密の抑圧工作とされる活動を記録するためにチャットGPTを日記のように使用していた。ある事例では、米国の移民当局者を装った工作員が米国内にいる反体制派の中国人に対し、公的な発言が法律に違反したとされると警告した。米国の郡裁判所の偽造文書を用いて、反体制派中国人のSNSアカウントを削除させようとするケースもみられたという・・

・・別の事例では、就任直後の高市早苗首相を中傷するため、複数の要素からなる計画を作成するようチャットGPTに求めていた。米国の対日関税をめぐるネット上の怒りをあおろうとする取り組みの一環だった。オープンAIによれば、チャットGPTはその指示を拒否したが、10月下旬に高市氏が就任すると、日本のグラフィックアーティストに人気のフォーラムで、高市氏を攻撃し、米国の関税への不満を表明するハッシュタグが出現した(CNN日本語版)・・>>

 




<<・・中国司法当局の関係者が人工知能(AI)チャットボット、チャットGPTを利用して、日本の首相をネガキャンしようとする工作を試みた、という事実が明らかになった。26日(現地時間)オープンAIの「AI利用遮断」報告書によると、中国法執行機関の関係者は昨年10月中旬、チャットGPTを利用した高市早苗 日本首相に対する組織的ネガキャン工作を構想し、文書にまとめた。この関係者は「サイバー特殊作戦」と命名されたこの工作を通じて、高市首相に対して否定的なコメントを投稿したり、外国人を詐称して批判的な電子メールを政治家に送り、米国の対日関税に対する怒りを煽るなど否定的な世論を造成しようとした。オープンAIは、チャットGPTがこのような工作に関するアドバイスを拒否したと明らかにした。

しかし、同じ利用者が10月末、同様の内容を盛り込んだ文件を編集するよう要請した事実から考えると、チャットGPTの直接的な助けなしに、該当工作が実行されたものと見られる、とも付け加えた。実際に、Xをはじめとするソーシャルメディアには、文件で言及される「右翼共生者」ハッシュタグを付けた高市首相への批判文やユーチューブ映像などが掲示された。ただしオープンAIは、工作の実際の影響力は制限的だったとした。関連したユーチューブ動画の視聴回数は一桁にとどまり、他のSNS投稿も大きな反応は得られなかった(京郷新聞)・・>>

 

<<・・続いて「このユーザー(※中国当局)は高市早苗 首相への秘密影響力作戦を計画するために、私たちのモデルを使用しようとしたが、私たちのモデルは拒否した」とした。オープンAIは「これらはネットワーク特殊戦遂行に関する定期状態報告書の編集にチャットGPTを使用した」とし「この更新内容によると、中国法執行機関は結局、私たちのモデルを使用せずに高市首相への作戦を開始したことが把握された」と説明した。オープンAIは「これらはオンラインとオフライン、国内外を問わず反対意見を抑圧し、批判勢力を沈黙させるために、先立って数多くの他の作戦を広範囲に遂行してきたことを示唆する内容も発見された」とし「このような動きは、大規模で集約的で、持続的なものと見られる」と伝えた。

続いて「最低でも数百人の人材と数十個のプラットフォームにわたる何千もの偽アカウントが動員された」とし「特に(ディープシークなど)中国産モデルをはじめとする現地配布AIモデルが使用された」とした。オープンAIは「該当ユーザーは作戦遂行に数十の戦術が使われたと記述した」とし「ここには反体制人物のソーシャルメディアアカウントに対する申告から、大規模なオンライン投稿作成、文書偽造、批判勢力を抑え込むための米国官僚詐称に至るまで、多様な方式が含まれた」とも説明した。

続いて「我々は公開ソース分析を通じてこのユーザーが描写した戦術と一致するオンライン活動を識別することができた」とし「これは中国内の人物だけでなく、世界中の反体制人物と批判勢力を標的にしていた」とした。続いて「高市首相関連の投稿の多くは、実際のユーザーの参加を引き出すことができなかった」とし、「報告書によると、200個以上の西方のプラットフォームに、5万個の投稿を載せたが、300回以上の共有やコメントを得たのは150個にならなかった」とした(ニューシース)・・>>

 




ここからはいつもの告知ですが、新刊のご紹介です。いつも、ありがとうございます。今回は、<韓国リベラルの暴走>という、李在明政権関連の本です。新政権での日韓関係について、私が思っていること、彼がいつもつけている国旗バッジの意味、韓国にとっての左派という存在、などなどを、自分自身に率直に書きました。リンクなどは以下のお知らせにございます。

・以下、コメント・拙著のご紹介・お知らせなどです
エントリーにコメントをされる方、またはコメントを読まれる方は、こちらのコメントページをご利用ください

   ・様のおかげで、こうして拙著のご紹介ができること、本当に誇りに思います。ありがとうございます。まず、最新刊(2025年8月30日)<韓国リベラルの暴走>です。韓国新政権のこと、日韓関係のこと、韓国において左派という存在について、などなどに関する本です。・新刊は<THE NEW KOREA>(2025年3月2日)です。1920年代、朝鮮半島で行われた大規模な社会・経済改革の記録です。原書は1926年のものです。・刊、<自民党と韓国>なども発売中です。岸田政権と尹政権から、関係改善という言葉が「すべての前提」になっています。本当にそうなのか、それでいいのか。そういう考察の本です。・しい説明は、固定エントリーをお読みください。・当にありがとうございます。