SSブログ

OpenAI 社が中露の生成型AI悪用に関する報告書 [安全保障全般]

現時点では大きな影響を与える悪用は未確認
英語能力に劣る悪者利用による情報拡散が一番の懸念
Al 生成物「ラベル付け」法律制定と識別技術が必要と

OpenAI ChatGPT.jpg5月31日付 DefenseOne が、ChatGPTを提供する生成型AIの先駆者企業「OpenAI社」が発表した「ロシアや中国関連アクターによるOpenAI 生成AI活用の Disinformation 情報拡散」とのレポートの概要の概要を紹介していますので、更につまみ食いして取り上げます

なお、このOpenAI作成レポートを同記事は、AI 生成作成コンテンツが明確に「ラベル付け」されるような法律制定を目指す同社の姿勢をアピールし、そのために同社が開発する「AI 生成作成コンテンツ検出技術」を検証する一環として作成されたものだと指摘し、

OpenAI ChatGPT5 .jpg(←100万人登録に要した日数比較)「現時点では大きな影響を与える悪用は未確認」だが、悪意ある人物が、同社のような「AI 生成作成コンテンツ検出技術」開発者よりはるかに早く、コンテンツを生成し、拡散できる可能性があることを警告していると解説しています。

同レポートが「一つの主な発見:Acentral finding」として指摘しているのは、生成 AIにより (偽情報拡散に最も活用される)英語(または他の言語)の能力が劣る悪者でも、従来よりも遥かに本物らしく見える投稿やコメントを作成可能となり、ネイティブスピーカーが投稿したように見せることができるという点です

OpenAI ChatGPT4.jpgこの点は、不自然な言語表現が現時点におけるネットコンテンツの真備を判断する数少ない有効な手段であることから、非常に重要な意味を持つと同レポートは普鐘を鳴らしています。

まぁ・・・、自社の生成型AI「ChatGPT」の悪用事例を、どこまで「OpenAI社」が正直に披露するのか、同レポートにある「現時点では大きな影響を与える悪用は未確認」との説明を信じてよいのか、まんぐーすにコメントできる知見がありませんが、6月中旬開催の「G7首脳会議」でも重要な話題になっているテーマですので、まずは勉強させていただきます

同レポートが挙げた事例には・・・
OpenAI ChatGPT3.jpg●親ロシア派の団体「Bad Grammar」は、OpenAI ツールを使って「ウクライナとモルドバの大統領は汚職に手を染めている」、「米国がウクライナを支援すべきではない」等と主張する生成AI作成コメントを大規模に拡散していた
●ロシア拠点のグループ「ドッペルゲンガー」は、OpenAIツールを使って英語、仏語、独語、伊語、ポーランド語のコンテンツを投稿し、実際よりもはるかに人気があるように見せかけた。ただしその発言があまりンもパターン化し、一般ネットユーザーの多くからから「ボット」だと批判されていた

OpenAI ChatGPT6.jpg●中国の「Spamouflage」と呼ばれるグループは、情報の拡散手法ではなく、生成 AIを活用し「SNS 分析に関するアドバイスを求め、ニュースや時事問題を調査し、ブログやSNSに公開するコンテンツを生成した」、「生成 AIを活用し、多数のSNS投稿、特に中国語の投稿の感情を要約および分析した」、「(意味理解できず→) The people acting on behalf of IUVM used our models to create website tags, which then appear to have been automatically added to the group's website J
●生成 AIを使用し、Telegram、X、Instagram などのサイトや投稿への大量の短いコメント投稿を行い、アクセス数を水増しすることも広く行われている
//////////////////////////////////////

OpenAI ChatGPT2.jpgイタリアで6月13~15日に開催されたG7サミットの共同声明に、AIに関し「軍事分野での責任ある開発と使用を推進する枠組みの必要性」が明記された模様で、日本でも大規模な開発事業者などを対象に法規制の検討が始まっているようです。

サイバーや宇宙だけでも手に負えないのに、生成AIですか・・・。頭が痛い時代になってきましたが、健全な常識を備えた国民の存在こそが、国家安全保障の一番の守護神だ・・・との一念で、ちまちまと今後も投稿を続けたいと思います。後しばらくは・・・

安全保障全般カテゴリー最近の記事 250本
https://holylandtokyo.com/category/%e5%ae%89%e5%85%a8%e4%bf%9d%e9%9a%9c%e5%85%a8%e8%88%ac/

応援お願いします!ブログ「東京の郊外より」支援の会
https://community.camp-fire.jp/projects/view/258997

ブログサポーターご紹介ページ
https://holylandtokyo.com/2020/04/15/727/

nice!(3)  コメント(0) 
共通テーマ:ニュース

nice! 3

コメント 0

コメントを書く

お名前:[必須]
URL:[必須]
コメント:
画像認証:
下の画像に表示されている文字を入力してください。

※ブログオーナーが承認したコメントのみ表示されます。