CSET AIと偽情報キャンペーンの未来 パート1：RICHDATAフレームワーク

こんにちは、丸山満彦です。

米国のGeorgetown Universityにある、Center for Security and Emerging Technology: CSETが、「AIと偽情報キャンペーンの未来 パート1：RICHDATAフレームワーク」を公開していますね。。。

RICHEDATAフレームワークは、

Reconnaissance
Infrastructure
Content Creation & Hijacking
Deployment
Amplification
Troll Patrol
Actualization

の文字をとっているんですね。。。

パート２もこれから出てくるようです。。。

● Center for Security and Emerging Technology: CSET

・2021.12.15 AI and the Future of Disinformation Campaigns Part 1: The RICHDATA Framework

・[PDF] AI and the Future of Disinformation Campaigns Part 1: The RICHDATA Framework

Executive Summary	エグゼクティブサマリー
The age of information has brought with it the age of disinformation. Powered by the speed and data volume of the internet, disinformation has emerged as an insidious instrument of geopolitical power competition and domestic political warfare. It is used by both state and non-state actors to shape global public opinion, sow chaos, and chip away at trust. Artificial intelligence (AI), specifically machine learning (ML), is poised to amplify disinformation campaigns—influence operations that involve covert efforts to intentionally spread false or misleading information.	情報化の時代は、偽情報の時代をもたらした。インターネットのスピードとデータ量を背景に、偽情報は地政学的な勢力争いや国内政治戦争の陰湿な手段として登場した。偽情報は、国家と非国家の両方のアクターによって、世界の世論を形成し、混乱を引き起こし、信頼を損ねるために使用されています。人工知能（AI）、特に機械学習（ML）は、偽の情報や誤解を招くような情報を意図的に広めようとする秘密の努力を伴う影響力のある活動である偽情報キャンペーンを増幅させる可能性を秘めています。
In this series, we examine how these technologies could be used to spread disinformation. Part 1 considers disinformation campaigns and the set of stages or building blocks used by human operators. In many ways they resemble a digital marketing campaign, one with malicious intent to disrupt and deceive. We offer a framework, RICHDATA, to describe the stages of disinformation campaigns and commonly used techniques. Part 2 of the series examines how AI/ML technologies may shape future disinformation campaigns.	本連載では、これらの技術が偽情報の拡散にどのように利用されるかを検証します。パート1では、偽情報キャンペーンと、人間の操作者が使用する一連のステージやビルディングブロックについて考えます。偽情報キャンペーンは、多くの点でデジタルマーケティングキャンペーンに似ており、混乱と欺瞞を目的とした悪意のあるものです。本連載では、偽情報キャンペーンの段階とよく使われるテクニックを説明するフレームワーク「RICHDATA」を提供します。本シリーズの第2部では、AI/ML技術が将来の偽情報キャンペーンをどのように形成するかを検討します。
We break disinformation campaigns into multiple stages. Through reconnaissance, operators surveil the environment and understand the audience that they are trying to manipulate. They require infrastructure—messengers, believable personas, social media accounts, and groups—to carry their narratives. A ceaseless flow of content, from posts and long-reads to photos, memes, and videos, is a must to ensure their messages seed, root, and grow. Once deployed into the stream of the internet, these units of disinformation are amplified by bots, platform algorithms, and social-engineering techniques to spread the campaign’s narratives. But blasting disinformation is not always enough: broad impact comes from sustained engagement with unwitting users through trolling—the disinformation equivalent of hand-to-hand combat. In its final stage, a disinformation operation is actualized by changing the minds of unwitting targets or even mobilizing them to action to sow chaos. Regardless of origin, disinformation campaigns that grow an organic following can become endemic to a society and indistinguishable from its authentic discourse. They can undermine a society’s ability to discern fact from fiction creating a lasting trust deficit.	本連載では、偽情報キャンペーンを複数の段階に分けて説明する。偵察により、オペレーターは環境を監視し、操作しようとしているオーディエンスを理解する。そして、そのストーリーを伝えるために、メッセンジャー、信じられる人物像、ソーシャルメディアのアカウント、グループなどのインフラを必要とする。メッセージの種を蒔き、根付かせ、成長させるためには、投稿や長文記事、写真、ミーム、動画など、絶え間ないコンテンツの流れが必要です。インターネットの流れの中に展開された偽情報は、ボットやプラットフォームのアルゴリズム、ソーシャルエンジニアリング技術によって増幅され、キャンペーンのストーリーを広めていきます。しかし、偽情報を流すだけでは十分ではなく、トローリング（偽情報を使った格闘技のようなもの）によって、無意識のうちにユーザーと継続的に関わることで、より大きなインパクトを与えることができます。そして最終的には、無意識のうちにターゲットの心を変え、さらには混乱を引き起こす行動に駆り立てることで、偽情報作戦は現実のものとなります。起源を問わず、有機的な支持者を増やした偽情報キャンペーンは、その社会の常在化し、本物の言説と区別がつかなくなることがある。偽情報キャンペーンは、事実とフィクションを見分ける社会の能力を損ない、永続的な信頼の失墜を招く恐れがある。
This report provides case studies that illustrate these techniques and touches upon the systemic challenges that exacerbate several trends: the blurring lines between foreign and domestic disinformation operations; the outsourcing of these operations to private companies that provide influence as a service; the dual-use nature of platform features and applications built on them; and conflict over where to draw the line between harmful disinformation and protected speech. In our second report in the series, we address these trends, discuss how AI/ML technologies may exacerbate them, and offer recommendations for how to mitigate them.	本レポートでは、これらのテクニックを示すケーススタディを紹介するとともに、いくつかの傾向を悪化させるシステム上の課題についても触れています。すなわち、国内外の情報操作の境界線の曖昧さ、影響力をサービスとして提供する民間企業へのこれらの操作のアウトソーシング、プラットフォーム機能とその上に構築されたアプリケーションの二重使用の性質、有害な情報と保護されるべき言論との間の境界線をどこに引くかをめぐる対立などです。シリーズ2回目のレポートでは、これらの傾向を取り上げ、AI/ML技術がどのようにこれらの傾向を悪化させるかを議論し、これらの傾向を緩和するための提言を行っています。

Reconnaissance	偵察
> Surveil the Environment	> 環境を監視する
> Identify Fissures	> 割れ目を見つける
> Translate Narrative into Messaging	> ナラティブをメッセージに変換する
> Map and Segment Target Audience	> 想定読者のマップとセグメント化
> Map Audience Channels	> 読者チャネルのマッピング
Infrastructure	基盤
> Build the Digital Army	> デジタルアーミーの構築
> Build Computational Propaganda	> コンピュータ上のプロパガンダの構築
> Build Channels	> チャンネルの構築
> Build Website	> ウェブサイトの構築
> Build Operational Security	> 運用セキュリティの構築
Content Creation & Hijacking	コンテンツ作成とハイジャック
> Create Content	> コンテンツ作成
> Prioritize Visuals	> ビジュアルの重要性
> Diversify Sentiment	> センチメントの多様化
> Hack-Forge-Leak	> ハックフォージ・リーク
Deployment	デプロイメント
Amplification	増幅
> Reshare Content	> コンテンツの再共有
> Deploy Computational Propaganda	> 計算されたプロパガンダの展開
> Launch Amplification as a Service	> サービスとしての増幅の開始
> Social Engineer the Super-Spreaders	> スーパー・スプレッダーのソーシャル・エンジニア
> Blast Mapped Targets	> 狙ったターゲットの爆破
> Engage Information Laundering	> 情報ロンダリングの実施
Troll Patrol	トロール・パトロール
> Send in the Trolls	> トロールを送り込む
> Manufacture Consensus	> コンセンサスを作る
> Manufacture Controversy	> 論争の製造
> Hack Alogorithms to Go Viral	> ハッキング・アロゴリスムでバイラル化
Actualization	現実化
> Turn Unwittiing into Witting	> 気付かない人を気付く人にする
> Organize Events	> イベントを企画する
> Live Stream a Revolution	> 革命のライブストリーム
> Radicalize to Action	> ラディカリゼーションからアクションへ