« バイデン大統領は国家情報長官室での演説でサイバー攻撃が「本当の射撃戦争につながる可能性がある」と発言? | Main | COSO クラウドコンピューティングのためのエンタープライズ・リスクマネジメント »


国連 地域間犯罪司法研究所 人工知能によるオンラインテロ対策 at 2021.06.30




United Nations Interregional Crime and Justice Research Institute

・2021.06.30 Countering Terrorism Online with Artificial Intelligence - An Overview for Law Enforcement and Counter-Terrorism Agencies in South Asia and South-East Asia




・[DOCX] 仮訳



Artificial intelligence (AI) can have, and already is having, a profound impact on our society, from healthcare, agriculture and industry to financial services and education. However, as the United Nations Secretary-General António Guterres stated in his 2018 Strategy on New Technologies, “while these technologies hold great promise, they are not risk-free, and some inspire anxiety and even fear. They can be used to malicious ends or have unintended negative consequences”. AI embodies this duality perhaps more than any other emerging technology today. While it can bring improvements to many sectors, it also has the potential to obstruct the enjoyment of human rights and fundamental freedoms – in particular, the rights to privacy, freedom of thought and expression, and non-discrimination. Thus, any exploration of the use of AI-enabled technologies must always go hand-in-hand with efforts to prevent potential infringement upon human rights. In this context, we have observed many international and regional organizations, national authorities and civil society organizations working on initiatives aimed at putting in place ethical guidelines regarding the use of AI, as well as the emergence of proto-legal frameworks. 人工知能(AI)は、医療、農業、産業から金融サービス、教育に至るまで、私たちの社会に大きな影響を与える可能性があり、また、すでに影響を与えている。しかし、国連のグテーレス事務総長が「2018年新技術戦略」で述べているように、「これらの技術は大きな可能性を秘めているが、リスクがないわけではなく、不安や恐怖を抱かせるものもある。悪意のある目的に使われたり、意図しない悪い結果をもたらしたりする可能性がある」。AIは、おそらく今日の他のどの新興技術よりも、この二面性を体現している。AIは多くの分野に改善をもたらす一方で、人権や基本的自由、特にプライバシー、思想・表現の自由、無差別の権利の享受を妨げる可能性がある。したがって、AI技術の利用を検討する際には、人権侵害の可能性を防止するための取り組みと常に密接に関連していなければならない。このような観点から、私たちは、多くの国際・地域機関、国家機関、市民社会組織が、AIの使用に関する倫理的ガイドラインの策定を目指した取り組みや、暫定的な法的枠組みの出現を確認している。
This duality is most obviously prevalent online, where increased terrorist activity is a growing challenge that is becoming almost synonymous with modern terrorism. Consider that as part of 2020 Referral Action Day, Europol and 17 Member States identified and assessed for removal as many as 1,906 URLs linking to terrorist content on 180 platforms and websites in one day. Facebook has indicated that over the course of two years, it removed more than 26 million pieces of content from groups such as the Islamic State of Iraq and the Levant (ISIL) and Al-Qaida. The Internet and social media are proving to be powerful tools in the hands of such groups, enabling them to communicate, spread their messages, raise funds, recruit supporters, inspire and coordinate attacks, and target vulnerable persons. このような二面性が最も顕著に表れているのがオンラインであり、テロ活動の活発化は、現代のテロとほぼ同義語になりつつある課題である。2020 Referral Action Dayの一環として、Europolと17の加盟国は、1日で180のプラットフォームとウェブサイト上のテロリストコンテンツにリンクする1,906のURLを特定し、削除するよう評価したことを考えてみてください。フェイスブックは、イラク・レバントのイスラム国(ISIL)やアルカイダなどのグループからのコンテンツを2年間で2,600万件以上削除したと発表している。インターネットとソーシャルメディアは、これらのグループにとって強力なツールであり、コミュニケーション、メッセージの拡散、資金調達、支援者の募集、攻撃の鼓舞と調整、弱者の標的となることを可能にしている。
In the United Nations Global-Counter Terrorism Strategy (A/RES/60/288), Member States resolved to work with the United Nations with due regard to confidentiality, respecting human rights and in compliance with other obligations under international law, to explore ways to coordinate efforts at the international and regional levels to counter-terrorism in all its forms and manifestations on the Internet and use the Internet as a tool for countering the spread of terrorism. At the same time, the Strategy recognizes that Member States may require assistance to meet these commitments. 国連グローバル・カウンター・テロリズム戦略」(A/RES/60/288)において、加盟国は、機密性に十分配慮し、人権を尊重し、国際法上のその他の義務を遵守して、国際レベルおよび地域レベルでの努力を調整する方法を模索し、インターネット上のあらゆる形態および症状のテロリズムに対抗し、インターネットをテロリズムの拡散に対抗するためのツールとして使用するために、国連と協力することを決議した。同時に、本戦略は、加盟国がこれらのコミットメントを果たすために支援を必要とする可能性があることを認識している。 
Through the present report – a product of the partnership between the United Nations Counter-Terrorism Centre in the United Nations Office of Counter-Terrorism and the United Nations Interregional Crime and Justice Research Institute through its Centre for Artificial Intelligence and Robotics – we seek to explore how AI can be used to combat the threat of terrorism online. 本報告書は、国連テロ対策局の国連テロ対策センターと、国連地域間犯罪司法研究所の人工知能・ロボットセンターとの連携による成果であり、オンライン上のテロの脅威に対抗するためにAIをどのように活用できるかを模索している。 
Recognizing the threat of terrorism, growing rates of digitalization and burgeoning young, vulnerable and online populations in South Asia and South-East Asia, this report provides guidance to law enforcement and counter-terrorism agencies in South Asia and South-East Asia on the potential application of AI to counter terrorism online, as well as on the many human rights, technical and political challenges they will need to consider, and address should they opt to do so. 本報告書は、南アジア・東南アジアにおけるテロの脅威、デジタル化の進展、若年層・脆弱層・オンライン人口の急増を認識し、南アジア・東南アジアの法執行機関やテロ対策機関に対し、オンラインでのテロ対策にAIを適用する可能性、また適用する場合に検討・対処すべき多くの人権的・技術的・政治的課題についてガイダンスを提供している。 
Our work does not end here. Addressing the challenges identified in this report and unlocking the potential for using AI to counter terrorism will require further in-depth analysis. Our Offices stand ready to support Member States and other counter-terrorism partners to prevent and combat terrorism, in all its forms and manifestations, and to explore innovative and human rights-compliant approaches to do so. 私たちの仕事はここで終わらない。本報告書で明らかになった課題に対処し、テロ対策にAIを活用する可能性を引き出すには、さらなる詳細な分析が必要である。我々のオフィスは、加盟国やその他のテロ対策パートナーが、あらゆる形態や症状のテロリズムを防止し、闘うことを支援し、そのための革新的で人権に準拠したアプローチを模索する用意がある。
The integration of digital technologies into everyday life has increased at an extraordinary pace in South Asia and South-East Asia in recent years, with the use of social media by the regions’ notably young population surpassing the global average. While this trend offers a wide range of opportunities for development, the freedom of expression, political participation, and civic action, it also increases the risk of potentially vulnerable youths being exposed to terrorist online content produced by terrorist and violent extremist groups online. Additionally, given an established terrorist and violent extremist presence in South Asia and South-East Asia, law enforcement and counter-terrorism agencies in these regions are increasingly pressed to adapt to transformations in criminal and terrorist activities, as well as to how investigations into these activities are carried out.  近年、南アジア・東南アジアでは、日常生活へのデジタル技術の導入が驚異的なスピードで進んでおり、特に若年層のソーシャルメディアの利用率は世界平均を上回っている。この傾向は、開発、表現の自由、政治参加、市民活動などの幅広い機会を提供する一方で、潜在的に脆弱な若者が、テロリストや暴力的過激派グループがネット上で制作したテロリストのコンテンツにさらされるリスクを高めている。さらに、南アジアや東南アジアでは、テロリストや暴力的過激派の存在が確立されているため、これらの地域の法執行機関やテロ対策機関は、犯罪やテロリストの活動の変化や、これらの活動の捜査方法への対応をますます迫られている。 
Artificial intelligence (AI) has received considerable attention globally as a tool that can process vast quantities of data and discover patterns and correlations in the data unseen to the human eye, which can enhance effectiveness and efficiency in the analysis of complex information. As a general-purpose technology, such benefits can also be leveraged in the field of counter-terrorism. In light of this, there is growing interest amongst law enforcement and counter-terrorism agencies globally in exploring how the transformative potential of AI can be unlocked.  人工知能(AI)は、膨大な量のデータを処理し、人間の目には見えないデータのパターンや相関関係を発見し、複雑な情報の分析の有効性や効率性を高めることができるツールとして、世界的に大きな注目を集めている。また、汎用的な技術であるため、テロ対策の分野でも活用することができる。このような背景から、世界の法執行機関やテロ対策機関の間では、AIの持つ変革の可能性をどのようにして引き出すことができるかについて関心が高まっている。 
Considering the aforementioned trends and developments, this report serves as an introduction to the use of AI to counter terrorism online for law enforcement and counter-terrorism agencies in the regions of South Asia and SouthEast Asia. This report is introductory in nature as a result of the limited publicly available information on the degree of technological readiness of law enforcement and counter-terrorism agencies in these regions, which is considered likely to be indicative of limited experience with this technology. In this regard, the report provides a broad assessment of different use cases of AI, demonstrating the opportunities of the technology, as well as curbing out the challenges. The report is intended to serve as an initial mapping of AI, contextualizing possible use cases of the technology that could theoretically be deployed in the regions, whilst juxtaposing this with the key challenges that authorities must overcome to ensure the use of AI is responsible and human rights compliant. Give its introductory nature, this report is by no means intended to be an exhaustive overview of the application of AI to counter terrorism online. 本報告書は、前述の傾向と発展を考慮し、南アジアおよび東南アジア地域の法執行機関およびテロ対策機関を対象に、オンラインでのテロ対策のためのAIの使用について紹介するものである。本報告書は、これらの地域の法執行機関やテロ対策機関の技術的な準備状況に関する公開情報が限られており、この技術の経験が少ないことを示していると考えられるため、入門的な内容となっている。本報告書では、AIのさまざまな使用例を幅広く評価し、この技術の可能性を示すと同時に、課題も明らかにしている。本報告書は、AIの最初のマッピングとしての役割を果たすことを目的としており、理論的には地域で展開される可能性のあるAIの使用事例を文脈に沿って説明するとともに、AIの使用が責任あるものであり、人権を遵守したものであることを保証するために当局が克服しなければならない主要な課題を並置している。本報告書は、入門編という性格上、オンライン・テロ対策のためのAI活用を網羅的に紹介することを意図したものではない。
The report is divided into five chapters. The first chapter provides a general introduction to the context of terrorism, Internet usage in South Asia and South-East Asia and AI. The second chapter introduces and explains some key terms, technologies, and processes relevant for this report from a technical perspective. The third chapter maps applications of AI in the context of countering the terrorist use of the Internet and social media, focusing on six identified use cases, namely: i) Predictive analytics for terrorist activities; ii) Identifying red flags of radicalization; iii) Detecting mis- and disinformation spread by terrorists for strategic purposes; iv) Automated content moderation and takedown; v) Countering terrorist and violent extremist narratives; and vi) Managing heavy data analysis demands. The fourth chapter examines the challenges that law enforcement and counter-terrorism agencies must be prepared to address in their exploration of the technology, in particular specific political and legal challenges, as well as technical issues. The report concludes with the fifth and final chapter, which provides high-level recommendations for law enforcement and counter-terrorism agencies in South Asia and South-East Asia to take onboard to support them to navigate the challenges described in terms of the use of AI to counter terrorism online.  本報告書は5つの章で構成されている。第1章では、テロリズムの背景、南アジア・東南アジアのインターネット利用状況、AIについて一般的に紹介している。第2章では、本報告書に関連する主要な用語、技術、プロセスを技術的な観点から紹介・解説している。第3章では、テロリストによるインターネットやソーシャルメディアの利用に対抗するためのAIの応用例を、次の6つのユースケースに焦点を当ててマッピングしている。すなわち、i) テロ活動の予測分析、ii) 急進化のレッドフラッグの特定、iii) 戦略的な目的でテロリストが流す誤情報や偽情報の検出、iv) コンテンツの自動調整とテイクダウン、v) テロリストや暴力的過激派のナラティブへの対抗、vi) 重いデータ分析要求の管理、である。第4章では、法執行機関やテロ対策機関がこの技術を探求する際に覚悟しなければならない課題、特に技術的な問題だけでなく、政治的・法的な課題について考察している。最後の第5章では、南アジアおよび東南アジアの法執行機関やテロ対策機関が、オンライン・テロ対策のためのAIの利用という観点から、これらの課題を解決するために必要なハイレベルな提言を行っている。






I. INTRODUCTION I. イントロダクション
i. Artificial intelligence i. 人工知能
ii. Data ii. データ
iii. Machine learning iii. 機械学習
iv. Deep learning iv. ディープラーニング
v. Generative adversarial network v. ジェネレーティブ・アドバーサリアル・ネットワーク
vi. Natural language processing vi. 自然言語処理
vii. Object recognition vii. 物体認識
viii. Predictive analytics viii. プレディクティブ・アナリティクス
ix. Social network analysis ix. ソーシャルネットワーク分析
x. Content matching technology x. コンテンツマッチング技術
xi. Data anonymization and pseudonymization xi. データの匿名化と仮名化
xii. Open-source intelligence and social media intelligence xii. オープンソース・インテリジェンスとソーシャルメディア・インテリジェンス
xiii. Disinformation and misinformation xiii. 偽情報と誤情報
i. Predictive analytics for terrorist activities i. テロ活動の予測分析
ii. Identify red flags of radicalization ii. 過激化の赤信号を識別する
iii. Detecting mis- and disinformation spread by terrorists for strategic purposes iii. テロリストが戦略目的で流す誤情報・偽情報の検知
iv. Automated content moderation and takedown iv. 自動化されたコンテンツのモデレーションとテイクダウン
v. Countering terrorist and violent extremist narratives v. テロリストや暴力的過激派の物語への対抗
vi. Managing heavy data analysis demands vi. 重いデータ分析の要求に応える
i. Legal and political challenges i. 法的・政治的課題
a. Human rights concerns a. 人権への配慮
b. Admissibility of AI-generated evidence in court b. AIが作成した証拠の法廷での認容性
c. A fragmented landscape of definitions c. 細分化された定義の数々
d. AI governance d. AIガバナンス
e. Public-private relations e. 官民関係
ii. Technical challenges in using AI tools ii. AIツールを使う上での技術的課題
a. False positives and false negatives a. 偽陽性と偽陰性
b. Bias in the data b. データの偏り
c. Explainability and the black box problem c. 説明可能性とブラックボックス問題
d. The complexity of human-generated content d. 人間が作成したコンテンツの複雑さ


« バイデン大統領は国家情報長官室での演説でサイバー攻撃が「本当の射撃戦争につながる可能性がある」と発言? | Main | COSO クラウドコンピューティングのためのエンタープライズ・リスクマネジメント »


Post a comment

(Not displayed with comment.)

Comments are moderated, and will not appear on this weblog until the author has approved them.

« バイデン大統領は国家情報長官室での演説でサイバー攻撃が「本当の射撃戦争につながる可能性がある」と発言? | Main | COSO クラウドコンピューティングのためのエンタープライズ・リスクマネジメント »