OXFORD JOURNAL of Cybersecurity 国際法におけるディープフェイク規制の必要性の高まり：ロシア・ウクライナ戦争を例に

こんにちは、丸山満彦です。

生成的AIの登場とともに、生成的AI作のディープフェイク脅威論が生じましたが、、、まぁ、認知戦において生成的AIは便利な道具として利用されていくだろうと思います。

で、この論文。AI技術によって生成されるディープフェイクが、戦時・平時の両方でどのような影響を及ぼすのか、ロシア・ウクライナ紛争における事例を通じて分析していますね...

この論文では、既存の法規制（刑事罰、透明性義務など）は、ディープフェイクの規制には不十分であり、かえって個人の権利や自由を侵害する可能性があるとしていますね...

そのため、ディープフェイクを効果的に規制するためには、個人の「認知の自由 (cognitive liberty)」を保護する国際的な権利を確立すべきだといっていますね...

なお、規制については、米国、中国、英国、EUについて分析していますね...

米国は犯罪防止、選挙への関与についての警戒がありますね...

中国はこのブログでも紹介していますが、AIを使って画像、音声等を作成する際に、そうわかるように印をいれるという規制をしていますね...

英国は、オンラインセーフティ法による児童保護の観点からの説明がありますね...

欧州は、拡散に注目しているのかもしれません。デジタルサービス法による規制です。そしてAI法による透明性の確保...

いずれも現在の規制では限界があるという感じですね...

興味深いので読んでみてくださいませ...

日本では早くから総務省がディープフェイクについては検討していますよね...

● 総務省 - インターネット上のフェイクニュースや偽情報への対策

● OXFORD - JOURNAL of Cybersecurity  - Volume 11, Issue 1 2025

・Emerging need to regulate deepfakes in international law: the Russo–Ukrainian war as an example 

目次...

Abstract	概要
Introduction	序論
Deepfakes as information operations	情報操作としてのディープフェイク
Deepfakes in the Russo–Ukrainian war	露・ウクライナ戦争におけるディープフェイク
Regulating deepfakes	ディープフェイクの規制
Discussion: protection through cognitive liberty	議論：認知的自由による防御
Conclusion	結論

概要...

Abstract

概要

Deepfakes are an increasingly recognized potent mean of disinformation, both in times of conflict and peace. This article examines their impact within the context of Russo–Ukrainian war and applicable legal frameworks. Given the profound societal and individual harms that deepfakes have the potential to cause, more thorough than traditional means of propaganda, we evaluate existing legal norms and propose new regulatory solutions centered on protecting cognitive liberty of individuals. Using various legal methodologies and purposive and extending legal interpretation, we argue that existing regulatory approaches—such as criminalization, transparency mandates, and obligations on service providers—are insufficient and under some circumstances may encroach upon other fundamental rights and freedoms. Therefore, we advocate for future efforts to regulate deepfakes through the establishment of an international or regional right to cognitive liberty, acknowledging the challenges in achieving consensus amid current geopolitical tensions. Our study aligns with the scope of Journal of Cybersecurity as it addresses emerging technical challenges from a multidisciplinary perspective, with a primary focus on the legal aspects of information security. It also briefly touches upon strategic, international relations, and policy perspectives.

ディープフェイクは、紛争時においても平和時においても、偽情報の有力な手段として認識されつつある。本稿では、露・ウクライナ戦争の文脈と適用可能な法的枠組みの中で、ディープフェイクの影響を検証する。ディープフェイクが伝統的なプロパガンダ手段よりも深刻な社会的・個人的被害をもたらす可能性があることを踏まえ、既存の法的規範を評価し、個人の認知的自由の保護を中心とした新たな規制的解決策を提案する。様々な法的方法論と合目的的かつ拡張的な法解釈を用いて、犯罪化、透明性の義務付け、サービスプロバイダーに対する義務といった既存の規制的アプローチは不十分であり、状況によっては他の基本的権利や自由を侵害する可能性があると主張する。したがって、現在の地政学的緊張の中でコンセンサスを得ることの難しさを認識しつつ、認知的自由に対する国際的または地域的な権利の確立を通じてディープフェイクを規制する今後の取り組みを提唱する。本研究は、情報セキュリティの法的側面に主眼を置きつつ、学際的な視点から新たな技術的課題に取り組むものであり、Journal of Cybersecurityのスコープに沿ったものである。また、戦略、国際関係、政策の観点についても簡単に触れている。