中国 インターネット情報サービス深層合成管理規定についての専門家のコメント... (2022.12.12)

こんにちは、丸山満彦です。

来年1月10日に施行されることになる「インターネット情報サービス深層合成管理規定」に関する専門家のコメント。。。

● 中央网络安全和信息化委员会办公室 (Cyberspace Administration of China: CAC)

专家解读｜加速推进深度合成服务规范化	専門家の解釈｜深層合成サービスの標準化を加速させる
专家解读｜加快规范深度合成技术应用	専門家の解釈｜深層合成技術のアプリケーションの標準化を加速する
专家解读｜规范智能技术供给 构建现代化深度合成治理能力	専門家の解釈｜知的技術の供給を調整し、現代の深層合成統治能力を構築する。
专家解读｜推动深度合成服务综合治理 促进深度合成技术安全发展	専門家の解釈｜深層合成サービスの包括的なガバナンスの推進 深層合成技術の安全な開発の推進
专家解读｜规范深度合成服务 营造风清气正的网络空间	専門家の解釈｜クリーンなサイバースペースを実現するための深層合成サービスの規制

・2022.12.12 专家解读｜加速推进深度合成服务规范化

专家解读｜加速推进深度合成服务规范化	専門家の解釈｜深層合成サービスの標準化を加速させる
随着人工智能和大数据技术的飞速发展，深度合成技术在互联网信息服务中得到广泛应用。这些技术在为用户提供个性化、精准化、智能化信息服务的同时，如非法应用也容易引发侵害用户合法权益、传播违法信息、操纵社会舆论等一系列问题，给国家利益、社会公共利益和公民合法权益带来巨大挑战。11月25日，国家网信办会同工信部、公安部发布《互联网信息服务深度合成管理规定》（下文简称《规定》），以贯彻落实《网络安全法》《数据安全法》《个人信息保护法》和《互联网信息服务管理办法》等法律、行政法规有关规定。《规定》是我国第一部针对深度合成服务治理的专门性部门规章，对规范深度合成服务、促进相关应用健康发展具有重要时代意义。	人工知能やビッグデータ技術の急速な発展に伴い、深層合成技術はインターネット情報サービスにおいて広く活用されている。 これらの技術は、パーソナライズされた正確かつインテリジェントな情報サービスをユーザーに提供し、違法なアプリケーションなども、ユーザーの合法的な権利と利益を侵害する傾向がある、違法な情報の普及、社会的意見と問題の一連の操作は、国益、社会公共の利益と市民の正当な権利と利益は大きな課題をもたらす。 11月25日、国家サイバースペース管理局は、工業情報化部、公安部とともに、「ネットワークセキュリティ法」、「データセキュリティ法」、「個人情報保護法」および「インターネット情報サービス管理弁法」などの関連法律、行政法規を実施するために、「インターネット情報サービス深層合成管理規定（以下「規定」）」を公布した。 本規定は、深層合成サービスのガバナンスに関する中国初の専門部門規定であり、深層合成サービスを規制し、関連アプリケーションの健全な発展を促進する上で、時代に大きな意味を持つものである。
一、深度合成成为重要技术应用	１：深層合成が重要な技術的アプリケーションになること
深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、视频、音频、虚拟场景等网络信息的技术。深度合成技术最大的特点之一是“以假乱真”，其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果，能够使人难辨真假。深度合成技术的代表性研究是在2014年提出的生成对抗网络（GAN），其通过对抗式迭代训练生成器和判别器两个部分，大幅提升数据生成的逼真程度，使得深度合成的结果难以被人眼辨别真伪。伴随着日益增长的应用需求，深度合成技术在教育、影视、传媒等领域扮演着愈发重要的角色，其面部替换、表情操纵、语音合成等不同技术分支，能够升级传统内容制作方法，改善制作效果，提高制作效率，在各类商业化产品中使用比例显著提升。	深層合成技術は、テキスト、画像、映像、音声、仮想シーンなどのネットワーク情報技術を生成するために、深層学習、バーチャルリアリティなどの世代合成クラスのアルゴリズムを使用することを指す。 深層合成技術の最大の特徴は、「本物であることを偽る」ことであり、人工知能やビッグデータのアルゴリズムによって合成された仮想データは、視覚や聴覚に優れた効果をもたらし、人が本物と偽物の区別をつけることを難しくしている。 深層合成技術の代表的な研究は、2014年に提案されたGAN（Generative Adversarial Network）で、生成器と識別器の成分を敵対的に反復して学習させることでデータ生成の忠実度を大幅に高め、深層合成の結果を人間の目で識別しにくくするものである。 アプリケーションの需要の高まりとともに、深層合成技術は教育、映画、メディアにおいてますます重要な役割を果たすようになり、顔の置き換え、表情操作、音声合成などの異なる技術分野が、従来のコンテンツ制作方法をアップグレードし、制作結果を改善し、制作効率を高めることができ、あらゆる種類の商業製品に使用される割合が著しく高まっている。
二、深度合成技术非法使用带来严重安全风险	２：深層合成技術の違法使用は深刻なセキュリティリスクをもたらす
深度合成技术在支持正向应用的同时，也为我们带来新的安全风险。随着深度合成技术的快速发展，其使用门槛愈发降低，呈现出“平民化”的趋势。普通人可以利用简单方便的软件或工具，制作出真假难辨的合成内容。若非法使用深度合成技术，将导致传播违法和不良信息的乱象，对社会信任、媒体信任、政治信任造成冲击。例如，不法分子通过制作虚假的视频、图像、音频等，进行诽谤、诈骗、勒索、诬陷，甚至通过从互联网获得明星、高管、学者、政要的视频、图像、音频数据，利用深度合成技术对其进行恶意攻击。误用、滥用以及恶意使用深度合成技术生成的数据，将为个人、企业带来声誉损害和财产损失，甚至对国家安全、社会稳定造成威胁。因此，《规定》聚焦深度合成服务乱象问题，构建算法安全治理体系，规范互联网信息服务深度合成管理，意义重大，影响深远。	深層合成技術は、積極的な応用を支える一方で、私たちに新たなセキュリティリスクをもたらす。 深層合成技術の急速な発展に伴い、その敷居はどんどん低くなり、「民生化」の傾向を示している。 一般の人でも、簡単で便利なソフトやツールを使えば、本物と見分けがつかないような合成コンテンツを作ることができる。 深層合成技術の違法な使用は、違法かつ望ましくない情報の発信につながり、社会的、メディア的、政治的信頼に影響を与える。 例えば、悪徳業者が名誉毀損、詐欺、脅迫、言いがかりのために虚偽の動画・画像・音声を作成したり、有名人、経営者、学者、要人の動画・画像・音声データをインターネット上から入手し、深層合成技術を使って悪意を持って攻撃することもある。 深層合成技術によって生成されたデータの誤用、悪用、悪意ある利用は、個人や企業に風評被害や財産損失をもたらし、さらには国家の安全や社会の安定に脅威を与えることになる。 そのため、「規定」は深層合成サービスの混沌の問題に焦点を当て、アルゴリズムセキュリティのガバナンスシステムを構築し、インターネット情報サービスの深層合成の管理を標準化し、大きな意義と遠大な影響力を持つものである。
三、正确处理服务管理规范与技术研究发展的关系	３：サービスマネジメント標準と技術研究開発の関係を正しく処理すること
深度合成技术研究应在安全可靠的基础上推进，在规范中科学发展。深度合成技术已展现其强大的能力，在各个领域的加速应用已成为趋势。然而，在相关技术研究发展的同时，也须直面技术带来的风险，保证算法和数据的安全性、可靠性，最大程度做到技术进步的趋利避害。《规定》在保护深度合成技术良性发展的基础上，明确了生成合成类算法治理的对象，确立了算法治理的基本原则，并鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，强化了深度合成服务提供者和技术支持者的主体责任，为安全可靠的深度合成技术发展指明了方向，并为技术的服务应用提供指引和规范。	深層合成技術の研究は、安全性と信頼性を基本に、標準化における科学的な開発を推進する必要がある。 深層合成技術は、その強力な能力を発揮し、様々な分野への応用が加速している。 しかし、関連技術の研究開発が進む一方で、技術がもたらすリスクと向き合い、アルゴリズムやデータの安全性・信頼性を確保し、被害を回避するために技術の進歩を最大限に活用することが必要である。 本規定は、深層合成技術の良性発展を保護することを前提に、生成合成のアルゴリズムのガバナンスの対象を明確にし、アルゴリズムのガバナンスの基本原則を確立し、関連業界団体が業界の自主規制を強化し、業界標準、業界指針、自主規制管理システムを構築・改善し、深層合成サービス提供者と技術支援者の主な責任を強化し、安全で信頼できる深層合成技術の発展の方向を指し示すことを奨励する。 また、その技術のサービス応用のためのガイドラインと仕様を提供する。
四、深度合成的安全性、可靠性保障对技术治理提出新要求	４：深層合成の安全性と信頼性の保証は、技術的なガバナンスに新たな要件を提示している
《规定》在规范互联网信息服务深度合成管理的同时，也为相关安全性、可靠性保障提出了新的技术治理要求。一方面，深度合成服务提供者应加强深度合成内容管理，建立健全用于识别违法和不良信息的特征库，在非人工审核情形下，则应对使用者的输入数据和合成成果进行精准有效的技术审核，进而对违法和不良信息依法采取处置措施。另一方面，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。这要求服务提供者开发新的技术，在不影响用户使用的前提下，在视频、图像、音频、虚拟场景等深度合成信息上合理添加显著标识。此外，由于数据传输过程中，可能会出现如视频帧率降低、图像压缩等常见处理，所添加标识还须具备强鲁棒性，避免在传输过程的正常处理中受到破坏。	同規定は、インターネット情報サービスの綿密な合成管理を規制するとともに、関連するセキュリティと信頼性の保証に関する新たな技術的ガバナンスの要件を提示している。一方、深層合成サービス提供者は、深層合成コンテンツの管理を強化し、違法・望ましくない情報を識別するための健全な機能ライブラリを構築し、非手動監査の場合は、ユーザの入力データおよび合成結果に対して正確かつ有効な技術監査を行い、違法・望ましくない情報に対して法に従った処分措置を講じる必要がある。 一方、深層合成サービス提供者は、そのサービスを利用して生成・編集された情報コンテンツの利用者に影響を与えないような表示を付加する技術的な措置を講じる必要がある。 そのため、サービス提供者には、映像、画像、音声、仮想シーンなどの深層合成情報に、ユーザーの利用に影響を与えることなく、合理的に目立つマークを付加する新技術の開発が求められている。 また、データ伝送中に動画のフレームレート低下や画像圧縮などの一般的な処理が行われることがあるため、付加されるマークも通常の伝送処理で乱れないようなロバスト性が求められる。
综上，《规定》的颁布标志着我国深度合成服务的规范管理工作进入新阶段。深度合成服务提供者和技术支持者应认真学习和理解《规定》，明确主体权责，积极应对深度合成安全性、可靠性技术要求。深度合成服务使用者也应加强算法应用的安全意识，保证使用的合规合法性，有效维护自身的合法权益。（作者：周杰，清华大学研究生院院长）	要約すると、この規定の公布は、中国における深層合成サービスの標準的な管理における新たな段階を示すものである。 深層合成サービス提供者及び技術支援者は、本規定を真剣に検討・理解し、主な権利と責任を明確にし、深層合成の安全性と信頼性に関する技術的要求に積極的に対応する必要がある。 また、深層合成サービス利用者は、アルゴリズムアプリケーションのセキュリティ意識を強化し、コンプライアンスと使用の合法性を確保し、正当な権利と利益を効果的に保護する必要がある。 (著者：清華大学大学院院長 周傑氏）

・2022.12.12 专家解读｜加快规范深度合成技术应用

专家解读｜加快规范深度合成技术应用	専門家の解釈｜深層合成技術のアプリケーションの標準化を加速する
近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景受到广泛关注。特别是在互联网信息服务领域，深度合成技术丰富了网络内容形式，进一步释放新技术新应用发展活力。但是，部分深度合成技术应用缺乏规范，对国家安全、社会稳定和公民合法权益带来风险挑战。党的二十大报告强调，“健全网络综合治理体系，推动形成良好网络生态”。《法治社会建设实施纲要（2020-2025年）》明确要求，要制定完善算法推荐、深度伪造等新技术应用的规范管理办法。为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。	近年、人工知能の様々な技術が急速に発展し、その応用も普及・多様化している。 その中でも、人工知能分野の革新的な応用技術として、応用の敷居が低く、エンターテインメント性が高く、応用シーンが豊富な深層合成技術は、広く関心を持たれている。 特にインターネット情報サービスの分野では、深層合成技術がネットワークコンテンツの形態を豊かにし、新しい技術やアプリケーションの開発の活力をさらに解放している。 しかし、一部の深層合成技術の応用が規制されていないため、国家の安全保障、社会の安定、国民の正当な権利と利益に対するリスク課題が発生している。 第20回党大会の報告書では、「良好なネットワーク生態の形成を促進するために、包括的なネットワークガバナンスシステムを改善すべきである」と強調されている。 法の支配社会実現要綱（2020-2025）」では、アルゴリズム推薦やディープフォージアなどの新技術を適用するための標準的な管理手法の開発が明確に求められている。 深層合成サービスを規制するため、国家インターネット情報弁公室、工業情報化部、公安部が共同で「インターネット情報サービス深層合成管理規定」（以下、「規定」という）を公布した。 規定は、"体系的かつ革新的なシステム設計を通じて、初めて深い合成サービスの管理要件に対応し、インターネット情報サービスの開発の標準化のための深い合成は、基本的なフォローアップと法的根拠を提供する。
一、坚持系统观念，完善互联网信息服务法律体系	１：システムコンセプトを堅持し、インターネット情報サービスの法制度を改善する。
《规定》积极落实党的二十大报告关于立法系统性、整体性、协同性、时效性的要求，对互联网信息服务深度合成作出了科学全面的制度规范。一方面，《规定》有效衔接了相关法律法规。在《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等上位法框架下，《规定》有效承接了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等规章、规范性文件中关于网络信息内容管理、新技术新应用安全评估、显著标识、备案管理等制度规定，对深度合成服务管理机制、主体责任等作出了衔接性制度安排。另一方面，《规定》构建了统筹协调、多方参与的监管体制。《规定》明确，国家网信部门负责统筹协调全国深度合成服务的治理和监督管理工作，国务院电信主管部门、公安部门依据各自职责负责深度合成服务的监督管理工作。地方网信部门负责统筹协调本行政区域内深度合成服务的治理和监督管理工作，地方电信主管部门、公安部门依据各自职责负责本行政区域内深度合成服务的监督管理工作。《规定》还鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制。《规定》的出台，全面贯彻落实了党中央关于网络综合治理的最新要求，通过系统化的制度安排进一步构建完善了我国网络综合治理法治体系。	本規定は、第20回党大会報告の体系的、全体的、相乗的、時宜にかなった立法という要求を積極的に実行し、インターネット情報サービスの綿密な総合化を科学的、包括的に制度規制するものである。 一方、この規定は、関連する法律や規制を効果的に橋渡ししている。 「ネットワークセキュリティ法」、「データセキュリティ法」、「個人情報保護法」、「インターネット情報サービス管理弁法」などの上位法の枠組みの下で、「ネットワーク情報コンテンツ生態ガバナンス規定」、「ネットワーク音声映像情報サービス管理規定」、「インターネット情報サービスアルゴリズム推薦管理規定」などのネットワーク情報コンテンツ管理、新技術・新用途安全評価、重要表示、記録管理などに関する規定および規範文書が実質的に継承されている。 評価、重要なロゴ、レコード管理およびその他のシステムの規定、合成サービス管理機構の深さ、主な責任など、制度的な取り決めの関節を作るために。一方、本規定は、協調的かつ参加型の規制システムを構築している。 「規定」は明確に、国家ネット情報部門は国家深層合成サービスのガバナンスと監督を調整する責任があり、国務院電信部門と公安部門はそれぞれの責任に応じて深層合成サービスの監督と管理を担当する。 現地のネットワーク情報部門は当行政区の深層合成サービスのガバナンスと監督を調整する責任を負い、現地の電信担当部門と公安部門はそれぞれの任務に応じて当行政区の深層合成サービスの監督と管理を担当する。 また、同規定は、関連業界が業界の自主規制を強化し、共同管理・共同ガバナンスのガバナンス機構を構築することを推奨している。 規定の導入は、包括的ネットワークガバナンスに関する党中央委員会の最新の要求を全面的に実施し、体系的な制度整備を通じて、中国の包括的ネットワークガバナンス法治システムをさらに構築し、改善したものである。
二、坚持问题导向，精准破解深度合成治理难题	２：問題志向を堅持し、正確な亀裂の深さを合成するガバナンスの問題
近年来，深度合成技术在社交、影视、广告、医疗、教育、科研等诸多领域不断深化应用，展现出较大的技术价值和商用潜力。同时，其“双刃剑”效果明显，在增加社会福祉的同时也带来一系列风险挑战。一是深度合成技术被用于非法目的，侵犯个人合法权益。如有案例反映诈骗分子利用深度合成技术冒充公司高管的声音，诈骗该公司另一名高管巨额款项，给个人财产权益造成了重大损失。二是深度合成虚假内容引发信任危机，影响社会稳定。利用深度合成技术形成的新闻信息本身真实性、客观性难以保障，更有不法分子利用深度合成技术发布虚假新闻、散布谣言等，造成错误舆论导向，影响社会稳定。三是深度合成技术可能被敌对势力恶意利用，威胁国家安全。国外已出现多起利用深度合成技术伪造政治人物、公众人物音频和视频的情形，不仅影响国内政治稳定，还可能会引发国家间的危机冲突。	近年、深層合成技術は、ソーシャルネットワーク、映画・テレビ、広告、医療、教育、科学研究など多くの分野で応用が深まり、より大きな技術的価値と商業的可能性を示している。 同時に、その「諸刃の剣」的な効果は明らかで、社会福祉を高める一方で、一連のリスク課題ももたらしている。 第一に、深層合成技術は、個人の正当な権利や利益を侵害し、違法な目的で使用されている。 例えば、詐欺師が深層合成技術を使って企業幹部の声になりすまし、その企業の別の幹部から多額の金銭を詐取し、個人の財産権に大きな損害を与える事例がある。 第二に、虚偽の内容の深い合成は、信頼の危機を引き起こし、社会の安定に影響を与えた。 深層合成技術を利用して形成されたニュース情報の真偽や客観性を保証することは難しく、深層合成技術を利用して虚偽のニュースを発表したり、風説を流布したりして、誤った世論誘導を行い、社会の安定に影響を与える悪徳業者さえ存在する。 第三に、深層合成技術が敵対勢力に悪用され、国家の安全保障が脅かされる可能性があることである。 海外では、深層合成技術を利用して政治家や公人の音声や映像を改ざんする事例が多発しており、国内の政治的安定に影響を与えるだけでなく、国家間の危機的な対立につながる可能性もある。
《规定》聚焦深度合成服务中存在的主要风险隐患进行针对性制度设计。一是明确深度合成服务不得用于非法目的。禁止任何个人和组织利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事危害国家利益、社会公共利益或个人合法权益等违法活动。禁止深度合成服务提供者和使用者利用深度合成服务制作、复制、发布、传播虚假新闻信息。二是强化对个人合法权益的保护。《规定》强调深度合成服务提供者和技术支持者应当强化个人信息保护，提供人脸、人声等生物识别信息编辑功能的，须提示使用者依法取得个人单独同意。防止个人信息被非法利用，侵害个人合法权益。三是对深度合成服务提供者提出安全管理要求。《规定》要求深度合成服务提供者进行用户真实身份认证，建立信息发布审核、反电信网络诈骗等管理制度。《规定》通过相关制度设计，科学精准地回应了深度合成服务应用发展对国家、社会及个人带来的风险挑战，为促进新技术新应用的规范发展提供了有益范例。	本規定は、深層合成サービスの主なリスクとハザードに焦点を当て、的を射たシステム設計を行うことを目的としている。 まず、深層合成サービスを違法な目的に使用してはならないことを明記している。 個人・団体を問わず、深層合成サービスを利用して、法律や行政法規で禁止されている情報を作成・複写・公開・流布したり、国益・社会公共利益や個人の正当な権利・利益を脅かすなどの違法行為をすることは禁止されている。 深層合成サービス提供者および利用者が、深層合成サービスを利用して、虚偽のニュース情報を作成、コピー、公開、発信することは禁止されている。 第二に、個人の正当な権利と利益の保護が強化されることである。 同規定では、深層合成サービス提供者や技術支援者は個人情報保護を強化すること、顔や声などの生体情報編集機能を提供するユーザーには、法律に基づき、本人の個別の同意を得るよう促すことが強調されている。 個人情報が個人の正当な権利・利益を侵害する目的で不正に利用されることを防止する。 第三に、深層合成のサービスを提供する事業者に対して、安全管理上の要求事項が課せられている。 同規定は、深層合成サービス事業者に対し、ユーザーの実名認証の実施、情報公開監査や通信ネットワーク不正防止などの管理体制の確立を義務付けている。 関連するシステム設計を通じて、本規定は深層合成サービスアプリケーションの開発が国家、社会、個人にもたらすリスク課題に科学的かつ的確に対応し、新しい技術やアプリケーションの標準的開発を促進する有用な事例を提供した。
三、坚持规范发展，促进深度合成技术向上向善	３：規制の整備を主張し、深層合成技術の上昇を促進する
随着深度合成技术不断优化发展，其开发应用的空间将更为广阔。近几年，深度合成信息内容制作和传播数量高速增长。同时，在“元宇宙”等新模式新场景下，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术实现方案。《规定》坚持统筹发展和安全，以促进技术在规范中发展为价值取向，在明确“红线”的同时为技术发展留足空间。一是对深度合成服务明确技术向善要求。《规定》要求提供深度合成服务应当尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。同时要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。二是以技术手段保障深度合成内容可溯源。《规定》要求深度合成服务提供者通过有效技术措施对使用其服务所制作的信息内容添加标识，保证深度合成信息内容可识别、可追溯。三是区分场景规定差异化管理要求。《规定》要求深度合成服务提供者对其生成或编辑的信息内容添加不影响用户使用的标识，但对于可能导致公众混淆或误认的深度合成信息内容应当进行显著标识。同时，要求具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者履行备案义务。《规定》基于不同的应用场景对深度合成服务进行区分管理，在实现监管目的的同时也为技术发展提供了有效保障。	深層合成技術の継続的な最適化と開発により、その開発・応用領域はより広範囲に及ぶことになるだろう。 近年、深層合成の情報コンテンツ制作・発信が急増している。 同時に、「メタバース」などの新しいモデルやシナリオにおいて、深層合成技術は、インテリジェントで可視化されたシナリオベースの仮想化されたインターネット情報サービスの開発に、より多くの技術的ソリューションを提供することになるだろう。 規定は、十分なスペースを残すために技術の発展のために同時に明確な "レッドライン"で、値の方向の仕様の技術の発展を促進するために、開発とセキュリティの調整に準拠している。第一に、良いものを作るための深層合成サービスには、明確な技術的要件がある。 この規定では、深層合成サービスの提供は、社会道徳と倫理を尊重し、正しい政治の方向性、世論誘導、価値志向を堅持し、深層合成サービスを善導することが求められている。 同時に、深層合成サービスを提供する事業者に対しては、アルゴリズム機構の監査や科学技術の倫理審査などの管理体制を構築することを求めている。 第二に、深層合成のコンテンツのトレーサビリティを技術的に保証すること。 同規定は、深層合成サービス提供者に対し、深層合成情報コンテンツの識別と追跡が可能なように、有効な技術的手段によって、そのサービスを利用して作成された情報コンテンツにマークを付加することを求めている。 第三に、シーンを差別化し、管理上の必要性を提供する。 規定では、深層合成サービス事業者が生成または編集した情報コンテンツに、利用者の利用に影響を与えないような表示を加えることを求めているが、一般利用者の混乱や誤解を招く恐れがある深層合成の情報コンテンツは目立つように表示する必要がある。 同時に、世論属性や社会動員能力を持つ深層合成サービス提供者やテクニカルサポーターが、ファイリング義務を果たすことが求められる。 本規定は、深層合成サービスの管理を異なる適用シナリオに基づいて区別し、規制目的を達成しつつ、技術開発を効果的に保護するものである。
四、坚持底线原则，压实深度合成服务相关主体责任	４：ボトムラインの原則を守り、深層合成サービスに関する主な責任をコンパクトにまとめる
深度合成服务提供者和技术支持者，既是新技术新应用的创造者、受益者，也应是控制技术风险、引导技术向善的责任践行者。《规定》围绕明确各方责任义务进行了系统性制度设计。一方面，明确深度合成服务提供者的主体责任。《规定》要求深度合成服务提供者建立健全算法机制机理审核、信息内容管理、从业人员教育培训等管理制度，具备安全可控的技术保障措施。制定并公开管理规则和平台公约，并提示深度合成服务技术支持者和使用者承担信息安全义务。加强内容管理，采取技术或者人工方式对输入数据和合成结果进行审核，并建立健全相关特征库。加强技术管理，定期审核、评估、验证算法机制机理。提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当开展安全评估。加强训练数据管理，采取必要措施保障数据和个人信息安全。另一方面，明确深度合成服务技术支持者等主体的责任义务。《规定》要求深度合成服务技术支持者应承担训练数据管理、算法机制机理审核、安全评估等义务。应用程序分发平台应落实上架审核、日常管理、应急处置等安全管理责任。	深層合成のサービス提供者と技術支援者は、新技術と新用途の創造者と受益者であるだけでなく、技術リスクを制御し、技術を良い方向に導く責任ある実務者であるべきである。 本規定は、すべての関係者の責任と義務を明確にするために体系的に設計されている。 一方、深層合成サービス提供者の主な責任を明確にしている。 この規制は、深層合成サービス事業者に対して、アルゴリズム機構監査、情報コンテンツ管理、実務者の教育訓練などの管理体制を構築・改善し、安全で制御可能な技術的セーフガード手段を持つことを求めている。 管理ルールやプラットフォーム規約を策定・公開し、技術支援者や深層合成サービス利用者に情報セキュリティの義務を促す。 コンテンツ管理を強化し、入力データと合成結果の監査に技術的または手動的な方法を採用し、関連する機能の健全なライブラリーを確立する。 アルゴリズム機構の定期的な見直し、評価、検証による技術管理の強化。 国家安全保障、国家イメージ、国益、社会公共性に関わるような顔や声などの生体情報、特殊な物体やシーンなどの非生体情報を編集する機能を持つモデルやテンプレートなどのツールを提供する場合は、セキュリティ評価を実施する必要がある。 トレーニングデータの管理を強化し、データおよび個人情報のセキュリティを保護するために必要な措置を講じること。 一方、深層合成サービス技術支援者の責任と義務を明確化した。 規定では、深層合成サービス技術支援者は、トレーニングデータの管理、アルゴリズム機構の審査、セキュリティ評価などの義務を負うことが求められている。 アプリケーション配布プラットフォームは、棚監査、日常管理、緊急廃棄などのセキュリティ管理責任を実装する必要がある。
五、坚持守正创新，贡献深度合成服务治理中国智慧	５：義理と革新を堅持し、深層合成サービス統治に貢献する中国の知恵
习近平总书记指出：“要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉，让中国科技为推动构建人类命运共同体作出更大贡献！”近年来，我国加快推进新技术新应用创新发展，并对技术发展过程中带来的挑战及时回应，针对区块链信息服务、互联网信息服务算法推荐活动、汽车数据安全管理等技术发展的新兴领域加速出台相关立法，为保障数字经济高质量发展、提升我国数字治理能力提供了法治保障。	習近平総書記は、"我々は世界の科学技術ガバナンスに深く参加し、中国の知恵を貢献し、科学技術の文化的概念を善導し、科学技術に人類の福祉をより促進させ、中国の科学技術に人類運命共同体の構築の推進にもっと貢献させるべきだ！"と指摘している。 近年、中国は新技術とアプリケーションの革新的開発を加速し、技術発展の過程でもたらされる課題に適時に対応し、ブロックチェーン情報サービス、インターネット情報サービスのアルゴリズム推薦活動、自動車データ安全管理などの技術発展の新興分野に対する関連法案の導入を加速し、デジタル経済の高品質の発展を保護するための法の支配を保証し、中国のデジタル統治能力を高めている。
针对深度合成技术带来的颠覆性风险挑战，多个国家和地区不断探索深度合成服务的治理路径。美国从联邦和州层面推出立法提案，欧盟将深度合成涉及的个人数据保护问题纳入《通用数据保护条例》（GDPR）的规制框架，德国、英国、新加坡、韩国等国将深度合成相关犯罪纳入刑法范畴，但尚未有国家出台规范深度合成服务的专门立法。《规定》立足我国发展实践，充分发挥法治固根本、稳预期、利长远的保障作用，率先通过体系化制度安排，构建深度合成服务治理机制，塑造科技向善的治理理念，提供了保护与发展并行的中国方案。（作者：王志勤，中国信息通信研究院副院长）	深層合成技術がもたらす破壊的なリスクの課題に対応するため、いくつかの国や地域では、深層合成サービスのガバナンスの道を模索し続けている。 米国では連邦・州レベルから法制化の提案がなされ、欧州連合では深層合成に関わる個人情報の保護を一般データ保護規定（GDPR）の規制対象に組み込み、ドイツ、英国、シンガポール、韓国などでは深層合成に関わる犯罪を刑法の範囲に含めているが、深層合成サービスを規制する特別な法律を導入した国はまだ存在しない。 中国の発展実践に基づき、本規定は法の支配を十分に発揮して基礎を強化し、期待を安定させ、長期保護を促進し、体系的な制度配置により深層合成サービスのガバナンス機構を率先して構築し、技術の善用というガバナンス概念を形成し、保護と発展の並行に対する中国の解決策を提供するものである。 (筆者：中国情報通信技術研究院副院長 王志琴）。

・2022.12.12 专家解读｜规范智能技术供给 构建现代化深度合成治理能力

专家解读｜规范智能技术供给 构建现代化深度合成治理能力	専門家の解釈｜知的技術の供給を調整し、現代の深層合成統治能力を構築する。
随着人工智能技术的快速发展，数字产业化进程不断加快，产业数字化、智能化水平进一步提升。多媒体深度合成技术是人工智能技术的重要研究和典型应用领域，涉及深度学习、虚拟现实、预训练大模型等生成合成类算法，国内外著名高校、科研机构、互联网公司和人工智能企业纷纷展开相关技术研究。随着其与互联网信息服务的深度融合，在变革互联网信息制作模式、智能生产新闻媒体内容、改善人机交互体验、繁荣数字经济等方面产生巨大影响。同时我们应该清醒地认识到，利用该技术进行违法和不良信息的制作、复制、发布、传播等行为，对维护网络安全、社会经济稳定、公共利益带来巨大挑战。习近平总书记在党的二十大报告中强调，“健全网络综合治理体系，推动形成良好网络生态”。2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），《规定》深入贯彻《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，聚焦突出问题，有效规范深度合成服务，加强网络内容建设，强化对人工智能技术、服务、内容、平台的综合治理能力。	人工知能技術の急速な発展に伴い、デジタル産業化のプロセスは加速し、産業のデジタル化・知能化のレベルはさらに向上している。 マルチメディア深層合成技術は、深層学習、バーチャルリアリティ、事前学習された大規模モデルなどの生成合成クラスのアルゴリズムを含む人工知能技術の重要な研究および典型的な応用分野であり、国内外の有名大学、研究機関、インターネット企業、人工知能企業が関連技術の研究を開始した。 インターネット情報サービスとの深い融合により、インターネット情報生産のモードを変え、ニュースやメディアコンテンツの知的生産、人間とコンピュータの対話体験の向上、デジタル経済の活況に大きな影響を与えることができるのである。 同時に、この技術を違法で望ましくない情報の生産、複製、出版、普及に利用することは、ネットワークセキュリティの維持、社会・経済の安定、公共の利益に対して大きな課題をもたらすことを冷静に認識する必要がある。 習近平総書記は第20回党大会報告で「総合的なネットワークガバナンス体制を整備し、良好なネットワーク生態の形成を促進する」と強調した2022 11月25日、国家インターネット情報弁公室、工業・情報化部、公安部が共同で「インターネット情報サービス深層合成管理規定」（以下「規定」という）を公布した。 )、「ネットワークセキュリティ法」、「データセキュリティ法」、「個人情報保護法」、「インターネット情報サービス管理弁法」およびその他の法律や行政法規の「規定」の徹底実施、未解決の問題に焦点を当て、深い合成サービスの有効な規制、ネットワークコンテンツの建設を強化、AI技術、サービス、コンテンツ、プラットフォームの総合ガバナンスを強化する。
一、坚持维护国家利益和站稳人民立场，强化算法治理能力	１：国益を守り、国民の立場を堅持し、アルゴリズムによる統治能力を強化する。
《规定》落实总体国家安全观，坚持以人民为中心，对利用深度合成技术危害国家安全和利益、损害国家形象、侵害公民合法权益和隐私的行为，作出全面、具体的回应，对现行算法应用安全监管规则进一步细化，为营造风清气正的网络空间提供制度保障和治理依据。	本規定は、国家安全保障の全体構想を実施し、国民を中心とすることを堅持し、深層合成技術の使用が国家の安全と利益を脅かし、国のイメージを損ない、国民の合法的権益とプライバシーを侵害することに対して包括的かつ具体的に対応し、既存のアルゴリズム応用安全規制の規定をさらに洗練させ、清潔で高潔なサイバー空間の構築に向けた制度保障と統治基礎を提供するものである。
（一）有效衔接现行法规制度，健全我国算法综合治理体系。在《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律法规框架下，深刻把握深度合成服务存在的安全风险，与《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等相关规定制度紧密衔接，理清深度合成技术定义与应用场景，明确服务提供者的信息安全主体责任，延伸互联网信息服务算法治理思路，给出生成合成类算法服务安全管理样板，完善了我国互联网信息服务算法综合治理体系。	(１) 既存の規制や制度を効果的に結びつけ、中国におけるアルゴリズムの包括的なガバナンス体制を整備する。 「ネットワークセキュリティ法」、「データセキュリティ法」、「個人情報保護法」、「インターネット情報サービス管理弁法」などの法規の枠内で、深層合成サービスのセキュリティリスクを深く把握し、「ネットワーク情報コンテンツ生態ガバナンス規定」、「インターネット情報サービスアルゴリズム推薦管理規定」、「ネットワーク音声映像情報サービス管理規定」などの関連規定と制度を密接に結び付けて、深層合成を明確化する。 技術の定義と応用シナリオを明らかにし、サービス提供者の情報セキュリティの主な責任を明らかにし、インターネット情報サービスアルゴリズムのガバナンスの考えを拡張し、世代合成のアルゴリズムサービスのセキュリティ管理のモデルを与え、中国のインターネット情報サービスアルゴリズムの包括的なガバナンスシステムを向上させる。
（二）构建多方共同治理格局，创新人工智能伦理监管的中国方案。《规定》统筹各方力量，构建政府监管、企业履责、行业自律、社会监督的多元共治体系，将网络信息内容生态治理和深度合成服务管理有机结合，通过贯穿深度合成服务事前事中事后的监管模式，针对不同的深度合成活动给出规范要求，进一步明确深度合成服务提供者、技术支持者和使用者以及应用程序分发平台责任，鼓励推动行业自律和出台标准规范，要求社会监督和申诉渠道畅通，及时处理公众诉求，对深度合成服务管理提出了兼具针对性、指导性、规范性的中国方案。	(2)人工知能の倫理的規制のための複数当事者による共同ガバナンスパターンの構築と中国式ソリューションの革新。 本規定は、各方面の努力を結集し、政府の監督、企業の責任、業界の自主規制、社会の監督という多元的な共通ガバナンスシステムを構築し、ネットワーク情報コンテンツの生態ガバナンスと深層合成サービスの管理を有機的に結合し、深層合成サービスの事前・中間・事後を通じた監督モードにより、異なる深層合成活動に規制要件を与え、深層合成サービス提供者、技術支援者とユーザー、アプリケーション配信プラットフォームの責任をより明確にしたものである。 やアプリケーション配信プラットフォームなどの業界自主規制の推進と標準・規範の導入を奨励し、社会的な監督と苦情のためのオープンなルートを求め、国民の要求に迅速に対応し、深い合成サービスの管理について、的を射た、指導的で規範的な中国の解決策を提案している。
（三）聚焦违法和不良信息治理，引导深度合成服务向上向善。针对利用深度合成服务制作、复制、发布、传播违法信息等行为，《规定》划定“红线”，规定不得利用深度合成服务开展法律法规禁止的活动，要求深度合成服务提供者制定和公开管理规则、平台公约，完善服务协议，依法依约履行信息安全管理责任。发现违法和不良信息的，依法采取处置措施，保存有关记录，及时向有关主管部门报告。	(3)違法・不適正情報の管理に注力し、深層合成サービスをより良い方向へ導く。 深層合成サービスを利用して、違法な情報を作成、コピー、公開、拡散するなどの行為に対して、「規制」は「レッドライン」を引き、深層合成サービスを利用して法令で禁止されている行為を行ってはならないと規定し、深層合成サービス事業者に管理規定、プラットフォーム規約の策定と公開、サービス契約の改善を求め、その実現に向けた取り組みを行っている。 情報セキュリティーの管理責任。 万が一、違法な情報、好ましくない情報を発見した場合は、法令に基づき処分し、記録を残すとともに、関係当局に適時に報告する。
（四）促进智能技术健康有序发展，引领相关信息产业落地应用。《规定》的发布进一步提升了我国网络空间信息安全治理能力，引导以深度学习为主的新兴智能技术健康发展，有效促进围绕音频、视频、图像和文本的多模态人工智能算法在应用管理方面的积极探索。随着深度合成技术应用的普及和发展，深度合成检测技术也将顺势而来，通过深度合成与检测的技术演练与应用对抗，能促进构建良性迭代的深度合成信息服务生态，共同推动新兴人工智能技术应用落地。	(4) 知的技術の健全で秩序ある発展を促進し、関連情報産業の陸上応用をリードする。 本規定の発表により、中国のサイバースペース情報セキュリティガバナンス能力がさらに強化され、深層学習を中心とする新興知能技術の健全な発展が導かれ、アプリケーション管理における音声、映像、画像、テキストを中心としたマルチモーダル人工知能アルゴリズムの活発な探求が効果的に促進される。 深層合成技術の応用の普及と発展に伴い、深層合成の検出技術もその流れに乗ってくる。 深層合成と検出の技術リハーサルと応用対決を通じて、良性反復深層合成情報サービス生態の構築を促進し、新興人工知能技術の地上への応用を共同で推進することが可能である。
二、界定各方责任要求，构建深度合成服务治理体系	２：すべての関係者の責任要件を定義し、深い合成サービスガバナンスシステムを構築する。
《规定》明确各方在深度合成活动全流程的主体责任，在《互联网信息服务算法推荐管理规定》已有规定基础上，明确指导性极强的生成合成标识方法，要求完善管理制度和技术保障措施。	規定は、「インターネット情報サービスアルゴリズム推薦管理規定」に基づいて、深層合成活動の全過程であるすべての当事者の主な責任を明確に規定している、明確な指導は合成ロゴ方式を生成するために非常に強い、完璧な管理システムと技術的なセーフガード対策が必要である。
（一）明确义务要求，强化主体责任。《规定》分析梳理了深度合成活动边界，明确了深度合成技术定义，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定，如深度合成服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。同时，《规定》对具有舆论属性或者社会动员能力的深度合成服务提供者提出了更严格的监管要求。	(1)明確な義務要件、主要な責任を強化する。 本規定は、深層合成活動の境界を分析・整理し、深層合成技術の定義を明確にし、深層合成サービス提供者、技術支援者、ユーザーおよびアプリケーション配信プラットフォームなどの主体が果たすべき責任と義務について規定している。例えば、深層合成サービス提供者は健全な管理システムの構築、ユーザーの真の身元情報の認証、深層合成情報コンテンツの管理強化などの義務を果たすべきとしている。 サービス提供者および技術支援者は、学習用データの管理強化、深層合成技術の管理強化などの義務を果たすこと。 同時に、同規定は、世論属性や社会動員能力を持つ深層合成サービス提供者に対するより厳しい規制要件を打ち出している。
（二）监管针对性强，涵盖技术管理要求。《规定》针对利用生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息，明确了算法备案、安全评估、显著标识等强制性要求及适用情形，如规定深度合成服务提供者和技术支持者若生成或编辑生物识别信息，必须进行算法安全评估。此外，《规定》针对各类生成合成技术应用，还提出要加强制度建设、技术保障措施安全可控、制定和公开管理规则、完善服务协议、建立健全辟谣机制等要求。	(2)技術的な管理要件を網羅した、対象性の高い規制である。 同規定は、テキスト、画像、音声、映像、仮想シーンなどのネットワーク情報を生成するための生成・合成アルゴリズムの使用について、アルゴリズムの申請、セキュリティ評価、著名な識別などの必須要件と適用状況を規定しており、深層合成サービス提供者と技術支援者が生体情報を生成または編集する場合は、アルゴリズムのセキュリティ評価を実施しなければならないと定めているなど。 また、生成合成技術の各種応用について、システム構築の強化、安全・制御のための技術的保障措置、管理規定の策定と公開、サービス協定の改善、偽情報に対する健全なメカニズムの確立などの要件も提示している。
（三）细化标识规则，明确具体规范要求。《规定》对《互联网信息服务算法推荐管理规定》关于生成合成类算法标识相关要求作出细化，明确采取技术措施添加不影响用户使用的标识，如可能导致混淆或者误认的，还应当在合理位置、区域进行显著标识等要求，规定任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。	(3)マーキングのルールを洗練させ、具体的な仕様要件を明確にする。 同規定は、合成クラスアルゴリズムのロゴの生成に関する「インターネット情報サービスアルゴリズム勧告の管理に関する規定」の要件を改良し、混乱や誤認につながる可能性のあるロゴなど、利用者の使用に影響を与えないロゴを追加する技術的措置を明確にするだけではなく、合理的な場所、重要な識別用の領域およびその他の要件で、組織および個人は、削除、改ざん、合成ロゴの深さを隠すために技術的手段を使用しないことを規定している。
三、强化支撑体系建设，推动深度合成治理走深向实	３：サポートシステムの構築を強化し、より深く、より実用的に行くために合成ガバナンスの深さを促進する
随着数字化、智能化进程的加快，互联网信息服务综合治理不断细化、深入，规范深度合成活动对营造健康安全的网络空间和加强社会治理有着重要意义。为推动《规定》落实，下一步建议加强如下工作：	デジタル化・知的化の加速に伴い、インターネット情報サービスの総合的なガバナンスは絶えず洗練され、深化しており、健全で安全なサイバースペースを作り、社会ガバナンスを強化するために、深化合成活動の標準化は大きな意義がある。 規定の実施を促進するために、次の作業を強化することが推奨される。
一是强化智能监管平台支撑。加大科技攻关力度，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设。加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台。研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。紧密结合国际前沿，建设自主可控的深度合成算法安全应用体系与技术生态。	第一に、インテリジェントな監視プラットフォームのサポートを強化することである。 科学技術研究の努力を高め、深層合成クラスアルゴリズムの内生的なセキュリティ機構と深層合成の識別と他のキーテクノロジーについて深く研究し、深層合成管理技術の能力構築を促進する。 人と機械のハイブリッド型知能監督技術を強化し、深層合成サービス業者のセキュリティ制御可能な技術保証方式を研究し、監督仕様を評価基準に転換し、ネットワーク全体の監督を行う監視管理プラットフォームを構築する。 深層合成と識別対決のメカニズムを研究開発し、新興技術企業や研究機関に技術演習を奨励し、深層合成サービスの健全な発展を共同で促進する。 国際的なフロンティアと密接に統合し、独立した制御可能な深層合成アルゴリズムセキュリティ応用システムと技術エコロジーを構築する。
二是强化人工智能安全评估支撑。抓紧建立深度合成安全评估机制，组织研究制定深度合成安全评估相关标准规范，基于《规定》要求和深度合成类算法机制机理特点，对评估流程、方法、内容等制定规定，明确提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当进行安全评估。组建专业队伍对相关深度合成服务提供者和技术支持者评估情况进行检查，以评促建，完善行业标准，加强行业自律，加快推进深度合成服务规范化。	第二に、AIセキュリティ評価への対応強化である。 深層合成セキュリティ評価メカニズムの確立を把握し、深層合成セキュリティ評価関連標準と規範の研究開発を整理し、規定の要求と深層合成型アルゴリズムのメカニズム特性を踏まえ、評価プロセス、方法、内容などの規定を策定し、人の顔、人の声などの生体情報の編集機能を持ち、国家安全、国家イメージ、国家利益、社会公共利益に関わる可能性がある特殊な対象や場面について明確に規定すること。 顔や声などの非生体情報、特殊なオブジェクトやシーンを編集する機能を持つモデルやテンプレートなどのツールで、国家安全保障、国家イメージ、国益、社会公共性に関わる可能性がある場合は、セキュリティ評価を実施するものとする。 専門チームを結成し、関連する深層合成サービス提供者と技術支援者の評価を検査し、評価を通じて建設を推進し、業界標準を向上させ、業界の自主規制を強化し、深層合成サービスの標準化を加速させることにした。
三是加强科普宣贯工作支撑。配合国家人工智能算法综合治理工作部署，面向互联网企业、重点行业企业和相关管理部门等进行《规定》的宣贯培训，督促企业提升深度合成技术服务水平；推进多模态人工智能相关学科研究全面开展，培育高层次人才，鼓励相关科研机构、高校与企业建立广泛合作机制；加强科普教育，提升音视图文多媒体深度合成技术透明度，引导社会各界积极参与社会监督，共同推进深度合成服务综合治理，强化多方治理成效。（作者：徐波，中国科学院自动化研究所所长）	第三に、科学技術の宣伝活動への支援を強化すること。 国家AIアルゴリズム総合ガバナンスの展開に協力し、インターネット企業、重点産業企業、関連管理部門などに規定の伝播訓練を行い、企業に深層合成技術サービスのレベル向上を促し、マルチモーダルAI関連分野の総合研究を推進し、ハイレベル人材を育成し、関連科学研究機関や大学に企業との幅広い協力メカニズムの構築を促し、大衆科学教育の強化、強化する。 また、中国科学院（CAS）は、音声、映像やグラフィックマルチメディアの深層合成の新技術の開発に取り組んでおり、社会のあらゆる部門が積極的に社会監督に参加するよう指導し、深層合成サービスの包括的なガバナンスを共同で推進し、複数政党によるガバナンスの有効性を高めている。 (著者：中国科学院自動化研究所所長 徐波）。

・2022.12.12 专家解读｜推动深度合成服务综合治理 促进深度合成技术安全发展

专家解读｜推动深度合成服务综合治理 促进深度合成技术安全发展	専門家の解釈｜深層合成サービスの包括的なガバナンスの推進 深層合成技術の安全な開発の推進
随着新一代信息技术的快速发展，深度合成技术作为人工智能领域的新应用、新实践，已在多个行业场景中被推广应用，并催生了“元宇宙”等新的应用场景。当前，网络传播环境日趋复杂，新型合成方法层出不穷，技术滥用的风险也在不断加剧。为加强互联网信息服务深度合成管理，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》构建了互联网信息服务深度合成治理制度规范，迈出我国新技术新应用立法的重要一步。	新世代の情報技術の急速な発展に伴い、深層合成技術は人工知能分野の新しい応用・実践として、多くの産業シーンで推進・応用され、「メタ宇宙」などの新しい応用シーンを生み出している。 現在、インターネットの通信環境はますます複雑化し、新しい合成方法が登場し、技術の乱用の危険性が高まっている。 インターネット情報サービスの深層合成の管理を強化するため、国家インターネット情報弁公室、工業情報化部、公安部が共同で「インターネット情報サービスの深層合成管理弁法」（以下「弁法」）を制定した。 この規定は、インターネット情報サービスの綿密な総合的なガバナンスのためのシステム仕様を構築し、中国における新技術とアプリケーションの法制化に重要な一歩を踏み出した。
一、《规定》出台必要及时，意义深远	１：本規定の導入は必要かつ適時であり、広範囲な意義がある。
技术发展与风险挑战相伴而生，新技术新应用发展日新月异，技术治理是一场永恒的攻防对抗博弈，也是技术从创新应用到规范发展的必经阶段。当前，换脸、换声、三维重建、智能对话等深度合成服务已经在国外互联网社交媒体中广泛应用，催生了美颜美妆、影视制作、智能客服、虚拟主播、元宇宙等一系列形式新颖丰富、功能便捷智能的应用形态，丰富了互联网信息内容生态，推动了互联网相关产业发展，为人民生活带来了便利便捷和多样化体验。然而，深度合成技术也正在被恶意利用制作虚假信息内容，进而可能带来政策干扰、谣言泛滥、低俗内容肆意传播等影响国家安全、社会稳定的风险问题。	技術の発展とリスクの課題は手をつないで行く、新技術と新しいアプリケーションの開発は、日々変化している、技術ガバナンスは、攻撃と防御の間の対立の永遠のゲームであるが、また、革新的なアプリケーションから必要な段階の開発を標準化するための技術。 現在、フェイスチェンジ、ボイスチェンジ、3D再構成、知能対話などの深層合成サービスは、インターネット上の海外ソーシャルメディアに広く利用され、一連の新しくて豊かな美容、映画・テレビ制作、知能接客、バーチャルアンカー、メタ宇宙などの便利で知的な応用形態を生み出し、インターネット情報コンテンツ生態を豊かにし、インターネット関連産業の発展を促進し、人々の生活に便利さと便利さをもたらすようになった。 人々の暮らしに便利さと多様性をもたらしている。 しかし、深層合成技術は、虚偽の情報コンテンツを作成するために悪用されることもあり、その結果、政策妨害、風説の流布、低俗なコンテンツの野放図な拡散など、国家の安全や社会の安定に影響を与える危険な問題を引き起こす可能性がある。
出台《规定》，是进一步提升网络综合治理能力的应时应势之举，具有针对性和前瞻性。《规定》是目前我国针对深度合成服务出台的第一部专门性部门规章，作出了一系列明确合规指引，对加强互联网信息服务深度合成管理、促进互联网信息服务健康发展、推进网络空间治理意义重大，影响深远。	この規定は、インターネットの包括的なガバナンスをさらに強化するためのタイムリーで前向きな動きである。 本規定は、中国で初めて発行された深層合成サービスの専門部門規定であり、一連の明確な遵守指針を作り、インターネット情報サービスの深層合成の管理を強化し、インターネット情報サービスの健全な発展を促進し、サイバースペースのガバナンスを進める上で大きな意義と遠大な影響を与えるものである。
二、《规定》为深度合成技术安全应用和健康发展奠定制度基础	２：合成技術安全アプリケーションの深さと制度的基盤の健全な発展のための規制
（一）明确了深度合成技术定义和服务范围。深度合成技术由来已久，随着深度学习技术，特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低，2017年11月Reddit网站的用户“deepfakes”发布伪造视频令这项技术引起关注。近年来，深度伪造技术在国内外反响强烈，其以制作足以“以假乱真”的信息内容严重威胁国家安全、干扰传播秩序，让人们广泛关注和深切担忧，给相关技术和产业发展带来一定影响。从技术进步的角度来说，深度合成技术应用的初衷是让生成合成内容更逼真，但深度合成技术在愈趋“智能”的同时，也不可避免地带来更多的安全风险，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。	(1)深層合成技術およびサービス範囲の定義を明確化した。 深層合成技術の歴史は古く、深層学習技術、特に敵対的生成ネットワーク技術の発展に伴い、深層合成技術の敷居は大きく下がってきている。 近年、深層偽造技術は、「偽造」可能な情報コンテンツを作成することにより、国家の安全を著しく脅かし、通信秩序を阻害する恐れがあるため、国内外で強い反響を呼び、広く懸念と深い悩みを引き起こし、関連技術や産業の発展に一定の影響をもたらしている。 技術進歩の観点から、深層合成技術の応用は、生成された合成コンテンツをよりリアルにすることが本来の目的であるが、深層合成技術がより「知的」になる一方で、深層偽造のリスクに加えて、生成された合成情報コンテンツがもたらす個人情報の流出、人格権や知的財産権など他者の正当な権利・利益の侵害など、セキュリティリスクも必然的に多くなっている。 深層偽造のリスクだけでなく、個人情報の漏洩、個人情報や知的財産権などの正当な権利・利益の侵害のリスクもある。
《规定》在深度伪造基础上对深度合成技术作出了更全面的规范，从利用算法角度提出包括利用深度学习、虚拟现实等生成合成类算法，从制作内容形态角度提出包括文本、图像、音频、视频、虚拟场景等多种类型，从具体应用形态上分类列举了多种典型场景，明确了深度合成技术的定义和范围。	今回の規制では、深層偽造をベースに、深層学習やバーチャルリアリティなどを利用して合成クラスのアルゴリズムを生成するなどのアルゴリズムを利用する観点、テキスト、画像、音声、映像、仮想シーンなどのコンテンツ形態を作る観点、具体的な応用形態から、様々な典型的シナリオを分類・リスト化し、深層合成技術の定義と範囲を明確化し、より包括的に仕様化している。
（二）从内容管理深化到行为管理。有别于信息内容发布与传播，互联网信息服务深度合成活动是一项涉及算法技术、应用功能、产品业务，覆盖数据采集、分析、编辑、加工等多环节的数据处理过程，产生的安全风险也是由参与多方、不同环节共同作用形成的，因此对互联网信息服务深度合成的规范和引导，需要覆盖各主体、各环节。	(2) コンテンツ管理から行動管理への深化。 情報コンテンツの公開と普及とは異なり、インターネット情報サービスの深層合成活動は、アルゴリズム技術、アプリケーション機能、製品事業を含むデータ処理プロセスであり、データの収集、分析、編集、加工など複数のリンクをカバーしており、発生したセキュリティリスクも複数の当事者の参加と異なるリンクによって一緒に形成されるため、インターネット情報サービスの深層合成の仕様と指導は、すべての対象者とすべてのリンクをカバーする必要がある。 したがって、インターネット情報サービスの深層合成のための規制とガイダンスは、すべての主題とリンクをカバーする必要がある。
《规定》明确了相关主体的责任和义务。在监管主体上，将深度合成服务技术支持者纳入管理。服务技术支持者为上游主体，为服务提供者提供技术支撑；服务提供者为中游主体，为服务使用者提供深度合成服务；服务使用者为下游主体，是使用深度合成服务的组织、个人。《规定》从信息呈现和传播两个维度开展治理，通过显式标识和隐式标识两种管理手段，实现对内容和行为双重规范。在信息呈现方面，提出深度合成服务提供者应当在可能导致公众混淆或者误认的深度合成信息内容中加入显式标识，以提示公众该内容的生成合成特性，保障公众知情权，降低虚假信息传播的风险，实现内容治理。在信息传播方面，通过有效技术保障措施在深度合成信息内容中添加隐式标识，实现深度合成内容安全溯源和技术应用安全可控，确保内容传播链条明确清晰，事后追责准确无误，实现行为治理，为参与深度合成信息内容制作传播的各方主体厘清责任边界。	同規定は、関連する対象者の責任と義務を明確にしている。 規制対象では、管理への合成サービス技術サポーターの深さ。 サービス技術支援者はサービス提供者の技術支援を行う川上の主体、サービス提供者はサービス利用者に深層合成サービスを提供する川中の主体、サービス利用者は深層合成サービスを利用する組織や個人である川下の主体である。 この規制は、情報の提示と伝達という二つの次元から、明示的識別と暗黙的識別という二つの管理手段を通じてガバナンスを行い、コンテンツと行動の二重の規制を実現するものである。 情報提示の面では、深層合成サービス事業者は、深層合成情報のコンテンツに、一般の人の混乱や誤解を招くような明示的な識別を入れることで、コンテンツの合成特性を示し、国民の知る権利を保護し、誤った情報を拡散するリスクを低減し、コンテンツのガバナンスを実現することが提案されている。 情報発信の面では、効果的な技術的セーフガードを通じて、深層合成情報コンテンツに暗黙の識別情報を付加し、深層合成コンテンツの安全なトレーサビリティと安全で制御可能な技術的応用を実現し、コンテンツ発信の連鎖を明確かつ曖昧にせず、事後の説明責任を正確に果たし、行動ガバナンスを実現するとともに深層合成情報コンテンツの制作と発信に関わるすべての関係者の責任の境界を明確にする。
（三）突出全过程安全评估管理。2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》（以下简称《算法规定》），对包括生成合成类在内的五类算法推荐服务进行规范。《规定》在《算法规定》基础上，一是加强对深度合成服务全过程管理。深入深度合成服务的数据处理环节、算法运行阶段、使用者行为全过程，提出更明确细化和更具有操作性的管理要求和合规指引。二是深化备案与评估标本兼治。《规定》要求具有舆论属性或者社会动员能力的深度合成服务提供者和技术支持者依法履行算法备案手续，并公示备案编号，有助于引导互联网信息服务深度合成合规运营、提升产品口碑、增强企业互信、促进行业健康发展。《规定》明确了对深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能应当开展安全评估管理，有助于帮助企业防范和应对深度合成内容安全风险、数据安全风险和技术滥用风险，有助于促进管理部门备案摸底、风险监测和监督检查等工作依法开展、落地成效。	(2021年12月、国家サイバースペース管理局は「インターネット情報サービスのアルゴリズム推薦管理弁法」（以下「アルゴリズム弁法」）を公布し、合成クラスの生成など5種類のアルゴリズム推薦サービスを規制した。 本規定は、アルゴリズム規定に基づいており、その1つは、深層合成サービスの全プロセスの管理を強化することである。 徹底的な合成サービスデータ処理リンク、アルゴリズム操作段階、全体のプロセスのユーザーの動作は、より明確かつ詳細で、より運用管理要件とコンプライアンスガイドラインを提唱した。第二に、基準と根本原因の両方について、ファイリングと評価を深めることである。 「規定」は、世論属性または社会動員能力を持つ深層合成サービス提供者と技術支援者が、法律に従ってアルゴリズム申請手続きを行い、申請番号を公表することを求め、インターネット情報サービスの深層合成コンプライアンス運用を指導し、製品評価を高め、企業の相互信頼を強化し、業界の健全な発展を促進させる。 本規定は、世論属性または社会動員能力を持つ深層合成サービスの提供者が開発しオンライン化した新製品、アプリケーションおよび機能は、セキュリティ評価および管理の対象とすべきであることを明確にし、企業が深層合成コンテンツのセキュリティリスク、データセキュリティリスクおよび技術誤用リスクを防止および対応し、管理部門が法に基づきファイリングおよびマッピング、リスク監視および監督・検査作業を促進し、実施の有効性に寄与することを支援する .
三、健全深度合成治理技术支撑体系，促进服务健康有序发展	３：合成統治技術支援システムの深化を図り、サービスの健全かつ秩序ある発展を促進する。
《规定》的出台，是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。但是，深度合成技术与应用管理目前仍处于起步阶段，在技术支撑和能力建设方面有待进一步加强。加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。建议从以下方面加强工作：	本規定の導入は、ネットワークコンテンツガバナンスが結果管理から行動管理へと移行する重要なステップであり、中国のサイバースペースガバナンス能力のさらなる最適化と強化を意味している。 しかし、綿密な合成技術やアプリケーションの管理はまだ発展途上であり、技術支援や能力開発の面でさらに強化する必要がある。 深層合成ガバナンス技術支援システムの構築を加速させることは、深層合成サービスガバナンスの強力かつ秩序ある推進を効果的に保証するための鍵である。 以下のような観点で強化することを提案する。
（一）促进多方共治深入细化安全标准。《规定》充分结合深度合成技术特点与发展趋势，提出了针对深度合成服务和技术的普适性的规范思路，但在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议行业内推进产业联盟建立，研制相关标准规范，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。	(1)マルチパーティガバナンスを推進し、セキュリティ標準を徹底的に改良する。 しかし、合成クラスアルゴリズムのサービス範囲、合成技術の特定範囲、合成サービスの業務分類、明示的な識別条件と識別モード、暗黙的な識別方法と識別など、多くの具体的な面では、業界内の関連サポートをさらに改良する必要がある。 標準仕様である。 実際の実施プロセスにおいては、産業界の自律性と多者間ガバナンスにより、産業界のアライアンス構築、関連規格・仕様の策定、深層合成技術応用の高品質な発展を継続的に推進することが提案されている。
（二）用以技术管技术思维促进深度合成服务治理。深度合成技术是一项非常前沿的智能技术，治理其带来的安全问题不能仅靠传统的结果导向治标方法。建议从深度合成信息内容源头上解决其衍生的内容安全风险，利用技术创新、技术对抗等方式，持续提升和迭代检测技术的能力。互联网信息服务深度合成综合治理，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，同时，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。	(2) 技術を使って技術思考を管理し、深い総合的なサービスガバナンスを推進する。 深層合成技術は非常に先端的な知能技術であり、それによってもたらされるセキュリティ問題のガバナンスは、従来の結果主義的な対処法だけに頼ることはできない。 深層合成された情報コンテンツに由来するコンテンツセキュリティリスクに対して、技術革新、技術対決などを駆使して、検知技術の能力を継続的に向上、反復させながら、ソースから対処することが推奨される。 インターネット情報サービスの深層合成の総合的なガバナンスは、深層合成技術と関連サービスの良好な管理、使用、発展に重点を置くだけでなく、深層合成技術の合法的、合理的、コンプライアンス的な使用に力を注ぎ、深層合成技術と関連サービスの健全で秩序ある発展を促進する。
（三）推进深度合成服务治理技术能力建设。构建互联网信息服务深度合成安全监管体系需要在技术支撑和能力建设方面进一步加强。国家科研机构应加大深度合成安全方面的科技攻关，建设深度合成安全评估和风险监测的科研创新平台，探索共建新型研发机构，形成引领深度合成安全基础研究的战略力量。组织建立专业技术评估队伍，研究深度合成安全内生机理、安全风险评估、全生命周期安全监测等关键技术。加强基础科研设施建设，完善算法安全治理人才队伍培养体系，提升深度合成自主创新和安全可控能力。（作者：孟丹，中国科学院信息工程研究所所长）	(3)サービスガバナンスの深化技術的能力開発を推進する。 インターネット情報サービスの深層総合安全監督システムの構築は、技術支援と能力強化の面でさらに強化する必要がある。 国家科学研究機関は、深層合成セキュリティの科学技術研究を増加させ、深層合成セキュリティの評価とリスク監視の科学研究・イノベーションプラットフォームを構築し、新たな研究開発機関の共同構築を模索し、深層合成セキュリティの基礎研究をリードする戦略部隊を形成する必要がある。 深層合成の安全性に関する内因性メカニズム、安全性リスク評価、全生涯安全性モニタリングなどの主要技術を研究するための専門技術評価チームの設立を組織する。 基礎科学研究施設の建設を強化し、アルゴリズムセキュリティガバナンスの人材チームの育成システムを改善し、深層合成の自主革新能力とセキュリティ制御能力を強化する。 (筆者：中国科学院情報工学研究所所長 孟丹）。

・2022.12.12 专家解读｜规范深度合成服务 营造风清气正的网络空间

专家解读｜规范深度合成服务 营造风清气正的网络空间	専門家の解釈｜クリーンなサイバースペースを実現するための深層合成サービスの規制
《互联网信息服务深度合成管理规定》（下文简称为《规定》）于2022年11月25日发布，标志着深度合成服务成为了我国算法治理中率先专门立法的算法服务类型。中共中央印发的《法治社会建设实施纲要（2020—2025年）》中提出完善网络信息服务方面的法律法规，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。	2022年11月25日に「インターネット情報サービス深層合成管理規定」（以下、規定）が発表され、深層合成サービスは中国のアルゴリズムガバナンスにおいて、初めて具体的に法制化されたアルゴリズムサービスの一種となった。 中国共産党中央委員会が発表した「法治社会実施要綱（2020-2025）」では、オンライン情報サービスに関する法規制を整備し、アルゴリズム推薦や深層偽造などの新技術を適用するための規制管理方法を開発・改善することが提案されている。 この規定の導入により、大綱で提案された重要な課題が実践され、中国におけるアルゴリズムセキュリティのガバナンスにおいて、深層合成技術の重要な位置づけが浮き彫りにされた。
深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。近年来，深度合成技术应用广泛、形式多样，在影视、传媒、教育等领域有大量应用形式，可实现特效制作、元宇宙场景、虚拟仿真教学等功能。随着各类商业化产品普及，深度合成的信息内容也在网络上大量涌现，越来越多的社会公众接触到了深度合成技术。《规定》确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。	深層合成技術とは、深層学習、バーチャルリアリティなどの生成合成クラスのアルゴリズムを用いて、テキスト、画像、音声、映像、仮想シーンなどの情報技術を生成することである。 近年、深層合成技術は、映画やテレビ、メディア、教育などの分野で多くの応用形態があり、特撮制作、メタ宇宙シーン、バーチャルシミュレーション教育などの機能を実現することができます。 様々な商材の普及に伴い、インターネット上でも深層合成された情報コンテンツが急増し、より多くの一般人が深層合成技術に触れるようになった。 本規定は、中国における深層合成サービスのガバナンスの枠組みを確立し、明確なデータおよび技術管理規定を打ち出し、深層合成技術の上昇志向を促進し、関連産業の健全な発展を導き、インターネット情報コンテンツの安全性を確保するための強力な制度保障を提供するものである。
一、规范深度合成服务的重要意义	１：深層合成サービスの規制の重要性
深度合成服务是生成合成类算法的应用服务，属于我国《互联网信息服务算法推荐管理规定》中规定的生成合成类、排序精选类、检索过滤类、个性化推送类、调度决策类算法推荐服务中的一种。深度合成技术应用领域十分广泛，可以被用来生成和编辑文本、生成音乐、合成人声，如代替人创作诗歌和撰写词曲，自动生成伴奏音乐与合成歌声等。深度合成技术也可以被用来进行人脸生成、人脸替换、人脸操控，可被用来制作电影特效，或者生成以假乱真的人物视频。深度合成技术还可被用来进行图像生成、图像增强等，如2021年被广泛关注的FacePlay应用，只需要用户上传一张人脸照片，就可以生成不同服装场景的图片和视频。深度合成技术也极大地丰富了虚拟数字空间的信息内容，为更加多样化的传播行为提供了可能性。2021年10月，脸书宣布更名为“Meta”即元宇宙，即是利用深度合成技术创建虚拟世界，用户可以通过现实头戴设备与其他用户实现互动。	深層合成サービスは、合成クラス生成アルゴリズムの応用サービスであり、中国の「インターネット情報サービスアルゴリズム推薦管理弁法」に規定された合成クラス生成、選別クラス、検索・フィルタリングクラス、個人化推薦クラス、スケジュール・決定クラスの1種類のアルゴリズム推薦サービスに属する。 人間の代わりに詩や歌詞を作ったり、バックトラックの自動生成やボーカルの合成など、テキストの生成・編集、音楽の生成、人間の声の合成に利用できる。 また、Deep Synthesisは、顔の生成、顔の置き換え、顔の加工、映画の特殊効果や実在する人物の架空の映像の作成などにも利用できる。 Deep Synthesisは、画像生成や画像補正などにも利用でき、例えば2021年に注目されているFacePlayアプリは、ユーザーが顔写真をアップロードするだけで、様々な服装シーンの画像や動画を生成することができる。 2021年10月、Facebookは深層合成技術を使って、リアルなヘッドセットデバイスを通して他のユーザーと交流できる仮想世界を作り出すメタバース、Metaの名称変更を発表した。 メタ・ユニバースは、深層合成技術によって作られた仮想世界で、リアルなヘッドセットを介して他のユーザーと交流することができる。
随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。深度合成技术诞生之初，由于技术的不成熟，尚存在合成的视频中人物微表情不自然、图像边缘有锯齿等明显痕迹。但近年来在网络传播的深度合成视频内容，人物动作的逼真度、自然度，以及视频整体的清晰度、流畅度都可以达到以假乱真的水平，用户已经难以鉴别。	深層合成技術のオープンソース化と深層合成製品・サービスの漸増により、深層合成コンテンツ制作の技術的な敷居はどんどん低くなり、深層合成サービスは一般化して、一般人は少量の画像、音声、動画、テキストなどのサンプルデータさえあれば、使いやすい深層合成ツールを使って、本物の情報と偽物の情報の境界を曖昧にすることができるようになった。 深層合成技術の黎明期には、技術の未熟さゆえに、合成された映像に不自然な微表情やギザギザの痕跡が残っていた。 しかし近年は、キャラクターの動きのリアルさや自然さ、映像全体のわかりやすさや流暢さなど、ユーザーが偽物を見分けることが難しいレベルにまで達している。
深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。如将深度合成技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。	深層合成技術がひとたび悪用されれば、巨大なリスクと大きな被害をもたらし、個人や企業に肖像権、名誉などの人格権や財産権を侵害し、社会秩序、国家の政治的安定、安全保障に大きな脅威を与える可能性がある。 例えば、国家要人の発言や公務員の偽映像の捏造に深層合成技術が利用されれば、政治的安全保障や国家安全保障に大きな損害を与える可能性がある。 また、個人や企業にとっても、深層合成技術の悪用は、その権利や利益に大きな損害を与える可能性がある。 例えば、企業幹部が捏造映像や発言内容の改ざんなどの深層取材を受けた場合、市場にパニックを引き起こし、金融市場の混乱につながる可能性がある。 また、個人が、例えば、友人や親族を詐取したり、わいせつな動画を偽装して風評被害を受けたりする可能性もある。
由此可见，深度合成技术的快速发展为数字时代发展带来了令人期待的可能性，但也带来了令人担忧的巨大风险。习近平总书记指出，“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。”规范和引导利用深度合成技术提供的互联网信息服务，最大限度地保护公民、企业合法权益，维护国家安全、政治稳定与社会公共秩序，促进技术向上向善造福社会，成为了立法立规的紧迫任务。	このように、深層合成技術の急速な発展は、デジタル時代の発展に有望な可能性を開くと同時に、重大で心配なリスクももたらすことが明らかである。 習近平総書記は、「サイバースペースは何億人もの人々の共通の心の故郷である」と指摘した。 サイバースペースの晴天と良好な生態系は国民の利益となる。" 深層合成技術を利用して提供されるインターネット情報サービスを規制・指導し、国民と企業の正当な権益を最大限に保護し、国家の安全、政治の安定と社会公共秩序を維持し、社会のために技術を振興することは、立法と規制の緊急課題となっている。
二、构建深度合成服务安全监管制度	２：綿密な合成サービスセキュリティ監督システムの構築
《规定》共分为五章，分别从总则、一般规定、数据技术管理规范、监督检查与法律责任、附则等部分，构建了深度合成服务的安全监管制度。在中华人民共和国境内应用深度合成技术提供互联网信息服务的，适用本规定。	法規は5章に分けられ、それぞれ総則、総則、データ技術管理仕様、監督検査と法的責任、附属書などの部分からなり、深い総合サービス安全監督システムを構築している。 本規定は、中華人民共和国における深層合成技術の応用によるインターネット情報サービスに適用される。
《规定》注重保障互联网信息内容安全，特别是新闻信息安全。规章对深度合成服务提供者提出了明确的要求。一是深度合成服务提供者要落实信息安全主体责任，加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，一旦发现违法和不良信息，应当依法采取处置措施；二是针对深度合成信息内容的特殊性，深度合成服务提供者应当建立健全辟谣机制，并设置便捷的用户申诉和公众投诉、举报入口；三是深度合成服务提供者要履行对服务使用者的管理义务，包括进行真实身份认证，保证用户实名使用深度合成服务，以及提示服务使用者落实个人信息保护要求等。	この規定は、インターネット上の情報コンテンツ、特にニュース情報の安全性を確保することに重点を置いている。 同規定は、深層合成サービス提供者に対する明確な要件を提示している。 第一に、深層合成サービス提供者は情報セキュリティの主な責任を履行し、深層合成コンテンツの管理を強化し、技術的または手動的な方法を採用して深層合成サービス利用者の入力データおよび合成結果を審査し、違法かつ望ましくない情報を発見したら、法律に基づいて処分措置を取らなければならない。第二に、深層合成情報コンテンツの特殊性を考慮して、深層合成サービス提供者は情報遮断の仕組みを確立し改善し、また、深層合成コンテンツは、情報遮断の仕組みを確立し改善しなければならない。 便利なユーザーの苦情や公共の苦情、報告ポータルを設定する。第三に、合成サービス提供者の深さは、ユーザーが実名で深い合成サービスを使用するだけでなく、個人情報保護の要件を実装するサービスユーザーを促すために、実際のID認証など、管理義務を履行することである。
《规定》与《互联网信息服务算法推荐管理规定》一脉相承，并提出了相辅相成的管理要求。具有舆论属性和社会动员能力的深度合成服务提供者仍要履行算法推荐服务的备案手续，深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能也要按规定开展安全评估。此外，《规定》针对深度合成数据和技术管理提出了更进一步的规范要求。第一，深度合成服务提供者和技术支持者都被纳入到了监管的对象中。这是由于深度合成服务不仅由服务提供者向公众提供，技术支持者也对深度合成服务产生重要影响。因此二者都需要对深度合成训练数据加强管理，并保障数据安全。同时，深度合成服务提供者提供人脸、人声等生物识别信息编辑功能，还要提示深度合成服务使用者履行个人信息保护义务，征得被编辑个人的单独同意。第二，深度合成服务提供者和技术支持者提供具有能够生成或者编辑人脸、人声等生物识别信息的，或生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。这是由于换脸、换声等视频可显著改变个人身份特征，具有较高的风险。同时，涉及到国家安全的如国家标志性场所、历史遗迹等，即使是非生物识别信息，也有可能被伪造而带来重大的安全风险。	本規定は、「インターネット情報サービスのアルゴリズム推薦に関する管理規程」に沿ったものであり、相互に補完する形で管理要件を定めている。 世論属性と社会動員力を持つ深層合成サービス提供者は、依然としてアルゴリズム推薦サービスの申請手続きを行わなければならず、世論属性または社会動員力を持つ深層合成サービス提供者は、新製品、新アプリケーション、新機能を開発し、規定に従って安全性評価を行う必要がある。 また、深層合成のデータおよび技術管理に関する「レギュレーション」では、さらなる仕様の要求が出されている。 まず、深層合成のサービス提供者と技術支援者の両方が規制対象に含まれる。 なぜなら、深層合成サービスは、サービス提供者が一般に提供するだけでなく、技術支援者が深層合成サービスに大きな影響を与えるからである。 そのため、どちらも深層合成の学習データとデータセキュリティの管理を強化する必要がある。 同時に、顔や音声などの生体情報編集機能を提供する深層合成サービス事業者も、深層合成サービス利用者に対して、個人情報保護義務の履行や編集対象者の個別同意の取得を促すべきである。 次に、顔や音声などの生体情報の生成・編集、あるいは国家安全保障、国家イメージ、国益、社会公共性に関わる可能性のある特殊な物体やシーンなどの非生体情報の生成・編集が可能な機能を持つモデルやテンプレートなどのツールを提供する深層合成サービス事業者や技術支援者は、法律に従って自らセキュリティ評価を実施するか専門機関に委託しなければなりません。 これは、顔の入れ替えや声の入れ替えなどの動画は、個人のアイデンティティの特徴を大きく変える可能性があり、高いリスクを伴うためである。 一方、国定公園や歴史的遺物など国家の安全に関わるものは、たとえ非生体情報であっても改ざんされる可能性があり、安全保障上の重大なリスクとなる。
三、规范深度合成服务保障网络空间清朗	３：クリアなサイバースペースを確保するための深層合成サービスへの規制
针对深度合成服务带来的机遇与恶意使用带来的挑战，世界各国纷纷出台管理法律法规，探索对深度合成服务的依法治理。欧盟与美国均有相关立法考虑，同时加强打入数字水印、开发真伪鉴别等技术治理手段，要求互联网企业对平台内容进行自我审查，从源头打击网络虚假内容。	深層合成サービスがもたらす機会と悪意のある利用がもたらす課題に対応するため、世界各国は管理法を導入し、深層合成サービスの法的ガバナンスを探っている。 欧州連合と米国は共に関連法案を検討し、デジタルウォーターマークの打ち込みや真正性識別の開発など技術的なガバナンス手段を強化し、インターネット上の虚偽コンテンツに対抗するためインターネット企業にプラットフォームコンテンツの自己検閲を求めるなど、発信元から対策を行っている。
我国《规定》的重要特色，是基于深度合成服务技术性强的特点，从技术开发、模型训练、服务提供和使用等环节对深度合成服务提供者和技术支持者提出全面管理要求。一是要求添加深度合成隐式标识，确保信息内容的可追溯性。深度合成服务提供者对使用其服务生成编辑的信息内容，应当采取技术措施添加隐式标识，这既不影响用户的使用体验，也实现了深度合成信息内容的可追溯性。二是要求添加显著标识，确保信息内容传播的可感知性。对于可能会导致公众混淆或者误认的深度合成信息内容，深度合成服务提供者还应当添加显著标识，在合理位置、区域向公众进行提示，避免对公众产生误导，引起信息内容安全风险。三是明确法律责任，保证深度合成标识的可查验性。规章要求任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。这既要求深度合成标识在深度合成内容全生命周期存在，也要求深度合成服务提供者和技术支持者保证隐式标识和显著标识的鲁棒性，使得该标识不因压缩、传输等环节丢失，进一步通过技术手段压实主体责任。	この規定の大きな特徴は、深層合成サービスの高度な技術的性格に基づき、深層合成サービス提供者や技術支援者に対して、技術開発、モデル教育、サービス提供、利用などの面で包括的な管理要求を課している点である。 まず、情報内容のトレーサビリティを確保するために、暗黙のうちにDeep Synthesisロゴを追加することが必要である。 深層合成サービス提供者は、そのサービスを利用して生成・編集された情報コンテンツに暗黙のロゴを付加することで、利用者の使用感を損なわず、かつ深層合成情報コンテンツのトレーサビリティを実現する技術的手段を講じる必要がある。 第二に、情報コンテンツの発信の知覚性を確保するために、目立つロゴをつけることが求められている。 また、公衆の混乱や誤解を招く恐れのある深層合成情報コンテンツについては、深層合成サービス提供者は、公衆に誤解を与えず情報コンテンツのセキュリティリスクを招かないよう、合理的な位置や場所に重要な表示物を追加する必要がある。 第三に、深層合成のロゴのチェック性を確保することは、明確な法的責任である。 この規定では、組織または個人が技術的手段を用いて深層合成ロゴを削除、改ざん、または隠蔽してはならないことになっている。 これは、深層合成コンテンツの全ライフサイクルにおいて、深層合成ロゴが存在することと、深層合成サービス提供者と技術支援者が、圧縮、伝送などのリンクによってロゴが失われないように、暗黙のロゴと重要なロゴの堅牢性を確保し、さらに技術手段によって主な責任をコンパクトにすることの両方を要求するものである。
深度合成技术展现了其强大的能量和可能性，加速应用已经成为现实趋势。但其带来效率和便利的同时，也带来了技术的伴生风险。深度合成服务从相继被纳入到《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》中监管，到出台专门的规章进行规制，显示出我国一方面引导深度合成技术良性发展，另一方面坚决打击利用深度合成服务制作传播违法不良信息、危害信息内容安全、社会公共利益和国家安全的行为。在合规前提下，深度合成技术创新发展，不断开拓应用场景，将形成对人工智能产业整体的带动效应，促进技术向上向善。(作者：时建中，中国政法大学副校长）	深層合成技術は、その大きなエネルギーと可能性を示し、加速度的に導入が進んでいるのが実情である。 しかし、効率や利便性をもたらす反面、技術に伴うリスクも伴いる。 深層合成サービスは、「ネットワーク音声・映像情報サービス管理条例」、「ネットワーク情報コンテンツ生態統治条例」、「インターネット情報サービスアルゴリズム推薦管理条例」に組み込まれ、それらを規制する特別な規定を導入し、中国は、一方で深層合成技術の良性発展を指導し、他方で深層合成サービスを利用して違法かつ望ましくない情報を生産・流布し、情報コンテンツを危うくしていることに断固として対処していることが示された。 安全保障、社会的公共性、国家安全保障 コンプライアンスを前提に、深層合成の技術革新と応用シナリオの継続的な開発が、AI産業全体へのドライビングエフェクトを形成し、技術の上方修正を促進する。 (著者：中国政法大学副学長 石建中氏）

---

● まるちゃんの情報セキュリティきまぐれ日記

・2022.12.17 中国 インターネット情報サービス深層合成管理規定 （深層合成で作ったものにはマークを...）(2022.11.25)

・2022.08.15 中国 国家サイバースペース管理局 インターネット情報サービスのアルゴリズム申請に関する情報公開の公告

・2022.01.30 中国 国家サイバースペース管理局 意見募集 インターネット情報サービスの深層合成の管理に関する規定（意見募集稿）

・2022.01.05 中国 インターネット情報サービスのアルゴリズム推奨管理規則

・2021.08.28 中国 意見募集 国家サイバースペース管理局 「インターネット情報サービスのアルゴリズムによる推奨に関する管理規定」