中国 「人工知能生成の合成コンテンツ識別に関する措置(意見募集稿)」と国家標準 「人工知能が生成したコンテンツのラベル付け方法」に対する意見募集

こんにちは、丸山満彦です。

中国が、人工知能生成の合成コンテンツ識別に関する措置(意見募集稿)」と準 「人工知能が生成したコンテンツのラベル付け方法」に対する意見募集を行っていますね。。。

技術関連の規制は、法令等で要件を規制し、具体的な技術的な側面は、標準で実際的に規制をするという方法ですよね。。。

一般向けにAIが作成したコンテンツについては、明示的あるいは、暗示的なラベルが必要ということなのでしょうかね...

● 中央网络安全和信息化委员会办公室 (Cyberspace Administration of China: CAC)

国家互联网信息办公室关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知	中国サイバー空間管理局による「人工知能生成の合成コンテンツ識別に関する措置(意見募集稿)」に対する意見募集のお知らせ
为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律法规，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方式提出反馈意见：	人工知能生成の合成コンテンツのラベル付けを規制し、国家安全保障および公益を保護し、公民、法人、その他の組織の合法的な権利と利益を保護することを目的として、中国サイバー空間管理局は、中華人民共和国サイバーセキュリティ法、インターネット情報サービスにおけるアルゴリズム推奨に関する管理規定、インターネット情報サービスにおけるディープ合成に関する管理規定、生成的人工知能サービス管理に関する暫定措置などの法律および規則に従い、「人工知能生成の合成コンテンツのラベル付けに関する措置(意見募集稿)」を起草した。中国サイバー空間管理局は現在、一般からの意見を募集している。一般市民は、以下の方法でフィードバックを提供することができる。
1.通过电子邮件方式发送至：biaoshi@cac.gov.cn。	1. 電子メールを送信:biaoshi@cac.gov.cn。
2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能生成合成内容标识办法征求意见”。	2. 郵送で意見を送付する場合:中国北京市西城区车公庄大街11号网络管理技术局、国家互联网管理局 封筒に「标识办法征求意见」と明記すること。
意见反馈截止时间为2024年10月14日。	フィードバックの期限は2024年10月14日である。
附件：人工智能生成合成内容标识办法（征求意见稿）	添付資料:人工知能生成の合成コンテンツ識別対策(意見募集のための草案)
国家互联网信息办公室	国家サイバースペース管理局
2024年9月14日	2024年9月14日
人工智能生成合成内容标识办法	人工知能生成の合成コンテンツ識別対策
（征求意见稿）	(意見公募草案)
第一条 为促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。	第1条 本規定は、中華人民共和国のサイバーセキュリティ法、インターネット情報サービスにおけるアルゴリズム推奨に関する管理規定、インターネット情報サービスにおけるディープ合成に関する管理規定、生成型人工知能サービス管理に関する暫定措置、およびその他の法律、行政法規、部門規則に基づき策定されたものであり、人工知能の健全な発展を促進し、人工知能により生成された合成コンテンツのラベル付けを標準化し、公民、法人、その他の組織の合法的な権益を保護し、公共の利益を保護することを目的とする。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识的，适用本办法。	第2条 本規定は、インターネット情報サービスにおけるアルゴリズム推奨に関する管理規定、インターネット情報サービスにおける深層合成に関する管理規定、生成的AIサービス管理に関する暫定措置の適用範囲に該当する、ネットワーク情報サービスプロバイダー(以下「サービスプロバイダー」という)による人工知能生成合成コンテンツのラベル付けに適用される。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用人工智能生成合成技术，未向境内公众提供服务的，不适用本办法的规定。	これらの措置の規定は、人工知能生成・合成技術を開発・応用するが、国内で一般向けにサービスを提供しない業界団体、企業、教育・科学研究機関、公共文化機関、関連専門機関には適用されない。
第三条 人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。	第3条:人工知能生成の合成コンテンツとは、人工知能技術を用いて作成、生成、または合成されたテキスト、画像、音声、動画などの情報を指す。
人工智能生成合成内容标识包括显式标识和隐式标识。	人工知能生成の合成コンテンツのマーカーには、明示的マーカーと暗示的マーカーがある。
显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。	明示的マーキングとは、生成された合成コンテンツまたはインタラクティブなシーンのインターフェースに追加され、テキスト、音声、グラフィックなどの形式で表示され、ユーザーが明確に認識できるマーキングである。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。	暗示的マーキングとは、技術的手段により生成された合成コンテンツファイルのデータに付加されるマーキングであり、ユーザーが容易に認知できないものを指す。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。	第4条 サービス提供者が提供する生成・合成サービスが「インターネット情報サービスの詳細な合成に関する管理規定」第17条第1項の状況に該当する場合、生成・合成された内容物に以下の要求事項に従って明示的マークを追加しなければならない。
（一）在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；	(1)テキストの冒頭、末尾、または中間の適切な位置にテキストによる指示やユニバーサルシンボルなどの標識を追加するか、またはインタラクティブなシナリオにおけるインターフェースまたはテキストの周囲に目立つ標識を追加する。
（二）在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；	(2) 音声の冒頭、末尾、または中間の適切な箇所に音声による合図や音声リズムによる合図を追加するか、または対話型シーンのインターフェースに目立つ合図アイコンを追加する。
（三）在图片的适当位置添加显著的提示标识；	(3) 画像の適切な位置に目立つプロンプトアイコンを追加する。
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；	(4) 開始画面および動画再生画面の適切な位置に目立つプロンプトアイコンを追加し、動画の最後および途中の適切な位置にも目立つプロンプトアイコンを追加する。
（五）呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；	(5) 仮想シーンを表示する際には、開始画面の適切な位置に目立つプロンプトを追加すべきであり、仮想シーンの連続サービス中に適切な位置に目立つプロンプトを追加することができる。
（六）其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。	(6) その他の生成された合成サービスシナリオは、それぞれのアプリケーションの特性に応じて、明確なロゴと目立つプロンプト効果を追加しなければならない。
服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。	サービス提供者が生成された合成コンテンツのダウンロード、コピーまたはエクスポート手段を提供する場合には、ファイルが要件を満たす明示的マークを含むことを保証しなければならない。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。	第5条 サービスプロバイダーは、「インターネット情報サービスにおける深層合成に関する管理規定」の第16条に従い、生成および合成コンテンツを含むファイルのメタデータに暗黙識別子を追加しなければならない。暗黙識別子には、生成および合成コンテンツの属性、サービスプロバイダーの名称またはコード、コンテンツ番号などの生成要素情報を含めなければならない。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。	サービスプロバイダーは、合成コンテンツを生成する際に、電子透かし形式の暗黙識別子を追加することが推奨される。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。	ファイルのメタデータとは、特定の符号化形式のファイルのヘッダーに埋め込まれた記述情報を指し、ファイルのソース、属性、目的、著作権などの情報を記録するために使用される。
第六条 提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。	第6条 オンラインコンテンツの配信サービスを提供するサービス提供者は、生成されたコンテンツの配信を規制する措置を講じなければならない。
（一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；	(1) ファイルのメタデータに暗示的識別子が含まれているかどうかを確認する。暗示的識別子が含まれている場合は、公開されたコンテンツの近くに、そのコンテンツが生成されたコンテンツであり、合成コンテンツであることをユーザーに明確に知らせる目立つプロンプトを追加する適切な措置を講じなければならない。
（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；	(2) ファイルメタデータに暗示的マークが確認されなかったが、ユーザーが生成された合成コンテンツであると申告した場合、公開されたコンテンツの周囲に目立つプロンプトマークを適切な方法で追加し、ユーザーにコンテンツが生成された合成コンテンツである可能性があることを知らせる。
（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；	(3) ファイルのメタデータに暗示的マークが確認されず、かつ、ユーザーがコンテンツが生成された合成コンテンツであることを宣言していないが、オンライン情報コンテンツ配信プラットフォームのサービスを提供するサービスプロバイダーが明示的マークまたは生成された合成コンテンツの他の痕跡を検出した場合、コンテンツは生成された合成コンテンツである疑いがあると識別することができる。サービスプロバイダーは、公開されたコンテンツの近くに目立つプロンプトマークを追加し、コンテンツが生成された合成コンテンツである疑いがあることをユーザーに知らせる適切な措置を講じなければならない。
（四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；	(4) 生成された合成コンテンツであることが確認された、可能性がある、または疑わしいコンテンツについては、生成された合成コンテンツの属性情報、名称やコードなどの通信プラットフォームに関する情報、コンテンツ番号、その他の通信要素情報をファイルのメタデータに追加する。
（五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。	(5) 必要な識別機能を提供し、ユーザーに公開されたコンテンツに生成された合成コンテンツが含まれているかどうかを積極的に申告するよう促す。
第七条 互联网应用程序分发平台在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。	第7条 インターネット上のアプリケーション配信プラットフォームが掲載または起動の申請を審査する際には、サービス提供者が要求された生成合成コンテンツ識別機能を設けているかどうかを確認しなければならない。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。	第8条 サービス提供者は、生成された合成コンテンツおよびその他の関連コンテンツの識別方法と形式をユーザーサービス契約に明確に規定し、ユーザーに当該識別管理要求を注意深く読み理解するよう促さなければならない。
第九条 如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。	第9条 ユーザーが、生成された合成コンテンツに明示的マークを付加しない状態でサービス提供者に提供することを希望する場合、サービス提供者は、ユーザー契約を通じて、ユーザーの標識義務と使用責任を明確にした上で、明示的マークを付加しない生成された合成コンテンツを提供し、関連ログを6ヶ月以上保存することができる。
第十条 用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。	第10条 オンラインコンテンツの発表プラットフォームを提供するサービスプロバイダーに生成・合成コンテンツをアップロードする際、ユーザーはプラットフォームが提供する識別機能を積極的に申告し、コンテンツの識別に使用しなければならない。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。	いかなる組織または個人も、本規定に定められた生成された合成コンテンツの識別情報を悪意を持って削除、改ざん、偽造、隠蔽したり、他者がこのような悪意ある行為を行うためのツールやサービスを提供したり、不適切な識別手段によって他者の合法的な権利と利益を損なってはならない。
第十一条 服务提供者应当按照有关强制性国家标准的要求进行标识。	第11条 サービスプロバイダーは、関連する強制国家標準の要求に従ってマークを付さなければならない。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。	第12条 サービスプロバイダーは、アルゴリズムの提出やセキュリティ評価などの手続きを行う際には、本措置に従って総合的なコンテンツ識別を行うための関連資料を提供し、識別情報の共有を強化して、関連する違法・犯罪行為の防止と取締りへの支援と協力を提供しなければならない。
第十三条 违反本办法规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。	第13条 生成された合成コンテンツにマークを付さなかったために深刻な結果を招いた場合、関連する法律、行政法規、部門規則の規定に基づき、サイバースペース管理局などの関連主管部門により処罰される。
第十四条 本办法自2024年 月 日起施行。	第14条 本措置は、2024年__________日に施行する。

国家標準の意見募集への案内...

・2024.09.14 关于征求《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准（征求意见稿）意见的通知

・2024.09.14 关于征求《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准(征求意见稿)意见的通知

標準案

・[PDF] 征求意见稿 (downloaded)

・[DOCX][PDF] 仮訳

概要説明

・[PDF] 编制说明 (downloaded)

国家标准《网络安全技术 人工智能生成合成内容标识方法》	国家標準「ネットワークセキュリティ技術-人工知能生成の合成コンテンツ識別方法」の編集指示書
（征求意见稿）编制说明	(意見募集用草案) 作成要領
一、工作简况	I. 作業概要
（一） 任务来源	(1) 業務の出典
根据国家标准化管理委员会2024年下达的国家标准制修订计划，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》由中央网络安全和信息化委员会办公室提出，委托全国网络安全标准化技术委员会执行，主要起草单位为中国电子技术标准化研究院，计划号：20241842-Q-252。	2024年に国家標準化管理委員会が発表した国家標準の制定・改訂計画によると、中央サイバーセキュリティ委員会弁公室が提案した強制性国家標準「ネットワークセキュリティ技術-人工知能生成合成コンテンツのラベル付け方法」は、国家ネットワークセキュリティ標準化技術委員会に実施が委託された。主な起草単位は中国電子標準化研究所であり、計画番号は20241842-Q-252である。
（二） 制定背景	(2)背景
生成式人工智能已成为继移动互联网技术之后最大的一波技术浪潮，同时也带来了新的安全风险和挑战。随着人工智能技术的发展，人工智能生成合成内容日益逼真，网络传播内容是否由人工智能生成合成难以分辨，社会上已出现多起利用生成合成内容传播虚假新闻、引发社会舆情，或是利用生成合成内容进行诈骗的案件。人工智能生成合成内容存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害广大人民群众在网络空间的合法权益。	生成的AIは、モバイルインターネット技術に次ぐ技術の一大潮流となっており、新たなセキュリティリスクと課題をもたらしている。AI技術の発展に伴い、AIの生成合成コンテンツはますます現実味を帯びてきている。インターネット上で拡散されるコンテンツがAIによって生成・合成されたものかどうかを区別することは困難である。生成合成コンテンツを利用してデマニュースを拡散し、社会世論を動かしたり、生成合成コンテンツを利用して詐欺行為を働いたりするケースが社会で多発している。AIの生成合成コンテンツが悪用、乱用、悪意を持って利用されることによるセキュリティリスクは、国家安全を深刻に脅かし、サイバー空間における一般市民の合法的権益を脅かす。
2022年11月，国家网信办等三部门发布《互联网信息服务深度合成管理规定》（以下简称“《规定》”），提出了深度合成服务提供者对使用其服务生成或者编辑的信息内容进行标识的要求。2023年7月，国家网信办等七部门发布《生成式人工智能服务管理暂行办法》（以下简称“《办法》”），要求生成式人工智能服务提供者对图片、视频等生成内容进行标识。	2022年11月、中国国家サイバー空間管理局および他の2つの政府部門は、「インターネット情報サービスにおけるディープシンセシスの管理規定」(以下「規定」という)を公布し、ディープシンセシスサービスのプロバイダーに対し、そのサービスを利用して生成または編集された情報コンテンツにラベル付けを行うことを要求した。2023年7月、中国国家サイバー空間管理局および他の5つの政府部門は、「生成型人工知能サービスの管理に関する暫定措置」(以下「措置」という)を公布し、生成型人工知能サービスのプロバイダーに対し、画像や映像などの生成コンテンツにラベル付けを行うことを要求した。
为落实《规定》《办法》相关要求，切实维护国家安全和公共利益，制定本标准，对人工智能生成合成内容的标识方法提出规范。本标准对防范人工智能生成合成内容引发安全风险、提升人工智能安全水平起到规范作用，促进人工智能行业安全发展。	規定と措置の関連要件を実施し、国家安全保障と公益を効果的に保護するために、AIが生成した合成コンテンツのラベル付け方法に関する仕様を規定するこれらの標準が策定された。これらの標準は、AIが生成した合成コンテンツがセキュリティリスクを引き起こすことを防止し、AIのセキュリティレベルを向上させる規制上の役割を果たし、AI産業の安全な発展を促進する。
（三） 起草过程	(3)起草プロセス
1、预研阶段	1. 事前研究段階
（1）2023年11月，组建编制组，编制形成第一版草案。	(1) 2023年11月、起草チームが結成され、第一草案が作成された。
（2）2023年11月-2024年2月，标准编制组开展广泛调研，并多次组织组内研讨，持续完善标准草案，对标准草案进行多轮迭代。	(2) 2023年11月から2024年2月にかけて、標準起草チームは広範な調査を実施し、内部で複数回の討論を行い、標準草案を継続的に改善し、草案を複数回修正した。
（3）2024年3月，组织10余家相关企业多次开展调研、召开研讨会，收集企业反馈材料，进一步完善标准草案。	(3) 2024年3月、10社以上の関連企業を集めて複数の調査とセミナーを実施し、企業からのフィードバックを収集し、標準草案をさらに改善した。
（4）2024年4-5月，继续联系重点企业，征求企业意见，结合企业反馈迭代标准草案版本，形成标准可行性研究报告。	(4) 2024年4月から5月にかけて、引き続き主要企業と連絡を取り、意見を求め、フィードバックに基づいて標準の草案を繰り返し修正し、標準の実現可能性調査報告書を作成する。
2、起草阶段	2. 起草段階
（1） 2024年6月25日，国家标准化管理委员会下达本强制性国家标准的制定计划，标准正式立项。	(1) 2024年6月25日、中華人民共和国標準化管理委員会は、この強制国家標準の開発計画を発行し、標準が正式に制定された。
（2） 2024年7月3日，成立强制标准工作专班，由中国电子技术标准化研究院牵头，国家计算机网络应急技术处理协调中心、浙江大学、中国科学院软件研究所等共同组成。	(2) 2024年7月3日、中国国家電子標準化研究院が主導し、中国国家コンピュータネットワーク緊急対応技術チーム/調整センター、浙江大学、中国科学院ソフトウェア研究所で構成される強制規格作業グループが設立された。
（3） 2024年7月3日-15日，标准工作专班组织开展基础调研，对标准内容进行研讨，分工修改完善标准草案。	(3) 2024年7月3日から15日にかけて、標準化作業グループが組織され、基礎研究を実施し、標準の内容について討議し、標準草案の修正と改善作業を分担した。
（4） 2024年7月16日-30日，先后组织20余家重点通用类与垂域类企业召开3次研讨会，征求企业意见与反馈，完善标准草案。	(4) 2024年7月16日から30日にかけて、20社以上の主要な一般企業および垂直統合企業を対象に、3つのセミナーが連続して開催され、意見やフィードバックを収集し、標準規格案の改善が行われた。
（5） 2024年8月9日，组织召开专家研讨会，征求专家意见建议，并修改完善标准草案。	(5) 2024年8月9日、専門家セミナーが開催され、専門家の意見や提案を収集し、標準草案が修正・改善された。
（6） 2024年8月10日-25日，根据专家意见对标准草案多轮修改与完善，更新标准草案文本。	(6) 2024年8月10日から25日にかけて、専門家からの意見に基づいて標準草案を複数回修正・改善し、標準草案のテキストを更新する。
（7） 2024年8月26日，再次联系20余家重点通用类与垂域类企业召开研讨会，征求企业意见与反馈，完善标准草案。	(7) 2024年8月26日、再び20社以上の主要な一般企業および垂直統合企業に連絡し、セミナーを開催して意見やフィードバックを募り、標準案を改善する。
（8） 2024年8月30日，组织专家评审会，专家一致同意该项标准通过评审，根据专家意见修改完善后形成征求意见稿。	(8) 2024年8月30日、専門家による検討会議が開催され、専門家全員が標準を可決すべきであると一致して同意した。専門家の意見に基づいて修正・改善された後、意見募集のための草案が作成された。
二、编制原则、强制性国家标准主要技术要求的依据及理由	II. 強制的な国家標準の主な技術的要件の編集原則、根拠および理由
（一） 标准编制原则	(1) 標準作成の原則
本标准的编制原则是：	この標準の開発における原則は以下の通りである。
1） 通用性：生成合成服务提供者和内容传播服务提供者均可依据本标准开展对人工智能生成合成内容进行标识活动。	(1) 普遍性:生成合成サービスプロバイダーおよびコンテンツ配信サービスプロバイダーは、いずれも本標準に従って人工知能生成合成コンテンツのラベル付けを行うことができる。
2） 可行性：确保标准中技术要求可验证、可操作。为此，本标准编制过程中与科研机构、相关企业、专家进行了多轮研讨。	2)実現可能性:標準の技術的要件が検証可能であり、運用可能であることを保証する。この目的を達成するために、この標準の策定にあたっては、科学研究機関、関連企業、専門家との間で複数回にわたる議論が行われた。
3） 符合性：符合《规定》、《办法》等国家有关法律法规和已有标准规范对于标识的相关要求。	3) 準拠:規定および措置などの国内の法律および規則におけるラベル表示に関する関連要件、ならびに既存の標準および仕様書に準拠する。
（二） 主要技术要求及其确定依据	(2) 主要な技術的要件とその根拠
本标准给出了人工智能生成合成内容标识方法。本标准适用于规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展的标识活动。	本標準は、人工知能による合成コンテンツ識別方法について規定する。本標準は、人工知能による合成コンテンツの生成サービスおよびコンテンツ配信サービスを提供する事業者が行う識別活動に適用される。
本标准的主要技术要求包括：显式标识方法，隐式标识方法。	この標準の主な技術的要件には、明示的ラベル方法と暗示的ラベル方法が含まれる。
显式标识方法包括文本内容显式标识、图片内容显式标识、音频内容显式标识、视频内容显式标识和交互场景界面显式标识。规范了在不同模态的内容上及交互场景界面上进行显式标识的方法，依据为《规定》第十七条“深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况”。对目前已对公众提供人工智能生成合成内容服务的产品进行了调研，发现内容显式标识与交互场景界面显式标识已有多家重点企业进行了实践。	明示的ラベルの方法には、テキストコンテンツの明示的ラベル、画像コンテンツの明示的ラベル、音声コンテンツの明示的ラベル、映像コンテンツの明示的ラベル、およびインタラクティブシーン・インターフェースの明示的ラベルが含まれる。 異なるモードのコンテンツおよびインタラクティブなシナリオのインターフェースにおける明示的なラベルの方法は、規定の第17条に基づき、「一般の人々に混同や誤認を招く可能性のある以下の深層合成サービスを提供する深層合成サービスプロバイダーは、生成または編集された情報コンテンツの適切な位置または領域を明確にラベルし、深層合成について一般の人々に注意を促さなければならない」と規定されている。現在、人工知能を使用して合成コンテンツを生成するサービスを一般の人々に提供している製品を調査したところ、コンテンツの明示的なラベルおよびインタラクティブなシーンのインターフェースの明示的なラベルは、すでに多くの主要企業によって実施されていることが分かった。
隐式标识方法包括元数据隐式标识。规范了在提供文件形式的生成合成内容时，添加元数据隐式标识的方法，依据为《规定》第十六条“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息”。调研了国内国际不同格式文件元数据写入技术，确保主流文件格式的元数据可写入、可识别。	暗示的なラベル方法には、メタデータの暗示的なラベルが含まれる。生成および合成コンテンツを文書形式で提供する際のメタデータの暗示的なラベルの追加方法は、規定第16条に基づき規定されている。「ディープシンセシスサービスプロバイダーは、そのサービスを利用して生成または編集された情報コンテンツに、ユーザーの利用に影響を与えないラベルを追加する技術的措置を講じ、法律、行政法規および関連する国家規定に従ってログ情報を保存しなければならない。」主流の文書形式に対して、メタデータの書き込みと識別を確実に実行できるよう、異なる形式の文書に対する国内外のメタデータ書き込み技術の研究が行われている。
为落实《规定》《办法》相关要求，切实维护国家安全和公共利益，在有关主管部门的指导下，编制组广泛调研国内外生成式人工智能技术研发机构及企业所开展的探索和应用，编制组成员分工合作，完成了技术可行性与法律法规符合性的调研分析工作，确保了标准的可落地、可实施。	関連規定の要求を実行し、国家の安全と公共の利益を効果的に保護するために、起草グループは関連主管部門の指導の下、国内外の研究開発機関および企業による生成的AI技術の探求と応用について広範な調査を実施した。起草グループのメンバーは協力して技術的実現可能性と法規への準拠に関する調査と分析を完了し、標準が実行可能かつ強制力のあるものであることを確保した。
（三）修订前后技术内容的对比[仅适用于国家标准修订项目]	(3)改訂前後の技術内容の比較 [国家標準改訂プロジェクトのみ適用] 該当なし。
不涉及.	該当なし
三、与有关法律、行政法规和其他强制性标准的关系	III. 関連法規、行政法規およびその他の強制性規格との関係
《规定》第十六条提出，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。《规定》第十七条提出，深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：	第16条では、ディープシンセシスサービス提供者は、そのサービスを利用して生成または編集された情報内容に、ユーザーの利用に影響を与えない識別マークを追加する技術的措置を講じ、法律、行政法規および関連する国家規範に従ってログ情報を保存しなければならないと規定している。第17条では、以下のディープシンセシスサービスを提供するディープシンセシスサービス提供者は、一般の人々に混同や誤認を引き起こす可能性があるため、そのディープシンセシスを一般の人々に警告するために、生成または編集された情報内容を適切な位置または領域に目立つようにマークしなければならないと規定している。
（一） 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；	(1) インテリジェント・ダイアログやインテリジェント・ライティングなど、自然人によるもののようにシミュレートするテキスト生成または編集サービス
（二） 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；	(2) 合成音声の生成、音声の模倣、または個人識別特性の大幅な変更を行う編集サービス、
（三） 人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；	(3) 人物の画像または映像のアイデンティティを生成、置換、操作、または大幅に変更する編集サービス、例えば顔生成、顔置換、顔操作、ジェスチャー操作など。
（四） 沉浸式拟真场景等生成或者编辑服务；	(4) 没入型シミュレーションシーンなどの生成または編集サービス、
（五） 其他具有生成或者显著改变信息内容功能的服务。	(5) その他情報の内容を生成し、又は大幅に変更する機能を有するサービス
深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。	ディープシンセシスサービス提供者が前項に規定するもの以外のディープシンセシスサービスを提供する場合には、識別機能が目立つように表示し、かつ、当該ディープシンセシスサービスの利用者に識別が可能であることを促すものとする。
《办法》第十二条提出，提供者应当按照《规定》对图片、视频等生成内容进行标识。	措置の第12条では、プロバイダーは規定に従って生成された画像や映像などのコンテンツにマークを付けることが規定されている。
本标准依据《规定》第十六、十七条，将标识分为显式标识与隐式标识，并分别规范了显式标识与隐式标识的标识方法，对《办法》《规定》中的要求进行细化，本标准与现行法律、法规以及国家标准不存在冲突与矛盾，与其他标准配套衔接。	本標準は、規定の第16条と第17条に従って、明示的ラベルと暗示的ラベルにラベルを分類し、明示的ラベルと暗示的ラベルのラベル方法を個別に規定し、措置と規定の要求をさらに細分化している。本標準は、既存の法律、法規、国家標準と矛盾せず、抵触せず、他の標準とも互換性がある。
四、 与国际标准化组织、其他国家或者地区有关法律法规和标准的比对分析	IV. 国際標準化機構および他国・地域の関連法規および標準との比較分析
欧盟《人工智能法》和《数字服务法》两部法律涉及AI标识，根据这两部法律的规定，目前主流的生成式人工智能属于有限风险人工智能系统，须承担标识义务，标识技术包括水印、元数据识别、指纹识别、加密方法、日志记录等。美国拜登政府颁布的《关于AI的安全和可信赖开发和使用的行政命令》为美国 AI标识技术标准、指南等文件的出台和工作的开展提供指引。新加坡《生成式人工智能治理模型框架》、加拿大《生成式人工智能行为守则》均提及内容标识技术的应用。国际组织层面，七国集团通过《开发高级人工智能的组织的国际指导原则》，呼吁采用水印等技术使用户能够识别人工智能生成内容。	EUの「人工知能法」と「デジタルサービス法」は、いずれもAIのラベリングに関するものである。この2つの法律によると、現在の主流である生成的AIはリスクが限定的なAIシステムであり、ラベリングが義務付けられている。ラベリングの手法には、透かし、メタデータ識別、フィンガープリント識別、暗号化方式、ログ記録などがある。 バイデン政権が発布した「人工知能の安全かつ信頼できる開発と利用に関する行政命令」は、米国におけるAI識別の技術標準とガイドラインの導入と実施に関する指針を提供している。シンガポールの「生成的AIのガバナンスモデルに関する枠組み」とカナダの「生成的AIの行動規範」は、いずれもコンテンツ識別技術の適用について言及している。国際組織のレベルでは、G7(主要7か国)が「高度な人工知能を開発する組織のための国際的な指導原則」を採択し、透かしなどの技術を使用してユーザーがAI生成コンテンツを識別できるようにすることを求めている。
目前，国际标准化组织ISO/IECJTC1/SC42（人工智能分委员会）和SC27 （信息安全、网络空间安全和隐私保护分委员）分别收到了来自加拿大和我国的关于AI标识的标准化贡献，但都还未正式立项。NIST发布的标准《数字内容透明度技术方法概述》中，主要内容有验证内容并跟踪其来源、标记合成内容、检测合成内容等。标准第3节提到标记合成内容分为内容标签、可见水印、披露字段等直接向用户披露内容创作过程中使用AI情况的技术；与隐形水印、数字指纹、嵌入的元数据等间接披露技术。本标准未规定具体的技术指标。C2PA发布的《C2PA技术规范》中，主要是采用可追溯的元数据来保证内容的真实性。	現在、国際標準化機構ISO/IECJTC1/SC42(人工知能分科会)とSC27(情報セキュリティ、サイバーセキュリティ、プライバシー保護分科会)は、カナダと中国からAIラベルに関する標準化の貢献を受け取っているが、いずれも正式に設立されたものではない。NISTが発表した標準「デジタルコンテンツの透明性に関する技術手法の概要」の主な内容は、コンテンツの検証とソースの追跡、合成コンテンツのラベル、合成コンテンツの検出などである。 標準の第3項では、合成コンテンツのラベルは、コンテンツの作成プロセスでAIが使用されていることをユーザーに直接開示する技術、例えばコンテンツラベル、可視透かし、開示フィールドなどに分けられると述べている。また、間接的な開示技術として、不可視透かし、デジタル指紋、埋め込みメタデータなどがある。この標準では、具体的な技術指標は規定されていない。C2PAが発表したC2PA技術仕様は、主に追跡可能なメタデータを使用してコンテンツの真正性を確保している。
本标准与现有国际政策、标准相比，明确了标识的形式，且技术完备，适用性强。本标准的提出可以引领人工智能技术的规范、安全发展，为我国的AI标识国际标准贡献提供支撑。本标准与现有国际政策、标准不冲突，本标准的颁布实施对国际贸易不会带来壁垒性的影响。	既存の国際政策や標準と比較すると、この標準は識別の形式を明確にし、技術的に完全であり、適用性も高い。この標準の提案は、人工知能技術の標準化と安全な発展を導き、中国がAI識別の国際標準に貢献するためのサポートとなる。この標準は既存の国際政策や標準と矛盾せず、その公布と実施は国際貿易に障壁効果をもたらさない。
五、 重大分歧意见的处理过程、处理意见及其依据本标准修订过程中无重大分歧。	V. 重大な不一致の処理プロセス、意見の一致点、およびその意見の根拠 本標準の改訂において重大な不一致は発生していない。
六、 对强制性国家标准自发布日期至实施日期之间的过渡期（以下简称过渡期）的建议及理由	VI. 強制国家標準の公布日から実施日までの移行期間(以下、移行期間)に関する提案と根拠
考虑到执行人工智能标识生成与检测技术复杂性相对较低，技术改造所需时间较短，并且由于已有大量制作平台已经开展部分内容标识工作、预计具备短期内适应标注的能力。建议本标准自发布之日起，过渡期为半年。半年以后，正式实施。	人工知能によるマーク生成および検出技術の実施における技術的複雑性は比較的低いため、技術転換に要する時間は比較的短く、すでに多くの生産プラットフォームがマーク作業の一部を実施し始めているため、マークへの適応は短期間で可能になることが予想される。本標準の移行期間は、公布日から6ヶ月間とすることが推奨される。6ヶ月後、正式に実施される。
七、 与实施强制性国家标准有关的政策措施	VII. 強制国家標準の実施に関する政策措置
本标准是《人工智能生成合成内容标识办法》的配套强制性国家标准，该文件当前为征求意见稿。文件第十一条中规定“服务提供者应当按照有关强制性国家标准的要求进行标识”。其中所指“有关强制性国家标准”即为本标准。	本標準は、現在、意見公募稿の段階にある「人工知能合成コンテンツ識別措置」の支持必須国家標準である。同文書第11条では、「サービス提供者は、関連必須国家標準の要求に基づきラベル表示を行うものとする」と規定している。ここでいう「関連必須国家標準」とは、本標準を指す。
本标准编制过程中配套建设人工智能生成合成内容标识验证平台，对后续标准的实施起到支撑作用。同时计划后续对重点企业进行宣讲、培训工作，开展相应的检测、认证服务。	この標準の策定中、その後の標準の実施を支援するために、人工知能による合成コンテンツ識別および検証プラットフォームが構築された。同時に、主要企業に対する宣伝およびトレーニングを実施し、対応するテストおよび認証サービスを実施することが計画されている。
八、 是否需要对外通报的建议及理由	VIII. 提案内容およびその理由を公表する必要があるかどうか
本标准既是对我国的《规定》和《办法》的标准支撑，同时也可响应国际标准化组织、其他国家或者地区有关AI标识的法律法规和标准。本标准与现有国际政策、标准相比，明确了标识的形式，且技术完备，适用性强。本标准的提出可以引领人工智能技术的规范、安全发展，为我国的AI标识国际标准贡献提供支撑。	本標準は、中国の法規・政策を支持するだけでなく、AIロゴに関する国際標準化機構やその他の国・地域の法律、法規、標準にも対応している。既存の国際政策や標準と比較すると、本標準はロゴの形式を明確にし、技術的に完全で、適用性も高い。本標準の提案は、人工知能技術の標準化と安全な発展を導き、中国がAIロゴの国際標準に貢献するためのサポートとなる。
另外，本标准为强制性国家标准，还影响到国际人工智能企业在我国境内提供生成合成内容服务，故建议对外通报。	また、この標準は強制的な国家標準であり、中国国内で合成コンテンツ生成サービスを提供する国際人工知能企業にも影響を与える。そのため、外部に公表することが推奨される。
九、 废止现行有关标准的建议	IX. 現行の関連標準の廃止に関する提案
不涉及。	該当なし。
十、 涉及专利的有关说明	X. 特許に関する関連説明
本标准不涉及相关专利、知识产权、著作权等内容。	本標準は、関連特許、知的財産権、著作権等を含まない。
十一、 强制性国家标准所涉及的产品、过程或者服务目录	XI. 強制的な国家標準の対象となる製品、プロセス、サービスの一覧
本标准适用于生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展的标识活动。以及支撑标识活动的相应产品和服务开发和应用。	本標準は、人工知能型合成コンテンツの生成サービスプロバイダーおよびコンテンツ配信サービスプロバイダーが実施する識別活動に適用される。また、識別活動を支援する対応製品およびサービスの開発および適用にも適用される。
十二、 其他应当予以说明的事项	XII. その他明確にすべき事項
无。	なし。
标准编制组	標準作成チーム
2024年9月13日	2024年9月13日

---

● まるちゃんの情報セキュリティ気まぐれ日記

・2023.09.11 中国 生成的AIについての専門家の解釈 (2023.08.29)

・2023.07.14 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15

・2023.04.12 中国 意見募集 生成的人工知能サービス管理弁法

・2023.01.18 中国 サイバー法制白書 2022 (2023.01.12)

・2022.12.23 中国 インターネット情報サービス深層合成管理規定についての専門家のコメント... (2022.12.12)

・2022.12.17 中国 インターネット情報サービス深層合成管理規定 （深層合成で作ったものにはマークを...）(2022.11.25)

・2022.01.30 中国 国家サイバースペース管理局 意見募集 インターネット情報サービスの深層合成の管理に関する規定（意見募集稿）