中国意見募集生成的人工知能サービス管理弁法: まるちゃんの情報セキュリティ気まぐれ日記

October 2024
Sun	Mon	Tue	Wed	Thu	Fri	Sat
		1	2	3	4	5
6	7	8	9	10	11	12
13	14	15	16	17	18	19
20	21	22	23	24	25	26
27	28	29	30	31

2023.04.12

中国意見募集生成的人工知能サービス管理弁法

こんにちは、丸山満彦です。

このところ、生成的AIがすっかり流行ですね。Web３はどこにいったのでしょうか？(^^)

さて、そんな生成的AIですが、中国で早速、その管理についての弁法案が公表され、意見募集されています。ネットワークセキュリティ法、データセキュリティ法、個人情報保護法の基の規則となっています。

・虚偽情報を生成できないようにする措置を講じる

・サービス提供前に、セキュリティ評価（世論属性や社会動員力を持つインターネット情報サービスのセキュリティ評価規定）をし、アルゴリズムの申請（インターネット情報サービスのアルゴリズム推奨管理規定）をする

・サービスの利用状況等を明らかにする

・生成された写真や動画などのコンテンツにマークを付ける（インターネット情報サービス深層合成管理規定）

等、既存の法令等との関係がかかれていますね。。。

● 中央网络安全和信息化委员会办公室 (Cyberspace Administration of China: CAC)

・2023.04.11 国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知

国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知	国家サイバースペース管理局「生成的AIサービス管理弁法（意見募集案）」意見募集の通知

附件：生成式人工智能服务管理办法（征求意见稿）	別紙：生成的AIサービス管理弁法（意見募集案）
国家互联网信息办公室	国家サイバースペース管理局
2023年4月11日	2023年4月11日
生成式人工智能服务管理办法	生成的AIサービス管理弁法
（征求意见稿）	(意見募集用ドラフト)
第一条为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。	第1条本弁法は、生成的AIの健全な発展と標準的な応用を促進するため、中華人民共和国ネットワークセキュリティ法、中華人民共和国データセキュリティ法、中華人民共和国個人情報保護法、およびその他の法律と行政法規に従って制定される。
第二条研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。	第2条本弁法は、中華人民共和国の領域内における公衆へのサービス提供のための生成的AI製品の研究開発および利用について適用される。
本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。	本措置でいう生成的AIとは、アルゴリズム、モデル及びルールに基づいてテキスト、画像、音声、映像、コード及びその他のコンテンツを生成する技術をいう。
第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。	第3条国は、AIアルゴリズム、フレームワーク及びその他の基礎技術の自主的な革新、普及及び応用並びに国際協力を支持し、安全かつ信頼できるソフトウェア、ツール、コンピューティング及びデータ資源の優先的な利用を奨励する。
第四条提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：	第4条生成的AI製品またはサービスの提供は、法令の要件を遵守し、社会道徳および公序良俗を尊重し、以下の要件を満たすものとする：
（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。	(1) 生成的AIを用いて生成されるコンテンツは、社会主義の核心的価値を反映し、国家権力の転覆、社会主義体制の転覆、分離独立の扇動、国民統合の損なわれ、テロリズム、過激主義の促進、民族憎悪、民族差別、暴力、わいせつ・ポルノ情報、虚報、経済秩序や社会秩序を乱すおそれのあるコンテンツを含まないこと。
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。	(2) アルゴリズム設計、学習データ選択、モデル生成・最適化、サービス提供の過程において、人種、民族、信条、国、地域、性別、年齢、職業等による差別を防止するための措置を講じること。
（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。	(3) 知的財産権とビジネス倫理を尊重し、アルゴリズム、データ、プラットフォーム等の利点を利用して不正な競争をすることを控えること。
（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。	(4) 生成的AIを用いて生成されるコンテンツは、真実かつ正確であるべきであり、虚偽の情報の生成を防止するための措置を講じること。
（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。	(5) 他者の正当な利益を尊重し、他者の心身の健康への害、肖像権・名誉権・個人のプライバシーへの損害、知的財産権への侵害を防止する。個人情報およびプライバシー・企業秘密の不正な取得、開示、利用を禁止すること。
第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。	第5条生成的AI製品を用いて、プログラマブルインターフェース等を提供することにより、他者によるテキスト、画像、音声等の生成を支援するなど、チャットやテキスト、画像、音声等の生成サービスを提供する団体および個人（以下「プロバイダー」という。）は、当該製品により生成されたコンテンツの制作者の責任を負い、個人情報が関わる場合、以下のことを行うものとする。個人情報が関係する場合、提供者は、個人情報の処理者の法的責任を負い、個人情報保護の義務を果たすものとする。
第六条利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。	第6条生成的AI製品を利用して公衆にサービスを提供する前に、「世論属性や社会動員力を持つインターネット情報サービスのセキュリティ評価規定」に基づき、国家インターネット情報部門にセキュリティ評価を申告し、「インターネット情報サービスのアルゴリズム推奨管理規定」に基づき、アルゴリズム申告および変更・取消し申告手続きを行わなければならない。
第七条提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。	第7条提供者は、生成的AI製品の事前訓練データおよび最適化訓練データソースの合法性について責任を負うものとする。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：	生成的AI製品に使用される事前学習データ及び最適化学習データは、以下の要件を満たすものとする：
（一）符合《中华人民共和国网络安全法》等法律法规的要求；	(1) 中華人民共和国のネットワークセキュリティに関する法律及びその他の法令の要件を遵守していること；
（二）不含有侵犯知识产权的内容；	(2）知的財産権を侵害する内容を含んでいないこと；
（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；	(3) データに個人情報が含まれている場合、個人情報の主体の同意を得ること、その他法令および行政法規が定める事情を満たすこと；
（四）能够保证数据的真实性、准确性、客观性、多样性；	(4) データの真正性、正確性、客観性、多様性が保証されていること；
（五）国家网信部门关于生成式人工智能服务的其他监管要求。	(5) 生成的AIサービスに関する国家インターネット情報部門のその他の規制要件。
第八条生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。	第8条手動ラベリングを使用する生成的AI製品の開発のうち、プロバイダは、このアプローチの要件に沿って、明確、具体的、運用可能なラベリング規則、ラベリング担当者の必要なトレーニング、ラベリングされたコンテンツの正しさのサンプル検証を開発しなければならない。
第九条提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。	第9条生成的AIサービスの提供は、「中華人民共和国ネットワークセキュリティ法」の規定に基づき、利用者に実際の身元情報の提供を義務付けるものとする。
第十条提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。	第10条プロバイダーは、そのサービスの人口、機会、利用状況を明らかにし、開示するものとし、利用者がコンテンツ生成に過度に依存したり、中毒になったりしないよう、適切な措置を講じるものとする。
第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。	第11条プロバイダは、サービスの提供にあたり、利用者の入力情報および利用記録の保護義務を負うものとする。また、利用者の身元を推測できる入力情報を不正に保持しないこと、利用者の入力情報および利用状況に基づいて肖像画を作成しないこと、利用者の入力情報を他者に提供しないこと。なお、法令に別段の定めがある場合は、その定めを適用するものとする。
第十二条提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。	第12条プロバイダは、ユーザーの人種、国、性別等による差別的なコンテンツを生成してはならない。
第十三条提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。	第13条プロバイダは、利用者からの苦情を受け付け、処理する仕組みを構築し、個人からの個人情報の訂正、削除、遮断の要請を速やかに処理し、生成された文章、画像、音声、動画が他人の肖像権、名誉権、個人のプライバシー、営業秘密を侵害し、または本措置の要件を満たさないことが判明した場合または知った場合は、生成を停止し被害の継続を防止する措置を講じるものとする。
第十四条提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。	第14条プロバイダは、ユーザによる正常な利用を確保するため、ライフサイクルにおいて安全かつ堅牢で継続的なサービスを提供するものとする。
第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。	第15条運用中に発見され、利用者から報告された本措置の要件を満たさない生成コンテンツについては、コンテンツフィルタリング等の措置を講じるほか、3ヶ月以内にモデル最適化トレーニング等による再生の防止措置を講ずるものとする。
第十六条提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。	第16条提供者は、「インターネット情報サービス深層合成管理規定」に基づき、生成された写真や動画などのコンテンツにマークを付けるものとする。
第十七条提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。	第17条プロバイダーは、国家インターネット情報部門および関連主管部門の要求に従い、事前訓練および最適化訓練データのソース、サイズ、種類および品質、手動ラベル付けルール、手動ラベル付けデータのサイズおよび種類、基礎アルゴリズムおよび技術システムなどの説明など、ユーザーの信頼および選択に影響を与える必要な情報を提供しなければならない。
第十八条提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。	第18条提供者は、生成的AIによって生成されたコンテンツを科学的に理解し、合理的に使用するよう利用者を指導し、生成されたコンテンツを使用して他人のイメージ、評判およびその他の正当な権利と利益を損なわないようにし、商業的投機および不適切なマーケティングに関与しないものとする。
用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。	ユーザーは、生成されたコンテンツが本措置の要件を満たしていないことを発見した場合、インターネット情報部門または関連主管部門に報告する権利を有する。
第十九条提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。	第19条プロバイダーは、利用者が生成されたAI製品の利用過程において、オンライン投機、悪意のある投稿やコメントの追従、スパムの作成、マルウェアの書き込み、不適切な商業マーケティングの実施など、法令、企業倫理、社会道徳に違反していると認めた場合、サービスを停止または終了させるものとする。
第二十条提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。	第20条プロバイダーが本措置の規定に違反した場合、中華人民共和国ネットワークセキュリティ法、中華人民共和国データセキュリティ法、中華人民共和国個人情報保護法およびその他の法律、行政法規の規定に基づき、インターネット情報部門および関連主管部門が処罰するものとする。
法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。	法律や行政法規に規定がない場合、インターネット情報部門と関連主管部門は、その職務に基づき、警告、通報、批判を行い、一定期間内に是正を命じ、是正を拒否した場合や状況が深刻な場合は、生成的AIを用いたサービス提供の停止または終了を命じ、1万元以上、10万元以下の罰金を科されるものとする。公安管理違反に該当する場合は、法律に基づいて公安管理処分を行い、犯罪に該当する場合は、法律に基づいて刑事責任を追及するものとする。
第二十一条本办法自2023年月日起实施。	第21条本措置は、2023年⚪︎月⚪︎日より施行する。