中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15

こんにちは、丸山満彦です。

国家サイバースペース管理局等、7部門が共同で、生成的AIサービス管理暫定弁法を公表していますね。。。2023.04.11にドラフトが公開され、意見募集がおこなわれていたものです。。。施行は2023.08.15です。。。

● 国家互联网信息办公室（国家サイバースペース管理局）

プレス...

・2023.07.13 国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》

国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》	国家サイバースペース管理局など7部門が共同で「生成的AIサービス管理暫定弁法」を発表
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。	このほど、国家サイバースペース管理局は、国家発展改革委員会、教育部、科学技術部、工業情報化部、公安部、ラジオテレビ総局と共同で、2023年8月15日に発効する「生成的AIサービス管理暫定弁法」（以下、本弁法）を発表した。 国家サイバースペース管理局の関係責任者によると、本弁法の導入は、生成的AIの健全な発展と標準化された応用を促進し、国家安全保障と社会公益を保護し、国民、法人およびその他の組織の合法的な権益を保護することを目的としているという。
近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。	近年、AI技術の急速な発展により、経済社会の発展に新たなチャンスをもたらすと同時に、虚偽情報の流布、個人情報権益の侵害、データ安全、偏見差別などの問題も発生し、AIの発展と安全性をどのように調整するかが各方面の注目を集めている。 本弁法の導入は、生成的AIの健全な発展を促進するための重要な要件であるだけでなく、生成的AIサービスのリスクを防止するための現実的な必要性でもある。
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。	本弁法は、国が発展と安全の均等重視、イノベーションの促進、法に基づくガバナンスの原則を堅持し、生成的AIの革新的発展を奨励するための効果的な措置を講じ、生成的AIサービスの包括的かつ慎重で、分類された段階的な監督を実施し、生成的AIサービスの提供と利用に関する全体的な要件を明確にすることを提案している。 生成的AI技術の発展を促進するための具体的な措置が提案され、訓練データ処理活動やデータラベリングなどの要件が明確化されている。 また、生成的AIサービスに関する規範を規定し、生成的AIサービス提供者は、未成年の利用者が生成的AIサービスに過度に依存したり、耽溺したりすることを防止するための効果的な措置を講じること、インターネット情報サービス深層合成管理規定に従って、画像や動画などの生成コンテンツにマークを付けること、違法なコンテンツを発見した場合には適時に処分する措置を講じることなどを明確にしている。 また、セキュリティ評価、アルゴリズム提出、苦情報告などの制度も規定され、法的責任も明確に定められている。
国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。	国家サイバースペース管理局の担当者は、生成的AIサービスの開発とガバナンスには、政府、企業、社会、ネットユーザーなどの関係者の参加が必要であり、生成的AIの健全な発展を共同で推進し、生成的AI技術が国民により良い利益をもたらすようにする必要があると指摘した。

・2023.07.13 生成式人工智能服务管理暂行办法

生成式人工智能服务管理暂行办法	生成的AIサービス管理暫定弁法
国家互联网信息办公室	国家サイバースペース管理局
中华人民共和国国家发展和改革委员会	中華人民共和国国家発展改革委員会
中华人民共和国教育部	中華人民共和国教育部
中华人民共和国科学技术部	中華人民共和国科学技術部
中华人民共和国工业和信息化部	中華人民共和国工業情報化部
中华人民共和国公安部	中華人民共和国公安部
国家广播电视总局	国家ラジオテレビ総局
《生成式人工智能服务管理暂行办法》已经2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，现予公布，自2023年8月15日起施行。	「生成的AIサービス管理暫定弁法」は、2023年5月23日に開催された国家サイバースペース管理局第12回会議において検討・採択され、国家発展改革委員会、教育部、科学技術部、工業情報化部、公安部、ラジオ・テレビ総局の同意を得たものであり、ここに公布し、2023年8月15日以降に施行する。
国家互联网信息办公室主任 庄荣文	国家サイバースペース管理局主任 荘栄文
国家发展和改革委员会主任 郑栅洁	国家発展改革委員会主任 鄭傑傑
教育部部长 怀进鹏	教育部部長 淮金鵬
科学技术部部长 王志刚	王志剛科学技術部長
工业和信息化部部长 金壮龙	工業・情報化部部長 金壮龍
公安部部长 王小洪	王暁紅公安部長
国家广播电视总局局长 曹淑敏	国家ラジオテレビ総局総局長 曹淑民
2023年7月10日	2023年7月10日
生成式人工智能服务管理暂行办法	生成的AIサービス管理暫定弁法
第一章 总　则	第1章 総則
第一条 为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。	第1条 中華人民共和国サイバーセキュリティ法、中華人民共和国データセキュリティ法、中華人民共和国個人情報保護法、中華人民共和国科学技術進歩法及びその他の法律と行政法規に基づき、生成的AIの健全な発展と標準化された応用を促進し、国家の安全と社会公共の利益を保護し、国民、法人及びその他の組織の合法的な権益を保護するため、本方法は、中華人民共和国サイバーセキュリティ法、中華人民共和国データセキュリティ法、中華人民共和国個人情報保護法、中華人民共和国科学技術進歩法及びその他の法律と行政法規を遵守する。 本方法を制定する。
第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。	第2条：本方法は、生成的AI技術を利用して、中華人民共和国の公衆にテキスト、画像、音声、動画その他のコンテンツを生成するサービス（以下、生成的AIサービスという）を提供する場合に適用する。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。	国が、ニュース出版、映画・テレビ制作、文学・芸術創作などの活動に従事するために、生成的AIサービスを利用することを別途定めている場合、当該規定が適用される。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。	本弁法の規定は、産業組織、企業、教育・科学研究機関、公共文化機関、関連専門機関、その他、生成的AI技術を開発・応用し、その領域内で生成的AIサービスを公衆に提供しない組織には適用されない。
第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。	第3条 国は、法に基づき、開発と安全の均等重視、イノベーションの促進、ガバナンスの原則を堅持し、生成的AIのイノベーションと発展を奨励する効果的な措置を講じ、生成的AIサービスの包括的かつ慎重な分類・等級監督を実施する。
第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：	第4条 生成的AIサービスの提供と利用は、法律と行政法規を遵守し、社会道徳と倫理を尊重し、以下の規定を遵守しなければならない：
（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；	(1) 社会主義の核心的価値観を堅持し、国家権力の転覆、社会主義体制の転覆を煽動し、国家の安全と利益を危うくし、国家のイメージを損ない、国家の分離独立を煽動し、国家の団結と社会の安定を損ない、テロリズム、過激主義、民族憎悪、民族差別、暴力、わいせつポルノ、虚偽の有害情報など、法律と行政法規で禁止されているコンテンツを生成してはならない；
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；	(2) アルゴリズムの設計、訓練データの選択、モデルの生成と最適化、サービスの提供の過程において、民族、信仰、国、地域、性別、年齢、職業、健康などに起因する差別を防止するための効果的な措置を講じること；
（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；	(3) 知的財産権とビジネス倫理を尊重し、商業上の秘密を守り、アルゴリズム、データ、プラットフォームなどを利用して独占や不正競争を行わない；
（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；	(4) 他人の合法的な権利と利益を尊重し、他人の心身の健康を脅かしたり、他人の肖像、名誉、プライバシー、個人情報の権利と利益を侵害してはならない；
（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。	(5) サービスの種類の特徴に基づき、生成的AIサービスの透明性を高め、生成されるコンテンツの正確性と信頼性を向上させるための効果的な措置を講じること。
第二章 技术发展与治理	第2章 技術開発とガバナンス
第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。	第5条 様々な産業と分野における生成的AI技術の革新的な応用を奨励し、前向きで健全、上昇志向のある良質なコンテンツを生成し、応用シナリオの最適化を模索し、応用生態系を構築する。
支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。	また、産業組織、企業、教育科学研究機関、公共文化機関、関連専門機関などが、生成的AI技術の革新、データ資源の構築、変換、応用、リスク防止において協力することを支援する。
第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。	第6条 生成的AIアルゴリズム、フレームワーク、チップ、サポートソフトウェアプラットフォームなどの基礎技術の自主革新を奨励し、対等かつ互恵的な立場で国際交流・協力を行い、生成的AIに関する国際ルールの策定に参加する。
推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。	生成的AIインフラと公開訓練データリソースプラットフォームの建設を推進する。 演算資源の共同共有を推進し、演算資源利用の効果を高める。 公共データの分類と秩序ある開放を推進し、高品質の公共訓練データ資源を拡大する。 安全で信頼できるチップ、ソフトウェア、ツール、演算資源、データ資源の採用を奨励する。
第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：	第7条 生成的AIサービスの提供者（以下「提供者」という）は、法律に従い、事前訓練、最適化訓練およびその他の訓練データ処理活動を行い、以下の規定を遵守しなければならない：
（一）使用具有合法来源的数据和基础模型；	(1) 適法な出所のデータおよびベースモデルを使用すること；
（二）涉及知识产权的，不得侵害他人依法享有的知识产权；	(2) 知的財産権が関係する場合、法律に従って他者が享受する知的財産権を侵害してはならない；
（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；	(3) 個人情報を取り扱う場合には、本人の同意を得る等、法令及び行政規則で定める事項を遵守すること；
（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；	(4) 訓練データの質を向上させ、訓練データの真正性、正確性、客観性及び多様性を高めるための効果的な措置を講ずること；
（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。	(5) 「中華人民共和国サイバーセキュリティ法」、「中華人民共和国データセキュリティ法」、「中華人民共和国個人情報保護法」などの法律および行政法規のその他の関連規定、および関連主管当局のその他の関連監督要求。
第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。	第8条 データラベリングのための生成的AI技術の研究開発の過程において、提供者は本弁法の要求に沿い、明確、具体的かつ運用可能なラベリング規則を制定し、データラベリングの品質評価およびラベリングされた内容の正確性のサンプル検証を実施し、ラベリング担当者に必要な訓練を行い、法律を尊重し遵守する意識を高め、ラベリング担当者が標準的な方法でラベリングを実施するよう監督・指導しなければならない。
第三章 服务规范	第3章 サービス基準
第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。	第9条 提供者は、法律に従い、ネットワーク情報コンテンツ製作者の責任を負い、ネットワーク情報セキュリティ義務を履行しなければならない。 個人情報に関わる場合、法令に基づき個人情報処理者の責任を負い、個人情報保護義務を履行する。
提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。	提供者は、生成的AIサービスの利用登録を行う利用者（以下、利用者という）との間で、双方の権利義務を明記した利用契約を締結する。
第十条 提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。	第10条 提供者は、そのサービスの適用人口、適用場面及び適用用途を明らかにし、利用者が生成的AI技術を科学的かつ合理的に理解し、法令に従って利用するよう指導するとともに、未成年の利用者による生成的AIサービスへの過度の依存又は中毒を防止するための効果的な措置を講じなければならない。
第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。	第11条 提供者は、法令に従い、利用者の入力情報及び利用記録を保護する義務を履行し、不要不急の個人情報を収集せず、利用者を特定できる入力情報及び利用記録を不正に保持せず、利用者の入力情報及び利用記録を不正に他者に提供しない。
提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。	提供者は、法令に基づき、本人からの個人情報の照会、複写、訂正、追加、削除等の求めに速やかに応じ、対応するものとする。
第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。	第12条 プロバイダは、「インターネット情報サービス深層合成管理規定」に基づき、生成された写真や動画などのコンテンツにマークを付けるものとする。
第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。	第13条 提供者は、そのサービスにおいて、利用者の正常な利用を確保するため、安全、安定かつ継続的なサービスを提供しなければならない。
第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。	第14条 提供者は、違法コンテンツを発見した場合、速やかに生成停止、送信停止、排除等の処分措置を講じ、モデル最適化訓練等の是正措置を講じ、関係主管機関に報告しなければならない。
提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。	提供者は、利用者が生成的AIサービスを利用して違法行為を行っていることを発見した場合、法令に基づき、警告、機能制限、提供サービスの停止・終了等の処分措置を講じ、関連記録を保存し、関係主管機関に報告する。
第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。	第15条 提供者は、苦情・通報メカニズムを確立・改善し、便利な苦情・通報ポータルを設置し、処理プロセスとフィードバック期限を公表し、公衆の苦情・通報を適時に受理・処理し、結果をフィードバックしなければならない。
第四章 监督检查和法律责任	第4章 監督、検査および法的責任
第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。	第16条 ネットワーク、発展改革、教育、科学技術、工業と情報化、公安、ラジオとテレビ、報道出版部門は、それぞれの責任に従って、生成的AIサービスの管理を強化する。
国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。	関係国家当局は、関連産業・分野における生成的AI技術とそのサービス応用の特徴について、イノベーションの発展に適合する科学的監督方法を改善し、対応する分類・等級監督規則またはガイドラインを制定する。
第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。	第17条 世論属性または社会動員能力を有する生成的AIサービスの提供は、関連国家規定に基づいて安全性評価を行い、「インターネット情報サービスアルゴリズム推薦管理規定」に基づいてアルゴリズム申請および変更・取消申請手続きを行わなければならない。
第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。	第18条 生成的AIサービスが法律、行政法規および本弁法の規定を遵守していないと判断した利用者は、関連主管機関に苦情を申し立て、通報する権利を有する。
第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。	第19条 関連主管機関は、その職務に従い、生成的AIサービスの監督と検査を実施するために、プロバイダは、必要に応じて、法律に従って協力し、訓練データのソース、スケール、タイプ、ラベリングルール、アルゴリズムのメカニズムのメカニズムなどを説明し、必要な技術、データおよびその他のサポートと支援を提供しなければならない。
参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。	生成的AIサービスの安全評価および監督検査に携わる関連組織および人員は、法律に従い、職務遂行上知り得た国家機密、商業機密、個人のプライバシーおよび個人情報の秘密を守り、他人に開示したり、違法に提供したりしてはならない。
第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。	第20条 中華人民共和国外から発信され、同地域に提供された生成的AIサービスが法律、行政法規および本弁法の規定を遵守していない場合、国家ネット情報部門は関連組織に通知し、技術的措置およびその他の必要な措置を講じさせ、これに対処させる。
第二十一条 提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。	第21条 提供者が本弁法の規定に違反した場合、中華人民共和国「ネットワーク安全法」、中華人民共和国「データ安全法」、中華人民共和国「個人情報保護法」、中華人民共和国「科学技術進歩法」及びその他の法律、行政法規の規定に基づき、関係主管機関に処罰される。 警告、通報、批判を受け、一定期間内に是正するよう命じられ、是正を拒否した場合、または状況が深刻な場合は、関連サービスの提供停止を命じられる。
构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。	公安管理違反に該当する場合、法律に基づき公安管理処分を行い、犯罪に該当する場合、法律に基づき刑事責任を追及する。
第五章 附　则	第5章 附則
第二十二条 本办法下列用语的含义是：	第22条 この弁法において、次の用語の意味は次の通りである：
（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。	(1）生成的AI技術とは、テキスト、画像、音声、動画などのコンテンツを生成する能力を持つモデルおよび関連技術を指す。
（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。	(2）生成的AIサービス提供者 生成的AI技術を用いて生成的AIサービスを提供する（プログラマブル・インターフェースの提供等による生成的AIサービスの提供を含む）組織又は個人をいう。
（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。	(3）生成的AIサービス利用者 生成的AIサービスを利用してコンテンツを生成する組織及び個人をいう。
第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。	第23条 法律及び行政法規において、生成的AIサービスの提供は関連行政許可を得なければならないと規定されている場合、提供者は法律に従って許可を得なければならない。
外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。	生成的AIサービスへの外資は、外資に関する法律および行政法規の規定を遵守しなければならない。
第二十四条 本办法自2023年8月15日起施行。	第24条 本弁法は2023年8月15日から施行する。

・2023.07.13 国家互联网信息办公室有关负责人就《生成式人工智能服务管理暂行办法》答记者问

国家互联网信息办公室有关负责人就《生成式人工智能服务管理暂行办法》答记者问	国家サイバースペース管理局の関係責任者が回答した「生成的AIサービス管理暫定弁法
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。国家网信办有关负责人就《办法》相关问题回答了记者提问。	このほど、国家サイバースペース管理局（SIIO）は、国家発展改革委員会（NDRC）、教育部（MOE）、科学技術部（MOST）、工業情報化部（MIIT）、公安部（MPS）、国家ラジオ映画テレビ総局（SARFT）と共同で、「生成的AIサービス管理暫定弁法」（以下、弁法）を発表した。 国家サイバースペース管理局の担当者が、弁法に関連する問題について記者の質問に答えた。
问：请简要介绍《办法》出台的背景？	Q：本弁法の背景を簡単に紹介してほしい。
答：制定《办法》主要基于以下几个方面的考虑：一是深入贯彻落实习近平总书记重要指示精神和党中央决策部署的重要举措。习近平总书记在主持召开中共中央政治局会议时指出：“要重视通用人工智能发展，营造创新生态，重视防范风险。”二是促进生成式人工智能健康发展的迫切需求。随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。《办法》坚持目标导向和问题导向，明确了促进生成式人工智能技术发展的具体措施，规定生成式人工智能服务的基本规范。三是推进实施法律规定的内在要求。制定《办法》，是落实《网络安全法》、《数据安全法》、《个人信息保护法》、《科学技术进步法》有关规定的重要要求，进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。	A：本弁法は、以下の点を考慮して策定された。第一に、習近平総書記の重要な指示と中国共産党中央委員会の決定・配置の精神を徹底的に実行するための重要なイニシアティブである。 習近平総書記は中国共産党中央委員会政治局会議を主宰した際、"AI全般の発展に注目し、イノベーションエコロジーを創造し、リスクの予防に注目する必要がある "と指摘した。 第二に、生成的AIの健全な発展を促進することが急務である。 生成的AI技術の急速な発展に伴い、経済社会の発展に新たなチャンスをもたらす一方で、虚偽情報の流布、個人情報の権益侵害、データセキュリティ、偏見差別などの問題も発生している。 本方針は、目標志向と問題志向を堅持し、生成的AI技術の発展を促進するための具体的な措置を明記し、生成的AIサービスの基本規範を提供する。 第三に、法規定の履行を促進することが固有の要件である。 本弁法の策定は、ネットワークセキュリティ法、データセキュリティ法、個人情報保護法、科学技術進歩法の関連規定を実施し、データ処理などの活動をさらに規制し、国家安全保障と社会の公益を守り、国民、法人、その他の組織の合法的な権益を保護するための重要な要件である。
问：《办法》的适用范围是什么？	Q: 本弁法の適用範囲は？
答：《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。	A: 本弁法は、中華人民共和国の公衆にテキスト、画像、音声、映像などのコンテンツを生成するサービスを提供するために、生成的AI技術を使用する場合に適用されると規定している。 ニュース出版、映画・テレビ制作、文学・芸術創作などの活動に従事するための生成的AIサービスの利用について、国家が他の規制を定めている場合は、その規制を適用する。 本弁法の規定は、生成的AI技術を開発・応用し、その領域内で生成的AIサービスを公衆に提供しない産業組織、企業、教育・科学研究機関、公共文化機関、関連専門機関などには適用されない。
问：《办法》坚持的主要原则是什么？	Q: 本弁法が支持する主な原則は何か。
答：《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。	A：本弁法は、国が発展と安全の均等重視、イノベーションの促進、法に基づくガバナンスの原則を堅持し、生成的AIのイノベーションと発展を奨励する効果的な措置を講じ、生成的AIサービスの包括的、慎重かつ分類された段階的な監督を実施することを提案している。
问：《办法》中所称生成式人工智能技术和生成式人工智能服务提供者是指什么？	Q：本弁法で言及されている生成的AI技術と生成的AIサービス・プロバイダーとは何か。
答：《办法》中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。	A：本弁法でいう生成的AI技術とは、テキスト、画像、音声、映像等のコンテンツを生成する能力を有するモデル及び関連技術をいい、生成的AIサービス・プロバイダーとは、生成的AI技術を利用して生成的AIサービス（プログラマブル・インターフェースの提供等による生成的AIサービスの提供を含む）を提供する組織及び個人をいう。
问：《办法》对促进生成式人工智能健康发展有哪些考虑？	Q: 生成的AIの健全な発展を促進するための本弁法の留意点は何か。
答：《办法》在治理对象上，针对生成式人工智能服务。在监管方式上，提出对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。在促进发展具体措施上，一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。	A：本弁法は、ガバナンスの対象という観点から、生成的AIサービスを対象としている。 規制アプローチの面では、包括的かつ慎重で、生成的AIサービスの分類・等級付け規制を実施することを提案し、関連する国家主管機関がイノベーションと発展に適合する科学的規制アプローチを改善し、生成的AI技術と関連産業・分野におけるサービス応用の特徴に照らして、生成的AIサービスに対応する分類・等級付け規則またはガイドラインを策定することを求めている。 発展を促進するための具体的な措置としては、第1に、様々な産業・分野における生成的AI技術の革新的な応用を明示的に奨励し、前向きで健全かつ上昇志向の高い質の高いコンテンツを生み出し、応用シナリオを模索・最適化し、応用エコシステムを構築する。 第二に、生成的AI技術の革新、データリソースの構築、変換、応用、リスク防止において、業界団体、企業、教育・科学研究機関、公共文化機関、関連専門機関の協力を支援する。 第三に、生成的AIのアルゴリズム、フレームワーク、チップ、サポートソフトウェアプラットフォームなどの基本技術の自主的な革新、平等かつ互恵的な国際交流と協力、生成的AIに関連する国際ルールの策定への参加を奨励する。 第四に、生成的AIインフラと公開訓練データ・リソース・プラットフォームの構築を促進することを提案している。 演算資源の共同利用を促進し、演算資源利用の有効性を高める。 公共データの分類と等級付けの秩序ある開放を促進し、高品質の公共訓練データ資源を拡大する。 安全で信頼できるチップ、ソフトウェア、ツール、演算資源、データ資源の採用を奨励する。
问：《办法》明确提供和使用生成式人工智能服务应当遵守哪些规定？	Q: 本弁法は、生成的AIサービスの提供・利用において遵守すべき規制を明確にしているか？
答：《办法》明确提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。	A：本弁法は、生成的AIサービスの提供・利用は社会主義の核心的価値観を堅持すべきであり、国家権力の転覆、社会主義体制の転覆、国家の安全と利益の危うさ、国家のイメージの低下、国家の分離独立の扇動、国家の団結と社会の安定を損なうこと、テロリズム、過激主義、民族憎悪、民族差別、暴力、わいせつ・ポルノ、虚偽の有害情報など、法律や行政法規で禁止されている情報を生成してはならないことを明確にしている。 法律と行政法規で禁止されている内容；アルゴリズム設計、訓練データ選択、モデル生成と最適化、サービス提供の過程において、民族、信仰、国、地域、性別、年齢、職業、健康などによる差別を防止するための効果的な措置を講じる；知的財産権、企業倫理を尊重し、企業秘密を守る；アルゴリズム、データ、プラットフォームなどを利用して、独占と不正競争を実施しない；他人の合法的な権利と利益を尊重する。 行動すること、他者の正当な権利・利益を尊重し、他者の心身の健康を損なわないこと、他者の肖像権、名誉、プライバシー、個人情報等の権利・利益を侵害しないこと、サービスの種類の特性に基づき、生成的AIサービスの透明性を高め、生成されるコンテンツの正確性・信頼性を向上させるための効果的な措置を講じること。
问：《办法》规定的治理制度主要有哪些？	Q：本弁法に規定されている主なガバナンス体制は？
答：《办法》明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。此外，明确了数据标注的相关要求。	A：本弁法では、生成的AIサービス提供者は、法律に基づき、事前訓練や最適化訓練などの訓練データ処理活動を実施し、正当な出所のデータや基本モデルを使用すること、知的財産権が関係する場合、法律に基づき、他者が享有する知的財産権を侵害しないこと、個人情報が関係する場合、法律や行政法規などの事情に基づき、本人の同意を得ること、訓練データの品質を向上させ、訓練データの信憑性を高めるために効果的な措置を講じることを明確にしている。 研修データの質を向上させ、研修データの信憑性、正確性、客観性、多様性を高める。 加えて、データのラベリングに関する関連要件が明確化されている。
问：《办法》主要明确了哪些生成式人工智能服务规范？	Q: 本弁法には、主にどのような生成的AIサービスの仕様が規定されているのか？
答：《办法》要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。规定提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。	A：本弁法では、未成年の利用者が生成的AIサービスに過度に依存したり、中毒になったりしないよう、効果的な措置を講じることを求めている。 「インターネット情報サービス深層合成管理規定」に従い、提供者は生成された画像や動画などのコンテンツにマークを付けることが規定されている。 違法なコンテンツを発見した場合には、速やかに生成停止、送信停止、消去等の措置を講じるとともに、モデルの最適化、訓練等の是正措置を講じることが規定されている。 プロバイダは、利用者が生成されたAIサービスを利用して違法行為を行っていることを発見した場合、法令に基づき適切な処分措置を講じるとともに、関連記録を保存し、関係主管庁に報告しなければならないことは明らかである。
问：《办法》对投诉、举报作了哪些规定？	Q: 苦情と報告に関する本弁法の規定は何か。
答：《办法》规定提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。明确使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。	A：本弁法では、提供者は健全な苦情・通報メカニズムを確立し、便利な苦情・通報ポータルを設置し、処理プロセスおよびフィードバック期間を公表し、公衆からの苦情・通報および結果に対するフィードバックを速やかに受け付けて処理しなければならないと規定している。 生成的AIサービスが法律、行政法規および弁法の規定を遵守していないことを発見した利用者は、関係主管機関に苦情を申し立て、報告する権利を有する。

専門家の解釈シリーズ...

専門家の解釈（１）洗練されたガバナンスのための生成的AIの推進 - 新永飛 中国情報通信研究院政策経済研究所所長

专家解读｜推动生成式人工智能精细化治理	専門家の解釈｜洗練されたガバナンスのための生成的AIの推進
当前，生成式人工智能正在加速发展，不断催生新场景、新业态、新模式和新市场，赋能千行百业。与此同时，其暴露出的安全风险也引发了各国监管部门的广泛关注，意大利、德国、法国、西班牙等多个国家的数据保护监管机构对ChatGPT表达担忧或发起调查。近日，国家网信办联合国家有关部门公布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。《办法》是我国促进生成式人工智能健康发展和规范应用的专门立法，界定了生成式人工智能技术的基本概念，规定了生成式人工智能服务提供者的制度要求，为生成式人工智能的健康发展指明了方向。	現在、生成的AIは加速しており、常に新しいシーン、新しい形態、新しいモード、新しい市場を生み出し、何千もの産業に力を与えている。 同時に、その露呈したセキュリティリスクは、各国の規制当局の間に広範な懸念を引き起こし、イタリア、ドイツ、フランス、スペインなど多くの国のデータ保護規制当局がChatGPTへの懸念を表明したり、調査を開始したりしている。 最近、国家サイバースペース管理局（SNIO）は国家関連部門と共同で、「生成的AIサービス管理暫定弁法」（以下、弁法）を発表した。 本弁法は、生成的AIの健全な発展を促進し、その応用を規制するための中国における専門的な法律であり、生成的AI技術の基本概念を定義し、生成的AIサービス提供者の制度的要件を規定し、生成的AIの健全な発展の方向性を指摘している。
一、促进发展，鼓励生成式人工智能研发创新	1. 生成的AIの研究開発とイノベーションの促進
新一代人工智能是推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量。习近平总书记高度重视人工智能技术发展，指出要加快新能源、人工智能、生物制造、绿色低碳、量子计算等前沿技术研发和应用推广。中共中央政治局4月28日召开会议强调，“要重视通用人工智能发展，营造创新生态，重视防范风险”。	新世代のAIは、科学技術の飛躍的発展、産業の最適化・高度化、生産性の全面的飛躍を促進する原動力となる。 習近平総書記はAI技術の発展を非常に重視しており、新エネルギー、AI、生物製造、グリーン低炭素、量子コンピューターなどの最先端技術の研究開発と応用促進を加速する必要があると指摘している。 中国共産党中央委員会政治局は4月28日に会議を開き、「一般的なAIの発展、イノベーション・エコシステムの構築、リスクの防止を重視すべきだ」と強調した。
《办法》立足于促进生成式人工智能健康发展和规范应用，在总则中明确了国家坚持发展和安全并重、促进创新和依法治理相结合的原则，并在技术发展与治理一章中提出了一系列鼓励措施。一是鼓励创新应用。生成式人工智能应用场景丰富，可以与各行业深度结合，助力实现各行业智能化变革。《办法》明确提出鼓励生成式人工智能技术在各行业、各领域的创新应用，有助于生成式人工智能赋能千行百业。二是鼓励多方协作。生成式人工智能在技术创新、数据资源建设、转化应用、风险防范等方面涉及多方主体，为此，《办法》鼓励行业组织、企业以及各个相关机构之间开展协作。三是鼓励自主创新与国际合作。生成式人工智能尚处于发展阶段，而我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚。《办法》一方面鼓励生成式人工智能相关基础技术的自主创新，另一方面鼓励平等互利开展国际交流与合作，从而促进我国人工智能技术发展。四是鼓励资源共享。算力是支撑数字经济蓬勃发展的重要“底座”，数据是生成式人工智能的重要资源。为此，《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设的措施，促进算力资源协同共享，提升算力资源利用效能。	本弁法は、生成的AIの健全な発展と標準化された応用の促進に基づき、国家が発展と安全を同等に重視し、イノベーションの促進と法に基づく統治の両立という原則を堅持することを一般原則で明確にし、技術開発と統治に関する章で一連の奨励策を打ち出している。 第一に、革新的な応用を奨励する。 生成的AIの応用シナリオは豊富で、各産業と深く組み合わせることができ、各産業のインテリジェントな変化を実現するのに役立つ。 本弁法は、様々な産業や分野での生成的AI技術の革新的な応用を奨励することを明確に打ち出しており、生成的AIが数千もの産業に力を与えることを支援する。 第二に、複数当事者の協力を奨励している。 生成的AIは、技術革新、データ資源の構築、変換、応用、リスク防止などにおいて、複数の関係者が関与する。 第三に、自主的なイノベーションと国際協力を奨励している。 生成的AIはまだ発展段階にあり、中国は生成的AIに関連するアルゴリズム、チップ、その他の技術の研究開発に比較的遅れて着手した。 本弁法は、一方では、生成的AIに関連する基礎技術の自主革新を奨励し、他方では、対等かつ互恵的な国際交流と協力を奨励し、中国におけるAI技術の発展を促進する。 第四に、資源の共有を奨励する。 演算はデジタル経済の発展を支える重要な「基盤」であり、データは生成的AIにとって重要な資源である。 このため、本弁法は、生成的AIインフラと公共訓練データ資源プラットフォームの建設を促進し、算術資源の共同共有を促進し、算術資源利用の有効性を高める措置を提案している。
二、划定底线，推动生成式人工智能向上向善	2. 底辺を描き、生成的AIを上へ上へと推進する
以ChatGPT为代表的生成式人工智能在社会变革中的具有重要作用，但其可能存在的数据违法收集、知识产权侵权、生成虚假信息等问题同样不容忽视。	ChatGPTに代表される生成的AIは、社会変革に重要な役割を果たすが、違法なデータ収集、知的財産権の侵害、虚偽情報の生成などの問題が発生する可能性も無視できない。
《办法》积极回应生成式人工智能带来的社会问题，明确提供和使用生成式人工智能服务的法律底线。一是不得生成违法内容。《办法》落实《网络安全法》等法律的规定，强调提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成法律、行政法规禁止的内容。二是防止歧视。训练数据本身存在歧视内容、算法更倾向于某些特征值、标注人员的主观判断等因素可能导致歧视问题，给社会带来不良后果，如边缘化弱势人群或者煽动仇恨与暴力。为减少歧视现象发生，《办法》要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止歧视。三是尊重知识产权和他人合法权益。生成式人工智能在个人信息的处理过程中，可能存在违法收集、使用个人信息等风险；生成式人工智能的训练数据中如包括他人已发表并享有著作权的作品，也可能给知识产权造成侵害。为减少侵权事件的发生，《办法》强调尊重知识产权、商业道德；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。四是提高生成内容准确性和可靠性。自生成式人工智能面世之初，其存在的“一本正经地胡说八道”现象便引起了人们的警惕。这种虚假信息的产生很可能会误导用户，加剧社会对共享信息的不信任。如何保障生成内容的真实性，既是产业界为进一步扩大生成式人工智能商用范围需要克服的技术难题，也是监管部门需要重点考量的问题。《办法》要求生成式人工智能服务提供者（以下简称“提供者”）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。这一要求充分体现了发展与安全并重的原则，符合生成式人工智能的技术原理与产业需要。	本弁法は、生成的AIがもたらす社会問題に前向きに対応し、生成的AIサービスの提供・利用に関する法的な落とし所を明確にするものである。 第一に、違法なコンテンツを生成してはならない。 本弁法はネットワーク安全法などの規定を実施し、生成的AIサービスの提供・利用は社会主義核心価値観を堅持すべきであり、法律や行政法規で禁止されているコンテンツを生成してはならないことを強調している。 第二に、差別の防止である。 学習データ自体に差別的なコンテンツが存在すること、アルゴリズムが特定の特徴値を好むこと、アノテーション担当者の主観的判断などの要因が差別問題を引き起こし、不利な立場にある人々を疎外したり、憎悪や暴力を煽ったりするなど、社会に悪影響をもたらす可能性がある。 差別の発生を抑制するため、本弁法では、アルゴリズム設計、学習データ選択、モデル生成・最適化、サービス提供の各過程において、差別を防止するための効果的な措置を講じることを求めている。 第三に、知的財産権と他者の正当な権利と利益を尊重することである。 生成的AIには、個人情報の処理過程で個人情報を不正に収集・利用するなどのリスクがある可能性がある。また、生成的AIの学習データには、他者が公表し著作権を有する著作物が含まれる場合、知的財産権の侵害を引き起こす可能性がある。 侵害事件の発生を減少させるため、本弁法は知的財産権と企業倫理の尊重を強調し、他人の合法的な権利と利益を尊重し、他人の心身の健康を脅かしたり、他人の肖像、名誉、プライバシー、個人情報などの権利と利益を侵害してはならない。 第四に、生成コンテンツの正確性と信頼性を向上させることである。 生成的AIが始まって以来、「深刻なナンセンス」という現象が人々の警戒心を喚起してきた。 このような偽情報の生成は、ユーザーを惑わし、共有情報に対する社会的不信を増大させる可能性が高い。 生成されたコンテンツの真正性をどのように保証するかは、生成的AIの商業的範囲をさらに拡大するために業界が克服すべき技術的課題であると同時に、規制当局が検討すべき重要な課題でもある。 本弁法は、生成的AIサービスの提供者（以下、「提供者」という）に対し、サービスの種類の特性に基づき、生成的AIサービスの透明性を高め、生成されるコンテンツの正確性・信頼性を向上させるための効果的な措置を講じることを求めている。 この要件は、開発と安全性を同等に重視するという原則を完全に体現するものであり、生成的AIの技術原則と産業界のニーズに沿ったものである。
三、细化责任，构建生成式人工智能治理体系	3. 責任を精緻化し、生成的AIのガバナンス・システムを構築する。
生成式人工智能从研发到落地需要经历多个环节，包括训练数据处理、数据标注、提供服务等。清晰界定不同环节的要求更有利于降低生成式人工智能的安全风险，增强制度的可落地性。	生成的AIは、研究開発からトレーニングデータ処理、データラベリング、サービス提供など、複数のリンクを経由して着地する必要がある。 さまざまなリンクの要件を明確に定義することは、生成的AIの安全リスクを低減し、システムの強制力を高めることにつながる。
《办法》明确提供者的义务与责任，提供者是利用生成式人工智能技术提供生成式人工智能服务的组织、个人，包括通过提供可编程接口等方式提供生成式人工智能服务的组织、个人。在训练数据处理环节，提供者应当使用具有合法来源的数据和基础模型，并采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。在数据标注环节，提供者应当制定标注规则，开展数据标注质量评估，并对标注人员进行培训。在提供服务环节，提供者应依法承担网络信息内容生产者责任，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识；发现违法内容的，应当及时采取处置措施、进行整改并向有关主管部门报告；应依法承担个人信息处理者责任，对生成式人工智能服务使用者的输入信息和使用记录依法履行保护义务，及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求；应履行用户管理义务，明确并公开服务适用情况，指导使用者科学理性认识和依法使用技术，采取未成年人防沉迷措施，依法处置从事违法活动的使用者，建立健全投诉、举报机制；应提供安全、稳定、持续的服务。	本弁法は、プログラマブル・インターフェースの提供を通じて生成的AIサービスを提供する組織や個人を含め、生成的AI技術を用いて生成的AIサービスを提供する組織や個人であるプロバイダーの義務と責任を明確にしている。 訓練データ処理リンクにおいて、プロバイダーは、正当な情報源のデータと基本モデルを使用し、訓練データの質を向上させ、訓練データの真正性、正確性、客観性、多様性を高めるための効果的な措置を講じなければならない。 データ・ラベリング・プロセスにおいて、提供者は、ラベリング規則を策定し、データ・ラベリングの品質評価を実施し、ラベリング担当者にトレーニングを提供しなければならない。 サービスの提供において、提供者は、法律に従ってネットワーク情報コンテンツ製作者の責任を負い、「インターネット情報サービス深層合成管理規定」に従って、生成された画像や動画などのコンテンツをマークし、違法なコンテンツが発見された場合、適時に廃棄措置を取り、是正を行い、関係主管機関に報告する。 利用者管理義務を履行し、サービスの適用を明確にして公開し、利用者が科学的かつ合理的に理解し、法令に従って技術を利用するよう指導し、未成年者の耽溺を防止する措置を講じ、法令に従って不法行為を行った利用者を処分し、苦情及び通報の仕組みを構築・改善する。 安全・安定・継続的なサービスを提供する。
四、强化披露，明确生成式人工智能监管手段	4. 情報開示の強化と生成的AI規制手段の明確化
人工智能算法具有“黑箱”特性，表现为行为不可控、决策机制难以解释，给人工智能监管带来了一定困难。为此，《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规范已经明确了算法备案、安全评估等监管手段，提高算法的透明度与可问责性。	AIアルゴリズムには「ブラックボックス」の特性があり、制御不能な行動や説明困難な意思決定メカニズムに現れ、AIの規制に一定の困難をもたらす。 このため、「インターネット情報サービスのアルゴリズム推薦に関する管理弁法」と「インターネット情報サービス深層合成管理規定」は、アルゴリズムの透明性と説明責任を向上させるため、アルゴリズムの申請や安全性評価などの規制手段をすでに明確にしている。
《办法》与现有规范一脉相承，延续了此前监管手段，同时明确了分类分级监管的原则，健全了我国人工智能治理体系。一是明确了安全评估与算法备案要求。为有效应对算法“黑箱”问题，《办法》对提供具有舆论属性或者社会动员能力的生成式人工智能服务的，提出了安全评估与算法备案要求。二是明确了信息披露要求。《办法》明确了提供者应配合主管部门的监督检查，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明。	本弁法は、既存の規範と同じ流れを汲んでおり、これまでの規制手段を継続する一方、分類と等級監督の原則を明確化し、中国のAIガバナンスシステムを改善するものである。 第一に、安全性評価とアルゴリズム申請の要件を明確にしている。 アルゴリズムの「ブラックボックス」問題に効果的に対処するため、本弁法は世論属性や社会動員能力を持つ生成的AIサービスを提供し、安全性評価とアルゴリズム提出の要件を打ち出した。 第二に、情報開示の要求を明確にした。 本弁法は、プロバイダーが管轄当局の監督・検査に協力し、必要に応じて学習データの出所、規模、種類、ラベリングルール、アルゴリズムメカニズム機構を説明する必要があることを明確にしている。
《办法》是在区块链、汽车数据、算法推荐、深度合成等立法之后，我国对新兴领域立法的又一次探索。《办法》充分协调了发展与安全之间的关系，一方面提出了生成式人工智能发展的鼓励措施，另一方面明确了生成式人工智能的法律底线，构建了生成式人工智能精细化治理体系，有利于推动生成式人工智能健康有序发展，为世界贡献人工智能治理的中国智慧和中国方案。（作者：辛勇飞 中国信息通信研究院政策与经济研究所所长）	本弁法は、ブロックチェーン、自動車データ、アルゴリズムによる推薦、深層合成に関する立法に続く、中国の新興分野における新たな法制の模索である。 本弁法は、発展と安全性の関係を完全に調整し、一方では生成的AIの発展に対するインセンティブを打ち出し、他方では生成的AIの法的底辺を明確にし、生成的AIのきめ細かなガバナンス・システムを構築するものであり、生成的AIの健全かつ秩序ある発展を促進し、中国の知恵に対する世界の貢献と中国のAIガバナンス・プログラムに寄与するものである。 (著者：新永飛 中国情報通信研究院政策経済研究所所長）

専門家の解釈（2）多者間ガバナンスを堅持し、生成的AIの健全な発展に制度的保障を提供する - 楊建軍、中国電子技術標準化研究院党委員会書記

专家解读｜坚持多方共治 为生成式人工智能健康发展提供制度保障	専門家の解釈｜多者間ガバナンスを堅持し、生成的AIの健全な発展に制度的保障を提供する
生成式人工智能是人类科学技术发展的重要成果，为引领和带动新一轮产业变革提供了可能。近年来，生成式人工智能技术不断成熟，展现出全方位提升人类生产生活效率的重要潜力，揭开人类社会智能化演进的趋势。然而，生成式人工智能也在网络安全方面带来新挑战、新风险。如何发展好、运用好、管理好生成式人工智能，已经成为全世界面临的共同挑战。	生成的AIは人類の科学技術の発展における重要な成果であり、産業変革の新たなラウンドをリードし、牽引する可能性を提供する。 近年、生成的AI技術は成熟を続け、あらゆる面で人類の生産と生活の効率を高める重要な可能性を示し、人類社会の知的進化の流れを明らかにした。 しかし、生成的AIはサイバーセキュリティの面でも新たな課題とリスクをもたらしている。 生成的AIをどのように開発し、利用し、管理するかは、全世界共通の課題となっている。
在此背景下，国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。《办法》的出台将从政策法规层面为我国生成式人工智能健康发展保驾护航，是统筹发展和安全的重要举措。同时，《办法》作为国际上首先出台的积极应对生成式人工智能安全风险的专门立法，为有序开展相关管理工作明确了方向。	このような背景から、国家サイバースペース管理局など7つの部門は、「生成的AIサービス管理暫定弁法」（以下、弁法）を公布した。 本弁法の導入は、政策や規制のレベルで中国における生成的AIの健全な発展を護衛するものであり、発展と安全を調整する重要なイニシアティブである。 同時に、本弁法は、生成的AIの安全リスクに積極的に対処する初の国際専門法として、関連管理の秩序ある発展に明確な方向性を提供するものである。
一、《办法》明确生成式人工智能服务安全要求	1. 本弁法は、生成的AIサービスの安全要件を明確化する。
（一）聚焦生成内容安全，引导服务向上向善	(1) 生成コンテンツの安全性を重視し、サービスを上昇志向に導く
生成式人工智能服务已成为用户在网络获取知识的重要途径之一，服务所提供的内容将直接影响用户对事物的认知，《办法》明确坚持社会主义核心价值观，要求服务提供者不得生成违法信息，并明确提出防歧视等要求。生成式人工智能服务所产生内容的质量高低、安全与否主要取决于训练数据，《办法》要求服务提供者采取有效措施提高训练数据质量，增强数据的真实性、准确性、客观性、多样性，并指导服务提供者做好数据处理、数据标注等方面的安全管理工作。	生成的AIサービスは、ユーザーがネットワークで知識を得るための重要な手段の一つとなっており、サービスによって提供されるコンテンツは、ユーザーの物事に対する知識に直接影響を与えるため、本弁法は社会主義の核心的価値観を明確に堅持し、サービス提供者が違法な情報を生成しないことを求め、差別禁止などの要求を明確に打ち出した。 生成的AIサービスによって生成されるコンテンツの品質と安全性は主に学習データに依存し、弁法は、サービス提供者が学習データの品質を向上させ、データの信憑性、正確性、客観性、多様性を高めるために効果的な措置を講じることを求め、サービス提供者がデータ処理、データ表示などの安全管理面で良い仕事をするよう指導する。
（二）聚焦用户权益保护，保障服务合法合规	(2) 利用者の権利と利益の保護に焦点を当て、サービスの法令遵守を保証する。
生成式人工智能服务带来新的安全问题、安全风险，为保护用户权益，服务的过程和形式需要正确的引导，《办法》提出服务提供者需明确并公开服务的适用人群、场合、用途，防范未成年人用户过度依赖或者沉迷。生成式人工智能服务因其技术特点，易涉及用户敏感数据，需进行重点保护，《办法》围绕商业秘密、用户个人信息保护提出要求，并明确了服务提供者对用户输入信息和使用记录的保护义务，为用户安全使用服务提供保障。	生成的AIサービスは、新たなセキュリティ問題とセキュリティリスクをもたらし、利用者の権利と利益を保護するために、サービスのプロセスと形態を正しく導く必要があり、本弁法は、サービス提供者がサービスの適用対象者、場面、用途を明確かつオープンにし、未成年の利用者の過度な依存や放任を防止する必要があることを提案している。 生成的AIサービスは、その技術的特性から、機密性の高いユーザー情報を含みやすく、重点的な保護が必要であり、弁法では、商業秘密及びユーザーの個人情報保護に関する要求を提示し、サービス提供者がユーザーの入力情報及び利用記録を保護する義務を明確にすることで、ユーザーが安全にサービスを利用できるような保護措置を提供するとしている。
（三）聚焦使用模式管理，防范服务滥用误用	(3) 利用形態の管理とサービスの濫用・誤用の防止に注力すること
生成式人工智能服务涉及的用户数量多、业务跨度大，用户的服务使用情况需受到合理监督，《办法》明确了服务提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。生成式人工智能服务产生的内容逼真度高、迷惑性强，极易误导用户，《办法》提出针对图片、视频等生成内容进行明显标识的要求，防止用户误用生成内容。	生成的AIサービスは、多数の利用者と大きな事業スパンを伴うものであり、利用者によるサービス利用を合理的に監督する必要がある。 本弁法は、サービス提供者が、利用者が生成的AIサービスを利用して違法行為を行っていることを発見した場合、法令に従い、契約に基づき、警告、機能制限、サービス提供の停止・終了等の処分措置を講じ、関連記録を保存し、関係主管機関に報告することを明確にしている。 生成的AIサービスは、非常にリアルで紛らわしいコンテンツを生成するため、利用者の誤解を招きやすい。 本弁法は、利用者が生成コンテンツを悪用することを防止するため、画像や動画などの生成コンテンツに明白な表示を義務付けることを打ち出している。
二、《办法》引导构建生成式人工智能安全治理环境	2. 本弁法は、生成型なAIセキュリティガバナンス環境の構築を指導している。
（一）鼓励创新应用，统筹发展和安全	(1) イノベーションと応用を奨励し、発展と安全を調整する。
当前，我国生成式人工智能处于关键发展时期，需以安全保发展、以发展促安全，推动生成式人工智能稳步快速发展。《办法》一是进一步明确了发展和安全并重、促进创新和依法治理相结合的原则，对生成式人工智能实行包容审慎的监管；二是鼓励生成式人工智能在各行业领域创新应用，探索优化应用场景，支持专业机构在技术创新、数据资源建设、转化应用、风险防范等方面开展跨行业领域协作，构建应用生态体系；三是鼓励算法、框架、芯片、配套软件等基础技术自主创新，推动全产业链持续发展。	現在、中国の生成的AIは発展の重要な時期にあり、生成的AIの着実かつ急速な発展を促進するため、安全の発展を保護する必要がある。 本弁法はさらに、発展と安全の均等重視、イノベーションの推進、法に基づくガバナンス、生成的AIの包括的かつ慎重な監督の実施などの原則を明確にしている。第二に、生成的AIが各業界で革新的に応用されることを奨励し、応用シナリオの最適化を模索し、専門機関が技術革新、データ資源の構築、転換と応用、リスク防止などにおいて業界を超えた協力を実施し、応用生態系を構築することを支持している。 第三に、アルゴリズム、フレームワーク、チップ、支援ソフトウェアなどの基礎技術の自主革新を奨励し、産業チェーン全体の持続可能な発展を促進する。
（二）强化主体责任，构建多方治理架构	(2) 主体的責任を強化し、複数当事者によるガバナンス構造を構築する
生成式人工智能服务产业链条正在逐步形成，需要进一步强化主体责任，促进各环节安全水平提升。《办法》一是明确了提供者应依法承担网络安全信息内容生产者责任，履行网络信息安全义务；二是明确了涉及个人信息的，提供者应依法承担个人信息处理者责任，履行个人信息保护义务；三是规定了提供者与使用者应签订服务协议，明确双方权利义务。《办法》从多角度明确治理规则、强调治理要求，明确了用户对服务的监督作用，要求提供者建立投诉举报机制，强调使用者有权向有关部门投诉举报。	生成的AIサービス産業チェーンは徐々に形成されつつあり、各リンクの主体的責任をさらに強化し、安全レベルを促進する必要がある。 本弁法は、第一に、プロバイダーがネットワークセキュリティ情報コンテンツ製作者の責任を負い、法律に従ってネットワーク情報セキュリティ義務を履行することを明確にし、第二に、個人情報が関与する場合、プロバイダーが個人情報処理者の責任を負い、法律に従って個人情報保護義務を履行することを明確にし、第三に、プロバイダーとユーザーがサービス契約を締結し、双方の権利と義務を明確にすることを規定している。 本弁法は、ガバナンスルールを明確化し、多方面からのガバナンス要件を強調し、サービス監督における利用者の役割を明確にし、提供者に苦情・報告メカニズムの確立を求め、利用者が関係当局に苦情を報告する権利を有することを強調している。
（三）推动标准工作，支撑《办法》细化落地	(3) 措置の改善と実施を支援する標準作業の推進
与《办法》相关工作同步，配套支撑《办法》细化落地的网络安全相关国家标准已提前布局、统一推动。全国信息安全标准化技术委员会已发布《信息安全技术生成式人工智能预训练和优化训练数据安全规范》、《信息安全技术生成式人工智能人工标注安全规范》标准需求，并推动《信息安全技术生成式人工智能服务安全总体要求》标准研制工作，对防范生成式人工智能重大安全风险、提升生成式人工智能总体安全水平起到规范引导作用。	本弁法に関連する作業と並行して、本弁法の精緻化を支えるネットワーク・セキュリティに関連する国内標準が事前に策定され、統一的に推進されている。 国家情報セキュリティ標準化技術委員会は、「情報セキュリティ技術生成的AI事前訓練および最適化訓練データセキュリティ仕様書」、「情報セキュリティ技術生成的AI人工注釈セキュリティ仕様書」標準要求事項を発表し、「情報セキュリティ技術生成的AIサービスセキュリティ全体要求事項」標準開発作業を推進し、生成的AIの主要なセキュリティリスクを防止し、生成的AI全体のセキュリティレベルを向上させ、AIの標準化を指導する役割を果たした。 AIの全体的なセキュリティレベルを向上させ、AIの標準化を指導する規範的な役割を果たす。
三、加快推动《办法》贯彻落实	3. 措置の実施を加速する
《办法》的公布为我国生成式人工智能服务的健康发展提供了重要法制保障，建议加快《办法》的贯彻落实。	弁法の公布は、中国におけるAIサービスの健全な発展に重要な法的保障を提供するものであり、弁法の実施を加速することが推奨される。
一是全面推动《办法》宣贯培训。面向互联网企业、人工智能以及其他智能相关重点行业领域，开展针对性宣传解读，充分宣传《办法》精神，广泛凝聚安全共识，促进行业自律发展。面向社会全面开展科普培训，促进生成式人工智能服务使用者理解国家政策、提高安全意识，促进形成多方参与、共同治理的良好局面。	第一に、本弁法を全面的に推進し、育成を促進する。 インターネット企業、AI及びその他の知能関連重点産業部門に対して、的を絞った宣伝と解説を行い、本弁法の精神を十分に宣伝し、安全保障のコンセンサスを広く結束させ、業界の自主規制の発展を促進する。 コミュニティに対して、包括的な普及訓練を実施し、AIサービス利用者が国家政策を理解し、安全意識を向上させ、多者参加と共通ガバナンスの良好な状況の形成を促進する。
二是建立生成式人工智能服务安全评估机制。推动《办法》配套安全评估机制及配套评估力量建设，督促具有舆论属性或者社会动员能力的服务提供者开展安全评估，及时发现安全风险、整改安全问题、提高安全水平。	第二に、生成的AIサービスの安全評価メカニズムを構築する。 措置の支援安全評価メカニズムおよび支援評価勢力の構築を推進し、世論属性または社会動員能力を持つサービス提供者に安全評価を実施し、安全リスクを特定し、安全問題を是正し、安全レベルを適時に改善するよう促す。
三是加强生成式人工智能服务安全标准化工作。加快开展《办法》配套网络安全相关国家标准研制工作。积极推动安全总体要求、训练数据集安全、人工标注安全等标准工作的研究制定，进一步发挥标准对生成式人工智能管理工作的支撑作用；同步开展标准化前瞻研究，围绕生成式人工智能分类分级、生成内容标识、使用者服务协议等方面开展预研，不断提升标准化工作的科学性、引领性、前瞻性。（作者：杨建军 中国电子技术标准化研究院党委书记）	第三に、生成的AIサービスの安全標準化を強化する。 本弁法を支えるサイバーセキュリティ関連の国家標準の策定を加速する。 全体的なセキュリティ要件、訓練データセットのセキュリティ、人工注釈のセキュリティなどの標準の研究開発を積極的に推進し、生成的AIの管理に対する標準の支持的な役割をさらに発揮させる。同時に、標準化の見通し研究を実施し、生成的AIの分類と等級付け、生成コンテンツの識別、ユーザーサービス契約などの事前研究を実施し、標準化作業の科学性、先導性、将来性を継続的に向上させる。 (執筆者：楊建軍 (著者：楊建軍、中国電子技術標準化研究院党委員会書記）

専門家の解釈（3）生成的AIの特性に適応し、安全で秩序ある法治環境を創造する - 張震、国家コンピュータネットワーク・情報セキュリティ管理センター・シニアエンジニア

专家解读｜适应生成式人工智能特点 营造安全有序法治环境	専門家の解釈：生成的AIの特性に適応し、安全で秩序ある法治環境を創造する
以ChatGPT为代表的现象级互联网应用的出现，掀起了人工智能领域新一轮技术浪潮。作为新一代信息技术，生成式人工智能通过对人类“脑力”的无限延伸，赋予人们对于追求美好生活的更大想象空间。与此同时，生成式人工智能被滥用带来的数据泄露、虚假信息等风险挑战也纷至沓来，各国陆续推出或完善针对生成式人工智能的监管方案。《生成式人工智能服务管理暂行办法》（以下简称《办法》），是对我国人工智能法律体系与算法治理体系的进一步完善。《办法》与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》在治理思路上一脉相承，在治理制度方面创新推进，坚持从生成式人工智能技术特点出发，提出了一系列针对性的发展与治理措施。	ChatGPTに代表される驚異的なインターネット・アプリケーションの出現は、AI分野の技術に新たな波を起こした。 新世代の情報技術として、生成的AIは人間の「脳力」を無限に拡張することで、より良い生活を追求するための想像力を人々に与える。 その一方で、生成的AIの悪用がもたらすデータ流出や虚偽情報などのリスクも相次いでおり、各国は相次いで生成的AIの規制プログラムを立ち上げたり、改善したりしている。 生成的AIサービス管理暫定弁法」（以下、本弁法という）は、中国のAI法制度とアルゴリズム・ガバナンス制度をさらに改善するものである。 本弁法は、「インターネット情報サービスのアルゴリズム推薦に関する管理弁法」及び「インターネット情報サービスの深度総合に関する管理弁法」とともに、ガバナンスの理念という点では同類であり、ガバナンス制度という点では革新的に前進しており、生成的AI技術の特徴を堅持し、一連の的を射た発展及びガバナンス措置を提案している。
一、契合新技术新特性，有针对性地进行制度设计	1. 新技術の新たな特徴に適合させ、的を絞ったシステム設計を行う。
与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》相比，《办法》更加关注生成式人工智能技术本身，主要与生成式人工智能技术自身特性有关：一是生成式人工智能应用场景具有通用性。传统算法应用的处理模式与应用场景相对固定，有较为明确的服务边界，但生成式人工智能应用场景更为丰富，如ChatGPT产品几乎可以处理自然语言领域的所有任务，如果延续针对固定用途信息服务的管理思路，将难以充分切合实际监管需求。二是生成式人工智能具有价值观属性。生成式人工智能模型经过训练后，对一些概念具备了较为稳定的“认知”，围绕相关概念的生成内容往往表现出惊人的一致性。一旦模型在训练过程中引入偏见歧视等有害信息，在模型实际应用中很可能呈现放大化输出。三是生成式人工智能具备可引导性。生成式人工智能模型在原有的人工智能“预训练—微调”范式上，增加了“对齐”的训练环节。在提升模型能力方面，通过在生成式人工智能模型训练过程中调整模型输出概率分布不断趋近人类偏好，但同时也存在被不法分子恶意利用的风险。	「インターネット情報サービスアルゴリズム推薦管理規定」と「インターネット情報サービス深度総合管理規定」と比べると、「措置」は生成的AI技術そのものをより重視しており、主に生成的AI技術そのものの特徴に関連している：第一に、生成的AI応用シナリオは普遍性を持っている。 伝統的なアルゴリズム応用の処理モードと応用シナリオは比較的固定的で、明確なサービス境界線があるが、生成的AI応用シナリオは豊富で、例えばChatGPT製品は自然言語分野のほぼすべてのタスクに対応できる。 第二に、生成的AIには価値属性がある。 訓練後、生成的AIモデルはいくつかの概念についてより安定した「認知」を持ち、関連する概念周辺の生成されたコンテンツはしばしば驚くべき一貫性を示す。 モデルが学習過程で偏見や差別といった有害な情報を導入してしまうと、モデルの実際の適用において増幅された出力を示す可能性が高い。 第三に、生成的AIはブートストラップ可能である。 生成的AIモデルは、AI本来の「事前訓練-微調整」パラダイムに「整列」訓練を加える。 モデル能力の向上という点では、生成的AIモデルの学習過程でモデル出力確率分布を調整することで、モデル出力確率分布は常に人間の嗜好に収束していくが、同時に無法要素に悪意を持って利用されるリスクもある。
《办法》充分结合生成式人工智能特性，提出相应管理要求：一是在生成内容上，《办法》要求利用生成式人工智能生成型内容应当“坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容”。二是在算法设计等过程上，《办法》要求提供者在“算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止出现民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”，以及对尊重知识产权、商业道德和他人合法权益等方面提出了保护原则。从这些要求看，《办法》基本涵盖了生成式人工智能服务在应用过程中可能暴露出来的安全及伦理问题。三是在监管方式上，除了安全评估、算法备案、标识等制度外，还提出国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。	本弁法は、生成的AIの特徴を完全に取り入れ、対応する管理要件を提案するものである：第一に、コンテンツの生成において、本弁法は、生成的AIを利用してコンテンツを生成する場合、「社会主義核心価値観を堅持し、国家権力を転覆し、社会主義体制を転覆し、国の安全と権益を危うくし、国のイメージを損ない、国を分裂させる扇動を生成してはならない、 国家の統一と社会の安定を損ない、テロリズム、過激主義、民族憎悪、民族差別、暴力、わいせつ、ポルノ、虚偽の有害情報、その他法律や行政規則で禁止されている内容を促進する。 第二に、アルゴリズム設計等のプロセスにおいて、「アルゴリズム設計、学習データの選択、モデルの生成と最適化、サービスの提供」のほか、知的財産権、企業倫理、他者の正当な権利・利益の尊重について、民族、信仰、国、地域、性別、年齢、職業、健康等による差別を防止するための効果的な措置を講じることを求めている。 他人の合法的な権利と利益」、知的財産権、ビジネス倫理、他人の合法的な権利と利益を尊重するための保護原則が定められている。 これらの要求事項から、本弁法は基本的に、生成的AIサービスの応用において露呈する可能性のある安全性と倫理問題をカバーしている。 第三に、規制アプローチの面では、安全性評価、アルゴリズム申請、表示などの制度に加え、関連国家主管機関は、生成的AI技術の特徴と関連産業・分野でのサービス応用に鑑み、イノベーションの発展に合わせて科学的規制アプローチを改善し、対応する分類・等級規制規則またはガイドラインを制定することを提案している。
二、聚焦关键环节，高度重视性能与安全的平衡	2. 重要な局面を重視し、性能と安全性のバランスを重視する
《办法》在技术监管方面更为聚焦和深入，以生成式人工智能模型训练生产中的“对齐”这一关键技术环节为例，在传统人工智能模型“预训练—微调”生成范式中，预训练环节是利用海量无标注数据让模型学习丰富的知识信息，形成模型的底层知识来源。微调阶段是根据应用领域，通过针对性定制的标注数据集，引导模型形成回答问题的思路。当前，生成式人工智能模型在原有训练范式基础上，应用人工智能模型“对齐”技术，能够帮助生成式人工智能与人类偏好保持对齐并遵循人类意图，实现模型输出内容符合“有帮助的”、“诚实的”和“无害的”准则。在追求生成式人工智能的性能与安全的平衡方面，“对齐”技术的适当使用将发挥关键作用。	本弁法は、生成的AIモデルの訓練と生成における「整列」という重要な技術的リンクを例にとって、技術的規制の面でより重点的かつ踏み込んだものとなっている。 伝統的なAIモデルの「事前訓練-微調整」生成パラダイムでは、事前訓練リンクが重要なリンクとなっている。 従来のAIモデルの「事前訓練-微調整」生成パラダイムでは、事前訓練段階は、大量のラベルなしデータを利用して、モデルに豊富な知識情報を学習させ、モデルの基礎となる知識ソースを形成する。 ファインチューニング段階は、アプリケーションドメインに従ってカスタマイズされた注釈付きデータセットを通じて、質問に答えるアイデアを形成するようにモデルを導くことである。 この技術は、生成的AIが人間の嗜好に合わせ、人間の意図に従うのを助けることができる。 そして「正直」で「無害」である。 アライメント」技術の適切な使用は、生成的AIの性能と安全性のバランスをとる上で重要な役割を果たす。
《办法》围绕相关关键技术环节提出多项条款：一是明确了模型训练及优化的安全性要求，要求模型训练要使用具有合法来源的数据和基础模型，明确“涉及知识产权的，不得侵害他人依法享有的知识产权”“涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形”及采取有效措施提高训练数据质量等，在提升训练数据质量等生成式人工智能模型重要基础方面作出了详细监管说明。二是明确在数据标注过程中，应制定清晰、具体、可操作的标注规则，以及开展数据标注质量评估、抽样核验标注内容的准确性等要求，在提供符合“对齐”要求的高质量数据方面也提出明确要求。三是在模型输出信息出现违法内容时，要求提供者采取模型优化训练等措施进行整改，体现了《办法》与生成式人工智能技术特点及关键环节的高度适应。	本弁法は、関連する重要な技術的側面に関する多くの規定を提案している。第一に、モデルの訓練と最適化に関する安全性要件を明確にし、モデルの訓練には、正当な出典を持つデータとベースモデルを使用することを義務付け、「知的財産権が関係する場合、法律に従って他者が享受している知的財産権を侵害してはならない」「個人情報が関係する場合、本人の同意を得るか、本人の情報を使用しなければならない」ことを明確にしている。 個人情報が関係する場合には、本人の同意を得ることその他法令及び行政規則で定める事情に適合すること」、「学習データの質を向上させるための効果的な措置を講じること」等と、学習データの質の向上など、生成的AIモデルの重要な基本事項について、詳細な規制上の指示がなされている。 第二に、データラベリングの過程において、明確かつ具体的で運用可能なラベリングルールを策定するとともに、データラベリングの品質評価やラベリングされたコンテンツの正確性のサンプル検証を実施することなどの要件を明確にし、「アライメント」の要件を満たす高品質なデータの提供についても明確な要件を提示している。 第三に、モデルの出力情報に違法なコンテンツが含まれる場合、プロバイダは、モデル最適化トレーニングなどの措置を講じ、状況を是正することが求められており、これは、本弁法が、生成的AI技術の特性と重要な側面に高度に適応していることを反映している。
三、强调促进创新与规范引导并重，有力推动生成式人工智能技术健康发展	3. 本弁法は、イノベーションの推進と規制・指導の重要性を強調し、生成的AI技術の健全な発展を強力に推進している。
《办法》的制定和出台，是我国推进生成式人工智能服务领域治理、促进产业规范健康发展、引导技术向善的重要举措。《办法》第三条指出，生成式人工智能服务，坚持发展和安全并重、促进创新和依法治理相结合的原则；第五条明确鼓励生成式人工智能技术在各行业、各领域的创新应用，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构在生成式人工智能多个方面开展协作；第六条提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新及平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。以上内容均体现出我国高度重视生成式人工智能健康发展，科学合理规范引导生成式人工智能应用的管理原则。在人工智能技术迎来重要发展的时期，我们不仅要让相关新技术新应用充分释放出创新活力，也要在安全监管与创新引导之间掌握好平衡。一方面，高度重视和充分研判生成式人工智能相关创新应用对数据安全、公共利益、知识产权、伦理道德等方面可能造成的影响，进一步加强人工智能领域的行业自律，引导大数据、人工智能等先进技术在社会主义核心价值观的引导下开展应用创新，加快制定相关行业标准和规范。另一方面，充分支持人工智能领域研发主体开拓进取，鼓励和支持自主创新，培育国家级生成式人工智能技术生态和应用生态，坚持包容和审慎相结合，理性务实推进中国人工智能科技创新和数字经济的蓬勃发展。（作者：张震 国家计算机网络与信息安全管理中心高级工程师）	本弁法の制定と導入は、中国が生成的AIサービス分野のガバナンスを推進し、業界の標準化と健全な発展を促進し、技術を善導するための重要なイニシアティブである。 本弁法の第3条は、生成的AIサービスは、発展と安全性を同等に重視する原則を堅持し、法律に従ってイノベーションとガバナンスを推進するとしている。第5条は、生成的AI技術の各産業・分野への革新的な応用を明確に奨励し、生成的AIの多面的な側面における業界団体、企業、教育・科学研究機関、公共文化機関、関連専門機関の協力を支援するとしている。 生成的AIのアルゴリズム、フレームワーク、チップ、サポートソフトウェアプラットフォームなどの基本技術の自主的な革新を奨励し、平等かつ互恵的な国際交流と協力を促進し、生成的AIに関連する国際ルールの策定に参加する。 以上のことはすべて、中国が生成的AIの健全な発展、および科学的かつ合理的な方法で生成的AIの応用を導くという管理原則を非常に重視していることを反映している。 AI技術が重要な発展を迎えている今、関連する新技術と応用がその革新的活力を十分に発揮できるようにするだけでなく、安全規制とイノベーション指導のバランスをうまくとる必要がある。 一方では、生成的AIに関連する革新的応用がデータ安全、公益、知的財産権、倫理道徳に及ぼす可能性のある影響を重視し、十分に研究し、AI分野の業界自主規制をさらに強化し、ビッグデータやAIなどの先端技術が社会主義の核心的価値観の指導の下で応用革新を行うよう指導し、関連業界標準と規範の策定を加速する。 一方、AI分野の研究開発主体の邁進を全面的に支持し、自主的なイノベーションを奨励・支援し、国家レベルの生成的AI技術生態と応用生態を育成し、包容力と慎重さの結合を堅持し、中国のAI科学技術イノベーションとデジタル経済の力強い発展を合理的かつ現実的に推し進める。 (筆者：張震、国家コンピュータネットワーク・情報セキュリティ管理センター・シニアエンジニア）

専門家の解釈（4）システムと技術は同じ周波数で共鳴する：中国の生成的AIガバナンスプログラム - 許可 国際商経学院デジタル経済・法制創新研究センター長

专家解读｜制度与技术同频共振：生成式人工智能治理的中国方案	専門家の解釈｜システムと技術は同じ周波数で共鳴する：中国の生成的AIガバナンスプログラム
以ChatGPT为代表的生成式人工智能正在引发新一轮人工智能革命。生成式人工智能改变了信息和知识的生产方式，重塑了人类与技术的交互模式，并开启了我们对于通用人工智能的无穷想象。可以预见，生成式人工智能将对医疗、教育、零售、金融、咨询、媒体和游戏等行业产生重大影响。而就如任何以往其他技术创新一样，生成式人工智能也是一柄双刃剑，其在助力繁荣与发展的同时，也存在生成虚假有害信息、侵犯隐私、算法歧视、侵犯知识产权等风险。如何在技术创新和公共利益之间、在发展与安全之间寻得平衡，是生成式人工智能等新技术、新应用向全人类提出的时代难题。国家网信办联合有关部门公布的《生成式人工智能服务管理暂行办法》（以下称“《办法》”），是直面这一时代之问的中国回答。作为全球范围内针对生成式人工智能的首部专门立法，《办法》以鼓励创新发展为基调，以个人合法权益、公共利益、国家安全为底线，在原则理念和规制范围上统筹发展与安全，不仅是监管生成式人工智能的中国探索，也为全球人工智能治理开辟了新的道路。	ChatGPTに代表される生成的AIは、AI革命の新たなラウンドを引き起こしている。 ジェネレイティブAIは、情報と知識の生産方法を変え、人間とテクノロジーの相互作用様式を再構築し、一般的なAIに対する無限の想像力を切り開いた。 生成的AIが、医療、教育、小売、金融、コンサルティング、メディア、ゲームなどの業界に大きな影響を与えることは予見できる。 これまでの技術革新と同様、生成的AIも諸刃の剣であり、繁栄と発展に貢献する一方で、虚偽・有害情報の生成、プライバシー侵害、アルゴリズムによる差別、知的財産権の侵害といったリスクもはらんでいる。 技術革新と公共の利益、発展と安全保障のバランスをどうとるかは、生成的AIのような新しい技術やアプリケーションが全人類に突きつけている問題である。 国家サイバースペース管理局（以下、「弁公室」という）が発表した『生成的AIサービス管理暫定弁法』（以下、本弁法という）は、この時代の問いに対する中国の回答である。 世界初の生成的AIの専門法制として、本弁法はイノベーションと発展の奨励を基調とし、個人の合法的権益、公益、国家安全を底辺とし、原則と概念、規制範囲において発展と安全を一体化しており、中国が生成的AIの規制を模索するだけでなく、世界のAIガバナンスに新たな道を開くものである。
一、鼓励创新与规范发展的原则理念	1. イノベーション奨励と発展規制の原則概念
《办法》第一条开宗明义将“促进生成式人工智能健康发展和规范应用”作为首位目标，第三条进一步阐明：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管”，凸显出《办法》将生成式人工智能的创新与发展置于重要地位，与欧盟《人工智能责任指令》（AI Liability Directive）、《人工智能法（草案）》（draft AI Act）等以风险预防和责任追究为中心的立法存在差异。2023年6月，欧盟针对通用人工智能增设相应的监管标准。但实践早已经证明，对人工智能这一不断发展且具有不确定性的新技术需要采取更加科学和包容审慎的治理方式。	本弁法の第1条は、「生成的AIの健全な発展と標準化された応用を促進する」ことを第一の目的としており、第3条はさらに、「国家は発展と安全を等しく重視し、法に基づきイノベーションの促進とガバナンスを結合させるという原則を堅持し、生成的AIのイノベーションと発展、および生成的AIサービスの規制を奨励するための効果的な措置を採用する」と明確にしている。 第3条はさらに、「国家は発展と安全を両立させる原則を堅持し、イノベーションの推進と法に基づく統治を両立させ、生成的AIのイノベーションと発展を奨励するための効果的な措置を講じ、生成的AIサービスの包括的、慎重かつ分類された段階的な監督を実施する」と明確にし、本弁法が生成的AIのイノベーションと発展を重要な位置づけに置いていることを強調しており、これはEUのAI責任指令、AI法草案、およびリスク防止と説明責任を中心とするその他の措置と一致している。 2023年6月、EUは汎用AIに適切な規制基準を追加した。 しかし、進化し続ける不確実な新技術であるAIには、より科学的で包括的かつ慎重なガバナンスのアプローチが必要であることは、実践が証明してから久しい。
人工智能发展中的问题要靠发展解决，在风高浪急的大变局时代，不发展是最大的不安全，发展是解决我国一切问题的基础和关键。作为关键通用目的技术，生成式人工智能对人民福祉、经济发展、国家安全和战略竞争均具有重要意义。然而，我国在相关基础研究、技术生态、产业发展、顶尖人才等方面与先进国家仍存在差距。2023年4月，中共中央政治局会议特别指出，要重视通用人工智能发展，营造创新生态，重视防范风险。《办法》秉持这一精神，一方面针对生成式人工智能技术特点，要求管理部门完善与创新发展相适应的科学监管方式，实现技术创新与监管创新的同步演化、协同共振（第十六条）。例如，第七条即充分考虑到训练数据的海量性和异质性，将“数据的真实性、准确性、客观性、多样性”作为优化目标，从而契合了大模型的技术特征；另一方面，鼓励产业界在各行业、各领域中探索优化生成式人工智能应用场景，支持行业组织、企业、科研机构、公共文化机构、专业机构等多元主体开发与协同创新（第五条），推动芯片、软件、框架、算力、算法、数据资源等全链路、全生态的共享与发展（第六条）。	AIの発展における問題は発展によって解決されなければならず、強風と波浪を伴う大変革の時代において、発展しないことは最大の不安であり、発展は中国のあらゆる問題を解決する基礎であり鍵である。 重要な汎用技術として、生成的AIは人々の幸福、経済発展、国家安全保障、戦略的競争にとって大きな意義がある。 2023年4月、中国共産党中央委員会政治局会議は、汎用AIの発展に注意を払い、イノベーションエコロジーを構築し、リスクの予防に注意を払う必要性を特に指摘した。 本弁法はこの精神を堅持し、一方では、汎用AIの技術的特徴について、管理部門に技術革新の発展に適合する科学的規制アプローチの改善を求め、技術革新と規制革新の同期的進化と相乗効果を実現する（第16条）。 例えば、第7条は、学習データの大量性と異質性を十分に考慮し、「データの信憑性、正確性、客観性、多様性」を最適化目標として設定することで、ビッグモデルの技術的特徴に合致させ、他方で、産業界に対して、様々な産業と分野における生成的AIの応用シナリオを模索し、最適化することを奨励し、産業組織、企業、科学研究機関、公共機関、公共部門が生成的AIの応用シナリオを開発し、最適化することを支援している。 産業組織、企業、科学研究機関、公共文化機関、専門機関、その他の多様な主体がイノベーションを発展させ、協力することを支援し（第5条）、チップ、ソフトウェア、フレームワーク、演算、アルゴリズム、データ資源のチェーン全体とエコシステムの共有と発展を促進する（第6条）。
二、包容审慎和分类分级的规制范围	2. 包括的かつ慎重、分類された段階的な規制範囲
作为贯穿《办法》全篇的理念与原则，“鼓励创新与规范发展”不仅集中体现在第二章“技术发展和治理”中，还反映在第三章“服务规范”、第四章“监督检查和法律责任”中，而鲜明体现这一理念的，还在于《办法》对其规制范围的审慎限定。	弁法全体の概念と原則である「技術革新の奨励と発展の規制」は、第2章「技術発展とガバナンス」で中心的に具体化されているだけでなく、第3章「サービスの規制」、第4章「監督、検査および法的責任」にも反映されており、この概念の特徴的な体現は、弁法の規制範囲の慎重な限定にもある。
《办法》第二条从正反两面将《办法》的适用范围明确锚定在“面向境内公众提供生成式人工智能服务”之上，其言简而意深，是本法法眼之所在。详言之，这首先意味着《办法》区分了“服务”与“技术”。这一区分不但与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》以“服务”为基础的规制相衔接，而且为技术研发、应用容留了试错空间，避免过分进入技术自身迭代领域而影响技术创新。放宽视野看，强调“服务”而非“技术”的规制，恰恰有助于从技术中立论还是建构论的理论纷争中跳脱出来，从系统论出发，将人工智能所栖身的演化体系、组织形态、应用场景一并纳入规制，实现场景化和整体性兼备的治理。其次，《办法》区分了“面向公众”和“面向非公众”。一方面，从风险防范的角度看，“面向公众”可能引发风险扩展和积聚，特别是虚假有害信息的蔓延将扰乱网络空间传播秩序、市场秩序和社会秩序，因此成为监管重心所在；另一方面，生成式人工智能不但是与普通用户信息交互的工具，也是企业内部提高效率、增强竞争优势的有力助手。根据咨询公司埃森哲的调研，近六成的企业打算将ChatGPT用于学习目的，超过40%的企业愿意为此倾力投入。通过定制模式和数据微调，生成式人工智能将颠覆传统的工作模式，并支持各行业、各项业务发展。因而，为企业内部以及垂直领域内“面向非公众的服务”留有余地，将有助于加速生成式人工智能技术在企业端的大规模落地和广泛应用，帮助企业显著提高生产效率，释放创新潜力。最后，《办法》统筹了“境内”和“境外”，对境外企业提供生成式人工智能服务的需求作出回应，要求在遵守本法的前提下合规经营，对外商投资生成式人工智能服务做出衔接规定，体现出包容开放的政策导向。	本弁法の第2条は、本弁法の適用範囲を「領域内で公衆に生成的AIサービスを提供すること」に両側から明確に固定しており、これは単純だが奥が深く、本弁法の眼目である。 具体的には、第一に、本弁法が「サービス」と「技術」を区別していることを意味する。 この区別は、「インターネット情報サービスアルゴリズム推薦管理規定」「インターネット情報サービス深度総合管理規定」だけでなく、「サービス」の規制に基づいて、技術の研究開発、試行錯誤の空間のアプリケーションのために、技術革新の技術自体の反復的な影響の分野にあまりにも多くを避けるために。 より広い視野に立てば、「技術」ではなく「サービス」を重視する規制は、まさに技術中立主義と構成主義の理論論争から脱却し、システム論から出発して、AIが生息する進化システム、組織形態、応用シナリオを規制の中に持ち込み、AIのシナリオと応用を実現することに役立つ。 規制の中にAIを取り込むことで、シナリオに基づいた全体的なガバナンスを実現する。 第二に、本弁法は「公共向け」と「非公共向け」を区別している。 一方、リスク予防の観点から、「公衆向け」は、リスクの拡大・蓄積につながる可能性があり、特に、虚偽・有害情報の拡散は、サイバースペースのコミュニケーション秩序、市場秩序、社会秩序を乱すため、規制の重心となる。他方、「生成的AI」は、一般ユーザーの情報と対話するためのツールであるだけでなく、企業内の効率向上や競争強化のためのツールでもある。 一方、生成的AIは、一般ユーザーの情報と対話するためのツールであるだけでなく、企業内の効率改善や競争力強化のための強力なアシスタントでもある。 コンサルティング会社アクセンチュアの調査によると、企業の60％近くが学習目的でChatGPTを利用する意向があり、40％以上が資金を投入する意向を示している。 カスタマイズされたパターンとデータの微調整を通じて、生成的AIは従来のワークパターンを破壊し、産業とビジネスの発展をサポートするだろう。 そのため、企業や垂直領域で「非パブリック指向サービス」の余地を作ることは、企業側での生成的AI技術の大規模な導入と広範な応用を加速させ、企業の生産性を大幅に向上させ、イノベーションの可能性を引き出すのに役立つだろう。 最後に、本弁法は「内」と「外」を調整し、外資系企業が生成的AIサービスを提供するニーズに応え、本法の前提を遵守することを要求し、生成的AIサービスへの外資導入を規定し、包括的で開放的な政策志向を反映している。 包括的で開放的な政策志向を反映している。
当前，由人工智能引领的新一轮科技革命和产业变革方兴未艾。作为通用人工智能的先行者，生成式人工智能将可能深刻影响人类经济、政治、社会、文化、军事各方面各领域。面对这一全球性挑战，中国已经先行一步。我们期待着《办法》的实施为后续人工智能的立法积累中国经验，为全球人工智能治理贡献中国智慧，共同构建网络空间命运共同体。（作者：许可 对外经济贸易大学数字经济与法律创新研究中心主任）	現在、AIが主導する新たな技術革命と産業変革が台頭している。 一般AIの先駆者として、生成的AIは人類の経済、政治、社会、文化、軍事に多大な影響を与える可能性がある。 この世界的な挑戦に直面して、中国はすでに一歩先を行っている。 我々は、その後のAIに関する法制化のために中国の経験を蓄積し、グローバルなAIガバナンスに中国の知恵を貢献し、運命共同体のサイバースペース・コミュニティーを共同で構築する本弁法の実施を期待している。 (筆者：許可 国際商経学院デジタル経済・法制創新研究センター長 ）

---

● まるちゃんの情報セキュリティ気まぐれ日記

・2023.04.12 中国 意見募集 生成的人工知能サービス管理弁法

・2022.12.23 中国 インターネット情報サービス深層合成管理規定についての専門家のコメント... (2022.12.12)

・2022.12.17 中国 インターネット情報サービス深層合成管理規定 （深層合成で作ったものにはマークを...）(2022.11.25)

・2022.08.15 中国 国家サイバースペース管理局 インターネット情報サービスのアルゴリズム申請に関する情報公開の公告

・2022.01.30 中国 国家サイバースペース管理局 意見募集 インターネット情報サービスの深層合成の管理に関する規定（意見募集稿）

・2022.01.05 中国 インターネット情報サービスのアルゴリズム推奨管理規

・2021.08.28 中国 意見募集 国家サイバースペース管理局 「インターネット情報サービスのアルゴリズムによる推奨に関する管理規定」