中国 生成的AIについての専門家の解釈 (2023.08.29)

こんにちは、丸山満彦です。

生成的AIについて、中国では、国家サイバースペース管理局等、7部門が共同で、「生成的AIサービス管理暫定弁法」を2023.07.13に公表し、2023.08.15 から施行されていますね。。。

● 国家互联网信息办公室（国家サイバースペース管理局）

2023.08.29	专家解读｜鼓励新兴技术健康发展 探索人工智能治理法治路径	専門家の解釈｜新興技術の健全な発展を促す AIガバナンスの法治化の道を探る	张凌寒　中国政法大学教授、博士生导师	張玲漢、中国政法大学教授・博士チューター
2023.08.29	专家解读｜构建面向AI时代的数据治理新生	専門家の解釈｜AI時代のデータガバナンスの新しいエコシステムを構築する	吴沈括　北京师范大学法学院博士生导师、中国互联网协会研究中心副主任	北京師範大学法学院博士課程講師、中国インターネット社会研究センター副センター長
2023.08.29	专家解读｜坚持创新引领 促进生成式人工智能健康发展	専門家の解釈｜イノベーション・リーダーシップを堅持し、生成的AIの健全な発展を促進する	肖荣美　中国信息通信研究院政策与经济研究所副所长	中国情報通信研究院政策経済研究所副所長 蕭栄梅
2023.08.29	专家解读｜以安全助发展 以治理促创新	専門家の解釈｜発展のためのセキュリティ、イノベーションのためのガバナンス	乔宇　上海人工智能实验室主任助理、教授	著者：喬宇、上海AI研究所副所長兼教授

专家解读｜鼓励新兴技术健康发展 探索人工智能治理法治路径	専門家の解釈｜新興技術の健全な発展を促す AIガバナンスの法治化の道を探る
《生成式人工智能服务管理暂行办法》（下文简称《办法》）颁布，标志着我国迈出了加快人工智能立法的重要一步。新规出台顺应新兴技术发展趋势，彰显了注重发展、兼顾安全的立法宗旨。《办法》引领国际人工智能的治理实践，对人工智能三要素—数据、算法、算力作出统筹性的制度设计，对迈向通用人工智能立法做出了有益探索。	「生成的AIサービス管理暫定弁法」（以下、「弁法」という）の公布は、中国におけるAIに関する法整備を加速させる重要な一歩となった。 新規則の導入は、新興技術の発展傾向に沿ったものであり、発展を重視し、安全性を考慮するという立法趣旨を示すものである。 この弁法は国際的なAIガバナンスの実践をリードし、AIの3つの要素（データ、アルゴリズム、演算）に対する統合的な制度設計を行い、一般的なAI立法に向けて有益な探求を行うものである。
鼓励新兴技术健康发展，引领国际人工智能治理实践	新興技術の健全な発展を促し、国際的なAIガバナンス慣行をリードする
《办法》开篇即明确“为了促进生成式人工智能健康发展和规范应用”制定，是我国人工智能治理与时俱进的重要举措。2017年国务院发布的《新一代人工智能发展规划》明确提出“到2025年，初步建立人工智能法律法规、伦理规范和政策体系”。2022年底以来，大模型的发展催生了人工智能技术的迭代，生成式人工智能成为人工智能产业全新的发展方向。生成式人工智能不仅能够带动数字内容创作、元宇宙、虚拟人等新兴领域加速发展，更是依托“模型即服务”的产业形态融合渗透传统产业实现生产力跃升。	本措置は、生成的AIの健全な発展と標準化された応用を促進するために策定されたものであり、中国のAIガバナンスが時代に歩調を合わせるための重要な一歩である。 2017年に国務院が発表した「新世代AI発展計画」では、「2025年までに、AI法規、倫理規範の初期確立、AI法規の包括的体系を確立する」ことが明確に提案されている。 AIの法規、倫理規範、政策体系」2022 年末以降、ビッグモデルの開発がAI技術の反復を産み出し、生成的AIはAI産業の真新しい発展方向となった。 生成的AIは、デジタルコンテンツ創造、メタ宇宙、バーチャルヒューマンなどの新興分野の加速的発展を推進するだけでなく、「サービスとしてのモデル」という産業形態に依拠して伝統的産業を統合・浸透させ、生産性の飛躍を実現することができる。
《办法》的适用范围考虑到生成式人工智能的技术特点与分层业态，充分体现了鼓励人工智能产业发展的精神。生成式人工智能既可以为垂直领域企业提供服务，也可以通过智慧问答、图文生成等方式直接为公众提供服务。正是基于这些新特点，《办法》第二条明确适用范围重点为“向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务”，同时明确“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”。与此同时，《办法》在第五条鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。	本措置の適用範囲は、生成的AIの技術的特徴と重層的産業を考慮しており、AI産業の発展を奨励する精神を全面的に反映している。 生成的AIは、垂直分野の企業にサービスを提供するだけでなく、洗練されたQ&Aやグラフィック生成を通じて、公衆に直接サービスを提供することもできる。 このような新しい特徴に基づき、弁法第2条は、適用範囲を「中華人民共和国において、公衆にテキスト、画像、音声、動画などのコンテンツを生成するサービスを提供すること」に重点化し、同時に「産業組織、企業、教育科学研究機関、公共文化機関、関連専門機関などが生成的AIを開発、応用、使用すること」と規定している。 同時に、「産業組織、企業、教育科学研究機関、公共文化機関、関連専門機関などが生成的AI技術を開発・応用し、中華人民共和国内で一般大衆に生成的AIサービスを提供しない場合、本措置の規定は適用されない」と明確にされている。 同時に、本措置は、第5条において、様々な産業・分野における生成的AI技術の革新的な応用を奨励し、応用シナリオの最適化を模索し、応用エコシステムを構築する。
《办法》引领国际人工智能的治理实践。生成式人工智能引起世界各国立法和监管的关注，但目前尚无成熟的治理实践。欧盟的《人工智能法案》针对生成式人工智能做出新一轮修改与调整。我国的《办法》作为小切口立法“急用先行”，体现了专门性、前瞻性和开放性，与我国既有的人工智能监管工具相结合，引领生成式人工智能治理实践，率先作出了有益的制度探索。	同措置は、国際的なAIガバナンスの慣行をリードしている。 生成的AIは、世界各国で立法・規制上の注目を集めているが、まだ成熟したガバナンス慣行はない。 EUのAI法では、生成的AIのために新たな修正と調整が行われている。 中国の措置は、「まず緊急に使用する」法律の小さな切り口として、特殊性、先見性、開放性を反映し、中国の既存のAI規制ツールと組み合わされ、生成的AIガバナンスの実践をリードし、有用な制度的探求を行う上で主導的役割を果たす。
统筹生成式人工智能多重要素，充分体现系统治理理念	生成的AIの複数の要素を統合し、システムガバナンスの概念を全面的に反映する。
《办法》融合了数据、算法、算力等诸多生成式人工智能要素，并明确对生成式人工智能服务实行包容审慎和分类分级监管。在数据方面，《办法》提出“推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源”，“推进生成式人工智能基础设施和公共训练数据资源平台建设”，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能数据资源建设等方面开展协作。《办法》第七条对训练数据处理活动提出了具体要求。同时，第八条明确了数据标注规范，对在生成式人工智能技术研发过程中进行数据标注的，规定制定符合本办法要求的清晰、具体、可操作的标注规则，开展数据标注质量评估，对标注人员进行必要培训等。	本措置は、データ、アルゴリズム、演算など生成的AIの多くの要素を統合し、生成的AIサービスが包括的かつ慎重な方法で規制されるべきであるとともに、分類され等級付けされた方法で規制されるべきであることを明確にしている。 データに関しては、同措置は、「分類、等級化、秩序化された方法で公共データの開放を促進し、高品質の公共訓練データ資源を拡大する」、「生成的AIインフラと公共訓練データ資源プラットフォームの建設を促進する」、「産業組織、企業、教育科学研究機関、公共文化機関が生成的AIサービスを提供することを支援する」ことを提案している。 生成的AIデータ資源の建設などにおいて、教育科学研究機関、公共文化機関、関連専門機関が協力する。 弁法第7条は、訓練データ処理活動に対する具体的な要求を定めている。 一方、第8条はデータラベリング仕様を規定し、生成的AI技術の研究開発過程におけるデータラベリングについて、本弁法の要求に沿った明確、具体的、運用可能なラベリング規則の策定、データラベリング品質アセスメントの実施、ラベリング担当者の必要な訓練を規定している。
在算法和算力等方面，《办法》第四条明确了算法设计过程中应当遵守的规定，并在第六条提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。《办法》第十七条明确提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估并履行算法备案、变更、注销备案手续。同时，《办法》还提出促进算力资源协同共享、提升算力资源利用效能，明确鼓励采用安全可信的芯片、软件、工具、算力和数据资源，充分回应技术产业发展需要。	アルゴリズムと演算に関しては、弁法第4条でアルゴリズム設計の過程で遵守すべき規定を明確にし、第6条で生成的AIアルゴリズム、フレームワーク、チップ、支援ソフトウェアプラットフォームなどの基礎技術の自主革新を奨励し、対等かつ相互に国際交流と協力を行い、生成的AIに関連する国際規則の策定に参加することを提案している。 同弁法の第17条は、世論属性や社会動員能力を備えた生成的AIサービスを提供する者は、安全性アセスメントを実施し、関連する国内規定に従ってアルゴリズム申請、変更・取消申請手続きを行うべきことを明確にしている。 同時に、本措置は、演算資源の共同利用を促進し、演算資源利用の有効性を高め、安全で信頼できるチップ、ソフトウェア、ツール、演算資源、データ資源の採用を明確に奨励し、技術・産業発展のニーズに全面的に対応することも提案している。
兼顾制度创新与监管体系性，迈出通用人工智能治理探索脚步	制度の革新と規制の体系性を考慮し、一般的なAIガバナンスの探求を一歩前進させる。
《办法》兼顾创新制度设计与保持监管体系性。《办法》第二章“技术发展与治理”作出了一系列创新的制度设计，围绕生成式人工智能产业形态设计了覆盖其生命周期的新型监管措施。如第四条要求服务提供者在算法设计、训练数据选择、模型生成和优化、提供服务等过程中采取有效措施防止产生各种歧视，并基于服务类型特点，提升生成式人工智能的透明度，提高生成内容的准确性和可靠性。与此同时，《办法》第七条要求服务提供者依法开展预训练、优化训练等训练数据处理活动，应使用具有合法来源的数据和基础模型，并且要遵守知识产权保护、个人信息保护等相关监管要求。第十四条规定发现违法内容的，应当采取模型优化训练等措施进行整改。上述一系列适应技术发展的监管措施，将有助于促进生成式人工智能规范应用。	本措置は、革新的な制度設計と規制の体系性の両方を考慮している。 弁法の第2章は「技術発展とガバナンス」と題し、一連の革新的な制度設計を行い、生成的AI産業のライフサイクルをカバーする新たな規制措置を設計している。 例えば、第4条では、サービス提供者に対し、アルゴリズム設計、学習データ選択、モデル生成・最適化、サービス提供の過程において、あらゆる差別を防止し、サービスの種類の特性に基づき、生成型AIの透明性を高めるとともに、生成されるコンテンツの正確性と信頼性を向上させるための効果的な措置を講じることを求めている。 同時に、弁法第7条は、サービス提供者に対し、法律に基づき、事前訓練や最適化訓練などの訓練データ処理活動を実施すること、合法的な情報源のデータと基礎モデルを使用すること、知的財産権の保護、個人情報の保護、その他の関連規制要件を遵守することを求めている。 第14条では、違法なコンテンツが発見された場合、モデル最適化トレーニングなどの措置を講じて状況を是正するよう定めている。 技術の発展に適応した上記の一連の規制措置は、生成的AIの標準化された応用を促進するのに役立つだろう。
与此同时，《办法》第三章明确服务规范。如在第十一条要求提供者对使用者的输入信息和使用记录依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录，还应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求，有效回应了社会各界对生成式人工智能产业特点是否能够符合个人信息保护要求的担忧。第十二条要求提供者按照《互联网信息服务深度合成管理规定》的要求对图片、视频等生成内容进行标识，延续了对于生成内容的标识要求。由此可见，《办法》不仅与我国以往的信息内容监管制度相衔接，还充分考量了与个人信息保护、数据安全等制度的协调性。	同時に、弁法第3章ではサービス仕様が規定されている。 例えば、第11条において、プロバイダは法律に基づき、利用者の入力情報及び利用記録に対する保護義務を履行すること、非本質的な個人情報を収集しないこと、利用者の身元を特定できる入力情報及び利用記録を不正に保持しないこと、利用者の入力情報及び利用記録を不正に他人に提供しないこと、法律に基づき、本人からの個人情報へのアクセス、コピー、訂正、補足及び削除の要求を速やかに受理し処理すること等が求められている。 など、生成的AI産業の特性が個人情報保護要件を遵守できるかどうかという社会的懸念に効果的に応えている。 第12条は、インターネット情報サービスの深度総合に関する管理規定の要件に従って、プロバイダが画像や動画などの生成コンテンツを識別することを要求しており、生成コンテンツの識別要件を継続している。 このように、本措置は、中国の従来の情報コンテンツ規制制度と連携するだけでなく、個人情報保護、データセキュリティなどの制度との連携も十分に考慮していることがわかる。
生成式人工智能的发展标志着人工智能正在从专用智能迈向通用智能，进入了全新的发展阶段。中共中央政治局4月28日召开会议强调，“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》的各项具体制度开启了通用人工智能立法的新进程。面对技术发展带来的机遇与挑战，《办法》既创新制度设计又保持监管一贯的体系性，既重视安全更多方推进技术产业发展，不仅引领国际人工智能治理实践，更为我国未来通用人工智能的立法与治理做出了有益探索。（作者：张凌寒　中国政法大学教授、博士生导师）	生成的AIの発展は、AIが特殊知能から一般知能へと移行し、全く新しい発展段階に入ったことを意味する。 中国共産党中央委員会政治局は4月28日に会議を開き、「汎用AIの発展、イノベーション・エコシステムの構築、リスクの防止に注意を払うべき」と強調した。 同措置の具体的な制度は、一般的なAIに関する法整備の新たなプロセスを切り開いた。 技術発展がもたらすチャンスと挑戦に直面し、弁法は制度設計を革新するだけでなく、規制の一貫した制度性を維持し、安全性を重視するだけでなく、様々な方法で技術と産業の発展を促進し、AIガバナンスの国際的な実践をリードするだけでなく、中国の一般AIに関する将来の立法とガバナンスに有益な探索を行う。 (著者：張玲漢、中国政法大学教授・博士チューター）

专家解读｜构建面向AI时代的数据治理新生态	専門家の解釈｜AI時代のデータガバナンスの新しいエコシステムを構築する
生成式人工智能技术作为具有文本、图片、音频、视频等内容生成能力的模型及相关技术，正在世界范围内推动掀起一轮人工智能发展的新高潮。一方面，生成式人工智能带来新的发展机遇，包括新的技术支持、新的业务类型和新的应用内容；另一方面，生成式人工智能也伴生来源更为多样、程度更为深刻的安全风险，涵盖各类技术要素风险和数字内容风险等。如何充分发挥生成式人工智能的价值潜能并有效实现其规范治理，已是各国共同关注的时代命题。	生成的AI技術は、テキスト、画像、音声、動画などのコンテンツを生成する能力を持つモデルおよび関連技術として、世界的なAI開発の新ラウンドを牽引している。 一方では、生成的AIは、新たな技術サポート、新たなタイプのビジネス、新たなアプリケーションを含む新たな発展の機会をもたらす。他方では、生成的AIは、様々な技術的要素リスクとデジタルコンテンツリスクをカバーする、より多様なソースとより深遠なセキュリティリスクを伴う。 いかにして生成的AIの潜在的価値を最大限に引き出し、標準化されたガバナンスを効果的に実現するかは、各国共通の関心事であり、時代の命題である。
2023年7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部和广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。《办法》作为全球第一部关于生成式人工智能治理的专门法律规范，具有重大意义。	2023年7月13日、国家サイバースペース管理局（SNIO）は、国家発展改革委員会（NDRC）、教育部（MOE）、科学技術部（MOST）、工業情報化部（MIIT）、公安部（MPS）、国家ラジオ映画テレビ総局（SARFT）と共同で、2023年8月15日に発効する「生成的AIサービス管理暫定弁法」（以下、弁法）を発表した。 本措置は、生成的AIの管理に関する世界初の専門的な法規範として大きな意義を持つ。
《办法》的谋篇布局坚持发展和安全并重的立法精神，规则的字里行间突出高质量发展新阶段语境下综合治理的生态理念，是促进生成式人工智能技术健康发展和规范应用的有力举措。	本弁法の構成は、発展と安全を同等に重視するという立法精神に忠実であり、規則の文言は、高品質な発展の新たな段階という文脈における包括的ガバナンスというエコシステム学的概念を強調しており、これは、生成的AI技術の健全な発展と標準化された応用を促進するための強力なイニシアチブである。
一方面，《办法》的条文设计在数据治理、算法设计、内容管理、虚假信息防范以及权益保护等多个层面，围绕生成式人工智能服务划定了全方位的合规要求；另一方面，《办法》强调与《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等上位法律，以及《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等现行规范构成的治理框架紧密衔接，形成关于生成式人工智能服务的立体规则体系。	一方、本措置の規定は、データガバナンス、アルゴリズム設計、コンテンツ管理、虚偽情報防止、権益保護など、複数のレベルにおいて、生成的AIサービスに関するあらゆるコンプライアンス要件を明確にするよう設計されている。 アルゴリズム推薦管理規定」、「インターネット情報サービス深度総合管理規定」などの既存の規範は、生成的AIサービスに関する立体的なルール体系を形成するために密接に結びついたガバナンスの枠組みを構成している。
从系统治理论的角度，可以认为生成式人工智能的三大核心要素包括数据、算力和算法：海量数据被认为是生成式人工智能的基石，充沛算力是生成式人工智能的基础能力支撑，先进算法是生成式人工智能的基本实现途径。应当指出的是，《办法》的各项制度规范深刻洞察生成式人工智能的技术原理及其运行逻辑，特别是在《网络安全法》《数据安全法》《个人信息保护法》等法律、行政法规的基础上，着眼生成式人工智能服务语境下的数据治理，引入了多项专门规范，对于构建面向AI时代的数据治理新生态具有重要的制度指引意义：	システムガバナンス理論の観点から、生成的AIの3つの核心要素には、データ、演算、アルゴリズムが含まれると考えることができる。膨大なデータは生成的AIの礎石であり、豊富な演算は生成的AIの基本的な能力を支えるものであり、高度なアルゴリズムは生成的AIの基本的な実現経路であると考えられている。 本措置の制度規範は、特にサイバーセキュリティ法、データセキュリティ法、個人情報保護法及びその他の法律と行政法規を基礎として、生成的AIの技術原則とその運用論理を深く洞察し、生成的AIサービスの文脈におけるデータガバナンスを視野に入れ、多くの特別規範を導入しており、AI時代のデータガバナンスの新たなエコシステムを構築する上で重要であることに留意すべきである。 AI時代の新しいデータガバナンスのエコシステム系を構築するための制度的ガイドラインとして大きな意義がある：
其一，《办法》明确了生成式人工智能服务中的数据治理要求。《办法》规定提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，明确了新技术场景下数据新治理的价值底蕴。同时，《办法》要求在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止民族、信仰、国别、地域、性别、年龄、职业、健康等歧视，强调在数据治理中防止偏见和歧视，并为生成式人工智能服务的可持续发展提供价值保障。	第一に、生成的AIサービスにおけるデータガバナンスの要件を明確にしている。 生成的AIサービスの提供と利用は法律と行政法規を遵守し、社会道徳と倫理を尊重すべきであると規定し、新たな技術シナリオにおけるデータの新たなガバナンスを支える価値を明確にしている。 同時に、同措置は、アルゴリズム設計、学習データ選択、モデル生成と最適化、サービス提供の過程において、民族、信仰、国、地域、性別、年齢、職業、健康などによる差別を防止するための効果的な措置を講じることを求めており、データガバナンスにおける偏見と差別の防止を強調し、生成型AIサービスの持続可能な発展のための価値保障を提供している。
其二，《办法》强调了生成式人工智能服务中数据处理的特别要求。一方面，《办法》就相关数据处理活动规定了明晰的行为规则，生成式人工智能服务提供者在依法开展预训练、优化训练等训练数据处理活动中，一是应当使用具有合法来源的数据和基础模型；二是涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；三是采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。	第二に、生成的AIサービスにおけるデータ処理に関する特別な要件を強調している。 一方、本措置は、関連するデータ処理活動に関する明確な行動規範を規定している。 法に基づき、事前訓練や最適化訓練などの訓練データ処理活動を実施する際、生成的AIサービス提供者は、第一に、合法的な情報源のデータとベースモデルを使用すること、第二に、個人情報が関係する場合、本人の同意を得るか、または法律や行政法規が規定するその他の状況に従うこと、第三に、以下のような効果的な措置を講じること。 第三に、トレーニングデータの質を向上させ、トレーニングデータの信憑性、正確性、客観性、多様性を高めるための効果的な措置を講じなければならない。
另一方面，《办法》就相关数据标注活动设定了专门的业务规则，规定在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。《办法》关于标注规则、质量评估和人员培训的组合要求有益于数据资源的理解与利用，进而提高相关数据处理的准确性及其效能。	一方、同弁法は、関連するデータラベリング活動に関する特別な業務ルールを定めており、生成的AI技術の研究開発プロセスにおいてデータラベリングが実施される場合、提供者は、同弁法の要求に沿って、明確かつ具体的で運用可能なラベリングルールを策定すること、データラベリングの品質アセスメントを実施し、ラベリングされた内容の正確性をサンプリングベースで検証すること、ラベリング担当者に対して必要な研修を実施し、法律を尊重・遵守する意識を高め、監督・遵守することを規定している。 本措置は、ラベリング担当者に対して必要な研修を実施し、法律を尊重・遵守する意識を高め、ラベリング担当者が標準的な方法でラベリング業務を実施するよう監督・指導する。 ラベリング規則、品質アセスメント、人材育成に関する本措置の要求事項の組み合わせは、データ資源の理解と利用に資するものであり、ひいては関連データ処理の正確性と有効性を向上させるものである。
其三，《办法》突出了生成式人工智能服务中数据生态的多方协同。《办法》一是强调支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作，旨在最大程度激发各方主体的积极性和参与度，提升共建共治共享的数据生态水平。二是强调推动生成式人工智能基础设施和公共训练数据资源平台建设，促进算力资源协同共享，提升算力资源利用效能，推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源，鼓励采用安全可信的芯片、软件、工具、算力和数据资源。从基础设施到平台建设，从算力资源到公共数据，《办法》的规范设计有利于形成多方参与、安全可信的高质量数据生态。（作者：吴沈括　北京师范大学法学院博士生导师、中国互联网协会研究中心副主任）	第三に、本措置は、生成的AIサービスにおけるデータエコシステムの複数当事者による相乗効果を強調している。 第一に、本措置は、生成的AIの技術革新、データ資源の構築・変換・応用、リスク予防の分野において、産業組織、企業、教育・科学研究機関、公共文化機関、関連専門機関などの協力を支援することを強調し、各当事者の主体的な熱意と参加を可能な限り刺激し、共通のガバナンスと共有基盤の上に構築されるデータエコロジーのレベルを高めることを目的としている。 第二に、生成的AIインフラと公共トレーニングデータリソースプラットフォームの建設を促進し、演算リソースの共同共有を促進し、演算リソース利用の有効性を高め、公共データ分類と等級付けの秩序ある開放を促進し、高品質の公共トレーニングデータリソースを拡大し、安全で信頼できるチップ、ソフトウェア、ツール、演算リソース、データリソースの採用を奨励することを強調している。 インフラからプラットフォーム構築、演算資源から公共データまで、標準化された「措置」の設計は、多者参加、安全性、信頼性を備えた高品質のデータエコロジーの形成に資するものである。 (筆者：北京師範大学法学院博士課程講師、中国インターネット社会研究センター副センター長）。

专家解读｜坚持创新引领 促进生成式人工智能健康发展	専門家の解釈｜イノベーション・リーダーシップを堅持し、生成的AIの健全な発展を促進する
为促进生成式人工智能健康发展和规范应用，国家互联网信息办公室等部门公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），充分表明支持生成式人工智能健康发展的态度，针对生成式人工智能发展的数据安全、个人隐私、虚假信息、知识产权等关键问题作出制度安排，是贯彻落实党中央对新技术新应用领域决策部署的重要举措，是全球首部针对生成式人工智能的专门立法，在促进产业发展和规制风险方面，形成了中国式立法探索。	生成的AIの健全な発展と標準化された応用を促進するため、国家インターネット情報弁公室とその他の部門は、「ジェネレーティブAIサービス管理暫定弁法」（以下、弁法）を発表し、生成的AIの健全な発展を支持する姿勢を全面的に示し、生成的AIの発展におけるデータセキュリティ、個人プライバシー、虚偽情報、知的財産権などの重要問題について体系的な取り決めを行った。 新技術と新用途に関する中国共産党中央委員会の決定と配置を実施する重要な措置であり、世界初の生成型AIに関する専門的な法律であり、産業発展を促進し、リスクを規制する中国式の立法探査を形成する。
一、《办法》充分表明了支持生成式人工智能发展的立法导向	I. 生成的AIの発展を支援する法制的方向性を完全に示している。
习近平总书记强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。我国高度重视人工智能的健康发展，在生成式人工智能飞速发展的背景下，中共中央政治局会议强调“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》贯彻落实党中央有关人工智能发展的重要指示，充分表明了我国支持生成式人工智能发展的态度。一是《办法》确立了促进生成式人工智能健康发展和规范应用的立法目的。《办法》在总则中首先将“促进健康发展”作为立法目的之一，同时明确了“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”二是《办法》明确了以《科学技术进步法》为上位法依据。《科学技术进步法》是促进高水平科技自立自强的法治保障，《办法》以其为上位法，展示了我国健全生成式人工智能创新保障措施，促进生成式人工智能技术发展应用的导向。三是《办法》提出了鼓励生成式人工智能技术发展的具体举措。《办法》专门就“技术发展与治理”作出专章规定，特别是第五条、第六条提出了鼓励生成式人工智能技术发展的措施，明确国家鼓励生成式人工智能技术在各行业、各领域的创新应用；支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作；鼓励生成式人工智能基础技术的自主创新，平等互利开展国际交流合作；推动生成式人工智能基础设施和公共训练数据资源平台建设等。总体来看，《办法》作为我国在生成式人工智能领域的专门立法，充分考虑了创新发展的客观需要，就生成式人工智能健康发展的关键问题规定了促进措施、明确了发展方向。	習近平総書記は、AIは技術革命と産業変革の新ラウンドの重要な原動力であり、新世代のAIの発展を加速させることは、中国が技術革命と産業変革の新ラウンドのチャンスをつかめるかどうかに関する戦略的問題であると強調した。 中国はAIの健全な発展を非常に重視しており、生成的AIの急速な発展という状況の中で、中国共産党中央委員会政治局は、「一般的AIの発展、イノベーションエコシステム系の構築、リスク防止の重要性に注意を払うべきである」と強調した。 生成的AI弁法」は、AIの発展に関する中国共産党中央委員会の重要な指示を実施するもので、中国が生成的AIの発展を支持する姿勢を全面的に示している。 第一に、同弁法は、ジェネレーティブAIの健全な発展と標準化された応用を促進するという立法目的を定めている。 総則において、同弁法はまず「健全な発展を促進する」ことを立法目的の一つとし、同時に「国家は発展と安全を等しく重視し、法に基づきイノベーションとガバナンスを促進する原則を堅持し、生成的AIの革新的発展を奨励するために有効な措置を講じ、生成的AIサービスの包括的、慎重かつ分類・等級化された規制を実施する」ことを明確にしている。 生成的AIサービスの包括的で慎重かつ分類・等級化された監督を実施する。 第二に、本措置は、科学技術進歩法が上位法の基礎であることを明確にしている。 科学技術進歩法は、高度な科学技術の自立を促進するための法治の保障であり、本措置はこれを最高法規とし、中国が生成的AIイノベーションの健全な保障措置を志向し、生成的AI技術の発展と応用を促進することを示している。 第三に、同弁法は、生成的AI技術の発展を奨励するための具体的なイニシアティブを打ち出している。 同弁法は「技術開発とガバナンス」の特別章を設け、特に第5条と第6条では、生成的AI技術の発展を奨励する措置を打ち出し、国家が各産業・分野における生成的AI技術の革新的な応用を奨励し、産業組織、企業、教育・科学研究機関、公共文化機関、関連専門機関などが各産業・分野において生成的AI技術を開発・応用することを支援することを明確にしている。 生成的AI技術の革新、データ資源の構築、転換と応用、リスク防止などにおいて、産業機関と関連専門機関が協力し、生成的AI基礎技術の自主革新を奨励し、対等かつ互恵的な国際交流と協力を行い、生成的AIインフラと公共訓練データ資源プラットフォームの構築を促進する。 生成的AI分野における中国の特別立法である本措置は、全体として、イノベーションと発展の客観的ニーズを十分に考慮し、生成的AIの健全な発展を促進し、発展の方向性を明確にするための措置を定めている。
二、《办法》积极回应生成式人工智能可能带来的风险	II. 本措置は、生成的AIがもたらしうるリスクに積極的に対応している。
国际社会积极关注生成式人工智能可能产生数据安全、版权纠纷、算法治理等问题，表达了对由此带来的数据安全、国家安全风险的担忧。欧盟迅速在其备受关注的《人工智能法案》中区分了“基础模型”和生成式人工智能应用，并考虑将生成式人工智能应用纳入“高风险”管理，提出相应合规义务。英国注重引导生成式人工智能发展，特别强调了数据保护、透明度、风险评估、算法治理等八个方面的监管重点。世界主要国家和地区的立法及监管实践，对我国促进和规范生成式人工智能提供了相应经验和参考。	国際社会は、生成的AIがデータ・セキュリティ、著作権紛争、アルゴリズム・ガバナンス等の問題を生じさせることを積極的に懸念しており、その結果として生じるデータ・セキュリティや国家安全保障上のリスクについて懸念を表明している。 EUは、待望のAI法において、「基本モデル」と生成的AIアプリケーションを迅速に区別し、生成的AIアプリケーションを「高リスク」管理に含め、対応するコンプライアンス義務を提案することを検討した。 英国は生成的AIの発展を導くことに重点を置いており、特にデータ保護、透明性、リスクアセスメント、アルゴリズムガバナンスなど8つの規制分野に重点を置いている。 世界の主要な国や地域の法律や規制慣行は、中国が生成的AIを推進・規制する上で、それに対応する経験や参考となる。
我国坚持发展与安全并重，在强调促进生成式人工智能发展的同时，也注重防范生成式人工智能可能带来的风险。《办法》对生成式人工智能可能产生的风险进行了规制。生成式人工智能对人工智能领域国家竞争力产生深远影响，但同时也对安全带来挑战。《办法》精准应对其带来的相关风险，明确义务和责任，对各界普遍关注的问题进行了回应，既符合现实需求，也符合国际趋势。第一，内容安全风险。生成式人工智能在训练过程中，如使用有偏见的数据进行训练，最终可能生成具有偏见或歧视的内容；同时，主导者的意志、观念对于生成式人工智能输出的内容具有较大影响，主导者如按照主观意愿与偏见对生成式人工智能进行训练，生成式人工智能将会延续偏见，最终造成潜在的社会隐患和危害。应对上述问题，《办法》提出了采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视以及其他法律、行政法规禁止的内容的要求。第二，侵害个人信息权益风险。《办法》明确了训练数据涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形，并要求生成式人工智能服务提供者及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。第三，数据安全风险。用户在生成式人工智能中输入的数据可能会被用作进一步迭代的训练数据，并出现在后续生成式人工智能生成的内容中。由此，一旦用户输入的信息中包含个人信息、商业秘密等数据，将面临无形之中被泄露的风险。对此，《办法》规定，生成式人工智能服务提供者对生成式人工智能服务使用者的输入信息和使用记录应当依法履行保护义务。	中国は、発展と安全性の同等な重要性を堅持し、生成的AIの推進を強調する一方で、生成的AIがもたらしうるリスクの防止にも重点を置いている。 本措置は、生成的AIから生じうるリスクを規制するものである。 生成的AIはAI分野における国家競争力に広範な影響を与えるが、安全性にも課題をもたらす。 本措置は、それに関連するリスクに的確に対処し、義務と責任を明確にし、各界の一般的な懸念に応えるものであり、現実的なニーズと国際的な動向の双方に沿ったものである。 まず、コンテンツの安全リスクである。 同時に、支配者の意志、生成的AIの出力の概念は、生成的AIの内容に大きな影響を与え、支配者は、生成的AIの訓練の主観的な意志とバイアスに従うなど、生成的AIは、偏り続け、最終的に潜在的な社会的危険とにつながる。 危険である。 以上の問題に対して、本措置は、民族、信仰、国、地域、性別、年齢、職業、健康など、法律や行政法規で禁止されている内容の差別を防止するために、効果的な措置を講じることを要求している。 第二に、個人情報の権益を侵害するリスクである。 本措置は、個人情報を含むトレーニングデータについて、本人の同意を得ること、または法令や行政法規が定めるその他の事情を遵守することを明確にし、生成的AIサービス提供者に対し、本人からの個人情報へのアクセス、コピー、訂正、補足、削除の要求を速やかに受け入れ、処理することを求めている。 第三に、データセキュリティリスクである。 生成的AIにおいてユーザーが入力したデータは、さらなる反復のための学習データとして使用され、後続の生成的AIが生成するコンテンツに現れる可能性がある。 その結果、ユーザーが入力した情報に個人情報や企業秘密などのデータが含まれると、目に見えない漏洩リスクに直面することになる。 この点、生成的AIサービス提供者は、生成的AIサービス利用者の入力情報及び利用記録について、法律に従って保護義務を履行しなければならないと、本措置は規定している。
三、《办法》进一步强化了生成式人工智能发展治理的法律制度	III. 本措置は、生成的AIの発展とガバナンスのための法制度をさらに強化する。
《办法》针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，作出了明确的制度安排。一是在数据领域，《办法》鼓励公共数据的有序开放，推动公共数据分类分级有序开放，拓展高质量的公共训练数据资源；明确训练数据的处理规则，要求数据和基础模型的来源合法，并采取有效措施提高训练数据质量；衔接个人信息保护规则，规定个人信息的收集、留存、向他人提供等均应依法进行。二是在内容领域，《办法》鼓励生成积极健康、向上向善的优质内容，要求不得生成法律、行政法规禁止的内容，并要求对图片、视频等生成内容进行标识。三是在知识产权领域，《办法》明确了尊重知识产权的原则性要求，明确训练数据处理活动不得侵害他人依法享有的知识产权。《办法》衔接了《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》有关网络安全、数据安全、个人信息保护等的要求，科学处理了与现有立法之间的关系，为生成式人工智能发展治理构建了全面系统的制度安排。	本措置は、データ、コンテンツの安全性、知的財産権など、生成的AIの発展における重要な問題について、明確な制度的取り決めを行った。 まず、データの分野では、公共データの秩序ある開放を奨励し、分類・階層化された公共データの秩序ある開放を促進し、質の高い公共訓練データ資源を拡大し、訓練データの取り扱いルールを明確化し、データ源と基礎モデルが合法的であることを義務付け、訓練データの質を向上させるための効果的な措置を講じ、個人情報の保護ルールを明確化し、個人情報の収集、保有、他人への提供は法律に従って行われることを規定した。 また、個人情報の収集、保有、提供については、法令に従って行うことを明記する。 第二に、コンテンツの分野では、肯定的、健全、上向き、良質なコンテンツの生成を奨励し、法律や行政法規で禁止されているコンテンツを生成しないことを義務付け、生成された画像や動画などのコンテンツにはラベルを付けることを義務付ける。 第三に、知的財産権の分野において、弁法は知的財産権を尊重するという原則的な要求を明確にし、トレーニングデータ処理活動は法律に従い、他人が享有する知的財産権を侵害してはならないことを明確にした。 本弁法は、ネットワークセキュリティ、データセキュリティ、個人情報保護などに関するネットワークセキュリティ法、データセキュリティ法、個人情報保護法、科学技術進歩法の要求を明確にし、既存の法律との関係を科学的に処理し、生成的AI発展のガバナンスのための包括的かつ体系的な制度配置を構築している。
综上，《办法》是全球首部专门规范生成式人工智能服务的立法，是我国在新兴领域立法的最新成果，体现了我国对新技术新应用发展规制策略的持续推进。我国高度重视新兴领域立法工作，应对新技术新应用快速发展趋势，围绕算法、深度合成等突出领域及时开展立法工作，出台相应管理规定，促进和规范行业发展。对算法歧视、“大数据杀熟”、诱导沉迷、深度伪造等国内外关注的问题，及时作出立法回应。《办法》立足于我国新兴领域立法经验和基础，以促进生成式人工智能健康发展为目标，积极构建符合我国实际的治理制度，有助于促进人工智能产业健康发展。（作者：肖荣美　中国信息通信研究院政策与经济研究所副所长）	要約すると、本法案は、生成的AIサービスの規制に特化した世界初の法制であり、中国の新興分野における法制の最新の成果であり、中国が新技術とアプリケーションの発展に向けた規制戦略を継続的に進めていることを反映している。 中国は新興分野の立法作業を非常に重視し、新技術と応用の急速な発展傾向に対応し、アルゴリズムや綿密な合成などの顕著な分野で適時に立法作業を行い、対応する規制規定を導入して産業の発展を促進・規制している。 アルゴリズムによる差別、「ビッグデータによる馴れ合い殺し」、中毒誘発、綿密な偽造など、国内外が懸念する問題に対して、適時に立法措置を講じてきた。 新興分野における中国の立法経験と基礎に基づき、本措置は生成的AIの健全な発展を促進し、中国の現実に即したガバナンスシステムを積極的に構築することを目的としており、AI産業の健全な発展を促進する一助となる。 (筆者：中国情報通信研究院政策経済研究所副所長 蕭栄梅）

专家解读｜以安全助发展 以治理促创新	専門家の解釈｜発展のためのセキュリティ、イノベーションのためのガバナンス
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），这充分体现了国家对生成式人工智能发展和应用的高度重视，也标志着我国生成式人工智能治理迈出了坚实的一步。《办法》坚持发展与安全并重、促进创新与依法治理相结合的原则，为生成式人工智能的健康发展和规范应用提供了制度“锚点”和实践指引，在推动相关技术进步与产业落地的同时，确保生成式人工智能服务更好地造福人民。	最近、国家ネット情報弁公室（SNIO）は、国家発展改革委員会（NDRC）、教育部（MOE）、科学技術部（MOST）、工業情報化部（MIIT）、公安部（MPS）、ラジオ映画テレビ総局（GARFT）と共同で、「生成的AI（AI）サービス管理暫定弁法」（以下、「弁法」）を発表した。 同措置は、発展と安全性を同等に重視し、イノベーションの推進と法に基づくガバナンスを両立させるという原則を堅持しており、生成的AIの健全な発展と標準化された応用のための体系的な「アンカーポイント」と実践的な指針を提供し、生成的AIサービスが関連技術の進歩と産業の着地を促進しながら、国民により良い利益をもたらすことを保証するものである。
近两年，生成式人工智能大模型在内容生成、理解推理、多轮对话等方面达到超预期的高度，将为数字经济蓬勃发展提供垂直化、场景化、个性化的应用工具，广泛赋能电子商务、创意产业、金融服务、医疗健康等领域。但目前主流的生成式人工智能属于“黑箱”模型，在应用中可能会产生有害言论、虚假信息、隐私泄露、偏见歧视等风险。发展可信安全的生成式人工智能已成为全球共识。发展与安全是一体两翼、辩证统一的关系，安全为生成式人工智能发展提出规范要求，同时也是其被市场应用、社会接受的基础。	過去2年間、生成的AIモデルはコンテンツ生成、理解・推論、多ラウンド対話などの面で高い期待水準に達しており、デジタル経済の発展に垂直的、シナリオベース、個別化された応用ツールを提供し、電子商取引、クリエイティブ産業、金融サービス、医療などの分野に広く力を与えるだろう。 しかし、現在主流となっている生成的AIは「ブラックボックス」モデルであり、その応用において有害発言、虚偽情報、プライバシー漏洩、偏見差別などのリスクを発生させる可能性がある。 信頼性が高く安全な生成的AIの開発は、世界的なコンセンサスとなっている。 生成的AIの開発のための安全性は、規範的な要件を提示するだけでなく、その市場適用、社会的受容の基礎でもある。
《办法》坚持发展与安全并重、创新与治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管。一方面，围绕应用、研发、基础设施等多措并举打造自主开放的创新生态，鼓励生成式人工智能技术在各行业、各领域的创新应用，支持相关机构在技术创新、数据资源建设、转化应用、风险防范等方面开展协作，鼓励基础技术的自主创新，平等互利开展国际交流与合作，推动生成式人工智能基础设施和公共训练数据资源平台建设。另一方面，构建起了鼓励多方主体参与、贯穿生成式人工智能服务全流程的规范体系，对训练数据处理、生成式人工智能服务规范做了相应要求，规定了安全评估、算法备案、投诉举报等配套制度，明确了法律责任和发现违法内容的处置措施。《办法》还对国家有关主管部门的管理提出了要求，针对生成式人工智能的技术特点和服务特征，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。《办法》为生成式人工智能健康有序发展奠定了坚实的制度基础，也为大模型等新技术的监管做出了示范。	本措置は、開発と安全性を同等に重視し、イノベーションとガバナンスを組み合わせるという原則を堅持し、包括的かつ慎重で、分類され、段階的な監督を実施する。 一方では、応用、研究開発、インフラ、その他の措置をめぐって自律的で開放的なイノベーション・エコシステムを構築し、各産業・分野における生成的AI技術の革新的応用を奨励し、関連機関が技術革新、データ資源の構築、転換、応用、リスク防止で協力することを支援し、基礎技術の自主的イノベーションを奨励し、平等で互恵的な国際交流・協力を実施し、生成的AIの普及を促進する。 インフラと公共訓練データ資源プラットフォームの建設を促進する。 一方、同弁法は、複数の当事者の参加を促し、生成型AIサービスの全過程を貫く規範体系を構築し、訓練データ処理と生成型AIサービスの仕様に対応する要件を定め、安全性アセスメント、アルゴリズム申請、苦情報告などの支援制度を規定し、違法コンテンツの発見に対する法的責任と措置を明確にしている。 また、本措置は、関連国家当局の管理に対して、イノベーションの発展に適合する科学的規制アプローチを改善し、生成的AIの技術的特徴及びサービス特徴に対応する分類及び等級規制規則又はガイドラインを策定することを要求している。 本措置は、生成的AIの健全かつ秩序ある発展のための強固な制度的基礎を築き、ビッグモデルなどの新技術の規制も実証した。
下一步，落实《办法》精神和相关要求，需要业内科研机构和企业一起努力，在相关部门支持下，推进重点领域攻关，打造我国生成式人工智能“发展”与“安全”的双基座。在发展基座方面，进一步研发并开源高质量的基础模型，同时构建面向大模型研发与应用的全链条开源体系，贯穿数据、预训练、微调、部署和评测各个环节，降低我国大模型研发和商用开发的门槛。在安全基座方面，推进构建生成式人工智能高质量数据集，研发相关系列标准，建设生成式人工智能评测平台，打造“数据、标准、评测”一体化的生成式人工智能大模型可信安全体系，为生成式人工智能健康发展和规范应用保驾护航。（作者：乔宇　上海人工智能实验室主任助理、教授）	次の段階として、弁法の精神と関連する要求事項を実施するには、科学研究機関と業界企業の努力が必要であり、関連部門の支援を受けて、研究開発の重点分野を推進し、中国における生成的AIの「発展」と「安全」のための二重の台座を構築する必要がある。 開発基盤の面では、高品質の基本モデルをさらに開発し、オープンソース化すると同時に、大規模モデルの開発と応用のためのフルチェーンのオープンソースシステムを構築し、データ、事前学習、微調整、展開、評価を通じて、中国の大規模モデル開発と商業開発の敷居を下げる。 セキュリティ基盤の面では、生成的AIの高品質データセットの構築、関連する一連の標準の研究開発、生成的AI評価プラットフォームの構築を推進し、「データ、標準、評価」を統合した生成的AI大型モデルの信頼できるセキュリティシステムを構築し、生成的AIの健全な発展と標準化された応用を支援する。 (筆者：喬宇、上海AI研究所副所長兼教授）

---

● まるちゃんの情報セキュリティ気まぐれ日記

・2023.07.14 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15

・2023.04.12 中国 意見募集 生成的人工知能サービス管理弁法