中国 TC260 意見募集 国家標準 「サイバーセキュリティ技術：生成的人工知能サービスのセキュリティに関する基本要件」案 (2024.05.23)

こんにちは、丸山満彦です。

中国の国家情報セキュリティ標準化技術委員会 (TC260) が「生成的人工知能サービスのセキュリティに関する基本要件」の草案を公表し、意見募集をしていますね。。。

内容はこんな感じ...

• 5 トレーニングデータ・セキュリティ要件
  • 5.1 データ源のセキュリティ
  • 5.2 データ・コンテンツのセキュリティ
  • 5.3 データ・ラベリングのセキュリティ
• 6 モデルセキュリティ要件
• 7 セキュリティ対策の要件

● 全国信息安全标准化技术委员会

・2024.05.23 关于国家标准《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿征求意见的通知

・[PDF] 网络安全技术 生成式人工智能服务安全基本要求-标准文本

・[DOCX][PDF] 仮訳

説明...

・[PDF] 网络安全技术 生成式人工智能服务安全基本要求-编制说明

対訳...　↓　↓　↓

一、工作简况	I. 業務の簡単な説明
1.1 任务来源	1.1 課題の源
为加强网络安全国家标准在国家网络安全保障工作中的基础性、规范性、引领性作用，全国网络安全标准化技术委员会秘书处调研国家网络安全重点工作和技术产业发展需求，研究形成了2023年度第二批网络安全国家标准需求清单，其中包含本标准，中国电子技术标准化研究院联合数十家相关单位参与申报本标准，已完成在网络安全标准化技术委员会的立项工作。	国家サイバーセキュリティ標準化技術委員会事務局は、国家サイバーセキュリティ作業における国家サイバーセキュリティ標準の基本的、規範的、先導的役割を強化するため、国家サイバーセキュリティ重 要作業と技術・産業発展ニーズを調査し、本標準を含む 2023 年国家サイバーセキュリティ標準第 2 バッチのリストを作成し、中国電子技術標準化研究院（CNIET） は数十の関連ユニットと共同で本標準の宣言に参加した。 中国電子技術標準化研究院は、数十の関連ユニットと共同で本標準を宣言し、ネットワークセキュリティ標準化技術委員会のプロジェクト作業を完了した。
本标准支撑《生成式人工智能服务管理暂行办法》（以下简称《办法》），	本標準は、「生成的AIサービス管理暫定弁法」（以下「弁法」という）を支持する。
给出了生成式人工智能服务在安全方面的基本要求，包括训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。	学習データのセキュリティ、モデルのセキュリティ、セキュリティ対策など、生成的人工知能サービスのセキュリティに関する基本的な要件を示し、セキュリティ評価の参考となるポイントを示している。
1.2 制定背景	1.2 背景
生成式人工智能已成为继移动互联网技术之后最大的一波技术浪潮，在全球范围内引发科技巨头争相布局、掀起创业热潮的链式反应，同时也带来了新的安全风险和挑战。2023年7月，国家网信办等七部门发布了《办法》，从政策法规层面为我国生成式人工智能健康发展保驾护航，为有序开展相关管理工作明确了方向。为响应中央重视生成式人工智能发展，营造创新生态，重视防范风险的要求，在生成人工智能的训练数据、数据标注、生成内容、用户权益等方面开展安全保护，全方位支撑《办法》，推动生成式人工智能的安全健康发展，《网络安全技术 生成式人工智能服务安全基本要求》被列入国家标准需求。	2023年7月、国家インターネット情報弁公室とその他の7つの部門は「弁法」を発表し、中国における生成的AIの健全な発展を政策と法規のレベルから支援し、関連管理作業を秩序立てて実施する方向を明らかにした。 関連管理業務は明確な方向性を持って実施されている。 中央政府が生成的AIの発展、イノベーション・エコシステムの構築、リスク予防の重要性を強調していることを受け、生成的AIの訓練データ、データ注釈、生成コンテンツ、ユーザーの権益の分野でセキュリティ保護を実施し、あらゆる面で対策を支援し、生成的AIの安全で健全な発展を促進するため、「サイバーセキュリティ技術のための生成的AIサービスのセキュリティに関する基本要件」が国家標準要件に盛り込まれた。 .
本标准对《办法》中的安全要求进行细化，规定了生成式人工智能服务在安全方面的基本要求，针对当前生成式人工智能服务研发过程中的网络安全、数据安全、个人信息保护，以及面向服务过程中的应用场景安全风险、软硬件环境安全风险、生成内容安全风险、权益保障安全风险等方面，提出细化安全要求，帮助明确服务网络安全基线、提高企业服务安全水平。充分发挥标准对生成式人工智能管理工作的支撑作用，对防范生成式人工智能重大安全风险、提升生成式人工智能安全水平起到规范引导作用，促进生成式人工智能行业安全发展。	本標準は、措置におけるセキュリティ要件を精緻化し、生成的AIサービスのセキュリティに関する基本要件を規定し、現在の生成的AIサービスの研究開発プロセスにおけるネットワークセキュリティ、データセキュリティ、個人情報保護のほか、サービス指向プロセスにおけるアプリケーションシナリオのセキュリティリスク、ソフトウェア・ハードウェア環境のセキュリティリスク、コンテンツ生成のセキュリティリスク、権利利益保護のセキュリティリスクなどを提示している。 サービスネットワークのセキュリティ基本水準を明確にし、企業サービスのセキュリティレベルを向上させるために、セキュリティ要求事項を精緻化する。 生成的AIの管理に関する標準のサポートの役割を十分に発揮し、生成的AIの主要なセキュリティリスクの防止を規制・指導し、生成的AIのセキュリティレベルを向上させ、生成的AI産業の安全な発展を促進する。
1.3 主要工作过程	1.3 主な作業プロセス
1、 2023年6月，成立标准编制组，开展标准制定前期的技术积累，调研国内外生成式人工智能的技术发展、产业化应用情况、安全应用需求等，并启动标准编制工作。	1、2023年6月、標準化準備グループを設立し、標準化前段階の技術蓄積を行い、国内外の生成的AIの技術発展、産業応用状況、安全応用需要を調査し、標準化準備作業を開始する。
2、 2023年6月至7月，编制组针对重点问题进行调查研究，分析国内主要生成式人工智能企业情况，调研生成式人工智能常用训练数据集安全性，经多次内部讨论、广泛征求意见，初步形成标准草案。	2、2023年6月から7月にかけて、編纂グループは重要な問題について調査研究を行い、国内の主要な生成的AI企業の状況を分析し、生成的AIに一般的に使用される訓練データセットの安全性を研究し、多くの内部議論と広範な協議を経て、最初に標準案を形成した。
3、 2023年8月，编制组经多次内部讨论、广泛征求意见，结合国内外生成式人工智能发展情况，组织30余家相关单位多次展开调研、召开研讨会，多次组织专家会，先后形成10余版标准草案。	3、2023年8月、編纂チームは、多くの内部討議と広範な協議を経て、国内外の生成的人工知能の発展と結合し、30以上の関連部門を組織して研究を行い、セミナーを開催し、多くの専門家会議を組織し、10以上のバージョンの標準草案を作成した。
4、 2023年8月30日，编制组在大数据安全标准特别工作组立项研讨会上，向工作组汇报了本标准的编制情况，工作组成员单位对本标准草案进行讨论并投票，最终表决通过。编制组根据各单位意见进行修改，完善标准草案。	4、2023年8月30日、ビッグデータセキュリティ標準化タスクフォースのプロジェクト設立ワークショップにおいて、準備グループからタスクフォースに本標準の作成が報告され、タスクフォースのメンバー単位で本標準の草案について議論し、最終的に投票・可決された。 取りまとめグループでは、各単位の意見に基づき修正を加え、規格案をより良いものにしていく。
5、 2023年9月，编制组多次召开内部研讨会，修改完善标准草案。	5、2023 年 9 月、準備グループは数回の内部セミナーを開催し、標準案の修正と改善を行った。
6、 2023年9月16日，编制组在网安标委组织的2023年第二批网络安全国家标准立项专家评审会上，向专家组汇报本标准编制情况，专家组同意通过对本标准的审查。编制组根据专家意见进行修改，完善标准草案。	6、2023年9月16日、ネットワークセキュリティ標準委員会主催の2023年サイバーセキュリティ国家標準第二陣専門家審査会において、準備グループは本標準の準備状況を専門家グループに報告し、専門家グループは本標準の審査を通過することに同意した。 準備グループは、専門家の意見に従って修正を加え、標準案を改善する。
7、 2023年9月28日、10月8日，编制组组织召开专家研讨会，根据专家意见进行修改，完善标准草案。	7、2023年9月28日、10月8日、準備グループは専門家セミナーを開催し、専門家の意見に従って標準案を修正し、改善する。
8、 2023年11月3日，编制组在网安标委2023年第二次标准周活动的大数据安全标准特别工作组会议上，向工作组汇报本标准的编制情况，工作组成员单位对本标准草案进行讨论并投票，最终表决通过，推荐转为征求意见稿。编制组根据意见进行修改，完善标准草案。	8、2023年11月3日、準備グループは、ネットセキュリティ標準委員会では、2023年ビッグデータセキュリティ標準タスクフォース会議の2番目の標準週間の活動は、この標準の準備に関するワーキンググループに報告するために、ワーキンググループのメンバーは、標準案の議論と投票、最終的な投票は、コメントのためのドラフトにすることをお勧めします。 準備グループは、コメントに応じて変更を加え、ドラフト標準を改善する。
9、 2023年11月8日，编制组组织召开专家研讨会，根据专家意见对标准内容进行修改，完善标准草案。	9、2023年11月8日、準備グループは、専門家のセミナーを開催し、修正のための標準の内容に関する専門家の意見によると、標準案を改善する。
10、 2023年11月-2024年3月，编制组多次召开内部研讨会，密集推动标准草案的完善工作，先后形成了10余版征求意见稿。	10、2023年11月 - 2024年3月、準備グループは、いくつかの内部セミナーを開催し、集中的に基準案の改善を促進し、コメントのための草案の10以上のバージョンを形成している。
11、 11、2024年4月11日，编制组在网安标委组织的征求意见稿专家审查会上，向专家组汇报标准主要技术内容及意见处理情况，专家组同意通过对本标准的审查。编制组根据专家意见进行修改，完善征求意见稿。	11、2024年4月11日、ネットワークセキュリティ標準委員会の準備グループは、専門家による暴露草案のレビューでは、標準の主な技術的内容とコメントの処理に関する専門家グループに報告するために組織され、専門家グループは、この標準のレビューを渡すことに合意した。 修正のための専門家のコメントに応じて準備グループは、公開草案を改善する。
12、 2024年4月12日、4月18日，编制组多次组织召开专家研讨会，对征求意见稿进行讨论，会后根据专家意见进行修改，完善征求意见稿。	12、2024年4月12日、4月18日、準備グループは、公開草案を修正し、公開草案を改善するために専門家によると、会議の後、公開草案を議論する専門家セミナーの数を開催した。
13、 2024年5月6日，编制组召开内部研讨会，修改完善征求意见稿。	13、2024年5月6日、草案を修正・改善するための内部セミナーを開催した。
14、 2024年5月11日，编制组向新技术安全标准特别工作组汇报标准编制情况，工作组对标准征求意见稿进行讨论，同意本标准面向社会征求意见。	14、2024年5月11日、新技術安全基準タスクフォースへの準備グループは、標準の準備について報告し、ワーキンググループは、コメントのための標準案を議論するために、パブリックコメントのための標準に合意した。
15、 2024年5月14日，编制组召开内部研讨会，根据工作组专家意见进行修改，完善征求意见稿。	15、2024年5月14日、準備グループは、ワーキンググループの専門家によると、内部セミナーを開催修正し、コメントのためのドラフトを改善した。
二、标准编制原则、主要内容及其确定依据	II. 標準の準備の原則、主な内容とその決定根拠
2.1 标准编制原则	2.1 標準作成の原則
本标准的编制原则是：	本標準の作成原則は以下の通りである：
1） 通用性：面向生成式人工智能服务的共性安全要求编制本文件，帮助相关单位提高安全水平，为评估工作提供依据。	(1) 汎用性：この文書は、生成的AI サービスに共通するセキュリティ要求事項のために作成され、関連部門がセキュリ ティレベルを向上させ、評価作業の基礎を提供することを支援する。
2） 实用性：根据我国生成式人工智能技术的发展情况以及生成式人工智能服务的实际应用场景编制本标准，使其在指导生成式人工智能服务方面具有很强的实用性。	(2)実用性：中国における生成的AI技術の発展及び生成的AIサービスの実際の応用シナリオに従って本標準を作成し、生成的AIサービスを指導する上で実用性の高いものとする。
3） 符合性：符合国家有关法律法规和已有标准规范的相关要求。	(3) 適合性：関連する国内法規及び既存の標準・基準の関連要求に沿う。
2.2 主要内容及其确定依据	2.2 主な内容とその判断根拠
本标准针对生成式人工智能服务存在的安全风险，对现有生成式人工智能技术及其面向公众提供的服务进行分析与调研，对《办法》中的安全要求进行细化，规定了生成式人工智能服务在安全方面的基本要求，包括训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。	本標準は、生成的AIサービスのセキュリティリスクを取り上げ、既存の生成的AI技術と一般に提供されるそのサービスを分析・研究し、「対策」におけるセキュリティ要件を精緻化し、トレーニングデータのセキュリティ、モデルのセキュリティ、セキュリティ対策など、セキュリティの観点から生成的AIサービスの基本要件を規定し、セキュリティ評価の参考点を示す。
在标准编制过程中，本标准充分吸收了数十家单位的头部企业、研究机构的研究成果和应用实践，具备较好的产业基础，以及技术先进性、创新性。在后续编制过程中，本标准也会根据生成式人工智能发展与安全情况持续完善。标准工作基于TC260-003《生成式人工智能服务安全基本要求》，该文件已经在各管理部门、各企业有较好共识，并已形成相关安全实践，已经在各企业获得了普遍实践，标准内容的产业化基础比较充分。	本標準の作成過程において、本標準は数十の企業トップユニットと研究機関の研究成果と応用実践を全面的に吸収し、良好な産業基礎と技術の進歩と革新がある。 その後の作成過程において、本標準は生成的AIの発展と安全性に応じて、継続的に改善される。 本標準作業はTC260-003「生成的AIサービスの安全に関する基本要求」に基づいており、すでに各管理部門と企業の間でより良いコンセンサスを得ており、関連する安全実務を形成しており、すでに各企業で一般的な実務を獲得しており、標準内容の産業化基礎は比較的十分である。
2.3 修订前后技术内容的对比[适用于国家标准修订项目] 不涉及。	2.3 改訂前後の技術内容の比較【国家標準改訂プロジェクトに適用】 関係ない。
三、试验验证的分析、综述报告，技术经济论证，预期的经济效益、社会效益和生态效益	III. 試験検証、技術的・経済的正当性、期待される経済的・社会的・生態学的便益の分析と統合報告書
3.1 试验验证的分析、综述报告	3.1 試験検証の分析と統合報告書
生成式人工智能服务快速发展的当下，在训练数据、数据标注、生成内容安全、生成内容标识、使用者权益保护以及反歧视、透明性等方向均迫切需要有指导性要求为提供者指引，本标准通过基本要求的纲领性条款为服务提供者提供指导性的合规和安全建设的方向，标准范围覆盖生成式人工智能的各个维度。在标准试点执行层面，将选取典型的服务提供者、基于典型的业务场景和典型的安全条款开展标准的应用推广试点工作。	生成的AIサービスの急速な発展において、訓練データ、データ注釈、生成コンテンツの安全性、生成コンテンツのラベリング、利用者の権利保護、反差別、透明性等の方向性において、プロバイダに対するガイド要件が急務である。 本標準の範囲は、生成的AIのすべての次元をカバーしている。 標準の試験的実施のレベルでは、典型的なビジネスシナリオと典型的なセキュリティ規定に基づき、標準の試験的適用促進を実施する典型的なサービスプロバイダーが選定される。
本标准的应用推广牵头单位为北京百度网讯科技有限公司，标准的应用实施试点工作单位拟选取若干已经对公众提供服务的生成式人工智能服务提供者，或者有标准条款中的全部或者部分实施经验的企业。各试点单位结合试点实施报告，梳理各自试点情况，研提对标准的修改意见、标准推广的思路等，形成试点工作总结报告。组织方在各试点单位总结的基础上，完成试点工作整体情况的总结，并召开试点总结会议，对试点工作进行总结，对相关成果进行验收。	本標準の適用推進の主導単位は北京百度網絡科技有限公司であり、本標準の適用実施のパイロット単位は、すでに一般にサービスを提供している多くの生成的AIサービスプロバイダー、または標準条項の全部または一部を実施した経験を持つ企業から選ばれる。 パイロット単位は、パイロット実施報告書と組み合わせて、自らのパイロット状況を整理し、標準の修正、標準の普及のアイデアなどを調査・提案し、パイロット総括報告書を作成する。 パイロットの総括を基に、主催者はパイロット作業全体の総括を完成させ、パイロット総括会議を開催し、パイロット作業を総括し、関連する結果を受け入れる。
3.2预期的经济效益、社会效益和生态效益	3.2 期待される経済的、社会的、生態学的利益
通过试点工作，对标准条款的准确性和适用性进行实操演练，吸纳行业内的最佳实践，解决标准中的难点，为标准的进一步完善和标准推广打好基础。试点中将总结过程中的优秀案例，通过典型企业的典型实践，为行业内树立标杆，促进企业安全与合规能力的建设，快速推进生成式人工智能服务的规范化、合规化。试点也为标准后续实施奠定基础，通过试点工作了解行业现状、企业难点，通过标准编制组、技术支撑单位、参与企业的通力合作，为行业推广时识别风险，扫清障碍，促进标准的落地实施。	パイロット作業を通じて、標準条項の正確性と適用性が実践され、業界のベストプラクティスが吸収され、標準の難点が解決され、標準のさらなる改善と標準の普及のための良い基礎が築かれる。 この試行は、プロセスにおける優れた事例をまとめ、典型的な企業の典型的な実践を通じて業界のベンチマークを設定し、企業の安全およびコンプライアンス能力の構築を促進し、生成的AIサービスの標準化とコンプライアンスを迅速に推進する。 また、パイロット作業を通じて、業界の現状、企業の困難を理解し、標準作成チーム、技術サポートユニット、参加企業の全面的な協力を通じて、業界を促進する際のリスクを特定し、障害を取り除き、現場での標準の実施を促進する。
四、与国际、国外同类标准技术内容的对比情况，或者与测试的国外样品、样机的有关数据对比情况不涉及。	IV. 同種の国際標準や外国標準との技術内容の比較、または外国サンプルのテスト、関連データの比較のプロトタイプは関与していない。
五、以国际标准为基础的起草情况，以及是否合规引用或者采用国际国外标准，并说明未采用国际标准的原因不涉及。	V. 国際標準に基づいて起草し、引用または採用した国際標準と外国標準を遵守し、国際標準を採用しない理由は関係ない。
六、 与有关法律、行政法规及相关标准的关系	VI. 関連法律、行政法規及び関連標準との関係
本标准《网络安全技术 生成式人工智能服务安全基本要求》与在研国家标准《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》《网络安全技术 生成式人工智能数据标注安全规范》均为《办法》的配套支撑文件。	本標準「ネットワークセキュリティ技術の生成的人工知能サービスのセキュリティに関する基本要件」及び研究中の国内標準「ネットワークセキュリティ技術の生成的人工知能の事前訓練及び最適化訓練データのセキュリティに関する仕様」、「ネットワークセキュリティ技術の生成的人工知能のデータラベリングのセキュリティに関する仕様」は、いずれも本対策の裏付け資料である。
七、 重大分歧意见的处理经过和依据不涉及。	VII. 主要な意見の相違の処理過程と根拠は、関与していない。
八、 涉及专利的有关说明不涉及。	VIII. 特許に関連する説明は含まない。
九、 实施国家标准的要求，以及组织措施、技术措施、过渡期和实施日期的建议等措施建议	IX. 国内標準の実施要件、および組織的対策、技術的対策、移行期間、実施時期などの対策の提案
本标准规定了生成式人工智能服务在安全方面的基本要求，包括训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。	本標準は、訓練データのセキュリティ、モデルのセキュリティ、セキュリティ対策など、セキュリテ ィの観点から生成的AIサービスの基本要件を規定し、セキュリティ評価の基準点を示す。
本标准适用于以交互界面、可编程接口等形式向公众提供生成式人工智能服务的组织或个人。可用于指导生成式人工智能服务提供者开展安全评估，也可为相关主管部门提供参考。	本標準は、対話型インタフェース、プログラマブル・インタフェース、その他の形態で生成的人工知能サービスを一般に提供する組織または個人に適用される。 本標準は、生成的AIサービス提供者が安全性評価を実施する際の指針として利用できるほか、関係当局への参考資料とすることもできる。
十、 其他应当说明的事项无。	X. その他明確にすべき事項 特になし。
标准编制组 2024年5月15日	標準開発グループ 2024 年 5 月 15 日