« シンガポール サイバーセキュリティ戦略2021 | Main | 米国 K-12サイバーセキュリティ法2012 »

2021.10.12

中国 科学技術部 新世代の人工知能倫理規定 at 2021.09.26

こんにちは、丸山満彦です。

中国の科学技術部が「 新世代の人工知能倫理規定」を発表していますね。。。

科学技术部

・2021.09.26 《新一代人工智能伦理规范》发布

  1. 人間の福祉の増進
  2. 公正と正義の推進
  3. プライバシーとセキュリティの保護
  4. 制御性と信頼性の確保
  5. 責任の強化
  6. 倫理意識の向上

の6つの基本的な倫理要件を定めていますね。。。

 

《新一代人工智能伦理规范》发布 「新世代の人工知能倫理規定」を発表
9月25日,国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称《伦理规范》),旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。 9月25日、「新世代人工知能のガバナンスに関する国家専門委員会」は、人工知能のライフサイクル全体に倫理を統合し、AI関連の活動に従事する自然人、法人、その他の関連機関等に倫理的なガイドラインを提供することを目的とした「新世代人工知能の倫理コード」(以下、倫理コード)を発表しました。
《伦理规范》经过专题调研、集中起草、意见征询等环节,充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切,包括总则、特定活动伦理规范和组织实施等内容。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时,提出人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。《伦理规范》全文如下: 倫理規定は、プライバシー、偏見、差別、公正さに関する現在の倫理的懸念を十分に考慮した上で、調査、集中的な起草、協議のプロセスを経て作成されており、一般的な規定、特定の活動に対する倫理的規範、組織的な実施方法が含まれています。 倫理綱領では、「人間の福祉の増進」「公正と正義の推進」「プライバシーとセキュリティの保護」「制御性と信頼性の確保」「責任の強化」「倫理意識の向上」の6つの基本的な倫理要件を定めています。 同時に、人工知能の管理、研究開発、供給、使用などの具体的な活動に対して、18の具体的な倫理的要件が提案されています。 倫理綱領の全文は以下の通りです。
  新一代人工智能伦理规范为深入贯彻《新一代人工智能发展规划》,细化落实《新一代人工智能治理原则》,增强全社会的人工智能伦理意识与行为自觉,积极引导负责任的人工智能研发与应用活动,促进人工智能健康发展,制定本规范。   新世代人工知能倫理綱領」は、「新世代人工知能開発計画」の徹底、「新世代人工知能ガバナンス原則」の精緻化と実行、人工知能の倫理と行動意識に対する社会全体の意識の向上、責任ある人工知能の研究開発と応用活動の積極的な指導、人工知能の健全な発展の促進を目的として策定されたものです。

 

具体的な規定は次のとおりです。。。

第一章 总则 第1章 総則
第一条 本规范旨在将伦理道德融入人工智能全生命周期,促进公平、公正、和谐、安全,避免偏见、歧视、隐私和信息泄露等问题。 第1条 本コードは、倫理・道徳を人工知能のライフサイクル全体に統合し、公正・正義・調和・安全を促進し、偏見・差別・プライバシー・情報漏洩などの問題を回避することを目的としています。
第二条 本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。(一)管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施,资源配置以及监督审查等。(二)研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。(三)供应活动主要指人工智能产品与服务相关的生产、运营、销售等。(四)使用活动主要指人工智能产品与服务相关的采购、消费、操作等。 第2条 この規程は、AIの管理、研究開発、提供・利用、その他関連する活動を行う自然人、法人、その他関連機関等に適用されます。 (1)マネジメント活動とは、主にAIに関する戦略立案、政策・規制・技術基準の策定と実施、資源配分、監督・審査を指します。 (2)研究開発活動とは、主にAIに関する科学研究、技術開発、製品開発などを指します。 (3)供給活動とは、主にAI製品・サービスの生産、運用、販売を指します。 (4)利用活動とは、主にAI製品・サービスに関わる調達、消費、運用などを指します。
第三条 人工智能各类活动应遵循以下基本伦理规范。(一)增进人类福祉。坚持以人为本,遵循人类共同价值观,尊重人权和人类根本利益诉求,遵守国家或地区伦理道德。坚持公共利益优先,促进人机和谐友好,改善民生,增强获得感幸福感,推动经济、社会及生态可持续发展,共建人类命运共同体。(二)促进公平公正。坚持普惠性和包容性,切实保护各相关主体合法权益,推动全社会公平共享人工智能带来的益处,促进社会公平正义和机会均等。在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案。(三)保护隐私安全。充分尊重个人信息知情、同意等权利,依照合法、正当、必要和诚信原则处理个人信息,保障个人隐私与数据安全,不得损害个人合法数据权益,不得以窃取、篡改、泄露等方式非法收集利用个人信息,不得侵害个人隐私权。(四)确保可控可信。保障人类拥有充分自主决策权,有权选择是否接受人工智能提供的服务,有权随时退出与人工智能的交互,有权随时中止人工智能系统的运行,确保人工智能始终处于人类控制之下。(五)强化责任担当。坚持人类是最终责任主体,明确利益相关者的责任,全面增强责任意识,在人工智能全生命周期各环节自省自律,建立人工智能问责机制,不回避责任审查,不逃避应负责任。(六)提升伦理素养。积极学习和普及人工智能伦理知识,客观认识伦理问题,不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论,深入推动人工智能伦理治理实践,提升应对能力。 第3条 AIのあらゆる活動は、以下の基本的な倫理規範に従わなければならない。 (1) 人間の福祉の増進 人を第一に考え、人類共通の価値観に従い、人権と人間の基本的利益を尊重し、国や地域の倫理や道徳を守ることを主張する。 公共の利益を優先し、人間と機械の調和と友好を促進し、人々の生活を向上させ、幸福感を高め、経済、社会、生態系の持続的な発展を促進し、人類の運命共同体を構築するものでなければならない。 (2)公平性と公正性の促進 普遍性と包括性の原則を遵守し、関連するすべての対象者の正当な権利と利益を効果的に保護し、AIがもたらす利益の社会全体での公正な共有を促進し、社会正義と機会の平等を推進します。 AI製品やサービスを提供する際には、不利な立場にある人々や特別な立場にある人々を十分に尊重し、支援するとともに、必要に応じて適切な代替手段を提供しなければなりません。 (iii) プライバシーとセキュリティの保護 個人情報の情報化と同意の権利を十分に尊重し、合法性、正当性、必要性、誠実性の原則に従って個人情報を取り扱い、個人のプライバシーとデータセキュリティを保護し、個人の正当なデータの権利を傷つけず、盗用、改ざん、漏洩などによる個人情報の不正な収集と使用を行わず、個人のプライバシー権を侵害しない。 (4)制御性と信頼性の確保 人間の意思決定における完全な自律性、AIが提供するサービスを受けるかどうかを選択する権利、いつでもAIとの対話から撤退する権利、いつでもAIシステムの運用を停止する権利を確保し、AIが常に人間の管理下に置かれるようにする。 (5)責任感の強化 人間に最終的な責任があることを主張し、利害関係者の責任を明確にし、責任意識を全面的に高め、AIのライフサイクルのすべての局面で自省と自己管理を行い、AIの説明責任のメカニズムを確立し、責任の見直しを回避したり、責任を問われることを回避したりしないこと。 (vi) 倫理的リテラシーの向上 AI倫理の知識を積極的に学び、普及させ、倫理的問題を客観的に理解し、倫理的リスクを過小評価したり誇張したりしない。 人工知能の倫理的な問題に関する議論を積極的に行い、人工知能の倫理的なガバナンスの実践を徹底的に推進し、対応能力を強化する。
第四条 人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。 第4条 特定のAI活動において遵守すべき倫理規範には、管理規範、研究開発規範、供給規範、使用規範があります。
第二章 管理规范 第2章 管理規定
第五条 推动敏捷治理。尊重人工智能发展规律,充分认识人工智能的潜力与局限,持续优化治理机制和方式,在战略决策、制度建设、资源配置过程中,不脱离实际、不急功近利,有序推动人工智能健康和可持续发展。 第5条 アジャイルガバナンスの推進:AI発展の法則を尊重し、AIの可能性と限界を十分に理解し、ガバナンスのメカニズムとアプローチを継続的に最適化し、戦略的意思決定、システム構築、資源配分のプロセスにおいて、現実から離れたり、急いだりすることなく、秩序ある方法でAIの健全で持続可能な発展を促進すること。
第六条 积极实践示范。遵守人工智能相关法规、政策和标准,主动将人工智能伦理道德融入管理全过程,率先成为人工智能伦理治理的实践者和推动者,及时总结推广人工智能治理经验,积极回应社会对人工智能的伦理关切。 第6条 積極的な実践のデモンストレーション:AI関連の規制、方針、基準を遵守し、率先してAI倫理を経営プロセス全体に統合し、率先してAI倫理ガバナンスの実践者・推進者となり、AIガバナンスの経験をタイムリーにまとめて普及させ、AIに関する社会の倫理的関心に積極的に対応すること。
第七条 正确行权用权。明确人工智能相关管理活动的职责和权力边界,规范权力运行条件和程序。充分尊重并保障相关主体的隐私、自由、尊严、安全等权利及其他合法权益,禁止权力不当行使对自然人、法人和其他组织合法权益造成侵害。 第7条 適切な権利行使:AI関連の管理活動の責任と権限の境界を明確にし、権限を運用するための条件と手順を規定する。 関連する対象者のプライバシー、自由、尊厳、安全、およびその他の正当な権利と利益を十分に尊重し、保護し、自然人、法人、およびその他の組織の正当な権利と利益を侵害するような不適切な権力行使を禁止すること。
第八条 加强风险防范。增强底线思维和风险意识,加强人工智能发展的潜在风险研判,及时开展系统的风险监测和评估,建立有效的风险预警机制,提升人工智能伦理风险管控和处置能力。 第8条 リスク対策の強化:ボトムライン思考とリスク認識を強化し、AI開発における潜在的なリスクの調査と判断を強化し、適時で体系的なリスクの監視と評価を行い、効果的なリスク警告メカニズムを確立し、AIの倫理的リスクの管理と処分の能力を強化すること。
第九条 促进包容开放。充分重视人工智能各利益相关主体的权益与诉求,鼓励应用多样化的人工智能技术解决经济社会发展实际问题,鼓励跨学科、跨领域、跨地区、跨国界的交流与合作,推动形成具有广泛共识的人工智能治理框架和标准规范。 第9条 包括性と開放性の促進:AIに関わるすべてのステークホルダーの権利と要求に十分な注意を払い、経済・社会発展の現実的な問題を解決するために多様なAI技術の適用を奨励し、学際的、異分野的、地域的、国境的な交流と協力を促進し、幅広いコンセンサスのあるAIガバナンスフレームワークと標準的な規範の形成を促進すること。
第三章 研发规范 第3章 研究開発規定
第十条 强化自律意识。加强人工智能研发相关活动的自我约束,主动将人工智能伦理道德融入技术研发各环节,自觉开展自我审查,加强自我管理,不从事违背伦理道德的人工智能研发。 第10条 自律意識の強化:AI研究開発関連の自主規制を強化し、技術研究開発のあらゆる側面にAI倫理を統合することを率先して行い、意識的に自己検閲を行い、自己管理を強化し、倫理・道徳に反するAI研究開発を行わないこと。
第十一条 提升数据质量。在数据收集、存储、使用、加工、传输、提供、公开等环节,严格遵守数据相关法律、标准与规范,提升数据的完整性、及时性、一致性、规范性和准确性等。 第11条 データ品質の向上:データの収集、保管、使用、処理、送信、提供、開示の過程では、データ関連の法律、基準、規範を厳格に遵守し、データの整合性、適時性、一貫性、標準化、正確性などを向上させること。
第十二条 增强安全透明。在算法设计、实现、应用等环节,提升透明性、可解释性、可理解性、可靠性、可控性,增强人工智能系统的韧性、自适应性和抗干扰能力,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。 第12条 安全性と透明性の向上:アルゴリズムの設計、実装、応用においては、透明性、解釈可能性、理解可能性、信頼性、制御可能性を高め、AIシステムの回復力、自己適応性、反干渉性を強化し、検証可能性、監査可能性、監督可能性、追跡可能性、予測可能性、信頼性を徐々に実現していくこと。
第十三条 避免偏见歧视。在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见,努力实现人工智能系统的普惠性、公平性和非歧视性。 第13条 偏見による差別の回避:データ収集やアルゴリズム開発においては、倫理的な審査を強化し、差別的な主張を十分に考慮し、データやアルゴリズムの偏りの可能性を回避し、AIシステムの普遍性、公平性、無差別性の実現に努めること。
第四章 供应规范 第4章 供給規定
第十四条 尊重市场规则。严格遵守市场准入、竞争、交易等活动的各种规章制度,积极维护市场秩序,营造有利于人工智能发展的市场环境,不得以数据垄断、平台垄断等破坏市场有序竞争,禁止以任何手段侵犯其他主体的知识产权。 第14条 市場ルールの尊重:市場へのアクセス、競争、取引などに関する各種規則を厳格に遵守し、積極的に市場秩序を維持し、AIの発展に資する市場環境を整備するとともに、データの独占、プラットフォームの独占などで市場の秩序ある競争を損なうことを控え、いかなる手段によっても他の主体の知的財産権を侵害することを禁止すること。
第十五条 加强质量管控。强化人工智能产品与服务的质量监测和使用评估,避免因设计和产品缺陷等问题导致的人身安全、财产安全、用户隐私等侵害,不得经营、销售或提供不符合质量标准的产品与服务。 第15条 品質管理の強化:AI製品・サービスの品質監視と使用評価を強化し、設計や製品の欠陥などに起因する個人の安全、財産の安全、利用者のプライバシーの侵害を回避し、品質基準を満たさない製品・サービスを運営、販売、提供しないこと。
第十六条 保障用户权益。在产品与服务中使用人工智能技术应明确告知用户,应标识人工智能产品与服务的功能与局限,保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案,不得为用户平等使用人工智能设置障碍。 第16条 利用者の権利保護:製品およびサービスにおけるAI技術の使用は、利用者に明確に通知されなければならず、AI製品およびサービスの機能および制限は、情報および同意に対する利用者の権利を保護するために特定されなければならない。 利用者がAIモードを利用するか撤退するかを選択するためのわかりやすいソリューションを提供し、利用者が平等にAIを利用するための障害とならないようにする。
第十七条 强化应急保障。研究制定应急机制和损失补偿方案或措施,及时监测人工智能系统,及时响应和处理用户的反馈信息,及时防范系统性故障,随时准备协助相关主体依法依规对人工智能系统进行干预,减少损失,规避风险。 第17条 緊急時の保護強化:緊急時のメカニズムや損失補償のスキームや手段を検討・開発し、AIシステムをタイムリーに監視し、利用者からのフィードバックにタイムリーに対応・処理し、システム障害をタイムリーに防止し、損失を軽減しリスクを回避するために、法令に基づいてAIシステムに介入する関係主体を支援する準備をします。
第五章 使用规范 第5章 使用規定
第十八条 提倡善意使用。加强人工智能产品与服务使用前的论证和评估,充分了解人工智能产品与服务带来的益处,充分考虑各利益相关主体的合法权益,更好促进经济繁荣、社会进步和可持续发展。 第18条 善意利用の促進:使用前の人工知能製品・サービスのデモンストレーションと評価を強化し、AI製品・サービスがもたらす利益を十分に理解し、すべての利害関係者の合法的な権利と利益を十分に考慮し、経済的繁栄、社会的進歩、持続可能な発展をよりよく促進すること。
第十九条 避免误用滥用。充分了解人工智能产品与服务的适用范围和负面影响,切实尊重相关主体不使用人工智能产品或服务的权利,避免不当使用和滥用人工智能产品与服务,避免非故意造成对他人合法权益的损害。 第19条 誤用・濫用の回避:AI製品・サービスの適用範囲や悪影響を十分に理解し、関連する対象者のAI製品・サービスを使用しない権利を効果的に尊重し、AI製品・サービスの不適切な使用や乱用を避け、意図せずに他者の合法的な権利や利益に損害を与えないようにすること。
第二十条 禁止违规恶用。禁止使用不符合法律法规、伦理道德和标准规范的人工智能产品与服务,禁止使用人工智能产品与服务从事不法活动,严禁危害国家安全、公共安全和生产安全,严禁损害社会公共利益等。 第20条 違法・悪用の禁止:法令や倫理・規格・規範に適合しないAI製品・サービスの使用を禁止し、AI製品・サービスを使用して違法行為を行うことを禁止し、国家安全保障・公安・生産安全を危うくすることを禁止し、社会公共の利益を毀損することを禁止すること。
第二十一条 及时主动反馈。积极参与人工智能伦理治理实践,对使用人工智能产品与服务过程中发现的技术安全漏洞、政策法规真空、监管滞后等问题,应及时向相关主体反馈,并协助解决。 第21条 適時で積極的なフィードバック:AIの倫理的なガバナンスの実践に積極的に参加し、関連するテーマに適時にフィードバックし、AI製品やサービスを利用する過程で見つかった技術的な安全性の抜け穴、政策や規制の空白、規制の遅れなどの問題解決を支援すること。
第二十二条 提高使用能力。积极学习人工智能相关知识,主动掌握人工智能产品与服务的运营、维护、应急处置等各使用环节所需技能,确保人工智能产品与服务安全使用和高效利用。 第22条 利用能力の向上:AI製品・サービスを安全に使用し、効率的に活用するために、AI関連の知識を積極的に学び、運用・保守・緊急時の処理などに必要なスキルを率先して習得する。
第六章 组织实施 第6章 組織への実装
第二十三条 本规范由国家新一代人工智能治理专业委员会发布,并负责解释和指导实施。 第23条 この規定は、新世代人工知能のガバナンスに関する国家専門委員会が発行するものであり、その解釈と実施の指導に責任を持つ。
第二十四条 各级管理部门、企业、高校、科研院所、协会学会和其他相关机构可依据本规范,结合实际需求,制订更为具体的伦理规范和相关措施。 第24条 あらゆるレベルの管理部門、企業、大学、研究機関、協会および学会、その他の関連機関は、この規程に基づき、実際の必要性を考慮して、より具体的な倫理規定および関連する措置を策定することができる。
第二十五条 本规范自公布之日起施行,并根据经济社会发展需求和人工智能发展情况适时修订。 第25条 この規定は、発行日に施行され、経済社会の発展や人工知能の発達の必要性に応じて、適切な時期に改訂されるものとする。

 

1_20210612030101

 


 

まるちゃんの情報セキュリティきまぐれ日記

 

 

 

 

|

« シンガポール サイバーセキュリティ戦略2021 | Main | 米国 K-12サイバーセキュリティ法2012 »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« シンガポール サイバーセキュリティ戦略2021 | Main | 米国 K-12サイバーセキュリティ法2012 »