欧州委員会がAIへの規制を提案 → 欧州データ保護官は歓迎するけど、公共空間での遠隔生体認証についての規制も入れてね

こんにちは、丸山満彦です。

欧州委員会がAIへの規制を提案 (2021.04.21) していますね。それに対して、欧州データ保護官は歓迎していますが、公共空間での遠隔生体認証（識別）（例えば、駅での顔認証（識別）とか）についての規制に触れられていないのは残念だと回答 (2021.04.23) していますね。

欧州委員会によるAIへの規制への提案のプレス

● European Commission

・2021.04.21 (press) Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence

AIについての欧州アプローチに関する規則の提案

・2021.04.21 Proposal for a Regulation on a European approach for Artificial Intelligence

1. [PDF] Proposal for a Regulation on a European approach for Artificial Intelligence

取り急ぎの仮訳。。。

[DOCX]

2. [PDF] Annexes to the Proposal

上記の関連資料

・2021.04.21 Communication on Fostering a European approach to Artificial Intelligence

・[PDF] COM(2021) 205 final  COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS - Fostering a European approach to Artificial Intelligence 

・2021.04.21 Coordinated Plan on Artificial Intelligence 2021 Review

・[PDF] COM(2021) 205 final ANNEX ANNEXES to the Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions Fostering a European approach to Artificial Intelligence

COM(2021)206

・2021.04.21 COM(2021)206. final Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS

・ [PDF] COM(2021)206 final Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS

・[PDF] COM(2021)206 final ANNEXES to the Proposal for a Regulation of the European Parliament and of the Council LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS

欧州委員会の提案に対する欧州データ保護官 (EDPS) の回答

● European Data Protection Supervisor

・2021.04.23 (press) Artificial Intelligence Act: a welcomed initiative, but ban on remote biometric identification in public space is necessary

・2021.04.21 [PDF] Artificial Intelligence Act: a welcomed initiative, but ban on remote biometric identification in public space is necessary

---

Artificial Intelligence Act: a welcomed initiative, but ban on remote biometric identification in public space is necessary	人工知能法： 歓迎すべき取り組みだが、公共空間での遠隔生体認証（識別）の禁止が必要
The European Commission’s legislative proposal for an Artificial Intelligence Act is the first initiative, worldwide, that provides a legal framework for Artificial Intelligence (AI). The EDPS welcomes and supports the European Union’s (EU) leadership aiming to ensure that AI solutions are shaped according to the EU’s values and legal principles.	欧州委員会が提案した「人工知能法」は、人工知能（AI）の法的枠組みを提供する世界初の取り組みです。EDPSは、AIソリューションがEUの価値観と法的原則に沿って形成されることを目指す欧州連合（EU）のリーダーシップを歓迎し、支持します。
Wojciech Wiewiórowski, EDPS, said: “I am proud of this initiative and particularly welcome the horizontal approach in a Regulation, as well as the broad scope of its application which importantly includes the European Union institutions, bodies, offices and agencies (EUIs). The EDPS stands ready to fulfil its new role as the AI regulator for the EU public administration.	EDPSのWojciech Wiewiórowski氏は次のように述べています。「この取り組みを誇りに思います。特に、規則における水平方向のアプローチと、重要なことに欧州連合の機関、団体、事務所、機関（EUI）を含む幅広い適用範囲を歓迎します。EDPSは、EUの行政機関のためのAI規制機関としての新たな役割を果たす準備ができています。
I also acknowledge the merits in the risk-based approach underpinning the proposal. Indeed, there are numerous Artificial Intelligence applications that present limited threat for the fundamental rights to data protection and privacy while giving the humanity a potentially powerful tool to fight against today’s problems.”	また、本提案の背景にあるリスクベースのアプローチのメリットも認めている。実際、データ保護やプライバシーに関する基本的な権利に対する脅威は限定的である一方、人類が今日の問題に立ち向かうための潜在的に強力なツールを提供する人工知能アプリケーションは数多く存在します」と述べています。
At the same time, the EDPS regrets to see that our earlier calls for a moratorium on the use of remote biometric identification systems - including facial recognition - in publicly accessible spaces have not been addressed by the Commission.	同時に、EDPSは、顔認証（識別）を含む遠隔生体認証（識別）システムを公共のアクセス可能な空間で使用することのモラトリアムを求める我々の以前の呼びかけが、欧州委員会によって対処されていないことを残念に思います。
The EDPS will continue to advocate for a stricter approach to automated recognition in public spaces of human features - such as of faces but also of gait, fingerprints, DNA, voice, keystrokes and other biometric or behavioural signals - whether these are used in a commercial or administrative context, or for law enforcement purposes. A stricter approach is necessary given that remote biometric identification, where AI may contribute to unprecedented developments, presents extremely high risks of deep and non-democratic intrusion into individuals’ private lives.	EDPSは、商業的・行政的な文脈であれ、法執行目的であれ、公共の場における人間の特徴（顔だけでなく、歩行、指紋、DNA、音声、キーストローク、その他の生体情報や行動信号など）の自動認識に対して、より厳格なアプローチをとるよう引き続き提唱していきます。AIが前例のない発展をもたらす可能性のある遠隔生体認証（識別）は、個人の私生活に深くかつ非民主的に侵入する危険性が極めて高いことを考えると、より厳格なアプローチが必要です。
The EDPS will undertake a meticulous and comprehensive analysis of the Commission’s proposal to support the EU co-legislators in strengthening the protection of individuals and society at large. In this context, the EDPS will focus in particular on setting precise boundaries for those tools and systems which may present risks for the fundamental rights to data protection and privacy.	EDPSは、欧州委員会の提案を綿密かつ包括的に分析し、EUの共同立法者が個人および社会全体の保護を強化することを支援します。この観点から、EDPSは特に、データ保護とプライバシーに関する基本的権利にリスクをもたらす可能性のあるツールやシステムに正確な境界線を設定することに重点を置きをおきます。

---

■ 追記 2021.04.26

平先生のブログ「新聞紙学的」に興味深い記事が載っていますね。。。

● 新聞紙学的

・2021.04.25 「すごく危ないAI」の禁止に潜む大きな「抜け穴」とは

---

---

プレスの仮訳

Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence	デジタル時代にふさわしい欧州。欧州委員会、人工知能の卓越性と信頼性のための新たな規則と行動を提案
Brussels, 21 April 2021	ブリュッセル、2021年4月21日
The Commission proposes today new rules and actions aiming to turn Europe into the global hub for trustworthy Artificial Intelligence (AI). The combination of the first-ever legal framework on AI and a new Coordinated Plan with Member States will guarantee the safety and fundamental rights of people and businesses, while strengthening AI uptake, investment and innovation across the EU. New rules on Machinery will complement this approach by adapting safety rules to increase users' trust in the new, versatile generation of products.	欧州委員会は本日、欧州を信頼できる人工知能（AI）の世界的な拠点にすることを目指した新たな規則と行動を提案します。AIに関する初の法的枠組みと加盟国との新たな協調計画を組み合わせることで、人々や企業の安全と基本的権利を保証するとともに、EU全体でAIの導入、投資、イノベーションを強化します。機械に関する新しいルールは、多機能な新世代の製品に対するユーザーの信頼を高めるために安全規則を適応させることで、このアプローチを補完します。
Margrethe Vestager, Executive Vice-President for a Europe fit for the Digital Age, said: “On Artificial Intelligence, trust is a must, not a nice to have. With these landmark rules, the EU is spearheading the development of new global norms to make sure AI can be trusted. By setting the standards, we can pave the way to ethical technology worldwide and ensure that the EU remains competitive along the way. Future-proof and innovation-friendly, our rules will intervene where strictly needed: when the safety and fundamental rights of EU citizens are at stake.”	デジタル時代にふさわしい欧州を目指すマルグレーテ・ベスタガー上級副総裁は、次のように述べています。「人工知能において、信頼は必須であり、あってもいいものというようなものではありません。今回の画期的な規則により、EUはAIを信頼できるものにするための新たな世界基準の策定を先導しています。基準を設定することで、世界的に倫理的な技術への道を切り開き、その過程でEUが競争力を維持できるようにします。将来性があり、イノベーションに適したこの規則は、EU市民の安全と基本的権利が危機に瀕している場合など、厳密に必要な場合に介入します」と述べています。
Commissioner for Internal Market Thierry Breton said: “AI is a means, not an end. It has been around for decades but has reached new capacities fueled by computing power. This offers immense potential in areas as diverse as health, transport, energy, agriculture, tourism or cyber security. It also presents a number of risks. Today's proposals aim to strengthen Europe's position as a global hub of excellence in AI from the lab to the market, ensure that AI in Europe respects our values and rules, and harness the potential of AI for industrial use.”	ティエリー・ブルトン欧州委員会内部市場担当委員は次のように述べています。「AIは手段であって、目的ではありません。AIは何十年も前から存在していましたが、コンピューティングパワーによって新たな能力を獲得しました。このことは、健康、輸送、エネルギー、農業、観光、サイバーセキュリティなどの多様な分野で計り知れない可能性をもたらします。一方で、さまざまなリスクも存在します。本日の提案は、研究室から市場までのAIにおける世界的な拠点としての欧州の地位を強化し、欧州におけるAIが我々の価値観やルールを尊重することを保証し、産業利用のためにAIの潜在能力を活用することを目的としています。」
The new AI regulation will make sure that Europeans can trust what AI has to offer. Proportionate and flexible rules will address the specific risks posed by AI systems and set the highest standard worldwide. The Coordinated Plan outlines the necessary policy changes and investment at Member States level to strengthen Europe's leading position in the development of human-centric, sustainable, secure, inclusive and trustworthy AI.	新しいAI規制により、欧州の人々はAIが提供するものを信頼できるようになります。比例的で柔軟なルールにより、AIシステムがもたらす特定のリスクに対応し、世界的に最高水準の基準を設定します。調整計画では、人間を中心とした、持続可能で安全な、包括的で信頼できるAIの開発における欧州の主導的地位を強化するために、加盟国レベルで必要な政策変更と投資の概要を示しています。
The European approach to trustworthy AI	信頼性の高いAIに対する欧州のアプローチ
The new rules will be applied directly in the same way across all Member States based on a future-proof definition of AI. They follow a risk-based approach:	この新しいルールは、将来を見据えたAIの定義に基づいて、すべての加盟国に同じ方法で直接適用されます。このルールは、リスクベースのアプローチを採用しています。
Unacceptable risk: AI systems considered a clear threat to the safety, livelihoods and rights of people will be banned. This includes AI systems or applications that manipulate human behaviour to circumvent users' free will (e.g. toys using voice assistance encouraging dangerous behaviour of minors) and systems that allow ‘social scoring' by governments.	受け入れられないリスク人々の安全、生活、権利に対する明らかな脅威とみなされるAIシステムは禁止されます。これには、ユーザーの自由意志を回避するために人間の行動を操作するAIシステムやアプリケーション（例：未成年者の危険な行動を助長する音声アシスタントを使用した玩具）や、政府による「ソーシャルスコアリング」を可能にするシステムが含まれます。
High-risk: AI systems identified as high-risk include AI technology used in:	高リスク：高リスクと認定されたAIシステムには、以下のようなAI技術が使われています。
•   Critical infrastructures (e.g. transport), that could put the life and health of citizens at risk;	•   市民の生命と健康を危険にさらす可能性のある重要インフラ（交通機関など）。
•   Educational or vocational training, that may determine the access to education and professional course of someone's life (e.g. scoring of exams);	•   教育または職業訓練で、教育を受ける機会や人生の専門的な進路を決定する可能性があるもの（試験の採点など）。
•   Safety components of products (e.g. AI application in robot-assisted surgery);	•   製品の安全部品（例：ロボット支援手術でのAI活用）。
•   Employment, workers management and access to self-employment (e.g. CV-sorting software for recruitment procedures);	•   雇用、労働者管理、自営業へのアクセス（例：採用手続きのための履歴書ソートソフト）。
•   Essential private and public services (e.g. credit scoring denying citizens opportunity to obtain a loan);	•   必要不可欠な民間および公共サービス（例：信用スコアリングにより市民がローンを組む機会を奪われる）。
•   Law enforcement that may interfere with people's fundamental rights (e.g. evaluation of the reliability of evidence);	•   人々の基本的な権利を阻害する可能性のある法執行（例：証拠の信頼性の評価
•   Migration, asylum and border control management (e.g. verification of authenticity of travel documents);	•   移民、亡命、国境管理（例：渡航書類の真偽の確認）。
•   Administration of justice and democratic processes (e.g. applying the law to a concrete set of facts).	•   司法の管理と民主的プロセス（例：具体的な事実に法律を適用する）。
High-risk AI systems will be subject to strict obligations before they can be put on the market:	高リスクAIシステムは、市場に出す前に厳しい義務が課せられます。
•   Adequate risk assessment and mitigation systems;	•   適切なリスク評価と緩和システム。
•   High quality of the datasets feeding the system to minimise risks and discriminatory outcomes;	•   リスクと差別的な結果を最小限に抑えるために、システムに供給されるデータセットの質が高いこと。
•   Logging of activity to ensure traceability of results;	•   結果のトレーサビリティーを確保するための活動のロギング。
•   Detailed documentation providing all information necessary on the system and its purpose for authorities to assess its compliance;	•   当局がシステムの適合性を評価するために必要な、システムとその目的に関するすべての情報を提供する詳細な文書。
•   Clear and adequate information to the user;	•   ユーザーへの明確で適切な情報提供
•   Appropriate human oversight measures to minimise risk;	•   リスクを最小化するための適切な人的監督手段。
•   High level of robustness, security and accuracy.	•   高い堅牢性、安全性、正確性を実現しています。
In particular, all remote biometric identification systems are considered high risk and subject to strict requirements. Their live use in publicly accessible spaces for law enforcement purposes is prohibited in principle. Narrow exceptions are strictly defined and regulated (such as where strictly necessary to search for a missing child, to prevent a specific and imminent terrorist threat or to detect, locate, identify or prosecute a perpetrator or suspect of a serious criminal offence). Such use is subject to authorisation by a judicial or other independent body and to appropriate limits in time, geographic reach and the data bases searched.	特に、すべての遠隔生体認証（識別）システムは高リスクとみなされ、厳しい要件が課せられます。公共のアクセス可能な空間で法執行目的で実地に使用することは、原則として禁止されています。ただし、行方不明の子供の捜索、特定の差し迫ったテロの脅威の防止、重大な犯罪の犯人や容疑者の検出、位置の特定、訴追のために厳密に必要な場合など、狭い範囲の例外が厳密に定義、規制されています。このような利用には、司法機関またはその他の独立した機関による認可が必要であり、また、時間、地理的範囲、検索されるデータベースに適切な制限が設けられています。
Limited risk, i.e. AI systems with specific transparency obligations: When using AI systems such as chatbots, users should be aware that they are interacting with a machine so they can take an informed decision to continue or step back.	限定的リスク、すなわち、特定の透明性義務を負うAIシステム：チャットボットなどのAIシステムを使用する場合、ユーザーは機械と対話していることを認識し、情報を得た上で継続するか退くかを判断する必要があります。
Minimal risk: The legal proposal allows the free use of applications such as AI-enabled video games or spam filters. The vast majority of AI systems fall into this category. The draft Regulation does not intervene here, as these AI systems represent only minimal or no risk for citizens' rights or safety.	最小リスク：法律案では、AIを搭載したビデオゲームやスパムフィルターなどのアプリケーションを自由に使用することができます。大多数のAIシステムはこのカテゴリーに入る。これらのAIシステムは、市民の権利や安全に対するリスクが最小またはゼロであるため、規則案はここには介入しない。
In terms of governance, the Commission proposes that national competent market surveillance authorities supervise the new rules, while the creation of a European Artificial Intelligence Board will facilitate their implementation, as well as drive the development of standards for AI. Additionally, voluntary codes of conduct are proposed for non-high-risk AI, as well as regulatory sandboxes to facilitate responsible innovation.	ガバナンスの面では、欧州委員会は、各国の管轄市場監視当局が新ルールを監督することを提案する一方、欧州人工知能委員会の設立により、その実施を促進するとともに、AIに関する基準の策定を推進する。さらに、高リスクではないAIについては、自主的な行動規範が提案されているほか、責任あるイノベーションを促進するための規制的サンドボックスも提案されています。
The European approach to excellence in AI	優れたAIに対する欧州のアプローチ
Coordination will strengthen Europe's leading position in human-centric, sustainable, secure, inclusive and trustworthy AI. To remain globally competitive, the Commission is committed to fostering innovation in AI technology development and use across all industries, in all Member States.	協調することで、人間を中心とした、持続可能で安全な、包括的で信頼できるAIにおける欧州の主導的地位が強化されます。国際的な競争力を維持するために、欧州委員会は、すべての加盟国のすべての産業で、AI技術の開発と利用におけるイノベーションを促進することを約束します。
First published in 2018 to define actions and funding instruments for the development and uptake of AI, the Coordinated Plan on AI enabled a vibrant landscape of national strategies and EU funding for public-private partnerships and research and innovation networks. The comprehensive update of the Coordinated Plan proposes concrete joint actions for collaboration to ensure all efforts are aligned with the European Strategy on AI and the European Green Deal, while taking into account new challenges brought by the coronavirus pandemic. It puts forward a vision to accelerate investments in AI, which can benefit the recovery. It also aims to spur the implementation of national AI strategies, remove fragmentation, and address global challenges.	AIの開発と取り込みのための行動と資金調達手段を定義するために2018年に初めて発表された「AIに関する調整計画」は、官民パートナーシップと研究・イノベーションネットワークのための国家戦略とEUの資金調達の活気ある風景を可能にしました。調整計画の包括的な更新では、コロナウイルスの大流行によってもたらされた新たな課題を考慮に入れつつ、すべての取り組みがAIに関する欧州戦略および欧州グリーンディールに沿ったものとなるよう、協力のための具体的な共同行動を提案しています。復興に役立つAIへの投資を加速させるビジョンを打ち出しています。また、各国のAI戦略の実施を促進し、断片化を解消し、グローバルな課題に対処することを目指しています。
The updated Coordinated Plan will use funding allocated through the Digital Europe and Horizon Europe programmes, as well as the Recovery and Resilience Facility that foresees a 20% digital expenditure target, and Cohesion Policy programmes, to:	更新された調整計画では、「デジタル・ヨーロッパ」や「ホライゾン・ヨーロッパ」プログラム、20％のデジタル支出目標を定めた「リカバリー・アンド・レジリエンス・ファシリティ」、「コヘージョン・ポリシー」プログラムなどで割り当てられた資金を使用して、以下のことを行います。
•   Create enabling conditions for AI's development and uptake through the exchange of policy insights, data sharing and investment in critical computing capacities;	•   政策的洞察の交換、データの共有、重要なコンピューティング能力への投資を通じて、AIの開発と普及を可能にする条件を整える。
•   Foster AI excellence ‘from the lab to the market' by setting up a public-private partnership, building and mobilising research, development and innovation capacities, and making testing and experimentation facilities as well as digital innovation hubs available to SMEs and public administrations;	•   官民パートナーシップを立ち上げ、研究・開発・イノベーションの能力を構築・動員し、試験・実験施設やデジタル・イノベーション・ハブを中小企業や行政機関が利用できるようにすることで、「研究室から市場まで」の優れたAIを育成する。
•   Ensure that AI works for people and is a force for good in society by being at the forefront of the development and deployment of trustworthy AI, nurturing talents and skills by supporting traineeships, doctoral networks and postdoctoral fellowships in digital areas, integrating Trust into AI policies and promoting the European vision of sustainable and trustworthy AI globally;	•   信頼できるAIの開発と展開の最前線に立ち、デジタル分野の研修生、博士課程ネットワーク、ポスドクを支援することで才能とスキルを育て、信頼をAI政策に統合し、持続可能で信頼できるAIという欧州のビジョンを世界に広めることで、AIが人々のために機能し、社会に良い影響を与えることを保証する。
•   Build strategic leadership in high-impact sectors and technologies including environment by focusing on AI's contribution to sustainable production, health by expanding the cross-border exchange of information, as well as the public sector, mobility, home affairs and agriculture, and Robotics.	•   持続可能な生産へのAIの貢献に焦点を当てた環境、国境を越えた情報交換の拡大による健康、さらに公共部門、モビリティ、家事・農業、ロボティクスなど、影響力の大きい分野や技術で戦略的リーダーシップを発揮する。
The European approach to new machinery products	新しい機械製品に対する欧州のアプローチ
Machinery products cover an extensive range of consumer and professional products, from robots to lawnmowers, 3D printers, construction machines, industrial production lines. The Machinery Directive, replaced by the new Machinery Regulation, defined health and safety requirements for machinery. This new Machinery Regulation will ensure that the new generation of machinery guarantees the safety of users and consumers, and encourages innovation. While the AI Regulation will address the safety risks of AI systems, the new Machinery Regulation will ensure the safe integration of the AI system into the overall machinery. Businesses will need to perform only one single conformity assessment.	機械製品は、ロボット、芝刈り機、3Dプリンター、建設機械、工業用生産ラインなど、消費者向け製品からプロ向け製品まで幅広くカバーしています。機械指令は、新しい機械規則に置き換えられ、機械に対する健康と安全の要件を定義しました。この新機械規則は、新世代の機械がユーザーや消費者の安全を保証し、イノベーションを促進することを目的としています。AI規則がAIシステムの安全リスクに対処する一方で、新機械規則はAIシステムの機械全体への安全な統合を保証します。事業者は、適合性評価を行う必要がありますが、1回ですみます。
Additionally, the new Machinery Regulation will respond to the market needs by bringing greater legal clarity to the current provisions, simplifying the administrative burden and costs for companies by allowing digital formats for documentation and adapting conformity assessment fees for SMEs, while ensuring coherence with the EU legislative framework for products.	さらに、新機械規則は、製品に関するEUの法的枠組みとの一貫性を確保しつつ、現行の規定をより法的に明確にし、書類のデジタルフォーマットを認めることで企業の管理負担とコストを簡素化し、中小企業向けの適合性評価料を適応することで、市場のニーズに応えていきます。
Next steps	次のステップ
The European Parliament and the Member States will need to adopt the Commission's proposals on a European approach for Artificial Intelligence and on Machinery Products in the ordinary legislative procedure. Once adopted, the Regulations will be directly applicable across the EU. In parallel, the Commission will continue to collaborate with Member States to implement the actions announced in the Coordinated Plan.	欧州議会と加盟国は、通常の立法手続きにおいて、人工知能に関する欧州的アプローチと機械製品に関する欧州委員会の提案を採択する必要があります。採択されれば、同規則はEU全域で直接適用されることになります。これと並行して、欧州委員会は、調整計画で発表された行動を実施するために、加盟国との協力を継続します。
Background	背景
For years, the Commission has been facilitating and enhancing cooperation on AI across the EU to boost its competitiveness and ensure trust based on EU values.	欧州委員会は長年にわたり、EUの競争力を高め、EUの価値観に基づく信頼を確保するために、EU全体でAIに関する協力を促進・強化してきました。
Following the publication of the European Strategy on AI in 2018 and after extensive stakeholder consultation, the High-Level Expert Group on Artificial Intelligence (HLEG) developed Guidelines for Trustworthy AI in 2019, and an Assessment List for Trustworthy AI in 2020. In parallel, the first Coordinated Plan on AI was published in December 2018 as a joint commitment with Member States.	2018年にAIに関する欧州戦略が発表されたことを受けて、ステークホルダーによる広範な協議を経て、人工知能に関するハイレベル専門家グループ（HLEG）は、2019年に「信頼できるAIのためのガイドライン」、2020年に「信頼できるAIのための評価リスト」を策定しました。これと並行して、加盟国との共同コミットメントとして、2018年12月に「AIに関する最初の調整計画」が発表されました。
The Commission's White Paper on AI, published in 2020, set out a clear vision for AI in Europe: an ecosystem of excellence and trust, setting the scene for today's proposal. The public consultation on the White Paper on AI elicited widespread participation from across the world. The White Paper was accompanied by a ‘Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics' concluding that the current product safety legislation contains a number of gaps that needed to be addressed, notably in the Machinery Directive.	欧州委員会が2020年に発表した「AI白書」では、欧州におけるAIの明確なビジョンとして、卓越性と信頼性を備えたエコシステムを打ち出し、本日の提案の舞台となった。AI白書の公開協議では、世界中から広く参加者を募りました。この白書には、「人工知能、モノのインターネット、ロボットの安全性と責任に関する報告書」が添付されており、現行の製品安全法には、特に機械指令において対処すべき多くのギャップがあると結論づけています。
For More Information	詳細はこちら
New rules for Artificial Intelligence – Questions and Answers	人工知能の新しいルール - Q&A
New rules for Artificial Intelligence – Facts page	人工知能の新ルール - 事実のページ
Communication on Fostering a European approach to Artificial Intelligence	人工知能に対する欧州のアプローチを促進するためのコミュニケーション
Regulation on a European approach for Artificial Intelligence	人工知能に関する欧州のアプローチに関する規制
New Coordinated Plan on Artificial Intelligence	人工知能に関する新連携プラン
Regulation on Machinery Products	機械製品に関する規制
EU-funded AI projects	EUが出資するAIプロジェクト

---

1. [PDF] Proposal for a Regulation on a European approach for Artificial Intelligence

「Explanatory Memorandum」のタイトルの仮訳

EXPLANATORY MEMORANDUM	説明用メモ
1. CONTEXT OF THE PROPOSAL	1. 提案の背景
1.1. Reasons for and objectives of the proposal	1.1. 提案の理由と目的
1.2. Consistency with existing policy provisions in the policy area	1.2. 当該政策分野における既存の政策規定との整合性
1.3. Consistency with other Union policies	1.3. 他のEU政策との整合性
2. LEGAL BASIS, SUBSIDIARITY AND PROPORTIONALITY	2. 法的根拠、補完性、比例性
2.1 Legal basis	2.1 法的根拠
2.2. Subsidiarity (for non-exclusive competence)	2.2. 補完性(非排他的権限の場合)
2.3. Proportionality	2.3. 比例性
2.4. Choice of the instrument	2.4. 法的手段の選択
3. RESULTS OF EX-POST EVALUATIONS, STAKEHOLDER CONSULTATIONS AND IMPACT ASSESSMENTS	3. 事後評価、利害関係者との協議、影響度評価の結果
3.1. Stakeholder consultation	3.1. ステークホルダー・コンサルテーション
3.2. Collection and use of expertise	3.2. 専門知識の収集と活用
3.3. Impact assessment	3.3. 影響評価
3.4. Regulatory fitness and simplification	3.4. 規制の適合性と簡素化
3.5. Fundamental rights	3.5. 基本的権利
4. BUDGETARY IMPLICATIONS	4. 予算への影響
5. OTHER ELEMENTS	5. その他の要素
5.1. Implementation plans and monitoring, evaluation and reporting arrangements	5.1. 実施計画およびモニタリング、評価、報告の仕組み
5.2. Detailed explanation of the specific provisions of the proposal	5.2. 提案の具体的な条項の詳細な説明
5.2.1. SCOPE AND DEFINITIONS (TITLE I)	5.2.1. 対象範囲と定義（タイトルI）
5.2.2. PROHIBITED ARTIFICIAL INTELLIGENCE PRACTICES (TITLE II)	5.2.2. 禁止されている人工知能関連の行為（タイトルⅡ）
5.2.3. HIGH-RISK AI SYSTEMS (TITLE III)	5.2.3. 高リスクのAIシステム（タイトルIII）
5.2.4. TRANSPARENCY OBLIGATIONS FOR CERTAIN AI SYSTEMS (TITLE IV)	5.2.4. 特定のAIシステムに対する透明性確保の義務（タイトルIV）
5.2.5. MEASURES IN SUPPORT OF INNOVATION (TITLE V)	5.2.5. イノベーションを支援するための措置（タイトルV）
5.2.6. GOVERNANCE AND IMPLEMENTATION (TITLES VI, VII AND VII)	5.2.6. ガバナンスと実施（タイトルⅥ、Ⅶ、Ⅶ）
5.2.7. CODES OF CONDUCT (TITLE IX)	5.2.7. 行動規範（タイトルIX ）
5.2.8. FINAL PROVISIONS (TITLES X, XI AND XII)	5.2.8. 最終規定（タイトルX、XI、XII）
TITLE I GENERAL PROVISIONS	タイトルI 一般規定
Article 1 Subject matter	第1条 対象となる事項
Article 2 Scope	第2条 適用範囲
Article 3 Definitions	第3条 定義
Article 4 Amendments to Annex I	第4条 附属書Iの改正
TITLE II PROHIBITED ARTIFICIAL INTELLIGENCE PRACTICES	タイトルII 禁止された人工知能の実践
Article 5	第5条
TITLE III HIGH-RISK AI SYSTEMS	タイトルIII 高リスクAIシステム
CHAPTER 1 CLASSIFICATION OF AI SYSTEMS AS HIGH-RISK	第1章 高リスクAIシステムの分類
Article 6 Classification rules for high-risk AI systems	第6条 高リスクAIシステムの分類規則
Article 7 Amendments to Annex III	第7条 附属書IIIの改正
CHAPTER 2 REQUIREMENTS FOR HIGH-RISK AI SYSTEMS	第2章 高リスクAIシステムの要求事項
Article 8 Compliance with the requirements	第8条 要求事項の遵守
Article 9 Risk management system	第9条 リスク管理体制
Article 10 Data and data governance	第10条 データ及びデータガバナンス
Article 11 Technical documentation	第11条 技術文書
Article 12 Record-keeping	第12条 記録の保持
Article 13 Transparency and provision of information to users	第13条 透明性およびユーザーへの情報提供
Article 14 Human oversight	第14条 人間による監視
Article 15 Accuracy, robustness and cybersecurity	第15条 精度、堅牢性及びサイバーセキュリティ
CHAPTER 3 OBLIGATIONS OF PROVIDERS AND USERS OF HIGH-RISK AI SYSTEMS AND OTHER PARTIES	第3章 高リスクAIシステムの提供者・利用者およびその他の者の義務
Article 16 Obligations of providers of high-risk AI systems	第16条 高リスクAIシステム提供者の義務
Article 17 Quality management system	第17条 品質管理システム
Article 18 Obligation to draw up technical documentation	第18条 技術文書の作成義務
Article 19 Conformity assessment	第19条 適合性評価
Article 20 Automatically generated logs	第20条 自動的に生成されるログ
Article 21 Corrective actions	第21条 是正措置
Article 22 Duty of information	第22条 情報提供義務
Article 23 Cooperation with competent authorities	第23条 管轄官庁との協力
Article 24 Obligations of product manufacturers	第24条 製品製造者の義務
Article 25 Authorised representatives	第25条 認可された代理人
Article 26 Obligations of importers	第26条 輸入業者の義務
Article 27 Obligations of distributors	第27条 販売業者の義務
Article 28 Obligations of distributors, importers, users or any other third-party	第28条 販売業者、輸入業者、ユーザーまたはその他の第三者の義務
Article 29 Obligations of users of high-risk AI systems	第29条 高リスクAIシステムの使用者義務
CHAPTER 4 NOTIFIYING AUTHORITIES AND NOTIFIED BODIES	第4章 通知機関および通知団体
Article 30 Notifying authorities	第30条 通知機関
Article 31 Application of a conformity assessment body for notification	第31条 適合性評価機関の届出の申請
Article 32 Notification procedure	第32条 通知手続き
Article 33 Notified bodies	第33条 通知された機関
Article 34 Subsidiaries of and subcontracting by notified bodies	第34条 届出機関の子会社及び下請業者
Article 35 Identification numbers and lists of notified bodies designated under this Regulation	第35条 この規則に基づいて指定された通知機関の識別番号及びリスト
Article 36 Changes to notifications	第36条 届出内容の変更
Article 37 Challenge to the competence of notified bodies	第37条 届出機関の能力への挑戦
Article 38 Coordination of notified bodies	第38条 届出機関の調整
Article 39 Conformity assessment bodies of third countries	第39条 第三国の適合性評価機関
CHAPTER 5 STANDARDS, CONFORMITY ASSESSMENT, CERTIFICATES, REGISTRATION	第5章 規格、適合性評価、証明書、登録
Article 40 Harmonised standards	第40条 調和された規格
Article 41 Common specifications	第41条 共通仕様
Article 42 Presumption of conformity with certain requirements	第42条 特定の要求事項への適合の推定
Article 43 Conformity assessment	第43条 適合性評価
Article 44 Certificates	第44条 証明書
Article 45 Appeal against decisions of notified bodies	第45条 届出機関の決定に対する不服申し立て
Article 46 Information obligations of notified bodies	第46条 届出機関の情報義務
Article 47 Derogation from conformity assessment procedure	第47条 適合性評価手続からの除外
Article 48 EU declaration of conformity	第48条 EU適合宣言書
Article 49 CE marking of conformity	第49条 適合のCEマーキング
Article 50 Document retention	第50条 文書の保持
TITLE IV TRANSPARENCY OBLIGATIONS FOR CERTAIN AI SYSTEMS	タイトルⅣ 特定のAIシステムの透明性義務
Article 52 Transparency obligations for certain AI systems	第52条 特定のAIシステムの透明性義務
TITLE V MEASURES IN SUPPORT OF INNOVATION	タイトルV イノベーションを支援するための措置
Article 53 AI regulatory sandboxes	第53条 AI規制のサンドボックス
Article 54 Further processing of personal data for developing certain AI systems in the public interest in the AI regulatory sandbox	第54条 AI規制のサンドボックスにおける公共の利益のための特定のAIシステムの開発のための個人データのさらなる処理
Article 55 Measures for small-scale providers and users	第55条 小規模事業者及び利用者に対する措置
TITLE VI GOVERNANCE	タイトルⅥ ガバナンス
CHAPTER 1 EUROPEAN ARTIFICIAL INTELLIGENCE BOARD	第1章 欧州人工知能委員会（European Artificial Intelligence Board
Article 56 Establishment of the European Artificial Intelligence Board	第56条 欧州人工知能理事会の設立
Article 57 Structure of the Board	第57条 理事会の構成
Article 58 Tasks of the Board	第58条 理事会の任務
CHAPTER 2 NATIONAL COMPETENT AUTHORITIES	第2章 国内主務官庁
Article 59 Designation of national competent authorities	第59条 各国の主務官庁の指定
TITLE VII EU DATABASE FOR STAND-ALONE HIGH-RISK AI SYSTEMS	タイトルVII スタンドアローンの高リスクAIシステムのためのEUデータベース
Article 60 EU database for stand-alone high-risk AI systems	第60条 スタンドアローンの高リスクAIシステムのためのEUデータベース
TITLE VIII POST-MARKET MONITORING, INFORMATION SHARING, MARKET SURVEILLANCE	タイトルVIII 市販後のモニタリング、情報共有、市場監視
CHAPTER 1 POST-MARKET MONITORING	第1章 市販後モニタリング
Article 61 Post-market monitoring by providers and post-market monitoring plan for high-risk AI systems	第61条 事業者による市販後モニタリングおよび高リスクAIシステムの市販後モニタリング計画
CHAPTER 2 SHARING OF INFORMATION ON INCIDENTS AND MALFUNCTIONING	第2章 事故および故障に関する情報の共有
Article 62 Reporting of serious incidents and of malfunctioning	第62条 重大なインシデントおよび機能不全の報告
CHAPTER 3 ENFORCEMENT	第3章 実施
Article 63 Market surveillance and control of AI systems in the Union market	第63条 EU市場におけるAIシステムの市場監視および管理
Article 64 Access to data and documentation	第64条 データ及び文書へのアクセス
Article 65 Procedure for dealing with AI systems presenting a risk at national level	第65条 国レベルでリスクを呈するAIシステムに対処するための手順
Article 66 Union safeguard procedure	第66条 欧州連合のセーフガード手続き
Article 67 Compliant AI systems which present a risk	第67条 リスクを呈するAIシステムへの準拠
Article 68 Formal non-compliance	第68条 正式な不遵守
TITLE IX CODES OF CONDUCT	タイトルIX 行動規範
Article 69 Codes of conduct	第69条 行動規範
TITLE X CONFIDENTIALITY AND PENALTIES	タイトルX 機密保持及び罰則
Article 70 Confidentiality	第70条 機密保持
Article 71 Penalties	第71条 罰則
Article 72 Administrative fines on Union institutions, agencies and bodies	第72条 組合の組織、機関及び団体に対する行政上の罰則
TITLE XI DELEGATION OF POWER AND COMMITTEE PROCEDURE	タイトル XI 権限の委譲及び委員会の手続き
Article 73 Exercise of the delegation	第73条 権限委譲の行使
Article 74 Committee procedure	第74条 委員会手続
TITLE XII FINAL PROVISIONS	タイトル XII 最終規定
Article 75 Amendment to Regulation (EC) No 300/2008	第75条 規則 (EC) No 300/2008 の修正
Article 76 Amendment to Regulation (EU) No 167/2013	第76条 規則 (EU) No167/2013 の修正
Article 77 Amendment to Regulation (EU) No 168/2013	第77条 規則 (EU) No 168/2013 の修正
Article 78 Amendment to Directive 2014/90/EU	第78条 指令 2014/90/EU の修正
Article 79 Amendment to Directive (EU) 2016/797	第79条 指令（EU）2016/797 の修正
Article 80 Amendment to Regulation (EU) 2018/858	第80条 規則（EU）2018/858 の修正
Article 81 Amendment to Regulation (EU) 2018/1139	第81条 規則（EU）2018/1139 の修正
Article 82 Amendment to Regulation (EU) 2019/2144	第82条 規則 (EU) 2019/2144 の修正
Article 83 AI systems already placed on the market or put into service	第83条 すでに市場に出されている、またはサービスに供されているAIシステム
Article 84 Evaluation and review	第84条 評価およびレビュー
Article 85 Entry into force and application	第85条 発効および適用