欧州 EDPBとEDPS 公共の場における人の特徴を自動認識するためのAIの使用、および不当な差別につながる可能性のあるその他のAIの使用の一部を禁止するよう要請
こんにちは、丸山満彦です。
欧州データ保護委員会（European Data Protection Board: EDPB）と 欧州データ保護監督官 (European Data Protection Supervisor: EDPS)が公共の場における人の特徴を自動認識するためのAIの使用、および不当な差別につながる可能性のあるその他のAIの使用の一部を禁止するよう要請しましたね。。。
イメージで言うと、渋谷の交差点の防犯カメラにAIを搭載し、指名手配犯を監視し、該当する可能性の高い顔が見つかったら警告を上げるようなシステムや、ショッピングモール内の顔識別機能付きカメラを使って個人を識別し、その個人がどのような動線を通って買い物をしているかを分析するのは、基本的には禁止されるということなのでしょうかね。。。
● European Data Protection Board: EDPB
| EDPB & EDPS call for ban on use of AI for automated recognition of human features in publicly accessible spaces, and some other uses of AI that can lead to unfair discrimination | EDPBとEDPS、公共の場における人の特徴を自動認識するためのAIの使用、および不当な差別につながる可能性のあるその他のAIの使用の一部を禁止するよう要請 |
| 21 June 2021 EDPB | 2021年6月21日 EDPB |
| The EDPB and EDPS have adopted a joint opinion on the European Commission’s Proposal for a Regulation laying down harmonised rules on artificial intelligence (AI). | EDPBとEDPSは、欧州委員会の「人工知能（AI）に関する調和のとれた規則を定めた規則の提案」に対する共同意見を採択しました。 |
| The EDPB and the EDPS strongly welcome the aim of addressing the use of AI systems within the European Union, including the use of AI systems by EU institutions, bodies or agencies. At the same time, the EDPB and EDPS are concerned by the exclusion of international law enforcement cooperation from the scope of the Proposal. | EDPBとEDPSは、EUの機関・団体・組織によるAIシステムの使用を含め、EU内でのAIシステムの使用に対処するという目的を強く歓迎します。その一方で、EDPBとEDPSは、提案の範囲から国際的な法執行協力が除外されていることに懸念を抱いています。 |
| The EDPB and EDPS also stress the need to explicitly clarify that existing EU data protection legislation (GDPR, the EUDPR and the LED) applies to any processing of personal data falling under the scope of the draft AI Regulation. | また、EDPBとEDPSは、既存のEUデータ保護法（GDPR、EUDPR、LED）が、AI規則案の範囲に該当する個人データの処理に適用されることを明確にする必要性を強調しています。 |
| While the EDPB and the EDPS welcome the risk-based approach underpinning the Proposal, they consider that the concept of “risk to fundamental rights” should be aligned with the EU data protection framework. The EDPB and the EDPS recommend that societal risks for groups of individuals should also be assessed and mitigated. Moreover, they agree with the Proposal that the classification of an AI system as high-risk does not necessarily mean that it is lawful per se and can be deployed by the user as such. The EDPB and the EDPS also consider that compliance with legal obligations arising from Union legislation - including on personal data protection - should be a precondition for entering the European market as CE marked product. | EDPBとEDPSは、本提案を支えるリスクベースのアプローチを歓迎する一方で、「基本的権利に対するリスク」の概念をEUデータ保護の枠組みに合わせるべきだと考えています。EDPBとEDPSは、個人のグループに対する社会的リスクも評価し、緩和すべきであると提言しています。さらに、DPBとEDPSは、AIシステムが高リスクであると分類されても、それ自体が必ずしも合法的であり、ユーザーがそのように導入できることを意味しないという提案に同意しています。また、EDPBとEDPSは、個人データ保護を含むEU法に起因する法的義務の遵守を、CEマーク付き製品として欧州市場に参入するための前提条件とすべきであると考えています。 |
| Taking into account the extremely high risks posed by remote biometric identification of individuals in publicly accessible spaces, the EDPB and the EDPS call for a general ban on any use of AI for automated recognition of human features in publicly accessible spaces, such as recognition of faces, gait, fingerprints, DNA, voice, keystrokes and other biometric or behavioural signals, in any context. Similarly, the EDPB and EDPS recommend a ban on AI systems using biometrics to categorize individuals into clusters based on ethnicity, gender, political or sexual orientation, or other grounds on which discrimination is prohibited under Article 21 of the Charter of Fundamental Rights. Furthermore, the EDPB and the EDPS consider that the use of AI to infer emotions of a natural person is highly undesirable and should be prohibited, except for very specified cases, such as some health purposes, where the patient emotion recognition is important, and that the use of AI for any type of social scoring should be prohibited. | 公共の場における個人の遠隔生体識別がもたらす極めて高いリスクを考慮して、EDPBとEDPSは、公共の場において、顔、歩行、指紋、DNA、音声、キーストローク、その他の生体信号や行動信号の認識など、いかなる状況においても人間の特徴を自動認識するためにAIを使用することを全面的に禁止することを求めています。同様に、EDPBとEDPSは、基本権憲章第21条で差別が禁止されている民族、性別、政治的または性的指向、その他の理由に基づいて個人をクラスターに分類するためにバイオメトリクスを使用するAIシステムの禁止を推奨しています。さらに、EDPBとEDPSは、自然人の感情を推測するためにAIを使用することは非常に望ましくなく、患者の感情認識が重要である一部の健康目的などの非常に特定された場合を除き、禁止されるべきであると考えています。また、あらゆる種類の社会的スコアリングのためにAIを使用することも禁止されるべきであると考えています。 |
| Andrea Jelinek, EDPB Chair, & Wojciech Wiewiórowski, EDPS, said: “Deploying remote biometric identification in publicly accessible spaces means the end of anonymity in those places. Applications such as live facial recognition interfere with fundamental rights and freedoms to such an extent that they may call into question the essence of these rights and freedoms. This calls for an immediate application of the precautionary approach. A general ban on the use of facial recognition in publicly accessible areas is the necessary starting point if we want to preserve our freedoms and create a human-centric legal framework for AI. The proposed regulation should also prohibit any type of use of AI for social scoring, as it is against the EU fundamental values and can lead to discrimination.” | EDPB議長のAndrea Jelinek氏とEDPSのWojciech Wiewiórowski氏は、次のように述べています。「公共の場に遠隔生体識別を導入することは、そのような場所での匿名性の終焉を意味します。ライブの顔認識などのアプリケーションは、基本的な権利や自由を侵害し、その本質が問われることになります。このため、予防的アプローチを直ちに適用する必要があります。自由を守り、人間を中心としたAIの法的枠組みを作りたいのであれば、公共の場での顔認証の使用を一般的に禁止することが必要な出発点となります。また、社会的なスコアリングのためにAIを使用することは、EUの基本的価値観に反し、差別につながる可能性があるため、規制案ではあらゆるタイプの使用を禁止すべきです」と述べています。 |
| The EDPB and the EDPS further welcome the fact that the Proposal designates the EDPS as the competent authority and the market surveillance authority for the supervision of the Union institutions, agencies and bodies. However, the role and tasks of the EDPS should be further clarified, specifically when it comes to its role as market surveillance authority. | EDPBとEDPSはさらに、提案がEDPSをEUの機関、代理店、団体の監督のための管轄機関および市場監視機関として指定していることを歓迎します。しかし、EDPSの役割とタスクは、特に市場監視当局としての役割に関して、さらに明確にされるべきです。 |
| The EDPB and EDPS recall that data protection authorities (DPAs) are already enforcing the GDPR and the LED on AI systems involving personal data, in order to guarantee the protection of fundamental rights and more specifically the right to data protection. As a result, the designation of DPAs as the national supervisory authorities would ensure a more harmonized regulatory approach, and contribute to the consistent interpretation of data processing provisions across the EU. Consequently, the EDPB and the EDPS consider that, to ensure a smooth application of this new regulation, DPAs should be designated as national supervisory authorities pursuant to Article 59 of the Proposal. | EDPBとEDPSは、基本的権利の保護、より具体的にはデータ保護の権利を保証するために、データ保護当局（DPA）がすでにGDPRと個人データを含むAIシステムに関するLEDを施行していることを想起する。その結果、DPAを国の監督機関に指定することで、より調和のとれた規制アプローチが確保され、EU全体でデータ処理規定の一貫した解釈に貢献することになります。したがって、EDPBとEDPSは、この新しい規制の円滑な適用を確保するために、提案の第59条に従って、DPAを国家監督機関に指定すべきであると考えています。 |
| Finally, the EDPB and EDPS question the designation of a predominant role to the European Commission in the “European Artificial Intelligence Board” (EAIB), as this would conflict with the need for an AI European body independent from any political influence. To ensure its independency, the Proposal should give more autonomy to the EAIB and ensure it can act on its own initiative. | 最後に、EDPBとEDPSは、「欧州人工知能委員会」（EAIB）において欧州委員会が主要な役割を担うことに疑問を呈しています。これは、政治的影響力から独立した人工知能の欧州機関の必要性と矛盾するからである。EAIBの独立性を確保するために、提案ではEAIBにより多くの自治権を与え、EAIBが独自に行動できるようにすべきです。 |
| Note to editors: | 注記 |
| Please note that all documents adopted during the EDPB Plenary are subject to the necessary legal, linguistic and formatting checks and will be made available on the EDPB website once these have been completed. | EDPB総会で採択されたすべての文書は、必要な法律上、言語上、フォーマット上のチェックを受け、それが完了した時点でEDPBのウェブサイトで公開されることに留意してください。 |
規則案自体はこちら、、、
● European Commission
・Proposal for a Regulation laying down harmonised rules on artificial intelligence
The Commission is proposing the first ever legal framework on AI, which addresses the risks of AI and positions Europe to play a leading role globally.
● EURO-LEX
・[HTML]
・[DOCX] とりあえず機械翻訳 (DeepL)
人工知能に関する調和のとれた規則（人工知能法）を定める欧州議会および理事会の規則の提案に関する欧州保護委員会 (EDPB) と欧州データ保護監督官 (EDPS) との共同意見 - 5/2021
● EDPB
・[PDF]
[DOCX] 仮訳
● まるちゃんの情報セキュリティ気まぐれ日記
・2021.04.24 欧州委員会がAIへの規制を提案 → 欧州データ保護官は歓迎するけど、公共空間での遠隔生体認証についての規制も入れてね
« 人工知能技術に芸術と人文科学はどのように貢献できるか？ by John Tasioulas（オックスフォード大学のAI倫理研究所所長） | Main | 米国CISA MITRE ATT&CK®をサイバー脅威インテリジェンスに活用するためのガイダンス at 2021.06.02 »
Comments