« OECD OECDのAI原則の4年後の実施状況 (2023.10.27) | Main | 欧州 EASA 航空安全に関する情報セキュリティ規則 (2023.10.31) »

2023.11.07

EDPS AI法に関するEDPS最終提言 (2023.10.24)

こんにちは、丸山満彦です。

欧州データ保護監督官 (European Data Protection Supervisor: EDPS)が、欧州AI法案についての最終提言を発表していました。。。

機械学習によるAIはデータを使うわけなので、どうしてもプライバシーとの調整が避けられませんよね。。。AIの社会への影響力が大きければ、それだけプライバシー規制との調整も重要となる。。。

以下の感覚は重要だろうと思います...


個人とその基本的権利に許容できないリスクをもたらすAIシステムの使用を禁止することが最も重要である。これには、例えば、公共空間における人間の特徴やその他の行動信号の自動認識や、バイオメトリックな特徴に基づく個人の分類にAIシステムを使用することの禁止が含まれる。このような文脈でのAIシステムやリスクの高いAIシステムの使用は、個人の生活への侵入性が高く、人間の尊厳に影響を与えるため、禁止されるべきである。


 

European Data Protection Supervisor: EDPS

プレスリリース

・2023.10.24 EDPS' Final Recommendations on the AI Act

EDPS' Final Recommendations on the AI Act AI法に関するEDPSの最終提言
The EDPS published today its own-initiative Opinion on the Artificial Intelligence Act (AI Act) as this proposed Regulation enters the final stages of negotiations between the EU’s co-legislators. The AI Act aims to regulate the development and use of Artificial Intelligence (AI) systems in the EU, including in the EU institutions, bodies, offices and agencies (EUIs). With this Opinion, the EDPS provides specific suggestions focusing on the EDPS’ future tasks as the authority in charge of overseeing AI systems in the EUIs. EDPSは本日、人工知能法(AI法)に関する独自の意見書を発表した。この規則案は、EUの共同立法者による交渉の最終段階に入った。AI法は、EUの機構、団体、事務所、機関(EUI)を含め、EUにおける人工知能(AI)システムの開発と利用を規制することを目的としている。本意見書により、EDPSは、EUIにおけるAIシステムの監督を担当する認可機関としてのEDPSの今後の任務に焦点を当てた具体的な提案を行う。
Wojciech Wiewiórowski, EDPS, said: “It is my duty to ensure that the tasks and duties of the EDPS, as the future AI Supervisor of the EUIs, are clearly spelled out so that we can guarantee that the AI systems used and developed by EUIs are safe and sound. I also reiterate my call for the prohibition of AI systems posing unacceptable risks to individuals.” EDPSのWojciech Wiewiórowski氏は次のように述べている: 「EUIが使用・開発するAIシステムが安全かつ健全であることを保証できるよう、EUIの将来のAI監督機関としてのEDPSの任務と義務を明確に規定することが私の義務である。また、個人にとって受け入れがたいリスクをもたらすAIシステムの禁止を改めて求める。
As stated by the European Data Protection Authorities in the EDPS-EDPB Joint Opinion on the AI Act, it is paramount that the use of AI systems that pose unacceptable risks to individuals and their fundamental rights are prohibited. This includes the prohibition to use AI systems for automated recognition of human features and other behavioural signals in public spaces, and the categorisation of individuals based on their biometric features, for example. Using AI systems and high-risk AI systems in these contexts should be prohibited due to their high level of intrusiveness into individuals’ lives, and their impact on human dignity. AI法に関するEDPS-EDPB共同意見で欧州データ保護当局が述べているように、個人とその基本的権利に許容できないリスクをもたらすAIシステムの使用を禁止することが最も重要である。これには、例えば、公共空間における人間の特徴やその他の行動信号の自動認識や、バイオメトリックな特徴に基づく個人の分類にAIシステムを使用することの禁止が含まれる。このような文脈でのAIシステムやリスクの高いAIシステムの使用は、個人の生活への侵入性が高く、人間の尊厳に影響を与えるため、禁止されるべきである。
The AI Act designates the EDPS as notified body and market surveillance authority to assess the conformity of high-risk AI systems that are developed or deployed by EUIs; as well as competent authority for the supervision of the provision or use of AI systems by EUIs. Based on its experience with enforcing fundamental rights, the EDPS stands ready to take on the role of AI Supervisor of the EUIs. In this context, the EDPS requests that its role, tasks and powers are clarified under the AI Act, taking into account the particularities of the legal framework applicable to EUIs. The EDPS also reiterates the need for appropriate financial and human resources to fulfil its role as AI Supervisor. AI法は、EDPSを、EUIが開発または導入する高リスクのAIシステムの適合性を評価する通知機関および市場監視当局、ならびにEUIによるAIシステムの提供または使用を監督する主務官庁として指定している。EDPSは、基本的権利の執行に関する経験に基づき、EUIのAI監督官の役割を担う用意がある。この観点から、EDPSは、EUIに適用される法的枠組みの特殊性を考慮し、その役割、任務、権限をAI法の下で明確化することを要請する。また、EDPSは、AI監督官としての役割を果たすために、適切な財政的・人的資源が必要であることを改めて表明する。
The EDPS considers that individuals affected by the use of AI systems should be provided with the right to lodge a complaint before a competent authority, in case providers and users of AI systems infringe on the AI Act. To this end, the AI Act should explicitly include the competence of the EDPS to receive complaints. More broadly, the EDPS recommends that data protection authorities are designated as national supervisory authorities under the AI Act to cooperate with authorities that have specific expertise in deploying AI systems, to ensure trustworthiness. EDPSは、AIシステムのプロバイダや利用者がAI法を侵害した場合、AIシステムの利用によって影響を受ける個人が管轄当局に苦情を申し立てる権利を提供すべきであると考える。そのためには、AI法にEDPSが苦情を受け付ける権限を明記すべきである。より広義には、EDPSは、データ保護当局をAI法に基づく国内監督当局として指定し、AIシステムの導入に関する特定の専門知識を有する当局と協力することで、信頼性を確保することを提言する。
Persuaded that a European approach to enforcing the AI Act is essential, especially in cross-border cases, the EDPS welcomes the establishment of the European Artificial Intelligence Office (AI Office). The EDPS supports the objectives of the AI Office to centralise the enforcement of the AI Act in certain cases and to harmonise its application across the EU Member States. The EDPS also stands ready to perform joint investigations on equal footing with national supervisory authorities, as well as take part in the other activities of the AI Office. AI法の施行には欧州のアプローチが不可欠であり、特に国境を越えたケースにおいて、EDPSは欧州人工知能庁(AI Office)の設立を歓迎する。EDPSは、特定のケースにおけるAI法の施行を一元化し、EU加盟国間での適用を調和させるというAIオフィスの目的を支持する。EDPSはまた、各国の監督当局と対等な立場で共同調査を行い、AIオフィスのその他の活動にも参加する用意がある。
Accordingly, the EDPS calls the co-legislator to attribute the voting rights to the EDPS as full member of the AI Office’s management board. Building on its experience as provider of the EDPB Secretariat, which has led to substantial savings and synergies, the EDPS requests to take on this role for the AI Office as well.   従って、EDPSは共同立法者に対し、EDPSをAIオフィスの経営委員会のフルメンバーとして議決権を与えるよう要請する。EDPSは、EDPB事務局のプロバイダとして大幅な経費節減と相乗効果をもたらした経験に基づき、AI事務局においてもこの役割を担うことを要請する。 
Background information 背景情報
The rules for data protection in the EU institutions, as well as the duties of the European Data Protection Supervisor (EDPS), are set out in Regulation (EU) 2018/1725. EU機構におけるデータ保護に関する規則および欧州データ保護監督者(EDPS)の任務は、規則(EU)2018/1725に定められている。
About the EDPS: The EDPS is the independent supervisory authority with responsibility for monitoring the processing of personal data by the EU institutions and bodies, advising on policies and legislation that affect privacy and cooperating with similar authorities to ensure consistent data protection. Our mission is also to raise awareness on risks and protect people’s rights and freedoms when their personal data is processed. EDPSについて:EDPSは、EU機構および団体による個人データの処理を監視し、プライバシーに影響を及ぼす政策や法律について助言し、一貫したデータ保護を確保するために類似の当局と協力する責任を負う独立した監督当局である。また、個人データが処理される際のリスクについての認識を高め、人々の権利と自由を保護することも使命である。
Wojciech Wiewiórowski(EDPS) was appointed by a joint decision of the European Parliament and the Council to serve a five-year term, beginning on 6 December 2019. ヴォイチェフ・ヴィエウォロフスキ(EDPS)は、欧州議会と理事会の共同決定により任命され、任期は2019年12月6日から5年間となった。

 

全文...

・2023.10.23 [PDF] Opinion 44/2023 on the Proposal for Artificial Intelligence Act in the light of legislative developments

20231107-162117

 

第45回グローバル・プライバシー総会でEDPSが提出した「生成的人工知能に関する決議」

・2023.10.20 [PDF] Resolution on Generative Artificial Intelligence Systems

20231107-162635

 

AIとデータ保護に関するEDPSの取り組みに関するファクトシート

・2023.10 [PDF] EDPS at work DATA PROTECTION and ARTIFICIAL INTELLIGENCE (AI) 

20231107-162819

 

 

・2023.10.24 Artificial Intelligence Act - Wojciech Wiewiórowski

 

|

« OECD OECDのAI原則の4年後の実施状況 (2023.10.27) | Main | 欧州 EASA 航空安全に関する情報セキュリティ規則 (2023.10.31) »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« OECD OECDのAI原則の4年後の実施状況 (2023.10.27) | Main | 欧州 EASA 航空安全に関する情報セキュリティ規則 (2023.10.31) »