欧州理事会 AI法改正案を欧州議会に提出

こんにちは、丸山満彦です。

欧州理事会が、AI法改正案を欧州議会に提出していますね。。。

欧州議会

● European Parliament - Legislative Observatory

・2021.11.29 2021/0106(COD)   - Artificial Intelligence Act 

・2021.11.29 [PDF] Interinstitutional File: 2021/0106(COD)

主な変更点

II. MAIN CHANGES	II. 主な変更点
1. Subject matter and scope	1. 主題および範囲
a) Article 1 has been clarified to reflect more accurately the content of the proposed AIA.	a) 提案されている AIA の内容をより正確に反映させるため、第 1 条が明確化された。
b) The scope of the proposal has been clarified in Article 2, with the main change  consisting of the  addition of an explicit reference to the exclusion of national  security from the scope of the proposed regulation in Article 2(3) . This is in  accordance with  Article 4(2) of TEU, which provides that national security  remains the sole  responsibility of each Member State. The related Recital 12 also  contains additional explanations concerning AI systems exclusively developed or  used for military  purposes.	b) 提案の範囲は第 2 条において明確化され、主な変更点は、第 2 条(3)において国家安全保障を 提案された規制の範囲から除外する旨の明確な言及を追加したことである。これは、国家安全保障が各加盟国の唯一の責任であることを規定したTEU第4条第2項に従ったものである。また、関連する説明文12には、軍事目的で排他的に開発または使用されるAIシステムに関する追加説明が含まれている。
c) Similarly, it has been clarified in Article 2(6) and Article 2(7) , as well as in the  related new Recital 12a that the AIA should not apply to AI systems and their  outputs used for the sole purpose of research and development.	c) 同様に、第2条(6)および第2条(7)ならびに関連する新しい説明12aにおいて、AIAは、研究開発のみを目的として使用されるAIシステムおよびその出力には適用されないことが明確にされている。
2. Definitions	2. 定義
a) A number of definitions have been fine-tuned and new ones have been added.  Notably, the definition of an AI system in Article 3(1) , including the explanations  in the related Recital 6, has been modified to ensure more legal clarity and to  better reflect what should be understood by an AI system for the purposes of the  AIA, with an explicit reference indicating that any such system should be  capable of determining how to achieve a given set of human defined objectives by  learning, reasoning or modelling. This change is also intended to prevent the  inclusion in the scope of the proposed regulation of more traditional software  systems that are normally not considered as artificial intelligence.	a) 多くの定義が微調整され、新たな定義が追加された。 特に、第3条(1)のAIシステムの定義は、関連する説明資料6の説明を含めて、法的な明確性を確保し、AIAの目的上、AIシステムが何を理解すべきかをよりよく反映するために変更されており、AIシステムは、学習、推論、モデル化によって、人間が定義した一連の目的を達成する方法を決定することができるものでなければならないという明確な言及がなされている。この変更は、通常は人工知能とは見なされない、より伝統的なソフトウェアシステムが提案されている規制の範囲に含まれることを防ぐことも意図している。
b) Some definitions of various regulated actors have been improved (e.g.  provider,  user,  authorised representative) or added (e.g. manufacturer) , in order to better  explain their roles and obligations within the AI value chain. Also, the  definitions  relating to  biometrics have been fine-tuned in line with the changes  introduced in the  corresponding provisions.	b) AIのバリューチェーンにおける役割と義務をより良く説明するために、様々な規制対象者の定義が改善され（例：提供者、ユーザー、公認代理人）、また追加された（例：製造者）。また、バイオメトリクスに関連する定義は、対応する条項で導入された変更に合わせて微調整された。
c) Three new definitions, of 'critical infrastructure', 'personal data' and 'non-personal  data',  have also been added at the end of Article 3.	c) 第3条の最後に、「重要インフラ」、「個人データ」、「非個人データ」の3つの新しい定義が追加された。
4. Prohibited artificial intelligence practices	4. 人工知能に関する行為の禁止
a) As regards prohibited AI practices, in Article 5((1) (c) the compromise text  contains the extension of the prohibition of using artificial intelligence for social  scoring also to private actors.	a) 禁止されている人工知能の行為について、調整案では、第5条(1)(c)において、社会的スコアリングのために人工知能を使用することの禁止を、民間業者にも拡大することが盛り込まれている。
b) Concerning the use of ‘real-time’ remote biometric identification systems in  publicly accessible spaces by law enforcement authorities, it has been clarified  in Article 5(1) (d) that such systems could also be used by other actors,  acting on behalf of law enforcement authorities. Moreover, the list of  objectives  for which law enforcement should be allowed to use ‘real-time’  remote  biometric identification, included also in  Article 5(1) (d) ,   has been slightly  extended. The provisions concerning the related authorisation process  as  described in Article 5(3) have also been modified.	b) 法執行機関が公共のアクセス可能な空間で「リアルタイム」の遠隔生体識別システムを使用することについては、第5条1項(d)において、そのようなシステムは法執行機関のために行動する他のアクターも使用できることが明確にされた。さらに、第5条(1)(d)にも含まれている、法執行機関が「リアルタイム」の遠隔バイオメトリクス識別を使用することを認められるべき目的のリストが若干拡張された。また、第 5 条(3)に記載されている関連する認可プロセスに関する規定も修正された。
c) Furthermore, the provision in Article 5(1) (b) prohibiting the use of AI systems  that  exploit the vulnerabilities of specific group of persons has been modified  and it now  also covers persons who are vulnerable due to their social or economic situation.	c) さらに、第5条(1)(b)の、特定のグループの人の脆弱性を利用するAIシステムの使用を禁止する規定が修正され、社会的または経済的状況により脆弱な人も対象となっている。
5. Classification rules for high-risk AI systems	5. 高リスクのAIシステムの分類ルール
a) The entire Article 6 has been rewritten to clarify the logic behind the  classification for  high-risk AI systems, and its interconnection with Annexes II and III.	a) 第6条全体を書き換え、ハイリスクAIシステムの分類の論理と、附属書IIおよびIIIとの相互関係を明確にした。
b) The list of areas relevant for the identification of high-risk AI systems, listed in  Annex III, has been updated. Notably, AI systems intended to be used to control  or as safety components of digital infrastructure and AI systems intended to  be  used to control emissions and pollution have been added in point 2, AI  systems intended to be used for insurance purposes have been added in point 5,  and the reference to systems intended to  be used by law enforcement authorities  or on their behalf for crime analytics has been  deleted from point 6.	b) 附属書IIIに記載されている、高リスクAIシステムの識別に関連する分野のリストが更新された。特に、デジタルインフラの制御または安全部品として使用することを意図したAIシステムと、排出と汚染の制御に使用することを意図したAIシステムがポイント2に追加され、保険目的で使用することを意図したAIシステムがポイント5に追加され、法執行機関またはその代理で犯罪分析のために使用することを意図したシステムへの言及がポイント6から削除されている。
6. General purpose AI systems	6. 汎用AIシステム
a) A new Article 52a and the related new Recital 70a have been added to clarify   that  general purpose AI systems should not be considered as having an intended  purpose within the meaning of this Regulation. The new provisions also make  it clear that the placing on the market, putting into service or use of a general  purpose AI system should not trigger any of the requirements under the AIA.	a) 汎用AIシステムは、本規則の意味における意図された目的を有するものとみなされるべきではないことを明確にするため、新たに第52条aおよび関連する新たな説明文70aが追加された。また、この新規定は、汎用AIシステムの上市、使用開始または使用が、AIAに基づくいずれの要求も引き起こすべきではないことを明確にしている。
6. Delegation of powers to the Commission and reporting	6. 欧州委員会への権限委譲および報告
a) As regards the modalities for updates of Annexes I and III, the changes in  Article 84  introduce a new reporting obligation for the Commission whereby it  will be obliged to assess the need for amendment of the lists in these two  annexes every 24 months following the entry into force of the AIA.	a) 附属書IおよびIIIの更新方法に関しては、第84条の変更により、欧州委員会に新たな報告義務が導入され、欧州委員会はAIAの発効後24カ月ごとにこの2つの附属書のリストを修正する必要性を評価することになる。