欧州委員会規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン: まるちゃんの情報セキュリティ気まぐれ日記

March 2025
Sun	Mon	Tue	Wed	Thu	Fri	Sat
						1
2	3	4	5	6	7	8
9	10	11	12	13	14	15
16	17	18	19	20	21	22
23	24	25	26	27	28	29
30	31

2025.02.08

欧州委員会規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン

こんにちは、丸山満彦です。

欧州委員会からAIの禁止行為に関するガイドラインを発表していますね...

● European Commission

・2025.02.04 Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act.

Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act.	欧州委員会は、AI法が定める人工知能（AI）の禁止行為に関するガイドラインを発表した。
These guidelines provide an overview of AI practices that are deemed unacceptable due to their potential risks to European values and fundamental rights.	本ガイドラインは、欧州の価値観や基本的権利に対する潜在的リスクのために容認できないと判断されるAI行為の概要を提供するものである。
The AI Act, which aims to promote innovation while ensuring high levels of health, safety, and fundamental rights protection, classifies AI systems into different risk categories, including prohibited, high-risk, and those subject to transparency obligations. The guidelines specifically address practices such as harmful manipulation, social scoring, and real-time remote biometric identification, among others.	高水準の健康、安全、基本的権利の保護を確保しながらイノベーションを促進することを目的とするAI法は、AIシステムを禁止、高リスク、透明性義務の対象など、さまざまなリスクカテゴリーに分類している。ガイドラインは特に、有害な操作、ソーシャルスコアリング、リアルタイムの遠隔生体認証などの慣行を取り上げている。
The guidelines are designed to ensure the consistent, effective, and uniform application of the AI Act across the European Union. While they offer valuable insights into the Commission's interpretation of the prohibitions, they are non-binding, with authoritative interpretations reserved for the Court of Justice of the European Union (CJEU). The guidelines provide legal explanations and practical examples to help stakeholders understand and comply with the AI Act's requirements. This initiative underscores the EU's commitment to fostering a safe and ethical AI landscape.	同ガイドラインは、欧州連合（EU）全体におけるAI法の一貫した効果的かつ統一的な適用を確保するためのものである。同ガイドラインは、禁止事項に関する欧州委員会の解釈に関する貴重な洞察を提供するものではあるが、拘束力はなく、権威ある解釈は欧州連合司法裁判所（CJEU）に委ねられている。本ガイドラインは、関係者がAI法の要件を理解し遵守できるよう、法的な説明と実践的な事例を提供している。この取り組みは、安全で倫理的なAIを育成するというEUのコミットメントを強調するものである。
Please note that the Commission has approved the draft guidelines, but not yet formally adopted them.	なお、欧州委員会はガイドラインのドラフトを承認したが、まだ正式には採択していない。
Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)	欧州委員会からのコミュニケーション草案の内容の承認 - 規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン
Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)	規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン

欧州委員会からのコミュニケーション草案の内容の承認 - 規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン

・[PDF] Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)

COMMUNICATION TO THE COMMISSION	委員会へのコミュニケーション
Approval of the content of the draft Communication from the Commission – Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)	欧州委員会からのコミュニケーション草案-規則（EU）2024/1689（AI法）が定める禁止された人工知能行為に関する欧州委員会ガイドライン- の内容の承認
Regulation (EU) 2024/1689 of the European Parliament and the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending certain regulations (‘the AI Act’)1 entered into force on 1 August 2024. The AI Act lays down harmonised rules for the placing on the market, putting into service, and use of artificial intelligence (‘AI’) in the Union. Its aim is to promote innovation in and the uptake of AI, while ensuring a high level of protection of health, safety and fundamental rights in the Union, including democracy and the rule of law.	人工知能に関する調和された規則を定め、特定の規則を改正する2024年6月13日の欧州議会および理事会規則（EU）2024/1689（「AI法」）1は、2024年8月1日に発効した。AI法は、欧州連合における人工知能（以下「AI」）の上市、実用化、使用に関する調和された規則を定めたものである。その目的は、民主主義や法の支配を含め、EUにおける健康、安全、基本的権利の高水準の保護を確保しつつ、AIの技術革新と普及を促進することにある。
The AI Act follows a risk-based approach, classifying AI systems into different risk categories, one of which consists of AI practices posing unacceptable risks to fundamental rights and Union values which are prohibited under Article 5 AI Act.	AI法はリスク・ベースのアプローチに従い、AIシステムをさまざまなリスク・カテゴリーに分類しており、そのうちのひとつは、基本的権利や連邦の価値観に許容できないリスクをもたらすAI行為で、AI法第5条で禁止されている。
Pursuant to Article 96(1)(b) AI Act, the Commission is to adopt guidelines on the practical implementation of the practices prohibited under Article 5 AI Act. The Draft Guidelines annexed to this Communication aim to increase legal clarity and to provide insights into the Commission’s interpretation of the prohibitions in Article 5 AI Act with a view to ensuring their consistent, effective and uniform application.	AI法第96条1項（b）に従い、欧州委員会は、AI法第5条で禁止されている慣行の実際の実施に関するガイドラインを採択することになっている。本コミュニケーションに附属するドラフトガイドラインは、法的明確性を高め、AI法第5条の禁止事項の一貫した効果的かつ統一的な適用を確保することを目的とした、欧州委員会の解釈に関する洞察を提供することを目的としている。
Such clarity is essential for providers and deployers of AI systems, since the prohibitions are directly applicable as from 2 February 2025. In view of this imminent entry into application and the time necessary for the translation of the guidelines into all languages, the Commission is called upon to approve the content of draft Communication from the Commission on Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689.	禁止事項は2025年2月2日から直接適用されるため、このような明確性はAIシステムのプロバイダや展開者にとって不可欠である。この適用開始が間近に迫っていること、およびガイドラインの全言語への翻訳に時間が必要であることを考慮し、欧州委員会は、規則（EU）2024/1689により制定された人工知能の禁止行為に関するガイドラインに関する欧州委員会からのコミュニケーション草案の内容を承認するよう求められている。
The Guidelines will be formally adopted by the Commission at a later date, when all language versions are available. It is only from that moment that these Guidelines will be applicable. The text of the draft Guidelines is enclosed as an Annex to this Communication.	同ガイドラインは、後日、すべての言語版が利用可能になった時点で、欧州委員会により正式に採択される。このガイドラインが適用されるのは、その時点からである。ガイドライン草案のテキストは、本コミュニケーションの附属書として同封されている。

規則（EU）2024/1689（AI法）が定める人工知能の禁止行為に関する欧州委員会ガイドライン

PDF140ページあります...

・[PDF] Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)

・[DOCX][PDF] 仮訳...

目次...

1. Background and objectives	1 背景と目的
2. Overview of prohibited AI practices	2 禁止されているAIの慣行の概要
2.1. Prohibitions listed in Article 5 AI Act	2.1. AI法第5条の禁止事項
2.2. Legal basis of the prohibitions	2.2. 禁止事項の法的根拠
2.3. Material scope: practices related to the ‘placing on the market’, ‘putting into service’ or ‘use’ of an AI system	2.3. 重要な範囲：AI システムの「上市」、「使用開始」または「使用」に関する慣行
2.4. Personal scope: responsible actors	2.4. 個人の範囲：責任ある行為者
2.5. Exclusion from the scope of the AI Act	2.5. AI法の適用除外
2.5.1. National security, defence and military purposes	2.5.1. 国家安全保障、防衛、軍事目的
2.5.2. Judicial and law enforcement cooperation with third countries	2.5.2. 第三国との司法・法執行協力
2.5.3. Research & Development	2.5.3. 研究開発
2.5.4. Personal non-professional activity	2.5.4. 個人的な非専門活動
2.5.5. AI systems released under free and open source licences	2.5.5. フリーおよびオープンソースライセンスでリリースされたAIシステム
2.6. Interplay of the prohibitions with the requirements for high-risk AI systems	2.6. 禁止事項と高リスクAIシステムの要件の相互関係
2.7. Application of the prohibitions to general-purpose AI systems and systems with intended purposes	2.7. 汎用AIシステムおよび目的別システムへの禁止事項の適用
2.8. Interplay between the prohibitions and other Union law	2.8. 禁止事項と他のEU法との相互関係
2.9. Enforcement of Article 5 AI Act	2.9. AI法第5条の施行
2.9.1. Market Surveillance Authorities	2.9.1. 市場監視認可機関
2.9.2. Penalties	2.9.2. 罰則
3. Article 5(1)(a) and (b) AI Act – harmful manipulation, deception and exploitation	3 AI法第5条(1)(a)および(b) - 有害な操作、欺瞞および搾取
3.1. Rationale and objectives	3.1. 根拠と目的
3.2. Main components of the prohibition in Article 5(1)(a) AI Act – harmful manipulation	3.2. AI法第5条(1)（a）における禁止事項の主な構成要素 - 有害な操作
3.2.1. Subliminal, purposefully manipulative or deceptive techniques	3.2.1. サブリミナル的、意図的に操作的または欺瞞的な手法
3.2.2. With the objective or the effect of materially distorting the behaviour of a person or a group of persons	3.2.2. 個人または集団の行動を実質的に歪める目的または効果を持つ。
3.2.3. (Reasonably likely to) cause significant harm	3.2.3. (合理的に)重大な損害をもたらす（可能性がある）
3.3. Main components of the prohibition in Article 5(1)(b) AI Act – harmful exploitation of vulnerabilities	3.3. AI法第5条(1)bの禁止事項の主な構成要素-脆弱性の有害な利用
3.3.1. Exploitation of vulnerabilities due to age, disability, or a specific socio-economic situation	3.3.1. 年齢、障害、特定の社会経済的状況による脆弱性を利用する。
3.3.2. With the objective or the effect of materially distorting behaviour	3.3.2. 行動を実質的に歪める目的または効果を持つ。
3.3.3. (Reasonably likely to) cause significant harm	3.3.3. (合理的に)重大な損害をもたらす（可能性がある）
3.4. Interplay between the prohibitions in Article 5(1)(a) and (b) AI Act	3.4. AI法第5条(1)(a)と(b)の禁止事項の相互関係
3.5. Out of scope	3.5. 範囲外
3.5.1. Lawful persuasion	3.5.1. 合法的な説得
3.5.2. Manipulative, deceptive and exploitative AI systems that are not likely to cause significant harm	3.5.2. 操作的、欺瞞的、搾取的なAIシステムで、重大な危害を引き起こす可能性のないもの
3.6. Interplay with other Union law	3.6. 他の連邦法との関係
4. Article 5(1)(c) AI Act - social scoring	4 AI法第5条(1)(c) - ソーシャル・スコアリング
4.1. Rationale and objectives	4.1. 根拠と目的
4.2. Main concepts and components of the ‘social scoring’ prohibition	4.2. ソーシャル・スコアリング」禁止の主な概念と構成要素
4.2.1. ‘Social scoring’: evaluation or classification based on social behaviour or personal or personality characteristics over a certain period of time	4.2.1. 「社会的スコアリング」：一定期間における社会的行動や個人的・性格的特徴に基づく評価や分類。
4.2.2. The social score must lead to detrimental or unfavourable treatment in unrelated social contexts and/or unjustified or disproportionate treatment to the gravity of the social behaviour	4.2.2. 社会的得点は、無関係な社会的文脈における不利益もしくは不利な扱い、および／または社会的行動の重大性に不当もしくは不釣り合いな扱いをもたらすものでなければならない。
4.2.3. Regardless of whether provided or used by public or private persons	4.2.3. 公私の別を問わず、プロバイダが提供または使用する。
4.3. Out of scope	4.3. 範囲外
4.4. Interplay with other Union legal acts	4.4. 他の連邦法との関係
5. Article 5(1)(d) AI Act – individual risk assessment and prediction OF CRIMINAL OFFENCES	5 AI法第5条(1)(d) -個々のリスクアセスメントと犯罪の予測
5.1. Rationale and objectives	5.1. 根拠と目的
5.2. Main concepts and components of the prohibition	5.2. 禁止事項の主な概念と構成要素
5.2.1. Assessing the risk or predicting the likelihood of a person committing a crime	5.2.1. 人が犯罪を犯すリスクをアセスメントし、その可能性を予測する。
5.2.2. Solely based on profiling of a natural person or on assessing their personality traits and characteristics	5.2.2. 自然人のプロファイリング、または性格特性や特徴のアセスメントにのみ基づく。
5.2.3. Exclusion of AI systems to support the human assessment based on objective and verifiable facts directly linked to a criminal activity	5.2.3. 犯罪行為に直結する客観的かつ検証可能な事実に基づく人間のアセスメントを支援するためのAIシステムの除外
5.2.4. Extent to which private actors’ activities may fall within scope	5.2.4. 民間主体の活動が適用範囲に入る可能性のある範囲
5.3. Out of scope	5.3. 範囲外
5.3.1. Location-based or geospatial predictive or place-based crime predictions	5.3.1. 位置情報ベース、地理空間情報ベース、場所ベースの犯罪予測
5.3.2. AI systems that support human assessments based on objective and verifiable facts linked to a criminal activity	5.3.2. 犯罪行為に関連する客観的かつ検証可能な事実に基づく人間のアセスメントを支援するAIシステム
5.3.3. AI systems used for crime predictions and assessments in relation to legal entities	5.3.3. 事業体に関する犯罪予測やアセスメントに使用されるAIシステム
5.3.4. AI systems used for individual predictions of administrative offences	5.3.4. 行政犯罪の個別予測に使用されるAIシステム
5.4. Interplay with other Union legal acts	5.4. 他の連邦法との関係
6. Article 5(1)(e) AI Act - untargeted scraping of facial images	6 AI法第5条(1)(e) - 顔画像の非標的スクレイピング
6.1. Rationale and objectives	6.1. 根拠と目的
6.2. Main concepts and components of the prohibition	6.2. 禁止事項の主な概念と構成要素
6.2.1. Facial recognition databases	6.2.1. 顔認識データベース
6.2.2. Through untargeted scraping of facial images	6.2.2. 顔画像の非ターゲット・スクレイピングを通じて
6.2.3. From the Internet and CCTV footage	6.2.3. インターネットとCCTV映像から
6.3. Out of scope	6.3. 範囲外
6.4. Interplay with other Union legal acts	6.4. 他の連邦法との関係
7. Article 5(1)(f) AI Act emotion recognition	7 AI法第5条(1)(f) - 行為感情認識
7.1. Rationale and objectives	7.1. 根拠と目的
7.2. Main concepts and components of the prohibition	7.2. 禁止事項の主な概念と構成要素
7.2.1. AI systems to infer emotions	7.2.1. 感情を推測するAIシステム
7.2.2. Limitation of the prohibition to workplace and educational institutions	7.2.2. 職場および教育機構への禁止事項の限定
7.2.3. Exceptions for medical and safety reasons	7.2.3. 医療上および安全上の理由による例外
7.3. More favourable Member State law	7.3. より有利な加盟国法
7.4. Out of scope	7.4. 範囲外
8. Article 5(1)(g) AI Act: Biometric categorisation for certain ‘sensitive’ characteristics	8 AI法第5条(1)(g) - 特定の「機微な」特徴に関するバイオメトリクス分類
8.1. Rationale and objectives	8.1. 根拠と目的
8.2. Main concepts and components of the prohibition	8.2. 禁止事項の主な概念と構成要素
8.2.1. Biometric categorisation system	8.2.1. バイオメトリクス分類システム
8.2.2. Persons are individually categorised based on their biometric data	8.2.2. 個人は生体データに基づいて個別に分類される。
8.2.3. To deduce or infer their race, political opinions, trade union membership, religious or philosophical beliefs, sex life or sexual orientation	8.2.3. 人種、政治的意見、労働組合への加入、宗教的または哲学的信条、性生活、性的指向を推測または推論すること。
8.3. Out of scope	8.3. 範囲外
8.4. Interplay with other Union law	8.4. 他の連邦法との関係
9. Article 5(1)(h) AI Act - Real-time Remote Biometric Identification (RBI) Systems for Law Enforcement Purposes	9 AI法第5条(1)(h) - 法執行目的のリアルタイム遠隔バイオメトリクス識別（RBI）システム
9.1. Rationale and objectives	9.1. 根拠と目的
9.2. Main concepts and components of the prohibition	9.2. 禁止事項の主な概念と構成要素
9.2.1. The Notion of Remote Biometric Identification	9.2.1. 遠隔生体認証の概念
9.2.2. Real-time	9.2.2. リアルタイム
9.2.3. In publicly accessible spaces .	9.2.3. 公共のアクセス可能なスペースでは.
9.2.4. For law enforcement purposes	9.2.4. 法執行目的の場合
9.3. Exceptions to the prohibition	9.3. 禁止事項の例外
9.3.1. Rationale and objectives	9.3.1. 根拠と目的
9.3.2. Targeted search for the victims of three serious crimes and missing persons.	9.3.2. 重大犯罪の被害者と行方不明者を対象に捜索を行う。
9.3.3. Prevention of imminent threats to life or terrorist attacks	9.3.3. 生命に対する差し迫った脅威やテロ攻撃の防止
9.3.4. Localisation and identification of suspects of certain crimes	9.3.4. 特定の犯罪の容疑者の位置特定と識別
10. Safeguards and Conditions for the exceptions (Article 5(2)-(7) AI Act)	10 AI法第5条(2) (7) - 例外に関する保護措置と条件
10.1. Targeted individual and safeguards (Article 5(2) AI Act)	10.1 対象となる個人とセーフガード（AI法5条2項
10.1.1. Fundamental Rights Impact Assessment	10.1.1. 基本的人権の影響アセスメント
10.1.2. Registration of the authorized RBI systems	10.1.2. 認可RBIシステムの登録
10.2. Need for prior authorisation	10.2 事前承認の必要性
10.2.1. Objective	10.2.1. 目的
10.2.2. The main principle: Prior authorisation by a judicial authority or an independent administrative authority	10.2.2. 大原則司法当局または独立行政当局による事前認可
10.3. Notification to the authorities of each use of ‘real-time’ remote biometric identification systems in publicly accessible spaces for law enforcement	10.3. 法執行のために公共のアクセス可能な空間で「リアルタイム」遠隔バイオメトリクス識別システムを使用する場合は、その都度認可に通知する。
10.4. Need for national laws within the limits of the AI Act exceptions	10.4. AI法の例外の範囲内での国内法の必要性
10.4.1. Principle: national law required to provide the legal basis for the authorisation for all or some of the exceptions	10.4.1. 原則：例外のすべてまたは一部について、認可の法的根拠となる国内法が必要である。
10.4.2. National law shall respect the limits and conditions of Article 5(1)(h) AI Act	10.4.2. 国内法は、AI法第5条(1)(h)の制限と条件を尊重するものとする。
10.4.3. Detailed national law on the authorisation request, the issuance and the exercise	10.4.3. 認可申請、発行、行使に関する国内法の詳細
10.4.4. Detailed national law on the supervision and the reporting relating to the authorisation	10.4.4. 認可に関する監督と報告に関する詳細な国内法
10.5. Annual reports by the national market surveillance authorities and the national data protection authorities of Member States	10.5. 加盟国の市場監視当局およびデータ保護当局による年次報告書
10.6. Annual reports by the Commission	10.6. 委員会による年次報告
10.7. Out-of-Scope	10.7. 対象外
10.8. Examples of uses	10.8. 使用例
11. Entry into application	11 適用
12. Review and update of the Commission guidelines	12 委員会ガイドラインの見直しと更新