欧州AI法が施行された... (2024.08.01): まるちゃんの情報セキュリティ気まぐれ日記

September 2024
Sun	Mon	Tue	Wed	Thu	Fri	Sat
1	2	3	4	5	6	7
8	9	10	11	12	13	14
15	16	17	18	19	20	21
22	23	24	25	26	27	28
29	30

2024.08.05

欧州AI法が施行された... (2024.08.01)

こんにちは、丸山満彦です。

7月12日にAI法が官報に掲載されたので、20日後の8月1日に施行されましたね...

・2024.08.01 European Artificial Intelligence Act comes into force

European Artificial Intelligence Act comes into force	欧州人工知能法が発効
Today, the European Artificial Intelligence Act (AI Act), the world's first comprehensive regulation on artificial intelligence, enters into force. The AI Act is designed to ensure that AI developed and used in the EU is trustworthy, with safeguards to protect people's fundamental rights. The regulation aims to establish a harmonised internal market for AI in the EU, encouraging the uptake of this technology and creating a supportive environment for innovation and investment.	本日、人工知能に関する世界初の包括的規制である欧州人工知能法（AI法）が発効した。AI法は、EU域内で開発・使用されるAIが信頼に足るものであることを保証し、人々の基本的権利を保護するためのセーフガードを設けることを目的としている。この規制は、EUにおけるAIの調和された域内市場を確立し、この技術の導入を奨励し、技術革新と投資を支援する環境を整えることを目的としている。
The AI Act introduces a forward-looking definition of AI, based on a product safety and risk-based approach in the EU:	AI法は、EUにおける製品の安全性とリスクに基づくアプローチに基づき、AIの将来を見据えた定義を導入している：
・Minimal risk: Most AI systems, such as AI-enabled recommender systems and spam filters, fall into this category. These systems face no obligations under the AI Act due to their minimal risk to citizens' rights and safety. Companies can voluntarily adopt additional codes of conduct.	・最小限のリスク：最小リスク：AI対応レコメンダー・システムやスパムフィルターなど、ほとんどのAIシステムはこのカテゴリーに入る。これらのシステムは、市民の権利や安全に対するリスクが最小限であるため、AI法に基づく義務はない。企業は自主的に追加の行動規範を採用することができる。
・Specific transparency risk: AI systems like chatbots must clearly disclose to users that they are interacting with a machine. Certain AI-generated content, including deep fakes, must be labelled as such, and users need to be informed when biometric categorisation or emotion recognition systems are being used. In addition, providers will have to design systems in a way that synthetic audio, video, text and images content is marked in a machine-readable format, and detectable as artificially generated or manipulated.	・特定の透明性リスク：チャットボットのようなAIシステムは、ユーザーに機械との対話であることを明確に開示しなければならない。ディープフェイクを含む特定のAI生成コンテンツは、そのようにラベル付けされなければならず、生体認証分類や感情認識システムが使用されている場合は、ユーザーに通知する必要がある。さらに、プロバイダーは、合成音声、映像、テキスト、画像のコンテンツが機械可読形式で表示され、人工的に生成または操作されたものであることを検出できるようにシステムを設計する必要がある。
・High risk: AI systems identified as high-risk will be required to comply with strict requirements, including risk-mitigation systems, high quality of data sets, logging of activity, detailed documentation, clear user information, human oversight, and a high level of robustness, accuracy, and cybersecurity. Regulatory sandboxes will facilitate responsible innovation and the development of compliant AI systems. Such high-risk AI systems include for example AI systems used for recruitment, or to assess whether somebody is entitled to get a loan, or to run autonomous robots.	・高リスク：高リスクと認定されたAIシステムは、リスク軽減システム、高品質のデータセット、活動のロギング、詳細な文書化、明確なユーザー情報、人間による監視、高水準の堅牢性、正確性、サイバーセキュリティなど、厳しい要件に準拠することが求められる。規制のサンドボックスは、責任あるイノベーションとコンプライアンスに準拠したAIシステムの開発を促進する。このような高リスクのAIシステムには、例えば、リクルートに使われるAIシステムや、誰かが融資を受ける権利があるかどうかを評価するためのAIシステム、自律型ロボットを動かすためのAIシステムなどがある。
・Unacceptable risk: AI systems considered a clear threat to the fundamental rights of people will be banned. This includes AI systems or applications that manipulate human behaviour to circumvent users' free will, such as toys using voice assistance encouraging dangerous behaviour of minors, systems that allow ‘social scoring' by governments or companies, and certain applications of predictive policing. In addition, some uses of biometric systems will be prohibited, for example emotion recognition systems used at the workplace and some systems for categorising people or real time remote biometric identification for law enforcement purposes in publicly accessible spaces (with narrow exceptions).	・許容できないリスク：人々の基本的権利を明らかに脅かすと考えられるAIシステムは禁止される。これには、未成年者の危険な行動を促す音声アシスタントを使った玩具、政府や企業による「ソーシャル・スコアリング」を可能にするシステム、予測的取り締まりの特定のアプリケーションなど、ユーザーの自由意志を回避するために人間の行動を操作するAIシステムやアプリケーションが含まれる。さらに、生体認証システムの一部の使用は禁止される。例えば、職場で使用される感情認識システム、人を分類するための一部のシステム、公共のアクセス可能な空間における法執行目的のリアルタイム遠隔生体認証などである（狭い例外はある）。
To complement this system, the AI Act also introduces rules for so-called general-purpose AI models, which are highly capable AI models that are designed to perform a wide variety of tasks like generating human-like text. General-purpose AI models are increasingly used as components of AI applications. The AI Act will ensure transparency along the value chain and addresses possible systemic risks of the most capable models.	このシステムを補完するために、AI法はいわゆる汎用AIモデルに関するルールも導入している。汎用AIモデルとは、人間のようなテキストを生成するような多種多様なタスクを実行するように設計された、能力の高いAIモデルのことである。汎用AIモデルは、AIアプリケーションのコンポーネントとしてますます使用されるようになっている。AI法は、バリューチェーンに沿った透明性を確保し、最も能力の高いモデルのシステミックリスクの可能性に対処する。
Application and enforcement of the AI rules	AI規則の適用と施行
Member States have until 2 August 2025 to designate national competent authorities, who will oversee the application of the rules for AI systems and carry out market surveillance activities. The Commission's AI Office will be the key implementation body for the AI Act at EU-level, as well as the enforcer for the rules for general-purpose AI models.	加盟国は2025年8月2日までに、AIシステムに関する規則の適用を監督し、市場監視活動を行う国内所轄当局を指定しなければならない。欧州委員会のAI室は、EUレベルでのAI法の主要な実施機関であるとともに、汎用AIモデルに関する規則の執行機関でもある。
Three advisory bodies will support the implementation of the rules. The European Artificial Intelligence Board will ensure a uniform application of the AI Act across EU Member States and will act as the main body for cooperation between the Commission and the Member States. A scientific panel of independent experts will offer technical advice and input on enforcement. In particular, this panel can issue alerts to the AI Office about risks associated to general-purpose AI models. The AI Office can also receive guidance from an advisory forum, composed of a diverse set of stakeholders.	3つの諮問機関が規則の実施を支援する。欧州人工知能委員会（European Artificial Intelligence Board）は、EU加盟国間でのAI法の均一な適用を確保し、欧州委員会と加盟国間の協力のための主要機関として機能する。独立した専門家で構成される科学委員会は、施行に関する技術的助言と意見を提供する。特に、このパネルは、汎用AIモデルに関連するリスクについてAI事務局に警告を発することができる。また、AI事務局は、多様な利害関係者で構成される諮問フォーラムからも指導を受けることができる。
Companies not complying with the rules will be fined. Fines could go up to 7% of the global annual turnover for violations of banned AI applications, up to 3% for violations of other obligations and up to 1.5% for supplying incorrect information.	規則に従わない企業には罰金が科される。罰金は、禁止されているAIアプリケーションの違反に対しては全世界の年間売上高の最大7％、その他の義務違反に対しては最大3％、不正確な情報の提供に対しては最大1.5％となる可能性がある。
Next Steps	次のステップ
The majority of rules of the AI Act will start applying on 2 August 2026. However, prohibitions of AI systems deemed to present an unacceptable risk will already apply after six months, while the rules for so-called General-Purpose AI models will apply after 12 months.	AI法の大半の規則は2026年8月2日から適用される。しかし、許容できないリスクがあると判断されたAIシステムの使用禁止はすでに6ヵ月後に適用され、いわゆる汎用AIモデルに関する規則は12ヵ月後に適用される。
To bridge the transitional period before full implementation, the Commission has launched the AI Pact. This initiative invites AI developers to voluntarily adopt key obligations of the AI Act ahead of the legal deadlines.	完全実施までの過渡期を埋めるため、欧州委員会はAI協定を立ち上げた。この取り組みは、AI開発者に対し、法的期限に先駆けてAI法の主要な義務を自主的に採用するよう促すものである。
The Commission is also developing guidelines to define and detail how the AI Act should be implemented and facilitating co-regulatory instruments like standards and codes of practice. The Commission opened a call for expression of interest to participate in drawing-up the first general-purpose AI Code of Practice, as well as a multi-stakeholder consultation giving the opportunity to all stakeholders to have their say on the first Code of Practice under the AI Act.	欧州委員会はまた、AI法をどのように実施すべきかを定義し、詳述するガイドラインを作成し、基準や実施規範のような共同規制手段を促進している。欧州委員会は、初の汎用的なAI行動規範の作成に参加する意思表明者の募集を開始するとともに、AI法に基づく初の行動規範についてすべての利害関係者が意見を述べる機会を提供するマルチステークホルダー協議も開始した。
Background	背景
On 9 December 2023, the Commission welcomed the political agreement on the AI Act. On 24 January 2024 the Commission has launched a package of measures to support European startups and SMEs in the development of trustworthy AI. On 29 May 2024 the Commission unveiled the AI Office. On 9 July 2024 the amended EuroHPC JU Regulation entered into force, thus allowing the set-up of AI factories. This allows dedicated AI-supercomputers to be used for the training of General Purpose AI (GPAI) models.	2023年12月9日、欧州委員会はAI法に関する政治合意を歓迎した。2024年1月24日、欧州委員会は、信頼できるAIの開発において欧州の新興企業および中小企業を支援するための施策パッケージを発表した。2024年5月29日、欧州委員会はAI事務所を公開した。2024年7月9日、改正EuroHPC JU規則が発効し、AI工場の設立が可能になった。これにより、汎用AI（GPAI）モデルの訓練に専用のAIスーパーコンピュータを使用できるようになる。
Continued independent, evidence-based research produced by the Joint Research Centre (JRC) has been fundamental in shaping the EU's AI policies and ensuring their effective implementation.	共同研究センター（JRC）が継続的に行っている独立したエビデンスに基づく研究は、EUのAI政策を形成し、その効果的な実施を確保する上で基本となっている。
For More Information	詳細情報
European Artificial Intelligence Act	欧州人工知能法
New rules for Artificial Intelligence – Questions and Answers	人工知能に関する新ルール - Q&A
European AI Office \| Shaping Europe's digital future	欧州AI事務局｜欧州のデジタルの未来を形作る
Quote(s)	引用
AI has the potential to change the way we work and live and promises enormous benefits for citizens, our society and the European economy. The European approach to technology puts people first and ensures that everyone’s rights are preserved. With the AI Act, the EU has taken an important step to ensure that AI technology uptake respects EU rules in Europe.	AIは私たちの働き方や生活様式を変える可能性を秘めており、市民、私たちの社会、欧州経済にとって莫大な利益を約束するものである。テクノロジーに対する欧州のアプローチは、人々を第一に考え、すべての人の権利が守られることを保証するものである。AI法によって、EUは、AI技術の導入が欧州におけるEUのルールを尊重することを確実にするための重要な一歩を踏み出した
Margrethe Vestager, Executive Vice-President for a Europe Fit for the Digital Age	マルグレーテ・ヴェスタガー、デジタル時代に適合した欧州のための執行副委員長
Today marks a major milestone in Europe's leadership in trustworthy AI. With the entry into force of the AI Act, European democracy has delivered an effective, proportionate and world-first framework for AI, tackling risks and serving as a launchpad for European AI startups.	本日は、信頼できるAIにおける欧州のリーダーシップにおいて、大きな節目となる。AI法の発効により、欧州の民主主義は、効果的で適切かつ世界初のAIに関する枠組みを提供し、リスクに対処するとともに、欧州のAI新興企業のための発射台としての役割を果たすことになった。
Thierry Breton, Commissioner for Internal Market	ティエリー・ブルトン欧州委員会域内市場担当委員