OECD AIシステム分類のためのOECDフレームワーク
こんにちは、丸山満彦です。
OECDが、AIシステム分類のためのOECDフレームワークを公表していますね。。。
● OECD - Library
・2022.02.22 OECD Framework for the Classification of AI systems
| OECD Framework for the Classification of AI systems | OECD AIシステムの分類のためのフレームワーク |
| As artificial intelligence (AI) integrates all sectors at a rapid pace, different AI systems bring different benefits and risks. In comparing virtual assistants, self-driving vehicles and video recommendations for children, it is easy to see that the benefits and risks of each are very different. Their specificities will require different approaches to policy making and governance. To help policy makers, regulators, legislators and others characterise AI systems deployed in specific contexts, the OECD has developed a user-friendly tool to evaluate AI systems from a policy perspective. It can be applied to the widest range of AI systems across the following dimensions: People & Planet; Economic Context; Data & Input; AI model; and Task & Output. Each of the framework's dimensions has a subset of properties and attributes to define and assess policy implications and to guide an innovative and trustworthy approach to AI as outlined in the OECD AI Principles. | 人工知能（AI）があらゆる分野を急速なスピードで統合していく中で、異なるAIシステムは異なるメリットとリスクをもたらす。仮想アシスタント、自動運転車、子供向けビデオ推薦を比較すると、それぞれのメリットとリスクが大きく異なることが容易に理解できる。それらの特異性から、政策立案やガバナンスにも異なるアプローチが必要になる。政策立案者、規制当局、立法者などが、特定の文脈で展開されるAIシステムの特徴を把握できるように、OECDは、政策の観点からAIシステムを評価するための使いやすいツールを開発した。これは、以下の次元で最も広範なAIシステムに適用することができる。人と地球、経済的文脈、データと入力、AIモデル、そしてタスクと出力。フレームワークの各次元は、OECD AI原則に概説されているように、政策的意味を定義し評価し、AIへの革新的で信頼できるアプローチを導くための特性と属性のサブセットを持っている。 |
・[PDF]
エグゼクティブサマリー...
| Executive summary | エグゼクティブサマリー |
| The OECD Framework for the Classification of AI Systems helps assess policy opportunities and challenges | OECDのAIシステム分類のためのフレームワークは、政策の機会と課題を評価するのに役立つ |
| AI changes how people learn, work, play, interact and live. As AI spreads across sectors, different types of AI systems deliver different benefits, risks and policy and regulatory challenges. Consider the differences between a virtual assistant, a self-driving vehicle and an algorithm that recommends videos for children. | AIは、人々の学び方、働き方、遊び方、交流の仕方、生き方を変える。AIが各分野に広がるにつれ、異なるタイプのAIシステムが異なる便益、リスク、政策・規制上の課題をもたらす。バーチャルアシスタント、自動運転車、子供向けのビデオを推奨するアルゴリズムなどの違いを考えてみよう。 |
| The OECD developed a user-friendly framework for policy makers, regulators, legislators and others to characterise AI systems for specific projects and contexts. The framework links AI system characteristics with the OECD AI Principles (OECD, 2019), the first set of AI standards that governments pledged to incorporate into policy making and promote the innovative and trustworthy use of AI. | OECDは、政策立案者、規制当局、立法者などが、特定のプロジェクトやコンテクストのためにAIシステムを特徴付けるための使いやすいフレームワークを開発した。このフレームワークは、AIシステムの特性を、各国政府が政策決定に取り入れることを約束した最初のAI基準であるOECD AI原則（OECD, 2019）と関連付け、AIの革新的で信頼できる利用を促進する。 |
| Ways to use the framework | フレームワークの利用方法 |
| The framework allows users to zoom in on specific risks that are typical of AI, such as bias, explainability and robustness, yet it is generic in nature. It facilitates nuanced and precise policy debate. The framework can also help develop policies and regulations, since AI system characteristics influence the technical and procedural measures they need for implementation. In particular, the framework provides a baseline to: | このフレームワークは、バイアス、説明可能性、頑健性など、AIに典型的に見られる特定のリスクにズームインすることができ、しかも汎用的なものである。ニュアンスに富んだ的確な政策論議を促進することができる。また、AIシステムの特性は、その実施に必要な技術的・手続き的措置に影響を与えるため、フレームワークは政策や規制の策定にも役立つ。特に、このフレームワークは以下のようなベースラインを提供する。 |
| • Promote a common understanding of AI: Identify features of AI systems that matter most, to help governments and others tailor policies to specific AI applications and help identify or develop metrics to assess more subjective criteria (such as well-being impact). | ・AIに対する共通理解の促進：最も重要なAIシステムの特徴を特定し、政府や他の機関が特定のAIアプリケーションに合わせた政策を行い、より主観的な基準（幸福への影響など）を評価するための指標を特定または開発するのに役立てることができる。 |
| • Inform registries or inventories: Help describe systems and their basic characteristics in inventories or registries of algorithms or automated decision systems. | ・レジストリやインベントリに情報を提供する。アルゴリズムや自動化された意思決定システムのインベントリやレジストリにおいて,システムやその基本的な特性を説明するのに役立つ。 |
| • Support sector-specific frameworks: Provide the basis for more detailed application or domainspecific catalogues of criteria, in sectors such as healthcare or in finance. | ・分野別フレームワークを支援する。ヘルスケアや金融などのセクターにおいて、より詳細なアプリケーションやドメイン固有の基準のカタログのための基礎を提供する。 |
| • Support risk assessment: Provide the basis for related work to develop a risk assessment framework to help with de-risking and mitigation and to develop a common framework for reporting about AI incidents that facilitates global consistency and interoperability in incident reporting. | ・リスク評価を支援する。リスク評価フレームワークを開発し,リスクの除去や軽減に役立てる。また、AIインシデントに関する報告のための共通フレームワークを開発し,インシデント報告におけるグローバルな一貫性と相互運用性を促進する。 |
| • Support risk management: Help inform related work on mitigation, compliance and enforcement along the AI system lifecycle, including as it pertains to corporate governance. | ・リスクマネジメントを支援する。コーポレートガバナンスに関連するものを含め,AIシステムのライフサイクルに沿った緩和,コンプライアンス,執行に関する関連作業への情報提供を支援する。 |
| Key dimensions structure AI system characteristics and interactions | AIシステムの特性および相互作用の主要な次元の構造 |
| The framework classifies AI systems and applications along the following dimensions: People & Planet, Economic Context, Data & Input, AI Model and Task & Output. Each one has its own properties and attributes or sub-dimensions relevant to assessing policy considerations of particular AI systems. | このフレームワークは、AIシステムとアプリケーションを以下の次元に沿って分類している。「人と地球」「経済的文脈」「データと入力」「AIモデル」「タスクと出力」。それぞれは、特定のAIシステムの政策的考察を評価するのに関連する独自の特性や属性、または下位次元を有している。 |
| • People & Planet: This considers the potential of applied AI systems to promote human-centric, trustworthy AI that benefits people and planet. In each context, it identifies individuals and groups that interact with or are affected by an applied AI system. Core characteristics include users and impacted stakeholders, as well as the application’s optionality and how it impacts human rights, the environment, well-being, society and the world of work. | ・人と地球：人と地球のためになる、人間中心で信頼できるAIを促進するための、応用AIシステムの可能性を検討する。各コンテキストにおいて、応用AIシステムと相互作用する、あるいは応用AIシステムの影響を受ける個人とグループを特定する。コアとなる特性には、ユーザーや影響を受けるステークホルダーのほか、アプリケーションのオプション性、人権、環境、福祉、社会、仕事の世界にどのような影響を与えるかが含まれる。 |
| • Economic Context: This describes the economic and sectoral environment in which an applied AI system is implemented. It usually pertains to an applied AI application rather than to a generic AI system, and describes the type of organisation and functional area for which an AI system is developed. Characteristics include the sector in which the system is deployed (e.g. healthcare, finance, manufacturing), its business function and model; its critical (or non-critical) nature; its deployment, impact and scale, and its technological maturity. | ・経済的コンテクスト：応用AIシステムが実装される経済的、部門的環境を説明する。通常、一般的なAIシステムよりも応用的なAIアプリケーションに関係し、AIシステムが開発される組織の種類と機能領域を記述する。特徴としては、システムが導入される分野（医療、金融、製造など）、ビジネス機能およびモデル、重要性（または非重要性）、展開、影響、規模、技術的成熟度などが挙げられる。 |
| • Data & Input: This describes the data and/or expert input with which an AI model builds a representation of the environment. Characteristics include the provenance of data and inputs, machine and/or human collection method, data structure and format, and data properties. Data & Input characteristics can pertain to data used to train an AI system (“in the lab”) and data used in production (“in the field”). | ・データ及び入力：AIモデルが環境の表現を構築するためのデータおよび/または専門家の入力について説明する。データおよび入力の出所、機械および/または人の収集方法、データの構造と形式、およびデータの特性などが含まれる。データと入力の特性は、AIシステムのトレーニングに使用されるデータ（「ラボ内」）と生産現場で使用されるデータ（「現場」）に関連することがある。 |
| • AI Model: This is a computational representation of all or part of the external environment of an AI system – encompassing, for example, processes, objects, ideas, people and/or interactions that take place in that environment. Core characteristics include technical type, how the model is built (using expert knowledge, machine learning or both) and how the model is used (for what objectives and using what performance measures). | ・AIモデル：これは、AIシステムの外部環境のすべてまたは一部を計算で表現したもので、例えば、プロセス、オブジェクト、アイデア、人、および/またはその環境で行われる相互作用などを含んでいる。コアとなる特性には、技術的なタイプ、モデルの構築方法（専門家の知識、機械学習、またはその両方を使用）、モデルの使用方法（どんな目的のために、どんな性能指標を使用するか）などがある。 |
| • Task & Output: This refers to the tasks the system performs, e.g. personalisation, recognition, forecasting or goal-driven optimisation; its outputs; and the resulting action(s) that influence the overall context. Characteristics of this dimension include system task(s); action autonomy; systems that combine tasks and actions like autonomous vehicles; core application areas like computer vision; and evaluation methods. | ・タスクとアウトプット：これは、システムが実行するタスク（パーソナライズ、認識、予測、目標駆動型最適化など）、そのアウトプット、および全体のコンテキストに影響を与える結果のアクション（複数可）を指する。この次元の特徴としては、システムタスク、行動の自律性、自律走行車のようにタスクと行動を組み合わせたシステム、コンピュータビジョンのようなコアアプリケーション分野、評価方法などが挙げられる。 |
| Applicability of the framework to AI “in the lab” versus “in the field” | 「ラボ内」AIと「現場」AIへのフレームワークの適用性 |
| Some criteria of the framework are more applicable to AI “in the field” contexts than AI “in the lab” contexts, and vice versa. AI “in the lab” refers to the AI system’s conception and development, before deployment. It is applicable to the Data & Input (e.g. qualifying the data), AI Model (e.g. training the initial model) and Task & Output dimensions (e.g. for a personalisation task) of the framework. It is particularly relevant to ex ante risk-management approaches and requirements. AI “in the field” refers to the use and evolution of an AI system after deployment and is applicable to all the dimensions. It is relevant to ex post riskmanagement approaches and requirements. | フレームワークのいくつかの基準は、「ラボ内」AIのコンテキストよりも「現場」AIのコンテキストに適用可能であり、その逆もまた然りである。「ラボ内」AIは、AIシステムの構想や開発、配備の前の段階を指する。これは、フレームワークのデータ＆インプット（例：データの検証）、AIモデル（例：初期モデルのトレーニング）、タスク＆アウトプット（例：パーソナライズタスク）の各次元に適用されるものである。特に、事前のリスクマネジメントのアプローチと要件に関連している。 「現場」AIとは、配備後のAIシステムの使用と進化を指し、すべての次元に適用可能である。これは、事後的なリスク管理のアプローチと要件に関連する。 |
| Classification and the AI system lifecycle | 分類とAIシステムのライフサイクル |
| The AI system lifecycle can serve as a complementary structure for understanding the key technical characteristics of a system. The lifecycle encompasses the following phases that are not necessarily sequential: planning and design; collecting and processing data; building and using the model; verifying and validating; deployment; and operating and monitoring (OECD, 2019d[1]). The dimensions of the OECD Framework for the Classification of AI Systems can be associated with stages of the AI system lifecycle to identify a dimension’s relevant AI actors, which is relevant to accountability. | AIシステムのライフサイクルは、システムの主要な技術的特性を理解するための補完的な構造として機能することができる。ライフサイクルは、計画・設計、データの収集・処理、モデルの構築・使用、検証・妥当性確認、展開、運用・監視という必ずしも連続的ではない段階を包含する（OECD, 2019d[1] ）。OECDのAIシステム分類の枠組みの次元は、AIシステムのライフサイクルの段階と関連付けることで、説明責任に関連する次元のAIアクターを特定することができる。 |
目次...
| Executive summary | エグゼクティブサマリー |
| Acknowledgements | 謝辞 |
| 1 Overview and goal of the framework | 1 フレームワークの概要と目標 |
| Link between the classification and actors in the AI system lifecycle | 分類とAIシステムライフサイクルのアクターとの関連性 |
| Other important scoping considerations | その他の重要なスコーピングの考慮事項 |
| 2 Classification framework | 2 分類フレームワーク |
| People & Planet | 人と地球 |
| Economic Context | 経済的コンテクスト |
| Data & Input | データ＆インプット |
| AI Model | AIモデル |
| Task & Output | タスクとアウトプット |
| 3 Applying the framework | 3 フレームワークの適用 |
| Applying the framework to real-world systems with expert and survey input | 専門家と調査のインプットを用いて、フレームワークを実世界のシステムに適用する |
| System 1: Credit-scoring system | システム1：クレジットスコアリングシステム |
| System 2: AlphaGo Zero | システム2: AlphaGo Zero |
| System 3: Qlector.com LEAP system to manage a manufacturing plant | システム3: 製造工場を管理するQlector.com LEAPシステム |
| System 4: GPT-3 | システム4：GPT-3 |
| 4 Next steps | 4 次のステップ |
| Refining classification criteria based on real-world evidence | 実世界のエビデンスに基づく分類基準の精緻化 |
| Tracking AI incidents | AIインシデントの追跡 |
| Developing a risk assessment framework | リスク評価フレームワークの開発 |
| Annex A. Sample AI applications by sector, ordered by diffusion | 附属書A. AIアプリケーションの分野別サンプル（普及度順） |
| Annex B. AI adoption per industry | 附属書B. 産業ごとのAI導入状況 |
| Annex C. WG CAI membership | 附属書C. WG CAIのメンバー |
| Annex D. Participants in the public consultation | 附属書D. パブリックコンサルテーションの参加者 |
■ 参考
OECDの「人工知能に関する理事会勧告」
● OECD
・2019.05.22 [PDF] Recommendation of the Council on Artificial Intelligence
総務省による仮訳
・2019.05.22 [PDF] 人工知能に関する理事会勧告
Comments