U.S. GAO 人工知能のための新しい枠組み at 2021.06.30

こんにちは、丸山満彦です。

U.S. GAOが「人工知能のための新しい枠組み」を2021.06.30に発表していましたね。。。

これ、なかなか興味深く、日本の会計検査院もこれをベースに作ったら良いようにも思えます。。。。

監査人や第三者評価者が聞くべきポイントと、それを確認するための監査手続きまで記載がありますね。。。

● U.S. GAO

・2021.06.30 Artificial Intelligence:An Accountability Framework for Federal Agencies and Other Entities

ハイライト

What GAO Found	GAOの見解
To help managers ensure accountability and responsible use of artificial intelligence (AI) in government programs and processes, GAO developed an AI accountability framework. This framework is organized around four complementary principles, which address governance, data, performance, and monitoring. For each principle, the framework describes key practices for federal agencies and other entities that are considering, selecting, and implementing AI systems. Each practice includes a set of questions for entities, auditors, and third-party assessors to consider, as well as procedures for auditors and third- party assessors.	政府のプログラムやプロセスにおける人工知能（AI）の説明責任と責任ある利用を管理者が確保できるように、GAOはAI説明責任枠組みを開発しました。この枠組みは、ガバナンス、データ、パフォーマンス、モニタリングの4つの補完的な原則を中心に構成されています。 この枠組みでは、各原則について、AIシステムを検討・選定・導入している連邦政府機関やその他の団体のための重要なプラクティスが記載されています。各プラクティスには、企業、監査人、第三者評価者が検討すべき質問事項と、監査人や第三者評価者のための手順が含まれています。
Why GAO Developed This Framework	GAOがこの枠組みを開発した理由
AI is a transformative technology with applications in medicine, agriculture, manufacturing, transportation, defense, and many other areas. It also holds substantial promise for improving government operations. Federal guidance has focused on ensuring AI is responsible, equitable, traceable, reliable, and governable. Third-party assessments and audits are important to achieving these goals. However, AI systems pose unique challenges to such oversight because their inputs and operations are not always visible.	AIは、医療、農業、製造、輸送、防衛、その他多くの分野で応用されている、変革をもたらす技術です。また、政府業務の改善にも大きな期待が寄せられています。連邦政府のガイダンスは、AIが責任を持って、公平に、追跡可能に、信頼性を持って、統治可能であることを保証することに重点を置いています。これらの目標を達成するためには、第三者による評価や監査が重要です。しかし、AIシステムは、その入力や操作が常に可視化されているわけではないため、このような監視には特有の課題があります。
GAO's objective was to identify key practices to help ensure accountability and responsible AI use by federal agencies and other entities involved in the design, development, deployment, and continuous monitoring of AI systems. To develop this framework, GAO convened a Comptroller General Forum with AI experts from across the federal government, industry, and nonprofit sectors. It also conducted an extensive literature review and obtained independent validation of key practices from program officials and subject matter experts. In addition, GAO interviewed AI subject matter experts representing industry, state audit associations, nonprofit entities, and other organizations, as well as officials from federal agencies and Offices of Inspector General.	GAOの目的は、AIシステムの設計、開発、展開、継続的なモニタリングに携わる連邦政府機関やその他の団体が、説明責任を果たし、責任を持ってAIを使用できるようにするための重要なプラクティスを特定することです。この枠組みを開発するために、GAOは連邦政府、産業界、非営利団体のAI専門家を集めた会計検査院フォーラムを開催しました。また、広範な文献調査を行い、プログラム関係者や対象分野の専門家から主要な実践方法について独立した検証を得ました。さらにGAOは、産業界、州の監査協会、非営利団体、その他の組織を代表するAIの専門家や、連邦政府機関や監察総監室の職員にインタビューを行いました。

・[PDF] Full Report

・[PDF] Highlights Page

そのフレームワークに関する開発者の簡単なビデオメッセージがブログで2021.07.21に公開されていました。。。

● U.S. GAO - blog

・2021.07.21 Our New Framework for Artificial Intelligence (video)

1. Governance	1. ガバナンス
Promote accountability by establishing processes to manage, operate, and oversee implementation.	管理・運営・監督するプロセスを確立することで、説明責任を果たす。
To help entities promote accountability and responsible use of AI systems, GAO identified key practices for establishing governance structures and processes to manage, operate, and oversee the implementation of these systems.	AIシステムの説明責任と責任ある利用を促進するために、GAOは、AIシステムの導入を管理・運営・監督するためのガバナンス構造とプロセスを確立するための主要なプラクティスを特定する。
Governance at the Organizational Level	組織レベルのガバナンス
Entities should define clear goals, roles, and responsibilities, demonstrate values and principles to foster trust, develop a competent workforce, engage stakeholders with diverse perspectives to mitigate risks, and implement an Al-specific risk management plan.	事業体は、明確な目標、役割、責任を定め、信頼を醸成するための価値観や原則を示し、有能な人材を育成し、リスクを軽減するために多様な視点を持つステークホルダーを関与させ、AI固有のリスク管理計画を実施しなければならない。
1.1 Clear goals: Define clear goals and objectives for the AI system to ensure intended outcomes are achieved.	1.1 明確な目標：意図した結果を確実に達成するために、AIシステムの明確な目標と目的を定義する。
1.2 Roles and responsibilities: Define clear roles, responsibilities, and delegation of authority for the AI system to ensure effective operations, timely corrections, and sustained oversight.	1.2 役割と責任：効果的な運用、タイムリーな修正、継続的な監視を確実にするために、AIシステムの明確な役割、責任、権限の委譲を定義する。
1.3 Values: Demonstrate a commitment to values and principles established by the entity to foster public trust in responsible use of the AI system.	1.3 価値観：AIシステムの責任ある使用に対する国民の信頼を醸成するために、事業者が確立した価値と原則へのコミットメントを示す。
1.4 Workforce: Recruit, develop, and retain personnel with multidisciplinary skills and experiences in design, development, deployment, assessment, and monitoring of AI systems.	1.4 労働力：AIシステムの設計、開発、展開、評価、および監視において、学際的なスキルと経験を有する人材を採用、開発、および保持する。
1.5 Stakeholder involvement: Include diverse perspectives from a community of stakeholders throughout the AI life cycle to mitigate risks.	1.5 利害関係者の関与：リスクを軽減するために、AIのライフサイクルを通じて、利害関係者のコミュニティから多様な視点を取り入れる。
1.6 Risk management: Implement an AI-specific risk management plan to systematically identify, analyze, and mitigate risks.	1.6 リスク管理：AIに特化したリスク管理計画を実施し、リスクを体系的に特定、分析、軽減する。
Governance at the Systems Level	システムレベルのガバナンス
Entities should establish technical specifications to ensure the Al system meets its intended purpose and complies with relevant laws, regulations, standards, and guidance. Entities should promote transparency by enabling external stakeholders to access information on the Al system.1.7 Specifications: Establish and document technical specifications to ensure the AI system meets its intended purpose.	企業は、Alシステムが意図された目的を満たし、関連する法律、規制、基準、ガイダンスに準拠することを保証するための技術仕様を確立すべきである。事業者は、外部の利害関係者が Al システムに関する情報にアクセスできるようにすることで、透明性を促進すべきである。AIシステムが意図された目的を満たすことを確実にするために、技術仕様を確立し、文書化する。
1.8 Compliance: Ensure the AI system complies with relevant laws, regulations, standards, and guidance.	1.8 コンプライアンス：AIシステムが、関連する法律、規制、基準、及びガイダンスに確実に準拠する。
1.9 Transparency: Promote transparency by enabling external stakeholders to access information on the design, operation, and limitations of the AI system.	1.9 透明性：外部のステークホルダーがAIシステムの設計、運用、および制限に関する情報にアクセスできるようにすることで、透明性を促進する。
2. Data	2. データ
Ensure quality, reliability, and representativeness of data sources and processing.	データソースおよび処理の品質、信頼性、および代表性を確保する。
To help entities use data that are appropriate for the intended use of each AI system, GAO identified key practices to ensure data are of high quality, reliable, and representative.	各AIシステムの使用目的に適したデータをエンティティが使用するために、GAOはデータが高品質で、信頼性があり、代表性があることを保証するための重要なプラクティスを特定する。
Data used for Model Development (Data Used to Develop an AI Model)	モデル開発に使用されるデータ（AIモデルの構築に使用するデータ）
Entities should document sources and origins of data, ensure the reliability of data, and assess data attributes, variables, and augmentation/enhancement for appropriateness.	事業者は、データのソースと起源を文書化し、データの信頼性を確保し、データの属性、変数、増強・強化が適切であるかどうかを評価しなければならない。
2.1 Sources: Document sources and origins of data used to develop the models underpinning the AI system.	2.1 ソース：AIシステムの基礎となるモデルを開発するために使用されるデータの出所および起源を文書化する。
2.2 Reliability: Assess reliability of data used to develop the models.	2.2 信頼性：モデルの開発に使用したデータの信頼性を評価する。
2.3 Categorization: Assess attributes used to categorize data.	2.3 カテゴリー化：データを分類するための属性を評価する。
2.4 Variable selection: Assess data variables used in the AI component models.	2.4 変数の選択：AIコンポーネントモデルに使用されるデータの変数を評価する。
2.5 Enhancement: Assess the use of synthetic, imputed, and/or augmented data.	2.5 エンハンスメント：合成データ、入力データ、および／または拡張データの使用を評価する。
Data Used for System Operation (Data Used to Operate an AI System)	システム運用に使用されるデータ（AIシステムの運用に使用されるデータ）
Entities should assess the interconnectivities and dependencies of data streams that operationalize an Al system, identify potential biases, and assess data security and privacy.	事業者は、AIシステムを運用するデータストリームの相互関連性と依存性を評価し、潜在的なバイアスを特定し、データセキュリティとプライバシーを評価しなければならない。
2.6 Dependency: Assess interconnectivities and dependencies of data streams that operationalize the AI system.	2.6 依存性：AI システムを運用するデータストリームの相互接続性および依存性を評価する。
2.7 Bias: Assess reliability, quality, and representativeness of all the data used in the system’s operation, including any potential biases, inequities, and other societal concerns associated with the AI system’s data.	2.7 偏り：AIシステムのデータに関連する潜在的な偏り、不公平、およびその他の社会的関心事を含め、システムの運用に使用されるすべてのデータの信頼性、品質、および代表性を評価する。
2.8 Security and privacy: Assess data security and privacy for the AI system.	2.8 セキュリティとプライバシー：AIシステムのデータセキュリティとプライバシーを評価する。
3. Performance	3. パフォーマンス
Produce results that are consistent with program objectives.	プログラムの目的に合致した結果を出すこと。
To help entities ensure AI systems produce results that are consistent with program objectives, GAO identified key practices for ensuring that systems meets their intended purposes.	AIシステムがプログラムの目的に合致した結果を生み出すことを確実にするために、GAOはシステムが意図された目的を満たすことを確実にするための主要なプラクティスを特定した。
Performance at the Component Level	コンポーネントレベルでのパフォーマンス
Entities should catalog model and non-model components that make up the Al system, define metrics, and assess performance and outputs of each component.	事業体は、AIシステムを構成するモデルおよび非モデルのコンポーネントを分類し、評価基準を定め、各コンポーネントのパフォーマンスとアウトプットを評価しなければならない。
3.1 Documentation: Catalog model and non-model components, along with operating specifications and parameters.	3.1 文書化：モデルおよび非モデルのコンポーネントを、動作仕様およびパラメータとともにカタログ化する。
3.2 Metrics: Define performance metrics that are precise, consistent, and reproducible.	3.2 メトリクス：正確で、一貫性があり、再現性のある性能評価指標を定義する。
3.3 Assessment: Assess the performance of each component against defined metrics to ensure it functions as intended and is consistent with program goals and objectives.	3.3 評価：意図したとおりに機能し、プログラムの目標と目的に合致していることを確認するため、定義された測定基準に照らして各コンポーネントの性能を評価する。
3.4 Outputs: Assess whether outputs of each component are appropriate for the operational context of the AI system.	3.4 出力：各コンポーネントの出力が、AIシステムの運用状況に適しているかどうかを評価する。
Performance at the System-Level	システムレベルでの性能
Entities should define metrics and assess performance of the AI system. In addition, entities should document methods for assessment, performance metrics, and outcomes; identify potential biases; and define and develop procedures for human supervision of the Al system.	事業体は、AIシステムのパフォーマンスを評価するための指標を定義しなければならない。加えて、評価方法、性能指標、結果を文書化し、潜在的なバイアスを特定し、AIシステムを人間が監督するための手順を定義・策定する。
3.5 Documentation: Document the methods for assessment, performance metrics, and outcomes of the AI system to provide transparency over its performance.	3.5 文書化：AIシステムの性能に関する透明性を確保するために、AIシステムの評価方法、性能指標、および結果を文書化する。
3.6 Metrics: Define performance metrics that are precise, consistent, and reproducible.	3.6 メトリクス：正確で、一貫性があり、再現性のある性能評価指標を定義する。
3.7 Assessment: Assess performance against defined metrics to ensure the AI system functions as intended and is sufficiently robust.	3.7 評価：AIシステムが意図された通りに機能し、十分に堅牢であることを確認するために、定義されたメトリクスに対するパフォーマンスを評価する。
3.8 Bias: Identify potential biases, inequities, and other societal concerns resulting from the AI system.	3.8 バイアス：AIシステムに起因する潜在的なバイアス、不公平、およびその他の社会的懸念を特定する。
3.9 Human supervision: Define and develop procedures for human supervision of the AI system to ensure accountability.	3.9 人間による監督：説明責任を果たすために、AIシステムを人間が監督するための手順を定義し、開発する。
4. Monitoring	4. モニタリング
Ensure reliability and relevance over time.	時間をかけて信頼性と関連性を確保する。
To help entities ensure reliability and relevance of AI systems over time, GAO identified key practices for monitoring performance and assessing sustainment and expanded use.	長期的にAIシステムの信頼性と妥当性を確保するために、GAOは、パフォーマンスのモニタリング、持続性と使用拡大の評価に関する重要なプラクティスを特定する。
Continuous Monitoring of Performance	パフォーマンスの継続的なモニタリング
Entities should develop plans for continuous or routine monitoring of the Al system and document results and corrective actions taken to ensure the system produces desired results.	事業体は、AIシステムの継続的または定期的なモニタリングのための計画を策定し、システムが望ましい結果を生み出すことを保証するために実施された結果と是正措置を文書化しなければならない。
4.1 Planning: Develop plans for continuous or routine monitoring of the AI system to ensure it performs as intended.	4.1 計画：AI システムが意図したとおりに動作することを確実にするために、AI システムの継続的 または定期的なモニタリングのための計画を策定する。
4.2 Drift: Establish the range of data and model drift that is acceptable to ensure the AI system produces desired results.	4.2 ドリフト：AIシステムが望ましい結果を得るために許容可能なデータおよびモデルのドリフトの範囲を設定する。
4.3 Traceability: Document results of monitoring activities and any corrective actions taken to promote traceability and transparency.	4.3 トレーサビリティー：モニタリング活動の結果および是正措置を文書化し、トレーサビリティーと透明性を確保する。
Assessing Sustainment and Expanded Use	持続可能性及び使用拡大の評価
Entities should assess the utility of the Al system to ensure its relevance and identify conditions under which the Al system may or may not be scaled or expanded beyond its current use.	企業は、AI システムの有用性を評価して、その妥当性を確認し、AI システムを現在の使用を超えて拡張または拡大してもよい、またはしなくてもよい条件を特定しなければならない。
4.4 Ongoing assessment: Assess the utility of the AI system to ensure its relevance to the current context.	4.4 継続的な評価：現在の状況との関連性を確保するために、AI システムの有用性を評価する。
4.5 Scaling: Identify conditions, if any, under which the AI system may be scaled or expanded beyond its current use.	4.5 スケーリング：AIシステムが現在の使用を超えて拡大または拡張される可能性がある条件があれば、それを特定する。