米国 NIST CSWP 31 重要AIシステムのための代理妥当性確認と検証；代理設計プロセス (2024.09.26)

こんにちは、丸山満彦です。

重要なAIシステムのための代理システムによる妥当性確認と検証のための設計プロセスについての文書ですかね...

● NIST - ITL

・2024.09.26 NIST CSWP 31 Proxy Validation and Verification for Critical AI Systems: A Proxy Design Process

NIST CSWP 31 Proxy Validation and Verification for Critical AI Systems: A Proxy Design Process	NIST CSWP 31 重要AIシステムのための代理妥当性確認と検証：プロキシ設計プロセス
Abstract	要約
This white paper describes a five-phase process that includes identifying or building proxy systems that have high similarity to a Critical AI System (CAIS), representing a kind of validation, and verifying the proxy by creating and testing both use and misuse cases of each proxy against its CAIS.	本ホワイトペーパーでは、重要AIシステム(CAIS)に高い類似性を持つ代理システムの識別または構築、一種の妥当性確認の代表者、およびCAISに対する各代理の使用ケースと誤使用ケースの両方を作成しテストすることで代理を検証する、という5段階のプロセスについて説明します。

・[PDF] NIST.CSWP.31

・[DOCX][PDF] 仮訳

目次...

Executive Summary	エグゼクティブサマリー
1. Introduction	1. 序文
1.1. Background	1.1.背景
2. CAIS Validation and Verification Process — 5 phases	2. CAIS 妥当性確認・検証プロセス - 5 段階
2.1. Phase 1: Assess CAIS Risk Level	2.1.フェーズ1： CAISリスクアセスメント
2.2. Phase 2: System Evaluation to Find Proxy Equivalents	2.2.フェーズ2：代理同等品を見つけるためのシステム評価
2.2.1. Physical Operational Environment	2.2.1.物理的運用環境
2.2.2. Application Purpose	2.2.2.アプリ目的
2.2.3. Operational Characteristics	2.2.3.動作特性
2.2.4. AI/ML Development Algorithms	2.2.4.AI/ML開発アルゴリズム
2.2.5. AI/ML Development Techniques	2.2.5.AI/ML開発技術
2.2.6. CAIS and Proxy Taxonomy Template	2.2.6.CAISおよび代理分類法テンプレート
2.3. Phase 3: CAIS/Proxy Similarity Testing	2.3.フェーズ3：CAIS/代理類似性テスト
2.4. Phase 4: Misuse Cases for Further Testing	2.4.フェーズ4：さらなるテストのための誤用ケース
2.5. Phase 5: Proxy Misuse Case Testing	2.5.フェーズ5：代理誤用ケースのテスト
References	参考文献
Appendix A. Glossary	附属書 A.用語集