米国 CISA AIデータセキュリティ：AIシステムの訓練と運用に使用されるデータセキュリティのベストプラクティス (2025.05.22)

こんにちは、丸山満彦です。

カナダを除くFive eyesの主要情報コミュニティーが、AIデータセキュリティについてのベストプラクティスを公表していますね...

 ● U.S. - CISA

・2025.05.22 AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems

AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems	AIデータセキュリティ： AIシステムの訓練と運用に使用されるデータセキュリティのベストプラクティス
CISA, the National Security Agency, the Federal Bureau of Investigation, and international partners released AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems.	CISA、国家安全保障局、連邦捜査局、および国際的パートナーがAIデータセキュリティを発表した： AIシステムの訓練と運用に使用されるデータセキュリティのベストプラクティス」を発表した。
This guidance highlights the critical role of data security in ensuring the accuracy, integrity, and trustworthiness of AI outcomes. It outlines key risks that may arise from data security and integrity issues across all phases of the AI lifecycle, from development and testing to deployment and operation.	このガイダンスは、AIの成果の正確性、完全性、信頼性を確保する上で、データセキュリティが果たす重要な役割を強調している。開発、テストから展開、運用に至るまで、AIライフサイクルのすべての段階において、データセキュリティと完全性の問題から生じる可能性のある主要なリスクを概説している。

・[PDF]

・[DOCX][PDF] 仮訳

目次...

Executive summary	エグゼクティブサマリー
Introduction	序論
Audience and scope	想定読者と適用範囲
Securing data throughout the AI system lifecycle	AIシステムのライフサイクルを通じてデータをセキュリティで保護する
Best practices to secure data for AI-based systems	AIベースのシステムでデータを保護するためのベストプラクティス
Data supply chain – risks and mitigations	データ・サプライチェーン - リスクと緩和
General risks for data consumers	データ消費者の一般的リスク
Risk: Curated web-scale datasets	リスク：キュレーションされたウェブスケールのデータセット
Risk: Collected web-scale datasets	リスク：収集されたウェブスケールのデータセット
Risk: Web-crawled datasets	リスク：ウェブクローリングされたデータセット
Final note on web-scale datasets and data poisoning	ウェブスケールのデータセットとデータ・ポイズニングに関する最終ノート
Maliciously modified data – risks and mitigations	悪意を持って変更されたデータ - リスクと緩和策
Risk: Adversarial Machine Learning threats	リスク：敵対的機械学習の脅威
Risk: Bad data statements	リスク：不正なデータ声明
Risk: Statistical bias	リスク：統計バイアス
Risk: Data poisoning via inaccurate information	リスク：不正確な情報によるデータ・ポイズニング
Risk: Data duplications	リスク：データの重複
Data drift – risks and mitigations	データ・ドリフト - リスクと緩和
Conclusion	結論
Works cited	引用文献

エグゼクティブサマリー...

Executive summary	エグゼクティブサマリー
This Cybersecurity Information Sheet (CSI) provides essential guidance on securing data used in artificial intelligence (AI) and machine learning (ML) systems. It also highlights the importance of data security in ensuring the accuracy and integrity of AI outcomes and outlines potential risks arising from data integrity issues in various stages of AI development and deployment.	このサイバーセキュリティ・インフォメーションシート（CSI）は、人工知能（AI）および機械学習（ML）システムで使用されるデータのセキュリティに関する重要なガイダンスを提供する。また、AIの成果の正確性と完全性を確保する上でのデータセキュリティの重要性を強調し、AIの開発と展開の様々な段階におけるデータの完全性の問題から生じる潜在的なリスクを概説している。
This CSI provides a brief overview of the AI system lifecycle and general best practices to secure data used during the development, testing, and operation of AI-based systems. These best practices include the incorporation of techniques such as data encryption, digital signatures, data provenance tracking, secure storage, and trust infrastructure. This CSI also provides an in-depth examination of three significant areas of data security risks in AI systems: data supply chain, maliciously modified (“poisoned”) data, and data drift. Each section provides a detailed description of the risks and the corresponding best practices to mitigate those risks.	本CSIは、AIシステムのライフサイクルの簡単な概要と、AIベースのシステムの開発、テスト、運用中に使用されるデータを保護するための一般的なベストプラクティスを提供する。これらのベスト・プラクティスには、データの暗号化、デジタル署名、データの出所追跡、安全な保管、信頼基盤などの技術の組み込みが含まれる。本CSIはまた、AIシステムにおけるデータ・セキュリティ・リスクの3つの重要な分野、すなわちデータ・サプライ・チェーン、悪意を持って改変された（「ポイズニング」された）データ、データ・ドリフトについても詳細な検証をプロバイダとして提供する。各セクションでは、リスクの詳細な説明と、それらのリスクを緩和するための対応するベストプラクティスを提供している。
This guidance is intended primarily for organizations using AI systems in their operations, with a focus on protecting sensitive, proprietary, or mission critical data. The principles outlined in this information sheet provide a robust foundation for securing AI data and ensuring the reliability and accuracy of AI-driven outcomes.	このガイダンスは、主にAIシステムを業務に使用している組織を対象としており、機密データ、専有データ、またはミッション・クリティカルなデータの保護に重点を置いている。この情報シートに概説されている原則は、AIデータを保護し、AI主導の成果の信頼性と正確性を確保するための強固な基盤を提供する。
This document was authored by the National Security Agency’s Artificial Intelligence Security Center (AISC), the Cybersecurity and Infrastructure Security Agency (CISA), the Federal Bureau of Investigation (FBI), the Australian Signals Directorate’s Australian Cyber Security Centre (ASD’s ACSC), the New Zealand’s Government Communications Security Bureau’s National Cyber Security Centre (NCSC-NZ), and the United Kingdom’s National Cyber Security Centre (NCSC-UK).	この文書は、国家安全保障局の人工知能セキュリティセンター（AISC）、サイバーセキュリティ・インフラセキュリティ庁（CISA）、連邦捜査局（FBI）、オーストラリア信号長官のオーストラリア・サイバー セキュリティセンター（ASDのACSC）、ニュージーランドの政府コミュニケーション・セキュリティ局の国家サイバーセキュリティセンター（NCSC-NZ）、イギリスの国家サイバーセキュリティセンター（NCSC-UK）によって作成された。
The goals of this guidance are to:	このガイダンスの目標は以下の通りである：
1. Raise awareness of the potential risks related to data security in the development, testing, and deployment of AI systems;	1. AIシステムの開発、テスト、展開におけるデータセキュリティに関連する潜在的リスクに対する認識を高める；
2.  Provide guidance and best practices for securing AI data across various stages of the AI lifecycle, with an in-depth description of the three aforementioned significant areas of data security risks; and	2. AIライフサイクルの様々な段階において、AIデータを保護するためのガイダンスとベストプラクティスを提供する。
3.  Establish a strong foundation for data security in AI systems by promoting the adoption of robust data security measures and encouraging proactive risk mitigation strategies.	3. 強固なデータセキュリティ対策の採用を促進し、積極的なリスク緩和戦略を奨励することにより、AIシステムにおけるデータセキュリティの強固な基盤を確立する。

表1：AIシステムのライフサイクル段階に、主要点、必要な継続的アセスメント、データセキュリティの重点分野、及び本CSIが対象とする特定のデータセキュリティリスク

AIのライフサイクル段階	主要点	テスト、評価、検証、妥当性確認（TEVV)	データセキュリティの潜在的重点分野	本CSIが対象とする特定のデータセキュリティリスク
1) プランとデザイン	アプリケーション・コンテキスト	監査とアセスメント	初期段階からデータ・セキュリティ対策を取り入れ、堅牢なセキュリティ・プロトコルを設計し、脅威モデリングを行い、プライバシー・バイ・デザインを取り入れる。	データ・サプライ・チェーン
2) データ収集と処理	データと入力	内部および外部妥当性確認	データの完全性、認証、暗号化、アクセス管理、データの最小化、匿名化、安全なデータ転送を確保する。	データ・サプライ・チェーン、悪意を持って変更されたデータ
3) モデルの構築と使用	AIモデル	モデルテスト	データの改ざんからの防御、データの品質とプライバシーの確保（適切かつ可能な場合には、差分プライバシーと安全なマルチパーティ計算を含む）、モデル・トレーニングの安全確保、および運用環境	データ・サプライ・チェーン、悪意を持って変更されたデータ
4) 検証と妥当性確認	AIモデル	モデルテスト	包括的なセキュリティテストを実施し、リスクを特定し緩和し、データの完全性を検証し、敵対的テストを実施し、適切かつ可能な場合は正式な検証を行う。	データ・サプライ・チェーン、悪意を持って変更されたデータ
5) 展開と使用	タスクとアウトプット	統合、コンプライアンス・テスト、妥当性確認	厳格なアクセス管理、ゼロトラストインフラストラクチャ、安全なデータ伝送と保存、安全なAPIエンドポイント、異常動作の監視を実施する。	データ・サプライチェーン、悪意を持って変更されたデータ、データ・ドリフト
6) オペレーションとモニター	アプリケーション・コンテキスト	監査とアセスメント	継続的なリスクアセスメントの実施、データ漏えいのモニタリング、データの安全な消去、規制への対応、インシデント対応計画、定期的なセキュリティ監査の実施	データ・サプライチェーン、悪意を持って変更されたデータ、データ・ドリフト