Five eyes AIシステムを安全に導入する - セキュアでレジリエンスに優れたAIシステムを導入するためのベストプラクティス

こんにちは、丸山満彦です。

Five Eyes関連組織？が「AIシステムを安全に導入する - セキュアでレジリエンスに優れたAIシステムを導入するためのベストプラクティス」を公表していますね...

プラクティスなので、実務的な話ですね。参考になります。

この報告書の目標は、

1. AIシステムの機密性、完全性、可用性を改善する
   
   
2. AIシステムの既知のサイバーセキュリティ脆弱性が適切に低減されていることを保証する
   
   
3. AIシステムと関連するデータおよびサービスに対する悪意ある活動を保護、検知、対応するための方法論と管理者を提供する

ということのようです...

CISAは、外部で開発されたAIシステムを導入し運用する組織に対し、本ガイダンスを検討し、適用することを推奨するようです...

● CISA

・2024.04.15 Joint Guidance on Deploying AI Systems Securely

・[PDF]

・[DOCX][PDF] 仮訳

内容...

Executive summary	エグゼクティブサマリー
Scope and audience	範囲と読者
Introduction	序文
Secure the deployment environment	導入環境を保護する
Manage deployment environment governance	導入環境のガバナンスを管理する
Ensure a robust deployment environment architecture	堅牢な展開環境アーキテクチャを確保する
Harden deployment environment configurations	導入環境の設定を固める
Protect deployment networks from threats	導入ネットワークを脅威から防御する
Continuously protect the AI system	AIシステムを継続的に保護する
Validate the AI system before and during use	使用前と使用中にAIシステムを検証する
Secure exposed APIs	セキュアなAPIを公開する
Actively monitor model behavior	モデルの行動を積極的に監視する
Protect model weights	モデルの重みを防御する
Secure AI operation and maintenance	安全なAIの運用と保守
Enforce strict access controls	厳格なアクセス制御を実施する
Ensure user awareness and training	ユーザーの意識向上およびトレーニングを確保する。
Conduct audits and penetration testing	監査と侵入テストの実施
Implement robust logging and monitoring	堅牢なロギングとモニタリングを導入する
Update and patch regularly	定期的にアップデートし、パッチを当てる
Prepare for high availability (HA) and disaster recovery (DR)	高可用性（HA）と災害復旧（DR）の準備
Plan secure delete capabilities	安全な削除機能を計画する
Conclusion	結論
Works cited	引用文献

---

● FBI - IC3

・2024.04.15 [PDF] Deploying AI Systems Securely: Best Practices for Deploying Secure and Resilient AI Systems

● NCA - NSA Cybersecurity Advisories & Guidance

・2024.04.15 [PDF] CSI: Deploying AI Systems Securely

● Australian Signals Directorate’s Australian Cyber Security Centre (ACSC)

ないですね...

● Canadian Centre for Cyber Security (CCCS)

ないですね...

● New Zealand National Cyber Security Centre (NCSC-NZ)

・2024.04.16 Joint Guidance: Deploying AI Systems Securely

● United Kingdom’s National Cyber Security Centre (NCSC-UK)

ないですね...そんなはずはないんだけどなぁ...見つけられていないだけ???