米国 国防省の内部監査部門が「AIのプロジェクトのガバナンスとセキュリティをしっかりせい」とおっしゃっているようです。。。

こんにちは、丸山満彦です。

米国 国防省の内部監査部門が「AIのプロジェクトのガバナンスとセキュリティをしっかりせい」とおっしゃっているようですね。

● Department of Defense Office of Inspector General

・2020.06.29 Audit of Governance and Protection of Department of Defense Artificial Intelligence Data and Technology (DODIG-2020-098)

・詳細な報告書　[PDF] (Downloaded)（一部黒塗り・・・）

この監査の目的は

• 国防省におけるAIガバナンスの枠組みと基準の開発の進捗状況を確認すること
• 国防省がAIデータと技術を内部および外部のサイバー脅威から保護するためのセキュリティ管理を実施しているかどうかを判断すること

ということのようです。

発見事項は、

AIガバナンスについては、

JAICはAIガバナンスの枠組みと基準を策定するために、JAICの採用等をつうじて組織を作り、ナショナルミッションの目標の策定、倫理原則の導入など、いくつかの進捗はあった。しかし、JAICがNDAA、DoD AI戦略、DoDガイダンスで概説されている責任を確実に果たすためには、JAICもまた、AIガバナンスの枠組みを構築する必要がある。＜＝なるほど。。。

ということで具体的に、

• AI の標準的な定義を盛り込み、定期的（少なくとも年 1 回）は定義の改定を検討する。
• AI データの一貫した保護を確保するためのセキュリティ分類ガイドを開発する。
• AI プロジェクトを正確に会計処理するためのプロセスを開発する。
• データを共有するための機能を開発する。
• 法的およびプライバシーへの配慮を基準に組み込む。
• 類似のAI プロジェクトについて、軍務部と国防省のコンポーネントが協力するための正式な戦略を策定する。

となっています。

サイバーセキュリティについては、

調査した国防省の 4 つのコンポーネントと 2 つの請負業者は、AI プロジェクトや技術をサポートするために使用されるデータを内部および外部のサイバー脅威から保護するためのセキュリティ管理を一貫して実施していなかったようですね。例えば、次のようなことが必要だということだと思います。。。

• システム上で強力なパスワードの使用を強制するようする、システムアクティビティレポートを生成したり、一定期間使用されていない場合はアカウントをロックしたりする。
• 悪意のある活動や異常な活動がないか、ネットワークやシステムを確認する。
• ウイルスや脆弱性がないかネットワークをスキャンする。
• AIデータなどの物理的なセキュリティ対策を実施する。

まぁ、本当はもっと具体的な課題があるのだろうと思います。。。詳細なPDFの方はまだ読んでいませんが・・・

----

■ 報道等

● C4ISRNET
・2020.07.01 (Artificial Intelligence) Watchdog finds the Pentagon needs to improve artificial intelligence project management by Andrew Eversden