CybersecurityとAIと国家安全保障 ; CSET A National Security Research Agenda for Cybersecurity and Artificial Intelligence

こんにちは、丸山満彦です。

少し前（2020.05.18）になりますが、Center for Security and Emerging Technology (CSET)からCybersecurityとAIについての安全保障上の課題に関するレポートが公開されていますね。。。

● CSET
・2020.05.18 (MeriTalk)  CSET Releases Research Agenda for Cybersecurity and AI

・[PDF]  A National Security Research Agenda for Cybersecurity and Artificial Intelligence

・[html]に変換

この報告書はなかなか興味深いです。。。

人工知能の機械学習パラダイムに焦点を当てています。攻撃、防御、敵対的学習、包括的な質問のパーツからなります。

攻撃：ソフトウェアの脆弱性の発見からターゲットシステムへの侵入など、コンピューターシステムへの不正アクセスを実行するためにすでに使用されている手法を機械学習が変更する方法を考慮する。

防御：機械学習システムが侵入の検出と対応、および悪意のあるコードの修正にどのように役立つかを検討する。

敵対的学習：機械学習システム自体のサイバーセキュリティの弱点と、それらが依存するデータを検討する。

包括的な質問：機械学習システムの特性と能力が、影響キャンペーンから事故リスク、戦略的安定性など、サイバー運用の戦略と行動をどのように変えることができるかを検討する。

・攻撃
　・脆弱性の発見
　・スピアフィッシング
　・プロパガンダ
　・難読化とフォレンジック対策
　・破壊力

・防御
　・検出
　・阻止
　・アトリビューション（帰属）

・敵対的学習
　・データの有毒化
　・データパイプライン操作
　・モデル反転

・包括的な質問
　・サイバー事故
　・キャンペーンに影響を与える
　・速度
　・攻撃と防御のバランス
　・ねずみ算
　・戦略的安定性

● MeriTalk
・2020.05.18 CSET Releases Research Agenda for Cybersecurity and AI by Katie Malone