日本銀行金融研究所 金融研究 機械学習システムの脆弱性とセキュリティ・リスク：「障害モード」による分類と今後へのインプリケーション

こんにちは、丸山満彦です。

日本銀行金融研究所 金融研究第40巻第3号に「機械学習システムの脆弱性とセキュリティ・リスク：「障害モード」による分類と今後へのインプリケーション」という論文が掲載されていますね。。。

---

まず、機械学習システムとそのセキュリティ・リスクの特徴について考察する。次に、最近のサーベイ論文を参照しつつ、同システムの主な脆弱性やそれへの攻撃手法を「障害モード（failure mode）」の観点から、（1）外部からの攻撃の有無、（2）脆弱性の所在領域、（3）喪失する機能特性の3つの軸をもとに分類・整理する。最後に、今後の機械学習システムの活用に向けた留意点を述べる。

---

頭の整理にはよいですね。。。

● 日本銀行金融研究所

・2021.07.20 金融研究第40巻第3号 機械学習システムの脆弱性とセキュリティ・リスク：「障害モード」による分類と今後へのインプリケーション

・[PDF]