日本銀行金融研究所 ディープフェイク検知モデルの評価・比較：研究事例を活用する際の留意点と課題

こんにちは、丸山満彦です。

日本銀行金融研究所のディスカッションペーパーシリーズ　2025-J-9に宇根さんの「ディープフェイク検知モデルの評価・比較：研究事例を活用する際の留意点と課題」が掲載されています。宇根さんの論考です...興味深い内容です。

スマートフォンの顔動画による本人確認がAI生成のディープフェイクをどのていど確実に見破れるかということが課題になってきているのだろうと思います。

マルチモーダル大規模言語学習（LLM）による判定は現時点ではまだ精度が低いようですね...学習データ次第ということですかね...

生成AI側も変化が激しい中で、これといった決めてとなる方法というのは現時点では難しいかもしれませんね...しかし、現状を把握しながら、対策を研究し、新しい技術を実装できる状況にしておかないと被害が増えていくかもしれませんね...

対策技術を進歩させるためには、評価の前提、内容、指標等の統一、学習データ、評価データの公開が必要なのかもしれませんね...

● 日本銀行金融研究所 

・ディープフェイク検知モデルの評価・比較：研究事例を活用する際の留意点と課題

---

ディープフェイク検知モデルの評価・比較：研究事例を活用する際の留意点と課題

宇根正志

スマートフォンを用いた金融取引では、顧客の本人確認手段として、顔の動画や静止画による生体認証が採用されるケースがある。こうした生体認証への脅威として、偽の動画を提示してなりすましを試みる攻撃が想定される。最近では、AI・機械学習によるディープフェイクを用いた攻撃の可能性を示唆する研究成果が複数発表され、現実的な脅威として認識する必要性が高まっている。対策としては、機械学習モデルによってディープフェイクを検知する手法の研究が活発化しており、複数の検知モデルを横並びで評価・比較した研究成果も発表されはじめている。こうした動向を踏まえると、今後、生体認証を採用している金融機関は、ディープフェイクによるリスクを評価し、必要に応じて対策を検討することが必要となるであろう。検知モデルの採用を検討する際には、想定されるディープフェイクや検知モデルの評価基準をまず設定し、公開されている評価・比較の研究事例を参照しながら、評価基準と合致したものを選択することが望ましい。また、ディープフェイクに関する技術の進歩が非常に速く、対策の有効性やリスクが時間とともに変化するため、技術動向のフォローやリスクの再評価を継続的に行うことも重要である。

---