« ほんまかいな=>「中国、ネットでのロボットの購入が一般化」 | Main | 国土交通省 自動運行装置(レベル3)に係る国際基準が初めて成立しました »

2020.06.26

人間が間違うなら、人間を模倣したAIも間違うんでしょうね。。。

こんにちは、丸山満彦です。

平和博さんのブログ、「新聞紙学的」が2020.06.25に「「コンピューターが間違ったんだな」AIの顔認識で誤認逮捕される」というブログをあげていますね。。。

誤解を恐れずにざっくりいうと、「AIを活用した顔認識技術により犯人の可能性が高いとして逮捕したが実は犯人でなかった」ということですかね。。。

ミシガン州警察で使われているシステムは、”Statewide Network of Agency Photos (SNAP)"というもので、[PDF]ACCEPTABLE USE POLICYに利用方針が掲載されています([HTML]に変換)。

おそらくAIというのは画像データを機械学習させたものだとは思います(どういう学習のさせ方をしているのかまでは、把握できていませんが、、、)。

SNAPシステムが選んだ容疑者について、無関係の人の画像と合わせて、犯人を見たであろう(が、実は見ていなかった)警備員に確認を取ったところ、警備員もSNAPシステムが選んだ容疑者を選んだので、逮捕をしたということのようです。さらに、容疑者には、犯行時刻は移動中でその様子がSNSに挙げられていたという分りやすいアリバイもあったということです。

また、学習の仕方からもしれませんが、白色人種に比べて有色人種(黒人、アジア系)に対する誤認識率が高いようですね。。。(男性よりも女性の方が誤認識率が高いようですね。。。)

-----

NIST
・ 2019.12.19 (News) NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software - Demographics study on face recognition algorithms could help improve future tools.


・2019.12.19 [PDF] NISTIR 8280 Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects

-----

おそらく、AIの能力を過信してしまって、バイアスがかかり他の証拠の確認等、慎重にすべき手続きを怠ったのが原因なのかもしれませんが、人間が間違うなら、人間を模倣したAIも間違うということを頭の片隅に置いて、バイアスがかからないように常に慎重な対応をしないといけないのでしょうね。。。

----

ここからは、余談ですが、20年ほど前にデトロイトに住んでいました。当然のごとく車上荒らしにあい、警察に被害届を出しに行ったわけですが、、、

1. 状況説明をした後、警察が開口一番「どこで被害にあったか当ててやろう(Guess where)」と言われ、「その通りです。」「あの駐車場は最近、車上荒らしが多いので、5時前には出た方が良いよ」「はい。(知ってんのかい・・・)」

2. 次に言われたのは、「デトロイト警察が抱えている未解決事件はどのくらいあるのか知っているか?(Do you know how many open crimes Detroit have?)」私が、「100件くらい?」と言ったら、「数1000件以上だ(More than thousands)。その中には殺人や強盗もたくさん含まれている」。要は、お前の事件が解決するとは思うな。。。ということを言いたかったのかも知れません。。。

3. 車のライセンスを持っていくのを忘れていたので、道をはさんだ警察の駐車場まで取りに行って戻ったところで、「お前、駐車場まで一人で行っただろう?」「はい」「6時を過ぎてこの辺りを一人で歩いては行けない。」「でも、警察のすぐそばですよ。」「死角があるから安全は保証されない」「次からは気をつけます」

という会話が繰り広げられましたとさ・・・

|

« ほんまかいな=>「中国、ネットでのロボットの購入が一般化」 | Main | 国土交通省 自動運行装置(レベル3)に係る国際基準が初めて成立しました »

Comments

Post a comment



(Not displayed with comment.)




« ほんまかいな=>「中国、ネットでのロボットの購入が一般化」 | Main | 国土交通省 自動運行装置(レベル3)に係る国際基準が初めて成立しました »