« 英国 意見募集 監視カメラ実施規範改訂案 by 監視カメラコミッショナー at 2021.08.13 | Main | 政府が「オリ観アプリ」を巡る調査報告書を公表していますね。。。 »

2021.08.20

MITRE AIの5つの失敗例とそこから学ぶべきこと

こんにちは、丸山満彦です。

AIというか機械学習の利用が進んでいますが、その過程で失敗もあります。失敗を学ぶことで失敗をさけ、成功に近づくことができるでしょう。AI失敗学的な話ですかね。。。

MITRE

・2021.08 FIVE AI FAILS AND HOW WE CAN LEARN FROM THEM

FIVE AI FAILS AND HOW WE CAN LEARN FROM THEM AIの5つの失敗例とそこから学ぶべきこと
These lessons derive from a more holistic view of automated technologies. Such technologies are more than independent widgets; they are part of a complex ecosystem that interacts with and influences human behavior and decision making. これらの教訓は、自動化技術をより全体的に捉えることで得られます。自動化されたテクノロジーは、単に独立したウィジェットではなく、人間の行動や意思決定と相互に影響し合う複雑なエコシステムの一部なのです。
"AI Fails" proposes a shift in perspective: we should measure the success of an AI system by its impact on human beings, rather than prioritizing its mathematical or economic properties (e.g., accuracy, false alarm rate, or efficiency). Such a shift has the potential to empower the development and deployment of amazing as well as responsible AI. 「AI Fails」では、AIシステムの成功を、その数学的・経済的特性(精度、誤報率、効率性など)を優先するのではなく、人間への影響度で測るべきだという視点の転換を提案しています。このような視点の変化は、驚くべきAIや責任あるAIの開発・展開を促進する可能性を秘めています。

 ・[PDF

20210820-190637

 

5つの失敗は、

  • 失敗: 信用しすぎたAI
  • 失敗:AIを手玉にとる
  • 失敗:フィードバック・ループにはまる
  • 失敗:政府によるブラックボックスベンダーへの依存
  • 失敗:AI開発者は魔法使いで運用者は魔法使い風

といった感じですかね。。。

関連ページは

FIVE AI FAILS AND HOW WE CAN LEARN FROM THEM

 

報告書の仮訳です。。。

・[DOCX]

 


 

まるちゃんの情報セキュリティ気まぐれ日記

・2021.03.11 「失敗を恐れると何もできない!」?

・2020.02.26 高信頼性組織を思い出そう!

・2011.03.29 金融庁 みずほ銀の事故の根本原因を検査

・2011.03.29 これも仕分けられたん? 「失敗知識データベース」サービス終了

・2005.04.15 論よりRUN

・2005.03.24 失敗知識データベース これはイイ

|

« 英国 意見募集 監視カメラ実施規範改訂案 by 監視カメラコミッショナー at 2021.08.13 | Main | 政府が「オリ観アプリ」を巡る調査報告書を公表していますね。。。 »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« 英国 意見募集 監視カメラ実施規範改訂案 by 監視カメラコミッショナー at 2021.08.13 | Main | 政府が「オリ観アプリ」を巡る調査報告書を公表していますね。。。 »