世界経済フォーラム (WEF) 技術の責任ある利用：IBMをケースにした研究

こんにちは、丸山満彦です。

世界経済フォーラム (WEF) が、技術の責任ある利用：IBMをケースにした研究を公表しています。最近はAIを含む情報技術について言われますが、火薬、原子力、遺伝子操作など、昔からありますね。。。

技術というのは使い用の話なので、人間の意図が重要となってきますね。。。特に影響が大きい技術ほど使う人間側の倫理感と、利用による結果についての責任を考える必要があるのでしょうね。。。

● World Economic Forum - White Papers

・2021.09.28 Responsible Use of Technology: The IBM Case Study

Responsible Use of Technology: The IBM Case Study

技術の責任ある利用。IBMをケースとした研究

The World Economic Forum Responsible Use of Technology project aims to provide practical resources for organizations to operationalize ethics in their use of technology. This White Paper is the second in a series that highlights processes, tools and organizational constructs that facilitate the responsible design, development and implementation of technology. It presents IBM’s ethics journey, which can encourage organizations to adopt and operationalize technology ethics, and seeks to promote discussion and evaluation of IBM’s methods, tools and experiences. The Forum and its partners in this project hope that more organizations not only operationalize such ethics, but also share their experience with the global community.

世界経済フォーラムの「技術の責任ある利用」プロジェクトは、組織がテクノロジーの利用において倫理を運用するための実践的なリソースを提供することを目的としています。このホワイトペーパーは、責任あるテクノロジーの設計、開発、実装を促進するプロセス、ツール、組織構造を紹介するシリーズの第2弾です。このホワイトペーパーは、組織が技術倫理を採用し、運用することを促すことができるIBMの倫理の旅を紹介し、IBMの方法、ツール、経験についての議論と評価を促進することを目的としています。フォーラムとこのプロジェクトのパートナーは、より多くの組織がこのような倫理を運用するだけでなく、その経験をグローバルコミュニティと共有することを望んでいます。

・[PDF] Responsible Use of Technology: The IBM Case Study

Foreword	前書き
Introduction	序文
1 The evolution of artificial intelligence ethics at IBM	1 IBMにおける人工知能倫理の変遷
2 Governance	2 ガバナンス
2.1 AI Ethics Board	2.1 AI倫理委員会
2.2 Local focal points and Advocacy Network	2.2 ローカルフォーカルポイントとアドボカシーネットワーク
3 IBM’s Principles for Trust and Transparency	3 信頼と透明性に関するIBMの原則
3.1 The purpose of AI is to augment human intelligence	3.1 AIの目的は人間の知能を増強すること
3.2 Data and insights belong to their creator	3.2 データとインサイトはその作成者に帰属する
3.3 New technology, including AI systems, must be transparent and explainable	3.3 AIシステムを含む新しい技術は、透明で説明可能でなければならない
4 The pillars of trust	4 信頼の柱とは
4.1 Explainability	4.1 説明可能性
4.2 Fairness	4.2 公正性
4.3 Robustness	4.3 堅牢性
4.4 Transparency	4.4 透明性
4.5 Privacy	4.5 プライバシー
5 Trustworthy AI research and toolkits	5 信頼性の高いAI研究とツールキット
5.1 Open source	5.1 オープンソース
5.2 IBM proprietary tools	5.2 IBM独自のツール
6 Delivery capabilities for ethical outcomes	6 倫理的な成果をもたらすデリバリー能力
6.1 Trustworthy AI	6.1 信頼に足るAI
6.2 Ethics by design	6.2 デザインによる倫理
7 Leveraging AI in the workplace	7 職場でのAIの活用
8 Diversity and inclusion	8 ダイバーシティとインクルージョン
9 Education and enablement	9 教育とイネーブルメント
10 Partnerships and stakeholder engagements	10 パートナーシップとステークホルダー・エンゲージメント
11 Summary of progress	11 進捗状況のまとめ
11.1 Influencing policy	11.1 政策への影響
11.2 Integrating ethics in the AI development pipeline	11.2 AI開発パイプラインへの倫理の組み込み
12 What remains to be done	12 残る課題
Conclusion	結論
Contributors	貢献者
Endnotes	巻末資料

---

● まるちゃんの情報セキュリティ気まぐれ日記

・2021.09.27 欧州委員会 職場での電子モニタリングと監視 (Electronic Monitoring and Surveillance in the Workplace)

・2021.09.10 EU議会 提言 バイオメトリクス認識と行動検知

・2021.08.28 中国 意見募集 国家サイバースペース管理局 「インターネット情報サービスのアルゴリズムによる推奨に関する管理規定」

・2021.08.20 英国 意見募集 監視カメラ実施規範改訂案 by 監視カメラコミッショナー at 2021.08.13

・2021.08.11 EU議会 STUDY バイオメトリクス認識と行動検知

・2021.08.10 EU議会 STUDY ヨーロッパの政策におけるディープフェイクへの取り組み at 2021.07.30

・2021.08.08 EU議会 BRIEFING スマートシティとアーバンモビリティにおける人工知能 at 2021.07.23

・2021.08.07 総務省 AIネットワーク社会推進会議 「報告書2021」の公表

・2021.08.07 Atlantic Council AIとデータ倫理におけるコミットメントからコンテンツへの移行：正義と説明可能性

・2021.08.04 中国 通信院 信頼できる人工知能についての白書 at 2021.07.09

・2021.08.03 中国 最高人民法院 「民事案件における顔識別技術の使用に関する司法解釈」

・2021.07.15 米国GAO 顔認識技術について連邦法執行機関はプライバシーやその他のリスクをより適切に評価する必要がある at 2021.06.03

・2021.07.12 ニューヨーク市 生体情報プライバシー条例が2021.07.09から施行されましたね。。。

・2021.06.30 WHO 保健のための人工知能の倫理とガバナンス

・2021.06.28 EU 外交政策ツールとしての人工知能ガバナンス

・2021.06.23 欧州 EDPBとEDPS 公共の場における人の特徴を自動認識するためのAIの使用、および不当な差別につながる可能性のあるその他のAIの使用の一部を禁止するよう要請

・2021.06.22 欧州保険職業年金局 (EIOPA) 欧州保険セクターにおける倫理的で信頼できるAIガバナンス原則に関するレポートを公表

・2021.06.17 米国上院・下院　顔認識ツールを含む生体情報監視を政府が使用することを禁止する「顔認識および生体認識技術モラトリアム法案」

・2021.06.17 英国政府：データ倫理とイノベーションセンター　プライバシーに関するユーザの積極的選択中間報告（スマートフォン）

・2021.06.08 U.S. の公益団体であるEPICが顔認識技術および遠隔生体認識技術の使用禁止を世界的に呼びかけていますね。。。

・2021.05.12 カナダのプライバシーコミッショナーが顔認識技術について議会で見解を述べたようですね。。。

・2021.05.07 ドイツ連邦情報セキュリティ局 (BSI) が「監査可能なAIシステムを目指して - 現状と今後の展望」を公表しています

・2021.05.03 中国 意見募集 顔認識に続けて、歩行認識、音声認識のデータセキュリティ要件の国家標準案を発表し、意見募集していますね。。。

・2021.04.24 欧州委員会がAIへの規制を提案 → 欧州データ保護官は歓迎するけど、公共空間での遠隔生体認証についての規制も入れてね

・2021.04.22 ドイツ連邦情報セキュリティ局 (BSI) が安全なAI導入のための対策をまとめていますね。。。

・2021.04.21 U.S. FTC（連邦取引委員会） のブログ 会社でAIを活用する場合は真実、公正、公平を目指そう、という記事がありますね。。。

・2021.03.14 CNIL 乗客のマスク着用率を測定するためのインテリジェントビデオの使用に関する法令についての意見を公表

・2021.02.05 カナダのプライバシーコミッショナーが顔認識ソフトウェアを提供するClearview AIについての声明を出していますね。。。

・2021.01.30 欧州評議会 108号条約委員会が「顔認証に関するガイドライン」を採択しましたね。。。

・2021.01.12 欧州委員会 市民イニシアティブとして「生体認証による大量監視慣行の禁止」を登録

・2021.01.04 ニューヨーク州 知事が学校での顔認識技術の使用を一時停止し、研究を指示する法律に署名 at 2020.12.22

・2020.11.04 カナダプライバシー委員会 Cadillac Fairview社が500万人の顔データを取得していたことに関する報告書(2020.10.28)

・2020.06.26 人間が間違うなら、人間を模倣したAIも間違うんでしょうね。。。

・2020.06.14 IBM, Amazon, Microsoftは顔認証システムを米国の警察には販売しない

・2020.05.01 （人工知能 AI）ブラックボックスの検証：アルゴリズムシステムを評価するためのツール - アルゴリズムの監査・影響評価のための共通言語の特定

・2020.03.26 JVNVU#99619336 勾配降下法を使用する機械学習モデルに、誤った識別をさせるような入力を作成することが可能な問題

・2020.03.04 FIRST EVER DECISION OF A FRENCH COURT APPLYING GDPR TO FACIAL RECOGNITION

・2020.02.17 遠くからでもわかる顔認識システム!

ぐっと遡って、2005年

・2005.08.11 外務省　IC旅券調査研究報告書

・2005.02.04 監視社会と信頼関係