UK ICO 雇用決定にアルゴリズムを使用する際に考慮すべき6つのこと

こんにちは、丸山満彦です。

UK ICO [wikipedia] が雇用決定にアルゴリズムを使用する際に考慮すべき6つのことを公表していますね。。。

● UK Information Commissioner's Office (ICO) 

・2020.12.18 Six things to consider when using algorithms for employment decisions

#	原文	仮訳
1	Bias and discrimination are a problem in human decision-making, so it is a problem in AI decision making	偏見や差別は人間の意思決定で問題になるので、AIの意思決定でも問題になる
2	It is hard to build fairness into an algorithm	公平性をアルゴリズムに組み込むのは難しい
3	The advancement of big data and machine learning algorithms is making it harder to detect bias and discrimination	ビッグデータや機械学習アルゴリズムの進歩により、偏見や差別の検出が難しくなっている
4	You must consider data protection law AND equalities law when developing AI systems.	AIシステムを開発する際には、データ保護法と平等法を考慮する必要があります。
5	Using solely automated decisions for private sector hiring purposes is likely to be illegal under the GDPR	民間企業の採用目的で自動化された意思決定のみを使用することは、GDPRの下で違法となる可能性があります。
6	Algorithms and automation can also be used to address the problems of bias and discrimination	アルゴリズムや自動化は、偏見や差別の問題にも対応できる

参考となるICOのウェブ

・[html] Guidance on AI and data protection（AIとデータ保護に関するガイダンス）

・[PDF]

原文	仮訳
Information Commissioner's foreword	情報長官の序文
Executive Summary	概要
About this guidance	本ガイダンスについて
What are the accountability and governance implications of AI?	AIの説明責任（アカウンタビリティ）とガバナンスは何を意味するのか？
What do we need to do to ensure lawfulness, fairness, and transparency in AI systems?	AIシステムの合法性、公平性、透明性を確保するために何をすべきか？
How should we assess security and data minimisation in AI?	AIにおけるセキュリティとデータの最小化をどのように評価すべきか？
How do we ensure individual rights in our AI systems?	AIシステムにおける個人の権利をどのように確保すべきか？
Glossary	用語集

・[html] Explaining decisions made with AI     （AIが決定したことを説明する）

・[PDF]

原文	仮訳
Introduction	序章
Part 1 The basics of explaining AI	第1章：AIを説明する上での基本
Definitions	定義
Legal framework	法的枠組み
Benefits and risks	メリットとリスク
What goes into an explanation?	説明には何が入るのか？
What are the contextual factors?	文脈的要因とは何か？
The principles to follow	従うべき原則
Part 2: Explaining AI in practice	第2章：AIを実際に解説
Summary of the tasks to undertake	引き受ける業務の概要
Task 1: Select priority explanations by considering the domain, use case and impact on the individual	タスク1：ドメイン、ユースケース、個別への影響を考慮して優先的な説明を選択する
Task 2: Collect and pre-process your data in an explanation-aware manner	タスク2：説明を意識した方法でデータを収集し、前処理を行う
Task 3: Build your system to ensure you are able to extract relevant information for a range of explanation types	タスク3：様々な説明タイプの関連情報を確実に抽出できるようにシステムを構築する
Task 4: Translate the rationale of your system’s results into useable and easily understandable reasons	タスク4：システムの結果の根拠を、使用可能で理解しやすい理由に翻訳する
Task 5: Prepare implementers to deploy your AI system	タスク5：AIシステムをデプロイする実装者を準備する
Task 6: Consider how to build and present your explanation	タスク6：説明の組み立て方と提示の仕方を考える
Part 3: What explaining AI means for your organisation	第3章：AIを説明することが組織にとって何を意味するのか
Organisational roles and functions for explaining AI	AIを説明するための組織的な役割と機能
Policies and procedures	方針と手続き
Documentation	ドキュメント
Annexe 1: Example of building and presenting an explanation of a cancer diagnosis	付録1：がん診断の説明の構築と提示例
Annexe 2: Algorithmic techniques	付録2. アルゴリズム技術
Annexe 3: Supplementary models	付録3：補足モデル
Annexe 4: Further reading	付録4：更なる理解のために
Annexe 5: Argument-based assurance cases	付録5：論証に基づく保証のケース