« UK ICO 新しいデータ共有実践規範 (Data sharing code of practice)を発表し、データ共有情報ハブを開設 | Main | え〜っ!!! 「東証、統治及ばず「引責」 システム障害で辞任、「必要なし」から一転 官邸の空気察し自ら決断」 »

2020.12.20

UK ICO 雇用決定にアルゴリズムを使用する際に考慮すべき6つのこと

こんにちは、丸山満彦です。

UK ICO [wikipedia] が雇用決定にアルゴリズムを使用する際に考慮すべき6つのことを公表していますね。。。

UK Information Commissioner's Office (ICO) 

・2020.12.18 Six things to consider when using algorithms for employment decisions

# 原文 仮訳
1 Bias and discrimination are a problem in human decision-making, so it is a problem in AI decision making 偏見や差別は人間の意思決定で問題になるので、AIの意思決定でも問題になる
2 It is hard to build fairness into an algorithm 公平性をアルゴリズムに組み込むのは難しい
3 The advancement of big data and machine learning algorithms is making it harder to detect bias and discrimination ビッグデータや機械学習アルゴリズムの進歩により、偏見や差別の検出が難しくなっている
4 You must consider data protection law AND equalities law when developing AI systems. AIシステムを開発する際には、データ保護法と平等法を考慮する必要があります。
5 Using solely automated decisions for private sector hiring purposes is likely to be illegal under the GDPR 民間企業の採用目的で自動化された意思決定のみを使用することは、GDPRの下で違法となる可能性があります。
6 Algorithms and automation can also be used to address the problems of bias and discrimination アルゴリズムや自動化は、偏見や差別の問題にも対応できる

 

参考となるICOのウェブ

・[html] Guidance on AI and data protection(AIとデータ保護に関するガイダンス)

・[PDF]

原文 仮訳
Information Commissioner's foreword 情報長官の序文
Executive Summary 概要
About this guidance 本ガイダンスについて
What are the accountability and governance implications of AI? AIの説明責任(アカウンタビリティ)とガバナンスは何を意味するのか?
What do we need to do to ensure lawfulness, fairness, and transparency in AI systems? AIシステムの合法性、公平性、透明性を確保するために何をすべきか?
How should we assess security and data minimisation in AI? AIにおけるセキュリティとデータの最小化をどのように評価すべきか?
How do we ensure individual rights in our AI systems? AIシステムにおける個人の権利をどのように確保すべきか?
Glossary 用語集

 

・[html] Explaining decisions made with AI    (AIが決定したことを説明する)

・[PDF]

 

原文 仮訳
Introduction 序章
Part 1 The basics of explaining AI 第1章:AIを説明する上での基本
Definitions 定義
Legal framework 法的枠組み
Benefits and risks メリットとリスク
What goes into an explanation? 説明には何が入るのか?
What are the contextual factors? 文脈的要因とは何か?
The principles to follow 従うべき原則
Part 2: Explaining AI in practice 第2章:AIを実際に解説
Summary of the tasks to undertake 引き受ける業務の概要
Task 1: Select priority explanations by considering the domain, use case and impact on the individual タスク1:ドメイン、ユースケース、個別への影響を考慮して優先的な説明を選択する
Task 2: Collect and pre-process your data in an explanation-aware manner タスク2:説明を意識した方法でデータを収集し、前処理を行う
Task 3: Build your system to ensure you are able to extract relevant information for a range of explanation types タスク3:様々な説明タイプの関連情報を確実に抽出できるようにシステムを構築する
Task 4: Translate the rationale of your system’s results into useable and easily understandable reasons タスク4:システムの結果の根拠を、使用可能で理解しやすい理由に翻訳する
Task 5: Prepare implementers to deploy your AI system タスク5:AIシステムをデプロイする実装者を準備する
Task 6: Consider how to build and present your explanation タスク6:説明の組み立て方と提示の仕方を考える
Part 3: What explaining AI means for your organisation 第3章:AIを説明することが組織にとって何を意味するのか
Organisational roles and functions for explaining AI AIを説明するための組織的な役割と機能
Policies and procedures 方針と手続き
Documentation ドキュメント
Annexe 1: Example of building and presenting an explanation of a cancer diagnosis 付録1:がん診断の説明の構築と提示例
Annexe 2: Algorithmic techniques 付録2. アルゴリズム技術
Annexe 3: Supplementary models 付録3:補足モデル
Annexe 4: Further reading 付録4:更なる理解のために
Annexe 5: Argument-based assurance cases 付録5:論証に基づく保証のケース

 

 

 

|

« UK ICO 新しいデータ共有実践規範 (Data sharing code of practice)を発表し、データ共有情報ハブを開設 | Main | え〜っ!!! 「東証、統治及ばず「引責」 システム障害で辞任、「必要なし」から一転 官邸の空気察し自ら決断」 »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« UK ICO 新しいデータ共有実践規範 (Data sharing code of practice)を発表し、データ共有情報ハブを開設 | Main | え〜っ!!! 「東証、統治及ばず「引責」 システム障害で辞任、「必要なし」から一転 官邸の空気察し自ら決断」 »