カナダのプライバシーコミッショナーが顔認識技術について議会で見解を述べたようですね。。。

こんにちは、丸山満彦です。

カナダのプライバシーコミッショナー (Daniel Therrien氏) が顔認識技術について議会 (Standing Committee on Access to Information, Privacy and Ethics) で見解を述べたようですね。。。

AI（機械学習）の利用により、画像データを使った顔の識別がかなり高い確率でできるようになったことから、顔認識技術の利用についてプライバシーの配慮をよりしていかなくてはならないのだろうと思います。

デジタルデータが長期的に散在的に残り続けることを考慮すると、コミッショナーの発言の通り、より長期的な視点でそのリスクを考える必要がありそうですね。

強力な道具の利用には、より強力な知性が必要となるのでしょうね。。。

● Office of the Privacy Commissioner of Canada

・2021.05.10 (Announcement) Commissioner shares views on Facial Recognition Technology with Parliament

Privacy Commissioner of Canada Daniel Therrien appeared today before the Standing Committee on Access to Information, Privacy and Ethics to discuss facial recognition technology.	カナダのプライバシー・コミッショナーであるダニエル・テリアンは、本日、情報公開、プライバシーおよび倫理に関する常設委員会に出席し、顔認識技術について議論しました。
In his remarks, the Commissioner noted that facial recognition technology has emerged as a powerful tool. He noted that, if used responsibly and in the right circumstances, it can offer significant benefits to society, but the technology also has the potential to be extremely privacy invasive. It can enable widespread surveillance, provide biased results, and erode privacy, freedom and other human rights.	コミッショナーは発言の中で、顔認識技術が強力な道具として登場したことを指摘しました。責任を持って適切な状況で使用すれば、社会に大きな利益をもたらすことができる一方、この技術は極めてプライバシーを侵害する可能性もあると指摘しました。この技術は、広範な監視を可能にし、偏った結果をもたらし、プライバシー、自由、その他の人権を侵害する可能性があります。
Commissioner Therrien also explained that to effectively regulate facial recognition technologies, Canada needs stronger protections in its privacy laws including: a rights-based approach to privacy; meaningful accountability measures; and stronger enforcement powers and oversight mechanisms.	またコミッショナーは、顔認識技術を効果的に規制するためには、カナダのプライバシー法において、プライバシーに対する権利ベースのアプローチ、意味のある説明責任の手段、より強力な執行力と監視メカニズムなど、より強力な保護が必要であると説明しました。
In particular, he noted how the OPC’s recent Clearview AI investigation highlights the need for improvements to the penalty scheme under the government’s private sector legislative reform bill.  Clearview AI collected, used and disclosed personal information without consent and for an inappropriate purpose, but the proposed new administrative penalty regime created under Bill C-11 would not apply to these and other important violations of the legislation.	特に、プライバシー委員会が最近実施したClearview AIの調査では、政府の民間部門の法制改革法案に基づく罰則制度の改善の必要性が浮き彫りになったと述べています。  Clearview AIは、同意なしに、不適切な目的で個人情報を収集、使用、開示していましたが、法案C-11に基づいて提案された新しい行政処分制度は、これらの違反やその他の重要な法律違反には適用されないからです。

以下の発言を読むとより真意がわかると思います。。。

・2021.05.10 (Advice to Parliament) Appearance before the Standing Committee on Access to Information, Privacy and Ethics (ETHI) on Facial Recognition Technology

こちらに仮訳しました・・・

あと、関連文書

● Office of the Privacy Commissioner of Canada

・2021.02.03 Clearview AI’s unlawful practices represented mass surveillance of Canadians, commissioners say

・2020.10.29 Cadillac Fairview collected 5 million shoppers’ images

---

私のブログでも取り上げていますね。。。

● まるちゃんの情報セキュリティきまぐれ日記

ClearViewAI [wikipedia] についての声明については、下で説明しています。。。

・2021.02.05 カナダのプライバシーコミッショナーが顔認識ソフトウェアを提供するClearview AIについての声明を出していますね。。。

報告書については、、、

・2020.11.04 カナダプライバシー委員会 Cadillac Fairview社が500万人の顔データを取得していたことに関する報告書(2020.10.28)

法律、ガイドライン関係等

・2020.10.10 カナダ プライバシー法、個人データ保護と電子文書法に関する議会への報告書

・2020.08.29 カナダのプライバシーコミッショナーがIoTに関するプライバシーガイドラインを公表してました。。。

・2020.08.15 カナダのプライバシーコミッショナーが企業向けの新しいプライバシーガイドを公開

・2020.05.08 カナダ 連邦、州、地域のプライバシー委員会委員によるコンタクト・トレーシング・アプリに対するプライバシー原則についての共同声明

・2020.04.25 COVID-19 トラック・トレーシング・アプリについて米国・カナダ関連

---

Appearance before the Standing Committee on Access to Information, Privacy and Ethics (ETHI) on Facial Recognition Technology	顔認証技術に関する情報公開・プライバシー・倫理に関する常設委員会（ETHI）への出席について
Opening statement by Daniel Therrien	ダニエル・テリアン氏による開会宣言
Privacy Commissioner of Canada	カナダプライバシーコミッショナー
Thank you for the invitation to speak with you.	お招きいただきありがとうございます。
Facial recognition technology has emerged as a powerful tool that, as we saw in the Clearview AI case, can identify one person in a database of billions of photos. Or among thousands of protesters. If used responsibly and in the right circumstances, it can offer significant benefits to society.	顔認識技術は、「Clearview AI」のケースで見られたように、何十億枚もの写真のデータベースの中から1人を識別することができる強力なツールとして登場しました。また、何千人もの抗議者の中から一人を特定することもできます。責任を持って適切な状況で使用すれば、社会に大きな利益をもたらすことができます。
In law enforcement, for example, facial recognition can assist police in solving crimes or finding missing persons.	例えば、法執行機関では、顔認識は犯罪の解決や行方不明者の発見に役立ちます。
At the same time, it involves sensitive personal information that is unique to the individual and is permanent.	その一方で、顔認識は、個人に固有の永続的な機密情報を含みます。
Facial recognition technology has the potential to be extremely privacy invasive. It can enable widespread surveillance, provide biased results, and erode other human rights.	顔認識技術は、プライバシーを著しく侵害する可能性があります。広範囲の監視を可能にし、偏った結果を提供し、その他の人権を侵害する可能性があります。
Clearview AI	Clearview AI
A recent joint investigation with three of my provincial counterparts into Clearview AI shows how facial recognition technologies can lead to mass surveillance and other harms and to treat billions of innocent people as potential suspects.	最近、私が所属する3つの州のカウンターパートと共同で行ったClearview AIに関する調査では、顔認識技術がいかに大量の監視やその他の弊害をもたらし、何十億もの無実の人々を潜在的な容疑者として扱うことになるかが明らかになりました。
Despite our findings that Clearview's activities violated Canadian privacy laws, the company refused to follow our recommendations, such as to delete Canadians’ photos.	Clearview社の活動がカナダのプライバシー法に違反しているという調査結果にもかかわらず、同社はカナダ人の写真を削除するなどの我々の勧告に従うことを拒否しました。
My office is also investigating the RCMP’s use of Clearview AI. This investigation is nearing completion. We are also working with provincial and territorial colleagues to develop guidance for law enforcement agencies on the use of facial recognition technologies and expect to publish a draft for consultation in the coming weeks.	委員会は、RCMPによるClearview社のAIの使用についても調査しています。この調査は完了に近づいています。 また、私たちは州や準州の関係者と協力して、顔認識技術の使用に関する法執行機関向けのガイダンスを作成しており、今後数週間のうちにドラフトを発表して協議する予定です。
Risks	リスク
The Clearview case demonstrates how citizens are vulnerable to mass surveillance, facilitated by the use of facial recognition technology.	Clearview社の事件は、顔認識技術を利用した大規模な監視に対して、市民がいかに脆弱であるかを示しています。
This is not the kind of society we want to live in.	これは私たちが望んでいる社会ではありません。
The freedom to live and develop free from surveillance is a fundamental human right. Individuals do not forego their rights merely by participating in the world in ways that may reveal their face to others, or enable their image to be captured on camera.	監視されることなく生活し、成長する自由は、基本的な人権です。個人は、自分の顔を他人に見せたり、自分の姿をカメラに収めるような方法で社会に参加するだけでは、その権利を放棄することはできません。
The right to privacy is a prior condition to the exercise of other rights in our society. Poorly regulated uses of facial recognition technology therefore not only pose serious risks to privacy rights but also impact the ability to exercise other rights such as freedom of expression and association, equality, and democracy.	プライバシーの権利は、私たちの社会で他の権利を行使するための前提条件となっています。したがって、顔認識技術の使用に関する規制が不十分であれば、プライバシー権に深刻なリスクが生じるだけでなく、表現や結社の自由、平等、民主主義といった他の権利の行使にも影響を与えます。
We must ensure that our laws are up to par, and that they impose limits to ensure respect for fundamental rights when this technology is used.	私たちは、この技術が使用される際に、基本的な権利の尊重を保証するために、法律が適切であり、制限を課すようにしなければなりません。
Legal framework	法的枠組み
To effectively regulate facial recognition technologies, we need stronger protections in our privacy laws including: a rights-based approach to privacy; meaningful accountability measures; and stronger enforcement powers, among others.	顔認識技術を効果的に規制するためには、プライバシー法において、プライバシーに対する権利ベースのアプローチ、意味のある説明責任の手段、より強力な執行力など、より強力な保護が必要となります。
The federal government recently introduced two proposals to modernize our privacy laws. These are important opportunities to better regulate the use of facial recognition and other new technologies.	連邦政府は最近、プライバシー法を近代化するための2つの提案を発表しました。これらは、顔認識やその他の新技術の使用をより適切に規制するための重要な機会となります。
Last November, the Department of Justice released a comprehensive and promising consultation paper that outlined numerous proposals to improve privacy legislation in the federal public sector. It proposes enhanced accountability requirements and measures aimed at providing meaningful oversight and quick and effective remedies. It also proposes a stronger collection threshold which would require institutions to consider a number of factors to determine if the collection of personal information is “reasonably required” to achieve a specific purpose, such as ensuring the expected benefits are balanced against the privacy intrusiveness, so that collection is fair, not arbitrary, and is proportionate in scope.	昨年11月、司法省は包括的かつ有望なコンサルテーションペーパーを発表し、連邦政府の公共部門におけるプライバシー法を改善するための数多くの提案を概説しました。その中では、意味のある監視と迅速で効果的な救済策を提供することを目的とした、説明責任の要件と手段の強化を提案しています。 また、個人情報の収集が特定の目的を達成するために「合理的に必要とされる」ものであるかどうかを判断するために、多くの要素を考慮することを機関に要求する、より強力な収集基準を提案しています。これは、期待される利益とプライバシー侵害とのバランスを確保し、収集が恣意的ではなく公正であり、かつ範囲が比例していることを保証するものです。
In the private sector, Bill C-11 would introduce the Consumer Privacy Protection Act. In my view, that Bill requires significant amendments to reduce the risks of facial recognition technology.	民間部門では、Bill C-11によりConsumer Privacy Protection Actが導入されます。 この法案は、顔認識技術のリスクを軽減するために大幅な修正が必要だと私は考えています。
A rights-based approach	権利に基づくアプローチ
The significant risks posed by facial recognition technology make it abundantly clear that the rights and values of citizens must be protected by a strong, rights-based legislative framework. The Department of Justice proposes adding a purpose clause to the Privacy Act that specifies that one of the key objectives of the legislation is “protecting individuals’ human dignity, personal autonomy, and self-determination”, recognizing the broad scope of the right to privacy as a human right.	顔認識技術がもたらす重大なリスクは、市民の権利と価値が、強力な権利ベースの法的枠組みによって保護されなければならないことを明確にしています。 司法省は、プライバシー法に目的条項を追加することを提案しています。その目的条項では、この法律の重要な目的の1つが「個人の人間としての尊厳、個人の自律性、自己決定の保護」であることが明記されており、人権としてのプライバシー権の広い範囲を認識しています。
Conversely, Bill C-11 maintains that privacy and commercial interests are competing interests that must be balanced. In fact, compared to the current law in the private sector (the Personal Information Protection and Electronic Documents Act), the Bill gives more weight to commercial interests by adding new commercial factors to be considered in the balance, without adding any reference to the lessons of the past twenty years on technology’s disruption of rights.	逆に、法案C-11は、プライバシーと商業的利益は競合する利益であり、バランスを取らなければならないと主張している。実際、民間部門の現行法（個人情報保護及び電子文書法）と比較すると、法案では、バランスを考慮すべき新たな商業的要素を追加することで、商業的利益をより重視しており、テクノロジーによる権利の破壊に関する過去20年間の教訓については一切言及していません。
Clearview was able to rely on the language of the current federal Act to argue that its purposes were appropriate and the balance should favour the company’s interests rather than privacy. Although we rejected these arguments, some legal commentators have suggested our findings would be a way to circumvent PIPEDA’s purpose clause by not giving sufficient weight to commercial interests. If C-11 were passed in its current form, Clearview and these commentators could still make such arguments.	Clearview社は、現行の連邦法の文言に依拠して、その目的は適切であり、バランスはプライバシーではなく会社の利益を優先すべきであると主張することができました。私たちはこれらの主張を退けましたが、一部の法律評論家は、私たちの発見は、商業的利益を十分に重視しないことでPIPEDAの目的条項を回避する方法ではないかと指摘しています。C-11が現在の形で可決されたとしても、Clearview社とこれらの解説者はこのような議論を行うことができます。
I urge you to make clear in Bill C-11 that where there is a conflict between commercial objectives and privacy protection, Canadians’ privacy rights should prevail. Our submission analyzing this bill makes specific recommendations on the text that would achieve this goal.	私は、法案C-11において、商業目的とプライバシー保護の間に矛盾がある場合、カナダ人のプライバシー権が優先されるべきであることを明確にしていただきたいと思います。この法案を分析している私たちの提出資料では、この目標を達成するための文章について具体的な提案をしています。
Demonstrable accountability measures	実証可能な説明責任手段
Demonstrable accountability measures are another fundamental mechanism to protect Canadians from the risks posed by facial recognition.	実証可能な説明責任の手段は、顔認識がもたらすリスクからカナダ人を守るためのもう一つの基本的なメカニズムです。
Key aspects of a meaningful accountability framework include a requirement for Privacy by Design and to conduct privacy impact assessments, as well as obligations for what is known as “traceability” for automated decision-making.	意味のある説明責任の枠組みの主要な側面には、プライバシー・バイ・デザインの要件、プライバシー影響評価の実施、および自動化された意思決定のための「トレーサビリティ」として知られる義務が含まれます。
While most of these accountability measures are part of Justice’s proposals for modernizing the Privacy Act, they are all absent from Bill C-11.	これらの説明責任を果たすための措置のほとんどは、プライバシー法を近代化するための司法省の提案に含まれていますが、Bill C-11にはすべて含まれていません。
Enforcement powers	執行力
Efforts to regulate facial recognition technologies must also include strong compliance mechanisms that provide quick and effective remedies for individuals.	顔認識技術を規制するための取り組みには、個人に対して迅速かつ効果的な救済策を提供する強力なコンプライアンス・メカニズムも含まれなければなりません。
Our investigation into Clearview revealed that the organization had contravened two obligations under Canadian privacy law. On the one hand, it collected, used and disclosed biometric information without consent, and for an inappropriate purpose. Remarkably – and shockingly – the new administrative penalty regime created by Bill C-11 would not apply to these and other important violations of the legislation. Such a penalty regime renders meaningless laws that are supposed to protect citizens.	Clearview社を調査した結果、同社はカナダのプライバシー法に基づく2つの義務に違反していました。 一方では、同意なしに、また不適切な目的で生体情報を収集、使用、開示していました。驚くべきことに、法案C-11によって創設された新しい行政処分制度は、これらの違反やその他の重要な法律違反には適用されません。このような罰則制度は、市民を保護するはずの法律を無意味なものにしてしまいます。
I therefore urge you to amend the Bill to remedy this fundamental flaw.	したがって、この根本的な欠陥を是正するために法案を修正することを強く求めます。
Conclusion	結論
The nature of the risks posed by facial recognition technology calls for collective reflection on the limits of acceptable use of this technology. These limits should be defined not only by the risks associated with specific facial recognition initiatives, but by taking into account the aggregate societal effects of all such initiatives over time.	顔認識技術がもたらすリスクの性質から、この技術の許容される使用の限界について皆で考える必要があります。この限界は、特定の顔認識イニシアチブに関連するリスクだけでなく、そのようなイニシアチブすべての長期にわたる社会的影響の総体を考慮して定義されるべきです。
In the face of ever-increasing technological capabilities to intrude on our private lives, we need to ask ourselves what are the expectations we should be setting now for the future of privacy protection.	私たちの私生活に侵入する技術的能力がますます高まっている中で、私たちは、プライバシー保護の将来のために、今何を期待すべきかを自問する必要があります。
I welcome any questions you may have.	ご質問等ございましたら、お気軽にお問い合わせください。