英国 ICO コンテンツ・モデレーションとデータ保護についてのガイダンス (2024.02.16)

こんにちは、丸山満彦です。

英国の情報コミッショナーが、コンテンツ・モデレーションとデータ保護についてのガイダンスを今年の2月に公表していました...

AIによる自動化された処理についてのガイダンスも含まれていますね...

● Information Commissioner's Office - UK GDPR guidance and resources - Online safety and data protection

・2024.02.16 Content moderation and data protection

目次...

Content moderation and data protection	コンテンツ・モデレーションとデータ保護
About this guidance	このガイダンスについて
What is content moderation and how does it use personal information?	コンテンツ・モデレーションとは何か、またどのように個人情報を使用するのか。
How do we assess and mitigate data processing risks?	データ処理リスクをどのように評価し、軽減するか。
How do we carry out content moderation lawfully?	コンテンツ・モデレーションを合法的に実施するにはどうすればよいか。
How do we make sure our use of personal information is fair?	個人情報の利用が公正であることをどのように確認するか。
How should we tell people what we’re doing?	私たちが行っていることをどのように人々に伝えるべきか。
How do we define our content moderation purposes?	コンテンツ・モデレーションの目的をどのように定義するか？
How do we ensure data minimisation in our content moderation?	コンテンツ・モデレーションにおけるデータの最小化をどのように確保するか？
How do we ensure the accuracy of personal information?	個人情報の正確性をどのように保証するか？
How long should we keep personal information for?	個人情報はいつまで保管すべきか？
How do we ensure the security of personal information?	個人情報のセキュリティをどのように確保するか？
Who is the controller in our content moderation systems?	当社のコンテンツ・モデレーション・システムにおける管理者は誰か？
What data protection rights do people have?	人々はどのようなデータ保護の権利を持っているか？
How do we share information about content moderation?	コンテンツ・モデレーションに関する情報をどのように共有するか？
What do we need to consider if we transfer people’s personal information outside the UK?	人々の個人情報を英国外に移転する場合、何を考慮する必要があるか？
What if we use automated decision-making in our content moderation?	コンテンツ・モデレーションにおいて自動意思決定を使用する場合はどうするか？
Glossary	用語集

序文の部分...

About this guidance	このガイダンスについて
In detail	詳細
Why have you produced this guidance?	なぜこのガイダンスを作成したのか？
Who’s it for?	誰のためのガイダンスなのか？
What does it cover?	何が対象なのか？
What doesn’t it cover?	何が対象外なのか？
How do we use this guidance?	このガイダンスをどのように使えばよいのか？
How does this guidance relate to the OSA?	このガイダンスはOSAとどのような関係があるのか？
Why have you produced this guidance?	なぜこのガイダンスを作成したのか？
This guidance explains how data protection law applies when you use content moderation technologies and processes. It provides practical advice to help you comply with the UK General Data Protection Regulation (UK GDPR) and the Data Protection Act 2018 (DPA 2018). Read it to understand the law and our recommendations for good practice.	本ガイダンスは、コンテンツ・モデレーション技術およびプロセスを使用する際に、データ保護法がどのように適用されるかを説明するものである。英国一般データ保護規則（UK GDPR）とデータ保護法2018（DPA 2018）を遵守するための実践的なアドバイスを提供する。法律とグッドプラクティスに関する当社の推奨事項を理解するためにお読みいただきたい。
It is not a comprehensive guide to compliance. We link to relevant further reading about any principles we’ve already covered in our other guidance.	コンプライアンスに関する包括的なガイドではない。当社の他のガイダンスですでに取り上げている原則については、関連する詳細情報にリンクしている。
If you are processing children's personal information, you should conform with our Children's code. When we refer to a child we mean anyone under the age of 18. Our code is a statutory code of practice that sets out how internet society services likely to be accessed by children can protect children’s information rights online. It sets out fifteen standards that you should implement, if you are an internet society service.	児童の個人情報を処理する場合は、当社の児童規範に準拠すること。児童とは、18歳未満の者を指す。私たちの規範は、児童がアクセスする可能性のあるインターネット社会サービスが、児童の情報権利をオンラインでどのように保護できるかを定めた、法的な実践規範である。インターネット社会サービスであれば、実施すべき15の基準を定めている。
The Data Protection and Digital Information Bill was reintroduced in the Houses of Parliament on 8 March 2023. When the Bill becomes law, it will amend elements of the DPA 2018 and the UK GDPR relevant to this guidance. We have written this guidance in line with the applicable law at the time of publication.	データ保護およびデジタル情報法案は、2023年3月8日に国会に再提出された。同法案が法制化されると、本ガイダンスに関連するDPA 2018および英国GDPRの要素が改正されることになる。私たちは、このガイダンスを公表時の適用法に沿って記述した。
This guidance on content moderation is the first in a series of products we’ve planned about online safety technologies.	コンテンツ・モデレーションに関する本ガイダンスは、オンライン安全技術について当社が企画した一連の製品の第一弾である。
This is part of our ongoing commitment to publishing guidance on online safety technologies, alongside our work to ensure regulatory coherence between the data protection and online safety regimes. We announced this in our 2022 joint statement with Ofcom on online safety and data protection.	これは、データ保護制度とオンライン安全制度の間の規制の一貫性を確保するための作業と並行して、オンライン安全技術に関するガイダンスを発行するという我々の継続的なコミットメントの一環である。我々は、2022年のオンライン安全とデータ保護に関するOfcomとの共同声明でこれを発表した。
Who’s it for?	誰のためのガイダンスか？
This guidance is for organisations that use or are considering using content moderation. It is also for organisations that provide content moderation products and services. It is for both data controllers and processors.	このガイダンスは、コンテンツ・モデレーションを使用している、または使用を検討している組織のためのものである。また、コンテンツ・モデレーション製品やサービスを提供する組織のためのものでもある。データ管理者とデータ処理者の両方が対象である。
The guidance is aimed at organisations who are carrying out content moderation to meet their obligations under the Online Safety Act 2023 (OSA). However, it is also applies to organisations who are carrying out content moderation for other reasons.	本ガイダンスは、オンライン安全法2023（OSA）に基づく義務を果たすためにコンテンツ・モデレーションを実施する組織を対象としている。しかし、他の理由でコンテンツ・モデレーションを実施している組織にも適用される。
Whether you are carrying out content moderation to comply with the OSA or for other purposes, you must comply with data protection law.	OSAを遵守するためであれ、その他の目的でコンテンツ・モデレーションを実施するのであれ、データ保護法を遵守しなければならない。
We expect that this guidance will be most relevant to trust and safety professionals. It will also be relevant to those in roles with a data protection compliance focus, such as data protection officers, general counsel, privacy-legal professionals and risk managers.	このガイダンスは、信頼と安全の専門家に最も関連すると思われる。また、データ保護責任者、顧問弁護士、プライバシー・法律専門家、リスク・マネジャーなど、データ保護コンプライアンスに重点を置いた職務に就いている人々にも関連性があるだろう。
What does it cover?	何が対象なのかか？
It sets out how organisations deploying content moderation processes or providing content moderation services can comply with data protection law.	このガイダンスは、コンテンツ・モデレーション・プロセスを導入したり、コンテンツ・モデレーション・サービスを提供したりする組織が、どのようにデータ保護法を遵守できるかを定めている。
In this guidance we define ‘content moderation’ as:	本ガイダンスでは、「コンテンツ・モデレーション」を以下のように定義する：
・the analysis of user-generated content to assess whether it meets certain standards; and	・ユーザーが作成したコンテンツが一定の基準を満たしているかどうかを評価するための分析。
・any action a service takes as a result of this analysis. (See the section ‘What do we mean by content moderation?’ for more information.)	・この分析の結果、サービスが取る行動。(詳細については、「コンテンツ・モデレーションとは何か」のセクションを参照のこと）。
This guidance focuses on moderation of user-generated content on user-to-user services. For the purposes of this guidance, we follow the definitions in the OSA.	本ガイダンスは、ユーザー間サービスにおけるユーザー生成コンテンツのモデレーションに焦点を当てる。本ガイダンスの目的上、OSAの定義に従う。
Section 3(1) of the OSA defines a user-to-user service as:	OSAのセクション3(1)は、ユーザー間サービスを次のように定義している：
“User-to-user service means an internet service by means of which content that is generated directly on the service by a user of the service, or uploaded to or shared on the service by a user of the service, may be encountered by another user, or other users, of the service.”	「ユーザー間サービスとは、サービスのユーザーによってサービス上で直接生成された、またはサービスのユーザーによってサービス上にアップロードされた、またはサービス上で共有されたコンテンツが、サービスの他のユーザーまたは他のユーザーによって遭遇される可能性のあるインターネットサービスを意味する。
Section 55(3) of the OSA defines user-generated content as:	OSA第55条3項は、ユーザー生成コンテンツを次のように定義している：
“User-generated content means content that is:	「ユーザー生成コンテンツとは、以下のコンテンツを意味する：
・(i) generated directly on the service by a user of the service, or (ii) uploaded to or shared on the service by a user of the service, and;	・(i)本サービスの利用者によって本サービス上で直接生成されたコンテンツ、または(ii)本サービスの利用者によって本サービス上にアップロードされたコンテンツ、または本サービス上で共有されたコンテンツ；
・that may be encountered by another user, or other users, of the service by means of the service.”	・本サービスの利用者によって本サービス上で直接生成されたコンテンツ、または(ii)本サービスの利用者によって本サービスにアップロードされた、または本サービス上で共有されたコンテンツ。
This guidance discusses content moderation processes that are managed and administered by organisations. It applies to content moderation that is manual, partly automated and solely automated.	このガイダンスは、組織によって管理・運営されるコンテンツ・モデレーション・プロセスについて議論する。このガイダンスは、手動、部分的な自動化、および完全に自動化されたコンテンツモデレーションに適用される。
What doesn’t it cover?	何が対象外なのか？
This guidance sets out the requirements of data protection law where you process personal information in content moderation. It does not cover the following:	本ガイダンスは、コンテンツ修正において個人情報を処理する場合のデータ保護法の要件を定めている。以下は対象外である：
・Compliance with the specific obligations in the OSA. The regulator for the online safety regime is Ofcom. Please consult Ofcom's codes of practice and guidance for information about what you are required to do under the OSA.	・OSAの特定の義務の遵守。オンライン安全体制の規制当局はOfcomである。OSAの下で、あなたが何をしなければならないかについては、Ofcomの行動規範とガイダンスを参照されたい。
・The use of behaviour identification and user profiling. In many cases, you may use content moderation alongside other systems and processes. This includes those that analyse the behaviour of users on a service, or build a profile of them to assess their characteristics. We plan to produce guidance on this in the future.	・行動識別およびユーザープロファイリングの使用。多くの場合、コンテンツ・モデレーションを他のシステムやプロセスとともに使用することがある。これには、サービス上の利用者の行動を分析したり、利用者の特性を評価するために利用者のプロファイルを構築したりするものも含まれる。これについては、今後ガイダンスを作成する予定である。
・Specific considerations that arise from on-device moderation, such as the application of the Privacy and Electronic Communications Regulations (PECR).	・プライバシーおよび電子通信規制（PECR）の適用など、デバイス上でのモデレーションから生じる特定の考慮事項。
・The requirement in section 66 of the OSA for regulated services to report all detected and unreported Child Sexual Exploitation and Abuse (CSEA) content to the National Crime Agency (NCA). We will publish further data protection guidance about this when these regulations are implemented.	・OSAの第66条にある、規制対象サービスが、検知された、および未報告の児童性的搾取・虐待（CSEA）コンテンツをすべて国家犯罪対策庁（NCA）に報告するという要件。これらの規制が実施される際には、データ保護に関するガイダンスをさらに公表する予定である。
How do we use this guidance?	このガイダンスをどのように使えばよいのか？
To help you to understand the law and good practice as clearly as possible, this guidance says what organisations must, should, and could do to comply.	法律とグッドプラクティスをできるだけ明確に理解できるよう、このガイダンスでは、組織が遵守すべきこと、すべきこと、できることを述べている。
Legislative requirements	法的要件
・Must refers to legislative requirements.	・Mustとは、法的要求事項を指す。
Good practice	グッドプラクティス
・Should does not refer to a legislative requirement, but what we expect you to do to comply effectively with the law. You should do this unless there is a good reason not to. If you choose to take a different approach, you must be able to demonstrate that this approach also complies with the law.	・Shouldとは、法的要件ではなく、法律を効果的に遵守するために、私たちがあなたに期待することである。正当な理由がない限り、あなたはこれを行うべきである。異なるアプローチを選択する場合は、そのアプローチも法律を遵守していることを証明できなければならない。
・Could refers to an option or example that you could consider to help you to comply effectively. There are likely to be various other ways you could comply.	・Couldとは、効果的に遵守するために検討できる選択肢や例を指す。他にも様々な遵守方法があるだろう。
This approach only applies where indicated in our guidance. We will update other guidance in due course.	このアプローチは、ガイダンスに示されている場合にのみ適用される。他のガイダンスも順次更新していく予定である。
We plan to keep this guidance under review and update it where appropriate, for example to reflect Ofcom’s final online safety codes of practice and guidance.	例えば、Ofcomの最終的なオンライン安全規約やガイダンスを反映させるなど、このガイダンスを常に見直し、必要に応じて更新する予定である。
How does this guidance relate to the OSA?	このガイダンスはOSAとどのような関係があるのか？
The OSA sets out rules for user-to-user and search services. These services have new duties to protect UK users by assessing and responding to risks of harm. This includes duties on user-to-user service providers to:	OSAは、ユーザー間および検索サービスに関する規則を定めている。これらのサービスには、危害のリスクを評価し対応することで、英国のユーザーを保護する新たな義務が課される。これには、ユーザー・トゥ・ユーザーのサービス・プロバイダーに対する以下の義務が含まれる：
・use proportionate measures to prevent users from encountering certain types of illegal content; and	・ユーザーが特定の種類の違法コンテンツに遭遇するのを防ぐために、相応の手段を用いること。
・use proportionate systems and processes to swiftly remove any illegal content after becoming aware of its presence on the service.	・サービス上に違法コンテンツが存在することを認識した場合、それを迅速に削除するための適切なシステムとプロセスを使用すること。
If a service is likely to be accessed by children, the OSA sets out duties for the protection of children. The OSA also includes specific duties for services that display or publish provider pornographic content.	サービスに児童がアクセスする可能性がある場合、OSAは児童保護の義務を定めている。OSAはまた、プロバイダーのポルノコンテンツを表示または公開するサービスに対する特定の義務も含んでいる。
Ofcom is the regulator for the OSA. It is responsible for implementing the regime and supervising and enforcing the online safety duties. Ofcom is publishing codes of practice and guidance that will provide more detail about the regime and explain how you can comply with your new duties.	OfcomはOSAの規制当局である。Ofcomは、OSAの規制当局であり、OSAを実施し、オンライン安全義務を監督・執行する責任を負っている。Ofcomは、本制度の詳細を提供し、新たな義務を遵守する方法を説明する実践規範とガイダンスを公表している。
The OSA sits alongside data protection law. Compliance with one does not necessarily mean compliance with the other. If you are carrying out content moderation that involves personal information, you must comply with data protection law.	OSAはデータ保護法と並存する。一方を遵守しても、他方を遵守するとは限らない。個人情報を含むコンテンツモデレーションを実施する場合は、データ保護法を遵守しなければならない。
Further reading	さらに読む
・Children's code including the section on Services covered by this code.	・このコードの対象となるサービスに関するセクションを含む、子供向けコード。
・Ofcom OSA codes and practice and guidance.	・OfcomのOSAコードと実践およびガイダンス。
・Online Safety Act 2023.	・オンライン安全法2023

最後の自動化の部分...

What if we use automated decision-making in our content moderation?	コンテンツ・モデレーションにおいて自動意思決定を使用する場合はどうするか？
In detail	詳細
Why is this important?	なぜこれが重要なのか？
When does content moderation involve solely automated decision-making?	コンテンツ・モデレーションが、もっぱら自動化された意思決定に関与するのはどのような場合か？
When do solely automated content moderation decisions have a legal or similarly significant effect?	もっぱら自動化されたコンテンツ・モデレーションの意思決定が、法的または類似の重大な影響を持つのはどのような場合か？
What do we need to do when Article 22 applies to our content moderation decision-making?	コンテンツ・モデレーションの意思決定に第22条が適用される場合、我々は何をする必要があるのか？
What about special category information?	特別カテゴリー情報の場合は？
What if Article 22 does not apply?	第22条が適用されない場合は？
Why is this important?	なぜこれが重要なのか？
You must determine whether your content moderation involves solely automated decisions that have legal or similarly significant effects on people. You should assess this for each stage of your content moderation workflow. This is due to restrictions in Article 22 of the UK GDPR on when you can carry this out.	あなたは、あなたのコンテンツ・モデレーションが、人々に対して法的または同様に重大な影響を及ぼす、もっぱら自動化された意思決定を含むかどうかを判断しなければならない。コンテンツ・モデレーションワークフローの各段階について、これをアセスメントする必要がある。これは、英国GDPR第22条において、いつこれを実施できるかという制限があるためである。
When does content moderation involve solely automated decision-making?	コンテンツ・モデレーションが、もっぱら自動化された意思決定に関与するのはどのような場合か？
Content moderation systems can extensively use automation to support content analysis and moderation actions.	コンテンツ・モデレーションシステムは、コンテンツ分析とモデレーションアクションをサポートするために、広範囲に自動化を使用することができる。
In most cases, this also means processing people’s personal information because the content you are analysing is linked to a particular user’s account (see the section on ‘What personal data does content moderation involve?’).	ほとんどの場合、分析中のコンテンツは特定のユーザーのアカウントにリンクされているため、これは人々の個人情報を処理することも意味する（「コンテンツ・モデレーションが関係する個人データとは」のセクションを参照）。
This can involve systems making solely automated decisions. “Solely automated” decisions are those taken without any meaningful human involvement. For example, automating the decision about whether a piece of content breaches your content policies and what type of moderation action follows afterwards.	これには、システムがもっぱら自動化された決定を下すことも含まれる。「もっぱら自動化された」決定とは、意味のある人間の関与なしに行われる決定のことである。例えば、あるコンテンツがコンテンツポリシーに違反しているかどうかの判断や、その後どのようなモデレーション措置が取られるかの判断を自動化することである。
This is particularly likely to be the case if the system you use is an AI-based content moderation tool used to classify and take action on content without a human being involved in those decisions.	特に、使用するシステムがAIベースのコンテンツ・モデレーション・ツールで、人間がその決定に関与することなく、コンテンツを分類し、アクションを取るために使用される場合、このようなケースになる可能性が高い。
Example	例
A service deploys an AI-based content classification system that automatically removes all content that scores above a certain confidence score in a particular category of prohibited content. For example, the system removes all content classified as ‘violence’ that has a confidence score of X% or greater.	あるサービスがAIベースのコンテンツ分類システムを導入し、禁止されているコンテンツの特定のカテゴリーで一定の信頼度以上のスコアを獲得したすべてのコンテンツを自動的に削除する。例えば、「暴力」に分類されるコンテンツのうち、信頼度スコアがX％以上のものをすべて削除する。
The system decides whether the content meets this classification, and where it does, removes the content.	システムは、コンテンツがこの分類に当てはまるかどうかを判断し、当てはまる場合はコンテンツを削除する。
As there is no human involvement, this is solely automated.	人間が関与しないため、これは完全に自動化されている。
However, not all content moderation involves solely automated decision-making. For example, this may apply to systems that use exact database matching tools. These can compare user-generated content to a database of known prohibited material that has been determined as prohibited by humans. Content that is found to be a match against this database is typically removed from the service.	しかし、すべてのコンテンツ・モデレーションが、自動化された意思決定のみを含むわけではない。たとえば、データベースの完全なマッチング・ツールを使用するシステムが該当する。これらのツールは、ユーザー生成的コンテンツを、人間によって禁止されていると判断された既知の禁止素材のデータベースと比較することができる。このデータベースと一致することが判明したコンテンツは、通常、サービスから削除される。
These types of decisions won’t necessarily be solely automated, because the moderation tool is operating according to specific, pre-defined parameters representing things that humans have already decided on. The tool isn’t making a decision based on an analysis of the likelihood of something happening, unlike with classification tools.	なぜなら、モデレーション・ツールは、人間がすでに決定していることを表す、あらかじめ定義された特定のパラメーターに従って動作しているからだ。分類ツールとは異なり、ツールは何かが起こる可能性の分析に基づいて決定を下しているわけではない。
Generally, if you intend a moderation system to go beyond exact matches of pre-defined content, then it is more likely to be making solely automated decisions. For example, it analyses additional information and makes its own predictions based on context and circumstances, such as perceptual hash matching or machine learning classification tools.	一般的に、モデレーション・システムが、あらかじめ定義されたコンテンツとの完全な一致を超えることを意図している場合、それはもっぱら自動化された決定を下す可能性が高い。例えば、知覚ハッシュマッチングや機械学習分類ツールのように、追加情報を分析し、文脈や状況に基づいて独自の予測を行う。
Example	例
A content moderation tool detects and removes links to known child sexual abuse material (CSAM).	コンテンツ・モデレーションツールは、既知の児童性的虐待素材（CSAM）へのリンクを検知し、削除する。
This involves exact matching against a pre-defined list of URLs where CSAM is present. Humans have determined that these links contain such material and have added them to the database.	これには、CSAMが存在するURLの事前定義リストとの正確なマッチングが含まれる。人間は、これらのリンクにそのような素材が含まれていると判断し、データベースに追加した。
The decision about the nature of the content and the action to remove it is taken before the system operates and it only functions according to these parameters. In this sense, the system is not making decisions, even though it’s operating automatically.	コンテンツの性質とそれを削除するアクションに関する決定は、システムが動作する前に行われ、システムはこれらのパラメーターに従ってのみ機能する。この意味で、システムは自動的に作動しているとはいえ、意思決定をしているわけではない。
Since this is not solely automated decision-making, it does not fall under Article 22. However, the service using this tool needs to make sure it complies with all the other requirements of data protection law set out in this guidance.	あくまで自動的な意思決定ではないので、第22条には該当しない。ただし、このツールを使用するサービスは、このガイダンスに示されたデータ保護法の他のすべての要件を遵守していることを確認する必要がある。
When do solely automated content moderation decisions have a legal or similarly significant effect?	もっぱら自動化されたコンテンツ・モデレーションの意思決定が、法的または類似の重大な影響を持つのはどのような場合か？
A ‘legal effect’ is something that affects someone’s legal status or their legal rights. A ‘similarly significant effect’ is something that has an equivalent impact on someone’s circumstances, behaviour or choices.	法的効果」とは、誰かの法的地位や法的権利に影響を与えるものである。同様に重大な影響」とは、誰かの状況、行動、選択に同等の影響を与えるものである。
Examples of legal and similarly significant effects include decisions that:	法的影響および同様に重大な影響の例には、以下のような決定が含まれる：
・affect someone’s financial circumstances; or	・誰かの経済状況に影響を与える。
・lead to someone being excluded or discriminated against;	・誰かが排除されたり、識別的に差別されたりする；
The impact of solely automated content moderation decisions can depend on the person, the service, and how that person uses that service. Understanding the full context in which automated decisions take place will help you identify whether Article 22 applies.	自動化されたコンテンツ・モデレーション決定のみが与える影響は、その人、そのサービス、その人がそのサービスをどのように利用するかによって異なる。自動化された決定が行われる完全な文脈を理解することは、第22条が適用されるかどうかを特定するのに役立つ。
You must determine whether solely automated decisions taken in your content moderation systems are going to have a legal or similarly significant effect. See our guidance on automated decision-making and profiling for more information about what types of decision have a legal or similarly significant effect. If this is the case, then you need to consider the Article 22 exceptions (see next section).	コンテンツ・モデレーションシステムで行われる唯一の自動化された意思決定が、法的または類似の重大な影響を及ぼすかどうかを判断しなければならない。どのような種類の決定が法的またはそれに準ずる重大な影響を及ぼすかについての詳細は、自動化された意思決定とプロファイリングに関するガイダンスを参照のこと。この場合、第22条の例外を検討する必要がある（次項参照）。
Example	例
A video sharing service uses a solely automated moderation system that results in a user’s video being removed from the service.	ある動画共有サービスが、ユーザーの動画がサービスから削除されるような、もっぱら自動化されたモデレーションシステムを使用している。
The moderation action is taken as a result of a solely automated analysis that classifies the video as violating the service’s content policies.	モデレーション措置は、もっぱら自動化された分析により、動画がサービスのコンテンツポリシーに違反していると分類された結果として行われる。
The service is making a solely automated decision about that particular user based on analysis of their personal information.	サービスは、特定のユーザーについて、その個人情報の分析に基づいて、もっぱら自動化された決定を下している。
The user is a content creator and revenue from video content is their primary source of income. Removal of the video has a significant impact on their income.	ユーザーはコンテンツ制作者であり、動画コンテンツからの収益が主な収入源である。動画の削除は彼らの収入に大きな影響を与える。
This is a solely automated decision based on the user’s personal information that has a legal or similarly significant effect on the user.	これは、ユーザーの個人情報に基づく、ユーザーに法的または類似の重大な影響を与える、もっぱら自動化された決定である。
The service has a mechanism to identify which of its solely automated content moderation decisions have a legal or similarly significant effect on its users. Therefore it can determine which decisions Article 22 applies to.	同サービスは、もっぱら自動化されたコンテンツ・モデレーションの決定のうち、どれがユーザーに法的またはそれに準ずる重大な影響を及ぼすかを特定する仕組みを持っている。したがって、どの決定に第22条が適用されるかを決定することができる。
The service identifies a relevant Article 22 exception for these decisions. It also implements the required safeguards and provides users with the required information about the decision-making (see next section for more information).	同サービスは、これらの決定に関連する第22条の例外を特定する。また、必要な保護措置を実施し、意思決定に関する必要な情報をユーザーに提供する（詳細は次項参照）。
Further reading	さらに読む
Automated decision-making and profiling including the specific section on ‘What types of decision have a legal or similarly significant effect?’	自動化された意思決定とプロファイリング（「どのような種類の意思決定が法的または類似の重大な影響を及ぼすか」に関する特定のセクションを含む。
What do we need to do when Article 22 applies to our content moderation decision-making?	コンテンツ・モデレーションの意思決定に第22条が適用される場合、何をする必要があるか？
Consider what exception applies	どのような例外が適用されるかを検討する
Article 22 means that you must only take solely automated decisions that have legal or similarly significant effects if they are:	第22条は、法的またはそれに準ずる重大な影響を及ぼす自動化された意思決定が以下の場合にのみ行わなければならないことを意味する：
・authorised by domestic law;	・国内法によって認可されている；
・necessary for a contract; or	・契約に必要である。
・based on a person’s explicit consent.	・本人の明示的な同意に基づく。
Where the decision is authorised by law	決定が法律で認められている場合
This exception applies where domestic law (including under the OSA and accompanying codes of practice) authorises solely automated decision-making with legal or similarly significant effects. But only where the law contains suitable measures to safeguard a user’s rights, freedoms and legitimate interests.	この例外は、国内法（OSAおよび付随する実施規範に基づくものを含む）が、法的またはそれに準ずる重大な影響を有する自動意思決定のみを認可している場合に適用される。ただし、法律にユーザーの権利、自由、正当な利益を保護する適切な措置が含まれている場合に限る。
It is your responsibility to determine whether this exemption applies.	この適用除外が適用されるかどうかを判断するのは、あなたの責任である。
You should document and be able to justify which part of the legislation authorises your use of solely automated decision-making.	あなたは、法規制のどの部分が唯一の自動化された意思決定の使用を許可しているかを文書化し、それを正当化できるようにしなければならない。
If you're carrying out solely automated decision-making under this exception, you must also comply with the requirements of Section 14 of the DPA 2018. This means you must:	この例外に基づき、もっぱら自動化された意思決定を実施する場合、DPA2018の第14条の要件も遵守しなければならない。これは、以下のことを意味する：
・tell people that you've made the decision as soon as reasonably practicable; and	・合理的に実行可能な限り速やかに、意思決定を行ったことを伝える。
・be prepared for any request they may make for you to reconsider the decision, or take a new one that's not solely automated.	・決定を再考する、あるいは自動化されたものではない新たな決定を下すよう求める要請があった場合に備える。
If someone does request that you reconsider, you must also:	再考を要請された場合、以下のことも行わなければならない：
・consider the request and any other relevant information the person provides;	・その要請と、その人が提供するその他の関連情報を検討すること；
・comply with the request; and	・その要求に応じること。
・inform the person, in writing, of the steps you've taken and the outcome.	・あなたがとった措置とその結果を、その人に書面で通知すること。
Where the decision is necessary for a contract	契約が必要な場合
This exception may apply if you’re carrying out solely automated decision-making that’s necessary to perform the contract between you and your users. For example, if you are using solely automated decision-making to enforce the terms of service that your users sign up to.	この例外は、あなたとユーザーとの間の契約を履行するために必要な自動化された意思決定のみを実施している場合に適用される場合がある。例えば、ユーザーがサインアップするサービス規約を実施するために、自動化された意思決定のみを使用している場合などである。
You must ensure that your processing is necessary for the performance of the contract. This doesn’t mean it must be absolutely essential, but it must be more than just useful.	あなたは、あなたの処理が契約の履行に必要であることを確認しなければならない。これは、絶対に必要という意味ではないが、単に有用である以上のものでなければならない。
Where the decision is based on someone’s explicit consent	誰かの明示的な同意に基づく場合
This exception applies if you have explicit consent from someone to carry out solely automated decision-making based on their personal information.	この例外は、あなたが誰かの個人情報に基づいて、もっぱら自動化された意思決定を行うことについて、誰かから明示的な同意を得ている場合に適用される。
It is unlikely that explicit consent exception applies to content moderation because it is unlikely to be freely given. In addition, it may be impractical for you to gather explicit consent from users.	コンテンツ・モデレーションに明示的同意の例外が適用される可能性は低い。また、ユーザーから明示的な同意を集めることは現実的でない場合もある。
Provide users with transparency about decisions	決定に関する透明性をユーザーに提供する。
If your content moderation involves solely automated decision-making with legal and similarly significant effects, then you must proactively tell your users about this. You must:	あなたのコンテンツ・モデレーションが、法的およびそれに準ずる重大な影響を伴う自動化された意思決定のみを含む場合、あなたはこのことを積極的にユーザーに伝えなければならない。以下のことが必要である：
・say that you’re making these types of decisions;	・このような意思決定を行っていることを明らかにすること；
・give them meaningful information about the logic involved in any decisions your system makes; and	・システムが行う意思決定に関わるロジックについて、意味のある情報を提供すること。
・tell them about the significance and envisaged consequences the decisions may have.	・その決定が持つ可能性のある重要性と想定される結果について伝える。
For example, you could include this information in your privacy policy or terms of service.	例えば、プライバシーポリシーや利用規約にこの情報を含めることができる。
You must also provide this information to any user that makes a SAR to you.	また、SARを提出したユーザーにもこの情報を提供しなければならない。
The OSA requires regulated services to set out in their terms of service if they are using ‘proactive technology’ to comply with their online safety duties. Services are also required to explain the kind of proactive technology they use, when they use it, and how it works. Complying with this duty may help you provide the transparency to users that UK GDPR requires. However, you must provide the necessary transparency for data protection law.	OSAは、規制対象サービスに対し、オンライン安全義務を遵守するために「プロアクティブテクノロジー」を使用しているかどうかをサービス利用規約に明記するよう求めている。また、サービスは、使用するプロアクティブ・テクノロジーの種類、使用時期、およびその仕組みについて説明することも義務付けられている。この義務を遵守することで、英国のGDPRが求める透明性をユーザーに提供できる可能性がある。ただし、データ保護法に必要な透明性を提供しなければならない。
Implement appropriate safeguards	適切な保護措置を実施する
If you’re relying on the contract or explicit consent exceptions, you must implement appropriate safeguards to protect people’s rights, freedoms and legitimate interests, including enabling people to:	契約または明示的な同意の例外に依拠する場合、利用者が以下を行えるようにするなど、利用者の権利、自由、正当な利益を保護するための適切な保護措置を実施しなければならない：
・obtain human intervention;	・人の介入を得る；
・express their point of view; and	・自分の意見を表明する
・contest the decision.	・決定に異議を申し立てる。
You should have an appeals process for content moderation decisions that users can easily use, understand and find on your service.	利用者が容易に利用し、理解し、サービス上で見つけることができる、コンテンツ・モデレーションの決定に対する不服申し立てプロセスを設けるべきである。
Under the OSA, all user-to-user services have a duty to operate complaints processes, including for users who have generated, uploaded or shared content on the service. Among other things, they should be allowed to complain if their content is taken down (or if they are given a warning, suspended or banned from using the service) on the basis that their content is illegal. There are also complaints obligations for services likely to be accessed by children and category 1 services.	OSAのもと、すべてのユーザー間サービスは、サービス上でコンテンツを生成、アップロード、共有したユーザーを含め、苦情処理プロセスを運営する義務を負う。とりわけ、コンテンツが違法であることを理由に、そのコンテンツが削除された場合（あるいは警告を受けたり、サービスの利用を停止されたり、禁止された場合）には、苦情を申し立てることが認められるべきである。また、子どもがアクセスする可能性の高いサービスやカテゴリー1のサービスについても、苦情申し立ての義務がある。
Where you are complying with your OSA complaints duties, these processes may help you provide the safeguards that Article 22 of the UK GDPR requires. In particular, ensuring your users can contest a content moderation decision. However, you must implement the appropriate safeguards for data protection law.	OSAの苦情処理義務を遵守している場合、これらのプロセスは、英国GDPR第22条が要求するセーフガードの提供に役立つ可能性がある。特に、コンテンツ・モデレーションに関する決定にユーザーが異議を申し立てることができるようにすることである。ただし、データ保護法の適切な保護措置を実施しなければならない。
What about special category information?	特別カテゴリー情報の場合は？
You must also consider whether your solely automated decision-making is likely to involve special category information.	唯一の自動化された意思決定が、特別なカテゴリー情報を含む可能性があるかどうかも考慮しなければならない。
You must not base your decisions on special category information unless you:	以下の場合を除き、特殊カテゴリー情報に基づいて意思決定を行ってはならない：
・have explicit consent; or	・明確な同意がある。
・can meet the substantial public interest condition in Article 9.	・第9条の実質的な公益条件を満たすことができる。
In addition, you must implement safeguards to protect users’ rights and freedoms, and legitimate interests.	さらに、利用者の権利と自由、および正当な利益を保護するためのセーフガードを導入しなければならない。
As noted above, you are unlikely to seek explicit consent for your content moderation processing. This means that if you intend to process special category information, you must consider the substantial public interest condition. (See the section on ‘What if our content moderation involves special category information?’ for more information.)	上述したように、コンテンツ・モデレーション処理について明示的な同意を求める可能性は低い。つまり、特殊カテゴリー情報を処理するつもりであれば、実質的な公益の条件を考慮しなければならない。(詳細については、「コンテンツ修正処理に特別なカテゴリー情報が含まれる場合」のカテゴリーを参照のこと)。
Further reading	さらに読む
・Automated decision-making and profiling	・自動意思決定とプロファイリング
・Rights related to automated decision-making including profiling	・プロファイリングを含む自動意思決定に関する権利
・Consent (including explicit consent)	・同意（明示的同意を含む）
・Guidance on AI and data protection including the section on ‘What is the impact of Article 22 of the UK GDPR on fairness?’	・公正さに対する英国GDPR第22条の影響は何か」のセクションを含む、AIとデータ保護に関するガイダンス
What if Article 22 does not apply?	第22条が適用されない場合は？
If Article 22 doesn’t apply to your content moderation processing, you must still comply with data protection law and ensure that users can exercise their rights.	コンテンツ・モデレーション処理に第22条が適用されない場合でも、データ保護法を遵守し、ユーザーが権利を行使できるようにしなければならない。
You could tell people about any automated decision-making your content moderation involves, even if it has meaningful human involvement.	あなたのコンテンツ・モデレーションが関与する自動化された意思決定については、たとえそれが有意義な人間の関与を伴うものであっても、人々に伝えることができる。
You should tell people what information you’re using and where it came from. This helps you be more transparent, particularly if your processing won’t necessarily be obvious to people.	どのような情報を使っているのか、その情報の出所はどこなのかを人々に伝えるべきである。これは、特にあなたの処理が必ずしも人々に明白でない場合、より透明性を高めるのに役立つ。
Further reading	さらに読む
What if Article 22 doesn’t apply to our processing?	第22条が当社の処理に適用されない場合はどうなるか？