« 日本産業標準調査会 意見募集 「JISQ15001 個人情報保護マネジメントシステム-要求事項」と「JISX9252 情報技術-オンラインにおけるプライバシーに関する通知及び同意」 | Main | 帝国データバンク サイバー攻撃に関する実態アンケート(2022 年 10 月) (2022.10.14) »

2022.10.19

イングランド銀行 「第2回調査 英国の金融業界における機械学習」とディスカッションペーパー「人工知能と機械学習」についての意見募集 (2022.10.11)

こんにちは、丸山満彦です。

英国の中央銀行であるイングランド銀行が、英国の金融業界における機械学習についての調査報告を発表していますね。。。また、人工知能と機械学習についてディスカッションペーパーを公表し、意見募集をしていますね。。。

 

Bank of England

まずは、英国の金融業界における機械学習についての2回目の調査

・2022.10.11 Machine learning in UK financial services

 

目次...

Executive summary エグゼクティブサマリー
1: Introduction 1: 序文
1.1: Context and objectives 1.1: 背景と目的
1.2: Methodology 1.2: 方法論
Box A: Definitions of ML, application, algorithm and model ボックスA:機械学習、アプリケーション、アルゴリズム、モデルの定義
2: Machine learning adoption and use 2: 機械学習の導入と利用
2.1: Financial services firms use an increasing number of ML applications 2.1: 金融サービス企業では機械学習アプリケーションの利用が増加している
2.2: Deployment stage 2.2: デプロイメント段階
2.3: Range of applications across sectors and business areas 2.3: 業種・業務分野別の適用範囲
2.4: Internal versus external implementation and cloud computing 2.4:内部導入と外部導入、クラウドコンピューティング
3: Strategies and governance 3: 戦略とガバナンス
3.1: Firms’ ML strategies 3.1: 企業の機械学習戦略
3.2: Firm ML governance and accountability 3.2: 企業の機械学習ガバナンスとアカウンタビリティ
3.3: Lessons learnt from ML deployment 3.3: 機械学習導入から得た教訓
4: Benefits, risks and constraints 4: メリット、リスク、制約
4.1: Benefits, risks and trade-offs 4.1: メリット、リスク、トレードオフ
4.2: Benefits now and in three years 4.2: 現在と3年後のメリット
4.3: Risks and mitigants 4.3: リスクと緩和策
4.4: Constraints to deployment 4.4: 展開の制約
4.5: Regulation 4.5: 規制
5: Case studies 5: ケーススタディ
5.1: Purpose and background 5.1: 目的・背景
5.2: Cross-firm themes 5.2: 企業横断的なテーマ
5.3: Prominent use cases 5.3: 主なユースケース
Box B: ML methods ボックスB:機械学習手法
6: Conclusion based on survey findings 6: 調査結果に基づく結論
7: Acknowledgements 7: 謝辞

 

 

エグゼクティブサマリー...

Executive summary エグゼクティブサマリー
・The number of UK financial services firms that use machine learning (ML) continues to increase. Overall, 72% of firms that responded to the survey reported using or developing ML applications. These applications are becoming increasingly widespread across more business areas. ・機械学習(ML)を利用する英国金融サービス企業は増加の一途をたどっている。 調査に回答した企業の72%が、機械学習アプリケーションを使用または開発していると回答している。これらのアプリケーションは、より多くのビジネス分野でますます普及しつつある。
・This trend looks set to continue and firms expect the overall median number of ML applications to increase by 3.5 times over the next three years. The largest expected increase in absolute terms is in the insurance sector, followed by banking. ・この傾向は今後も続き、今後3年間で機械学習アプリケーションの数は中央値で3.5倍に増加すると予想される。 この傾向は今後も続くとみられ、企業は今後3年間で機械学習アプリケーションの全体的な中央値が3.5倍に増加すると予想している。
・ML applications are now more advanced and increasingly embedded in day-to-day operations. 79% of ML applications are in the latter stages of development, ie either deployed across a considerable share of business areas and/or critical to some business areas. ・機械学習アプリケーションはより高度になり、日々の業務に組み込まれるようになってきている。 機械学習アプリケーションの79%は開発後期段階にあり、かなりの割合のビジネス領域に展開されているか、一部のビジネス領域にとって重要である。
・Financial services firms are thinking about ML strategically. The majority of respondents that use ML (79%) have a strategy for the development, deployment, monitoring and use of the technology. ・金融サービス企業は機械学習を戦略的に考えている。 機械学習を利用している回答者の大多数(79%)は、技術の開発、展開、モニタリング、利用について戦略を持っている。
・Firms use existing governance frameworks to address the use of ML. 80% of respondents that use ML say their applications have data governance frameworks in place, with model risk management and operational risk frameworks also commonplace (67%). ・機械学習を利用する企業は、既存のガバナンスの枠組みを利用してMLに取り組んでいる。 機械学習を使用している回答者の80%が、自社のアプリケーションにはデータガバナンスの枠組みがあると回答しており、モデルリスクマネジメントとオペレーショナルリスクの枠組みも一般的(67%)である。
・Firms consider that ML presents a range of benefits. Currently the most commonly identified benefits are enhanced data and analytics capabilities, increased operational efficiency, and improved detection of fraud and money laundering. ・企業は機械学種が様々な便益をもたらすと考えている。 現在、最も多く認識されているメリットは、データおよび分析能力の強化、業務効率の向上、詐欺およびマネーロンダリングの検出の改善である。
・Respondents do not see ML, as currently used, as high risk. The top risks identified for consumers relate to data bias and representativeness, while the top risks for firms are considered to be the lack of explainability and interpretability of ML applications. ・回答者は、現在利用されている 機械学習 が高リスクであるとは考えていない。 消費者にとっては、データの偏りや代表性、企業にとっては、機械学習アプリケーションの説明可能性や解釈可能性の欠如が最大のリスクであると考えられている。
・The greatest constraint to ML adoption and deployment is legacy systems. The difficulty integrating ML into business processes is the next highest ranked constraint. ・機械学習の導入・展開における最大の制約はレガシーシステムである. 機械学習をビジネスプロセスに統合することの難しさは、次に高い制約となっている。
・Almost half of firms who responded to the survey said there are Prudential Regulation Authority and/or Financial Conduct Authority regulations that constrain ML deployment. A quarter of firms (25%) said this is due to a lack of clarity within existing regulation. ・調査に回答した企業の約半数が、機械学習導入の制約となる規制(Prudential Regulation AuthorityやFinancial Conduct Authorityの規制)があると回答している。 4分の1の企業(25%)は、既存の規制が明確でないことが原因であると回答している。

 


次にディスカッションペーパー

・2022.10.11 DP5/22 - Artificial Intelligence and Machine Learning

目次

Foreword まえがき
Executive summary エグゼクティブサマリー
Benefits and risks related to the use of AI in financial services 金融サービスにおけるAI活用のメリットとリスク
How existing legal requirements and guidance apply to the use of AI 既存の法的要件とガイダンスがAIの使用にどのように適用されるか
Discussion questions for stakeholder input ステークホルダーからの意見聴取のための質問
1. Introduction 1. 序文
Background 背景
Box 1: UK government – establishing a pro-innovation approach to regulating AI Box 1: 英国政府 - AIを規制するためのイノベーション促進アプローチの確立
2. Supervisory authorities’ objectives and remits 2. 監督当局の目的と任務
Why the supervisory authorities have an interest in AI 監督当局がAIに関心を持つ理由
What is AI? AIとは何か?
How AI is used in financial services 金融サービスにおけるAIの使われ方
Questions: Supervisory authorities’ objectives and remits 質問事項 監督当局の目的と権限
3. Potential benefits and risks 3. 潜在的なメリットとリスク
Consumer protection – FCA 消費者保護 - FCA
Competition – FCA 競争 - FCA
Safety and soundness – PRA and FCA 安全性と健全性 - PRA, FCA
Insurance policyholder protection – PRA and FCA 保険契約者保護 - PRA, FCA
Financial stability and market integrity – the Bank and FCA 金融の安定と市場の健全性 - イングランド銀行, FCA
Questions: Benefits, risks, and harms of AI 質問事項 AIのメリット、リスク、弊害
4. Regulation 4. 規制
Introduction 序文
Consumer protection – FCA 消費者保護 - FCA
Competition – FCA and PRA 競争 – FCA, PRA
Safety and soundness: Data – PRA and FCA 安全性と健全性 データ - PRA, FCA
Safety and soundness: Model risk management – PRA 安全性と健全性 モデルリスクマネジメント - PRA
Safety and soundness: Governance – PRA and FCA 安全性及び健全性 ガバナンス - PRA, FCA
Safety and soundness: Operational resilience, outsourcing, and third-party risk management – PRA and FCA 安全性と健全性 オペレーショナル・レジリエンス、アウトソーシング、第三者によるリスクマネジメント - PRA, FCA
Questions: Regulation 質問 規制
5. Questions 5. 質問事項
Supervisory authorities’ objectives and remits 監督当局の目的および権限
Benefits, risks, and harms of AI AIのメリット、リスク、弊害
Regulation 規制の内容

FCA: Financial Conduct Authority, (wikipedia), 金融行為規制機構

PRA: Prudential regulation, (wikipeia) (イングランド銀行)健全性監督機構

 

まえがき...

Foreword まえがき
The use of artificial intelligence (AI) and machine learning (ML) in financial services may enable firms to offer better products and services to consumers, improve operational efficiency, increase revenue, and drive innovation. All of which may lead to better outcomes for consumers, firms, financial markets, and the wider economy. 金融サービスにおける人工知能(AI)及び機械学習(ML)の活用は、企業が消費者により良い商品・サービスを提供し、業務効率を改善し、収益を増加させ、イノベーションを推進することを可能にする可能性がある。これらはすべて、消費者、企業、金融市場、そしてより広い経済にとって、より良い結果をもたらす可能性がある。
As our recent survey indicates, AI adoption within financial services is likely to continue to increase due to increased availability of data, improvements in computational power, and wider availability of AI skills and resources. Similarly, the Bank of England (the Bank), the Prudential Regulation Authority (PRA), and the Financial Conduct Authority (FCA) (collectively ‘the supervisory authorities’) also endeavour to leverage AI and benefit from this technology to help meet our respective statutory objectives and other functions. 我々の最近の調査が示すように、データの利用可能性の増加、計算能力の向上、AIのスキルやリソースの利用可能性の拡大により、金融サービスにおけるAIの導入は今後も増加すると思われる。同様に、イングランド銀行、健全性監督機構 (PRA)  、金融行動監視機構 (FCA) (総称して「監督当局」)も、それぞれの法定目的およびその他の機能を果たすためにAIを活用し、この技術から利益を得ようと努めているところである。
Although the use of AI may bring a range of benefits, it can also pose novel challenges for firms and regulators as well as amplify existing risks to consumers, the safety and soundness of firms, market integrity, and financial stability. One of the most significant questions is whether AI can be managed through clarifications of the existing regulatory framework, or whether a new approach is needed. How to regulate AI to ensure it delivers in the best interests of consumers, firms, and markets is the subject of a wide-ranging debate, both here in the UK and in other jurisdictions around the world. AIの活用は様々なメリットをもたらすが、同時に企業や規制当局に新たな課題をもたらし、消費者、企業の安全性と健全性、市場の整合性、金融安定性に対する既存のリスクを増幅する可能性もある。最も重要な問題の一つは、既存の規制の枠組みの明確化を通じてAIを管理することができるのか、それとも新たなアプローチが必要なのか、ということである。AIをどのように規制し、消費者、企業、市場の最善の利益を確保するかは、ここ英国だけでなく、世界中の他の管轄区域でも幅広く議論されている。
This Discussion Paper (DP) sits within the context of this wider debate and focuses on the regulation of AI in UK financial services. The Bank, PRA, and the FCA seek to encourage a broad-based and structured discussion with stakeholders on the challenges associated with the use and regulation of AI. We are keen to explore how best to address these issues in a way that is aligned with our statutory objectives, provides clarity, is actionable, and makes a practical difference for consumers, firms, and markets. 本ディスカッション・ペーパーは、このような幅広い議論の中で、英国の金融サービスにおけるAIの規制に焦点を当てたものである。イングランド銀行、健全性監督機構、金融行動監視機構は、AIの利用と規制に関連する課題について、ステークホルダーとの広範かつ体系的な議論を奨励することを目指している。我々は、我々の法的目的に合致し、明確で、実行可能で、消費者、企業、市場にとって実際的な違いをもたらす方法で、これらの問題に対処する最善の方法を模索したいと考えている。
Beginning with our current regulatory framework, we have considered how key existing sectoral legal requirements and guidance in UK financial services apply to AI. This evaluation will allow us to consider which ones are most relevant, explore whether they are sufficient, and identify gaps. The DP considers how such legal requirements and guidance apply to the use of AI in UK financial services to support consumer protection, competition, the safety and soundness of individual firms, market integrity, and financial stability. How can policy mitigate AI risks while facilitating beneficial innovation? Is there a role for technical and, indeed, for global standards? If so, what? まず、現在の規制の枠組みから始め、英国の金融サービスにおける既存の主要なセクターの法的要件とガイダンスがAIにどのように適用されるかを検討した。この評価により、どのようなものが最も関連性が高いかを検討し、それらが十分かどうかを探り、ギャップを特定することができる。本ディスカッション・ペーパーは、消費者保護、競争、個別企業の安全性と健全性、市場の整合性、金融の安定性を支援するために、そうした法的要件やガイダンスが英国金融サービスにおけるAIの利用にどのように適用されるかを検討するものである。有益なイノベーションを促進する一方で、政策はどのようにAIのリスクを軽減することができるのか?技術的な、そして実際、グローバルスタンダードの役割はあるのか?あるとすれば、それは何か?
Given the extent of overlaps within the existing sectoral rules, policies and principles in UK financial services that apply to AI, the supervisory authorities’ approach is largely limited to clarifying how the existing regulatory framework applies to AI and addressing any identified gaps in the regulatory framework. In particular, the supervisory authorities are interested in the additional challenges and risks that AI brings to firms’ decision-making and governance processes, and how those may be addressed through the Senior Managers and Certification Regime (SM&CR) and other existing regulatory tools. 英国金融サービスにおける既存のセクター別の規則、政策、原則の中でAIに適用されるものが重複している程度であることから、監督当局のアプローチは、既存の規制枠組みがAIにどのように適用されるかを明確にし、規制枠組みの中で確認されたギャップに対処することにほぼ限定される。特に、監督当局は、AIが企業の意思決定やガバナンスプロセスにもたらす新たな課題やリスク、そしてそれらがSM&CR(Senior Managers and Certification Regime)やその他の既存の規制手段を通じてどのように対処されるかに関心を持っている。
Given the wide-ranging implications of AI, we are keen to hear from a broad range of stakeholders. This includes firms regulated by the Bank, PRA and/or FCA, as well as non-regulated financial services firms, professional services firms (such as accounting and auditing firms), law firms, third parties (such as technology companies), trade associations and industry bodies, standard setting organisations, academics, and civil society organisations. AIが持つ広範な意味を考慮し、我々は幅広いステークホルダーからの意見を聞きたいと考えている。これには、日本銀行、PRA、FCAによって規制されている企業、規制されていない金融サービス企業、専門サービス企業(会計事務所や監査法人など)、法律事務所、第三者(テクノロジー企業など)、業界団体、標準設定機関、学者、市民社会組織が含まれる。
We note the importance of building, maintaining, and reinforcing the trust of all stakeholders, including consumers in AI. Engagement between the public and private sectors will facilitate the creation of a regulatory framework that enables innovation and mitigates potential risks. 我々は、AIにおける消費者を含む全てのステークホルダーの信頼を構築し、維持し、強化することの重要性に留意する。官民の関与は、イノベーションを可能にし、潜在的なリスクを軽減する規制の枠組み作りを促進する。
We hope that this DP contributes to this process and look forward to hearing from you. 本ディスカッション・ペーパーがこのプロセスに貢献することを期待し、皆様からの意見を待っている。
Victoria Saporta ビクトリア・サポルタ
Executive Director, エグゼクティブ・ディレクター
Prudential Policy Directorate, プルデンシャル・ポリシー・ディレクター
Bank of England イングランド銀行
Sheldon Mills シェルドン・ミルズ
Executive Director, エグゼクティブ・ディレクター
Consumers and Competition, 消費者・競争担当
Financial Conduct Authority 英国金融行為規制機構
Jessica Rusu ジェシカ・ルスー
Chief Data, Information and Intelligence Officer (CDIIO), チーフ・データ、情報、インテリジェンス・オフィサー(CDIIO)
Financial Conduct Authority 英国金融行為規制機構

 

 

エグゼクティブ・サマリー

Executive summary エグゼクティブ・サマリー
Artificial intelligence (AI) and machine learning (ML) are rapidly developing technologies that have the potential to transform financial services. The promise of this technology is to make financial services and markets more efficient, accessible, and tailored to consumer needs. This may bring important benefits to consumers, financial services firms, financial markets, and the wider economy. 人工知能(AI)と機械学習(ML)は、金融サービスを変革する可能性を秘めた、急速に発展している技術である。この技術によって、金融サービスや市場がより効率的になり、アクセスしやすくなり、消費者のニーズに合ったものになることが期待されます。これは、消費者、金融サービス企業、金融市場、そしてより広い経済に重要な利益をもたらす可能性がある。
However, AI can pose novel challenges, as well as create new regulatory risks, or amplify existing ones. The Bank of England (the Bank), the Prudential Regulation Authority (PRA) and the Financial Conduct Authority (FCA) therefore have a close interest in the safe and responsible adoption of AI in UK financial services, including considering how policy and regulation can best support this. しかし、AIは新たな課題をもたらすだけでなく、新たな規制リスクを生み出したり、既存のリスクを増幅させたりする可能性がある。そのため、イングランド銀行、健全性監督機構 (PRA) 、金融行動監視機構  (FCA) は、政策と規制がどのようにAIをサポートすればよいかを検討することを含め、英国の金融サービスにおいて安全かつ責任ある形で導入に深い関心を持っている。
The supervisory authorities are publishing this DP to further our understanding and to deepen dialogue on how AI may affect our respective objectives. This is part of the supervisory authorities’ wider programme of work related to AI, including the AI Public Private Forum, the final report of which was published in February 2022. This DP should also be considered within the context of the evolving wider national and international policy debate on AI, including the UK government’s policy paper ‘Establishing a pro-innovation approach to regulating AI’Opens in a new window, joint working between UK regulators through the Digital Regulation Cooperation Forum (DRCF)Opens in a new window, and international developments from other regulators and authorities, such as the proposed AI regulation for the EUOpens in a new window. 監督当局は、AIが我々のそれぞれの目的にどのような影響を及ぼすかについて理解を深め、対話を深めるために本DPを公表する。これは、2022年2月に最終報告書が公表されたAIパブリック・プライベート・フォーラムを含む、監督当局のAIに関連する幅広い作業プログラムの一部である。本DPは、英国政府の政策文書「AI規制のためのイノベーション促進アプローチの確立」(別ウィンドウで開く)、デジタル規制協力フォーラム(DRCF)を通じた英国の規制当局間の共同作業(別ウィンドウで開く)、EUのAI規制案など他の規制当局の国際動向などAIに関する国内外の幅広い政策議論の進展の中で考慮されるべきである(別ウィンドウで開く)。
Benefits and risks related to the use of AI in financial services 金融サービスにおけるAI活用に関連するメリットとリスク
AI offers potential benefits for consumers, businesses, and markets. However, AI also has the potential to create new or increased risks and challenges. The benefits, risks, and harms discussed in this DP are neither exhaustive nor applicable to every AI use case. AIは、消費者、企業、市場にとって潜在的な利益をもたらすものである。しかし、AIは新たなリスクや課題の増加の可能性も持っている。本DPで議論されているベネフィット、リスク、弊害は、網羅的なものでも、全てのAI利用ケースに適用できるものでもない。
The primary drivers of AI risk in financial services relate to three key stages of the AI lifecycle: (i) data; (ii) models; and (iii) governance. Interconnected risks at the data level can feed into the model level, and then raise broader challenges at the level of the firm and its overall governance of AI systems. Depending on how AI is used in financial services, issues at each of the three stages (data, models, and governance) can result in a range of outcomes and risks that are relevant to the supervisory authorities’ remits. 金融サービスにおけるAIリスクの主な要因は、AIライフサイクルの3つの主要な段階、(i)データ、(ii)モデル、(iii)ガバナンスに関連するものである。データレベルで相互に関連するリスクは、モデルレベルにフィードされ、会社レベルおよびAIシステムの全体的なガバナンスにおいて、より大きな課題を提起する可能性がある。金融サービスにおけるAIの利用方法によっては、3つの段階(データ、モデル、ガバナンス)のそれぞれで問題が発生し、監督当局の権限に関連する様々な結果やリスクが発生する可能性がある。
Consumers 消費者
AI may benefit consumers in important ways – from improved outcomes through more effective matching to products and services, to an enhanced ability to identify and support consumers with characteristics of vulnerability, as well as increasing financial access. However, if misused, these technologies may potentially lead to harmful targeting of consumers’ behavioural biases or characteristics of vulnerability, discriminatory decisions, financial exclusion, and reduced trust. AIは、商品・サービスとの効果的なマッチングによる成果の向上から、脆弱性の特徴を持つ消費者を特定し支援する能力の強化、さらには金融アクセスの向上まで、重要な形で消費者に恩恵をもたらす可能性がある。しかし、これらの技術が誤って使用された場合、消費者の行動バイアスや脆弱性の特徴を標的とした有害なターゲット化、差別的な決定、金融排除、信頼の低下などにつながる可能性がある。
Competition 競争
There may be substantial benefits to competition from the use of AI in financial services, where these technologies may enable consumers to access, assess, and act on information more effectively. But risks to competition may also arise where AI is used to implement or facilitate further harmful strategic behaviour such as collusion, or creating or exacerbating market features that hinder competition, such as barriers to entry or to leverage a dominant position. 金融サービスにおけるAIの利用は、消費者がより効果的に情報にアクセスし、評価し、行動することを可能にするため、競争にとって大きな利益をもたらす可能性がある。しかし、AIが談合のような有害な戦略的行動をさらに実施または促進したり、参入障壁のような競争を阻害する市場の特徴を創出または悪化させたり、支配的地位を活用するために使用される場合、競争に対するリスクも生じる可能性がある。
Firms 企業
There are also many potential benefits for financial services firms including enhanced data and analytical insights, increased revenue generation, increased operational efficiency and productivity, enhanced risk management and controls, and better combatting of fraud and money laundering. Equally, the use of AI can translate into a range of prudential risks to the safety and soundness of firms, which may differ depending on how the technology is used by firms. 金融機関にとっても、データおよび分析的洞察力の強化、収益創出の増加、業務効率および生産性の向上、リスクマネジメントおよび管理の強化、詐欺およびマネーロンダリングへの対処の改善など、多くの潜在的メリットがある。同様に、AIの利用は、企業の安全性と健全性に対する様々なプルデンシャル・リスクにつながる可能性があり、これは、企業による技術の利用方法によって異なる可能性がある。
Financial markets 金融市場
AI may benefit the broader financial system and markets in general through more responsive pricing and more accurate decision-making, which can, in turn, lead to increased allocative efficiency. However, AI may also lead to risks to system resilience and efficiency. For example, models may become correlated in subtle ways and add to risks of herding, or procyclical behaviour at times of market stress. AIは、より迅速な価格決定やより正確な意思決定を通じて、広範な金融システムや市場一般に利益をもたらし、ひいては配分効率の向上につながる可能性がある。しかし、AIはシステムのレジリエンスと効率性にリスクをもたらす可能性もある。例えば、モデルが微妙な形で相関を持ち、群れをなすリスクや、市場ストレス時にプロシクリカルな振る舞いをする可能性がある。
How existing legal requirements and guidance apply to the use of AI 既存の法的要件とガイダンスがAIの使用にどのように適用されるか
In line with their statutory objectives and to support the safe and responsible adoption of AI in UK financial services, the supervisory authorities may need to intervene further to manage and mitigate the potential risks and harms AI may have on consumers, firms, and the stability and integrity of the UK financial system and markets. 法的目的に沿って、また英国金融サービスにおけるAIの安全かつ責任ある採用を支援するために、監督当局はAIが消費者、企業、英国金融システムおよび市場の安定性と整合性に及ぼす可能性のあるリスクと害を管理し軽減するためにさらに介入する必要があるかもしれません。
It is important that the regulatory environment is proportionate and conducive to facilitating safe and responsible adoption of AI, so as not to act as a barrier to beneficial innovation. A first step towards this ambition is clarifying how existing legal requirements and guidance apply to the use of AI. 有益なイノベーションの障壁とならないよう、規制環境が適切であり、AIの安全かつ責任ある採用を促進するものであることが重要である。この野心に向けた第一歩は、既存の法的要件とガイダンスがAIの使用にどのように適用されるかを明確にすることである。
In addition to legal requirements and guidance targeted at particular risks (such as risks to consumers or effective competition), the supervisory authorities have identified sets of ‘cross-cutting’ legal requirements and guidance that encompasses multiple areas of risk. 監督当局は、特定のリスク(消費者や効果的な競争に対するリスクなど)を対象とした法的要件やガイダンスに加え、複数のリスク分野を網羅する「横断的」な法的要件やガイダンスを特定した。
Cross-cutting legal requirements and guidance are relevant primarily to the three key stages of the AI lifecycle – data, models, and governance. Data-related legal requirements and guidance are targeted at data quality, data privacy, data infrastructure, and data governance. Model-related legal requirements and guidance for managing capital risks may provide safeguards surrounding the model development, validation, and review processes for the firms to which these apply. Governance-related legal requirements and guidance (including, notably, the SM&CR, are focused on proper procedures, clear accountability, and effective risk management across the AI lifecycle at various levels of operations. 横断的な法的要件とガイダンスは、主にAIライフサイクルの3つの主要な段階(データ、モデル、ガバナンス)に関連するものである。データ関連の法的要件とガイダンスは、データ品質、データプライバシー、データインフラ、およびデータガバナンスを対象としている。モデル関連の法的要求事項及びガイダンスは、資本リスクを管理するために、モデルの開発、検証及びレビューのプロセスに関するセーフガードを提供することができる。ガバナンス関連の法的規制及びガイダンス(特に SM&CR を含む)は、適切な手続、明 確な説明責任、及び様々なレベルの業務における AI ライフサイクルにわたる効果的な リスクマネジメントに焦点を当てたものである。
AI industry standards or codes of conduct may potentially complement the regulatory system by helping firms build trust amongst users that their systems meet widely accepted industry norms, which may extend beyond the minimum requirements for regulatory compliance. AI の業界標準や行動規範は,企業が,そのシステムが広く認められた業界規範を満たしているという利用者の信頼を築くのを助けることによって,規制制度を補完する可能性がある。これは,規制遵守のための最低要件を超える可能性がある。
The supervisory authorities encourage all relevant stakeholders to respond to this DP. This includes financial services firms regulated by one or more of the supervisory authorities (including both dual- and solo-regulated firms), non-regulated financial services firms, professional services firms (such as accounting and auditing firms), law firms, third parties (such as technology companies), trade associations and industry bodies, standard setting organisations, academics, and representatives from civil society. 監督当局は、全ての関係者が本DPに対応することを奨励する。これには、1つ以上の監督当局の規制を受ける金融サービス企業(二重規制企業と単独規制 企業の両方を含む)、規制を受けていない金融サービス企業、専門サービス企業(会計・ 監査事務所等)、法律事務所、第三者(技術企業等)、業界団体、基準設定機関、学識者、市民 社会からの代表者が含まれます。
Discussion questions for stakeholder input ステークホルダーからの意見聴取のための質問
This DP seeks to explore whether stakeholders consider the existing sectoral legal requirements and guidance to be sufficient to address the risks and harms associated with AI, where there may be gaps in existing legal requirements and guidance, and/or how any additional intervention may support the safe and responsible adoption of AI in UK financial markets. 本DPは、ステークホルダーが既存のセクター別の法的要件やガイダンスがAIに関連するリスクや害に対処するのに十分であると考えているか、既存の法的要件やガイダンスのどこにギャップがあるか、及び/又は、追加の介入は英国の金融市場におけるAIの安全かつ責任ある採用をどのように支援し得るかを探ることを目的とするものである。
To help us in this aim, we are inviting responses to the questions listed in Chapter 5. The questions fall under three main categories: この目的を達成するために、我々は第5章に記載された質問に対する回答を募集している。質問は3つの主要なカテゴリーに分類される。
・Supervisory authorities’ objectives and remits: exploring the best approach to defining and/or scoping the characteristics of AI for the purposes of legal requirements and guidance. ・監督当局の目的と任務:法的要件やガイダンスのためにAIの特徴を定義および/または範囲設定するための最適なアプローチを探る。
・Benefits and risks of AI: identifying the areas of benefits, risks, and harms in relation to which the supervisory authorities should prioritise action. ・AIの便益とリスク:監督当局が優先的に取り組むべき便益、リスク、害悪の分野を特定する。
・Regulation: exploring whether the current set of legal requirements and guidance is sufficient to address the risks and harms associated with AI and how additional intervention may support the safe and responsible adoption of AI in UK financial services. This includes understanding which areas of the current regulatory framework: (i) would benefit from further clarification with respect to AI, (ii) could be extended to better encompass AI, and (iii) could act as a regulatory barrier to the safe and responsible adoption of AI in UK financial services. ・規制:現在の法的要件とガイダンスがAIに関連するリスクと害に対処するのに十分かどうか、また、英国の金融サービスにおけるAIの安全かつ責任ある採用を支援するための追加的な介入はどのようなものかを検討する。これには、現在の規制枠組みのどの分野が、(i) AIに関してさらに明確にすることで恩恵を受けるか、(ii) AIをよりよく包含するために拡張できるか、(iii) 英国金融サービスにおけるAIの安全かつ責任ある導入に対する規制上の障害となり得るか、を理解することも含まれる。

 

1_20221019014401

|

« 日本産業標準調査会 意見募集 「JISQ15001 個人情報保護マネジメントシステム-要求事項」と「JISX9252 情報技術-オンラインにおけるプライバシーに関する通知及び同意」 | Main | 帝国データバンク サイバー攻撃に関する実態アンケート(2022 年 10 月) (2022.10.14) »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« 日本産業標準調査会 意見募集 「JISQ15001 個人情報保護マネジメントシステム-要求事項」と「JISX9252 情報技術-オンラインにおけるプライバシーに関する通知及び同意」 | Main | 帝国データバンク サイバー攻撃に関する実態アンケート(2022 年 10 月) (2022.10.14) »