« 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15 | Main | 米国 ホワイトハウス サイバーセキュリティ戦略実施計画 »

2023.07.14

OECD 人工知能における規制のサンドボックス

こんにちは、丸山満彦です

OECDが人工知能の規制サンドボックスについて、サンドボックスを類型化したり、世界の状況について報告書をだしていますね。。。

中国は、国が大きなサンドボックス的なところもあるのでしょうかね。。。すでにAIの規制をはじめていますよね。。。

 

OECD iLibrary

・2023.07.13 Regulatory sandboxes in artificial intelligence

・[PDF]

20230714-112740

 

Regulatory sandboxes in artificial intelligence 人工知能における規制のサンドボックス
Regulatory experimentation tools are used to test new economic, institutional and technological approaches, and legal provisions, outside of existing regulatory structures. This report focuses on regulatory sandboxes, where authorities engage firms to test innovative products or services that challenge existing legal frameworks. Participating firms obtain a waiver from specific legal provisions or compliance processes to innovate. This report presents lessons learnt from fintech regulatory sandboxes and their positive impacts, such as fostering venture capital investment in fintech start-ups. It covers challenges and risks involved in implementing regulatory sandboxes and their testing processes. This report presents policy considerations for AI regulatory sandboxes, including institutional interdisciplinary cooperation and the need to build up AI expertise within regulatory authorities. Findings underline the need for regulatory interoperability and the role that trade policy can play. Finally, it discusses the need for comprehensive criteria to determine sandbox eligibility and assess trials, and the potential impact of sandboxes on innovation and competition.  規制実験ツールは、既存の規制機構にとらわれず、新しい経済的、制度的、技術的アプローチや法的規定をテストするために用いられる。本レポートでは、既存の法的枠組みに挑戦する革新的な製品やサービスをテストするために、当局が企業を関与させる規制のサンドボックスに焦点を当てる。参加企業は、特定の法規定やコンプライアンス・プロセスから免除を受け、イノベーションを行う。本レポートでは、フィンテック規制のサンドボックスから学んだ教訓と、フィンテック新興企業へのベンチャーキャピタル投資の促進など、そのポジティブな影響について紹介している。規制のサンドボックスとそのテストプロセスの実施に伴う課題とリスクについても取り上げている。本レポートは、AI規制のサンドボックスに関する政策的考察を提示しており、その中には、制度的な学際的協力や、規制当局内でのAI専門知識の構築の必要性などが含まれている。その結果、規制の相互運用性と貿易政策が果たしうる役割の必要性が強調された。最後に、サンドボックスの適格性を判断し、試験を評価するための包括的な基準の必要性と、サンドボックスがイノベーションと競争に与える潜在的な影響について論じている。

 

・目次...

Abstract 概要
Acknowledgements 謝辞
Executive summary エグゼクティブサマリー
1 Frameworks for regulatory experimentation 1 規制実験の枠組み
An enabling policy environment for AI AIを可能にする政策環境
Regulatory experimentation and regulatory innovation 規制の実験と規制の革新
Focus on regulatory sandboxes 規制のサンドボックスに注目
2 Lessons from regulatory sandboxes in fintech 2 フィンテックにおける規制のサンドボックスからの教訓
Positive impacts ポジティブな影響
Challenges 課題
3 Policy considerations for AI regulatory sandboxes and experimentation 3 AI規制のサンドボックスと実験に関する政策的考察
Multi-disciplinary and multi-stakeholder co-operation 多分野にわたるマルチステークホルダーとの協力
AI expertise within regulatory authorities 規制当局におけるAIの専門知識
International regulatory interoperability and a possible role for trade policy 国際的な規制の相互運用性と貿易政策の役割の可能性
Comprehensive sandbox eligibility and testing criteria 包括的なサンドボックスの適格性とテスト基準
Impact on innovation and competition イノベーションと競争への影響
Interactions with other pro-innovation mechanisms 他のイノベーション促進メカニズムとの相互作用
Annex A. Sandbox typology mapping 附属書A サンドボックスの類型マッピング
Annex B. AI-related sandboxes 附属書B.AI関連サンドボックス
Annex C. AI regulatory sandbox scenarios 附属書C AI規制のサンドボックス・シナリオ
References 参考文献

 

 エグゼクティブサマリー...

Executive summary  エグゼクティブサマリー 
The 2019 OECD Artificial Intelligence (AI) Principles recommend that governments “consider using experimentation to provide a controlled environment in which AI systems can be tested and scaled up.” Experimentation allows regulators to test new economic, institutional and technological approaches, and legal provisions outside of prevailing regulatory structures. Experimental and “hybrid” regulatory approaches include innovation hubs, regulatory sandboxes, standardisation, and co-regulation involving regulators and markets. The growing number and variety of regulatory experimentation approaches tailored to emerging technologies calls for a consolidated taxonomy of instruments and concepts.    2019年のOECD人工知能(AI)原則は、各国政府に対して「AIシステムのテストとスケールアップが可能な管理された環境を提供するために、実験を利用することを検討する」よう勧告している。実験によって、規制当局は既存の規制構造の外で、新しい経済的、制度的、技術的アプローチや法的規定をテストすることができる。実験的で「ハイブリッド」な規制アプローチには、イノベーション・ハブ、規制のサンドボックス、標準化、規制当局と市場が関与する共同規制などがある。新興技術に合わせた規制の実験的アプローチの数と種類が増加していることから、手法と概念に関する統合的な分類法が必要とされている。   
This report focuses on regulatory sandboxes, which are promising for areas with fast innovation cycles, such as AI and financial technology (fintech). Sandboxes create spaces where authorities engage firms to test innovative products or services that challenge existing legal frameworks. Participating firms obtain a waiver from specific legal provisions or compliance processes to allow them to innovate. Approaches to regulatory sandboxes vary but share common characteristics: they are temporary, with a testing process usually limited to six months; they bring together regulators and firms; they waive existing legal provisions and provide tailored legal support for a specific project, often based on trial-and-error; and the technical and market information and data they collect helps regulatory authorities assess whether specific legal frameworks are fit-for-purpose or need to be adapted.   本レポートは、AIや金融技術(フィンテック)のようなイノベーションサイクルの速い分野で有望な規制のサンドボックスに焦点を当てている。サンドボックスは、既存の法的枠組みに挑戦する革新的な製品やサービスをテストするために、当局が企業を関与させる場を創出するものである。参加企業は、特定の法的条項やコンプライアンス・プロセスから免除を受け、イノベーションを起こすことができる。規制当局のサンドボックスへのアプローチは様々だが、共通の特徴がある。それは、テストプロセスが通常6ヶ月に限定された一時的なものであること、規制当局と企業が一体となること、既存の法的規定を免除し、多くの場合、試行錯誤に基づいて、特定のプロジェクトに合わせた法的支援を提供すること、技術的・市場的な情報やデータを収集することで、規制当局が特定の法的枠組みが目的に適合しているか、適合させる必要があるかを評価するのに役立つこと、などである。  
There are about one hundred sandbox initiatives around the world to date, including fintech and privacy sandboxes. The UK Financial Conduct Authority (FCA) pioneered the first fintech regulatory sandbox in 2015, and many countries followed suit. The Monetary Authority of Singapore’s FinTech regulatory sandbox facilitates live experimentation on AI products and services. The UK Information Commissioner’s Office is testing the impact of broader AI-related products and services, particularly on privacy frameworks. The European Commission’s (EC) 2021 AI Act to regulate AI-related products and services includes a regulatory sandbox aimed at providing appropriate flexibility while protecting consumers and fundamental rights.   フィンテックやプライバシーのサンドボックスを含め、現在までに世界中で約100のサンドボックス構想がある。英国金融行動監視機構(FCA)は2015年に最初のフィンテック規制サンドボックスを開拓し、多くの国がこれに続いた。シンガポール金融管理局のフィンテック規制サンドボックスは、AI製品やサービスのライブ実験を促進している。英国情報コミッショナー事務局は、より広範なAI関連製品やサービス、特にプライバシーの枠組みへの影響を検証している。欧州委員会(EC)の2021年AI法は、AI関連の製品やサービスを規制するもので、消費者や基本的権利を保護しつつ、適切な柔軟性を提供することを目的とした規制のサンドボックスを含んでいる。  
Lessons from fintech show that the benefits of regulatory sandboxes include facilitating firm-financing and market-entry and increasing speed-to-market by reducing administrative and transaction costs. For regulators, testing in sandboxes informs policy-making and regulatory processes. Regulatory sandboxes provide a dynamic, evidence-based approach to regulation and regulatory interpretation. Indeed, a common outcome of sandboxes is that regulators issue amendments or guidance on how to interpret legal frameworks. On the other hand, challenges with fintech regulatory sandboxes to date include a lack of harmonised and standardised eligibility criteria and testing processes. Sandboxes require careful design and testing; inadequate specifications can harm competition, consumers, and public or personal data. Moreover, sandboxes are currently viewed as small-scale testing frameworks with limited cohorts, but as companies realise the competitive advantage of entering a sandbox, there could be pressure to expand them. Regulators might also choose to increase participation, to gather more data to inform policy, which would require automating some sandbox processes using governance- and regulatory-technology (govtech and regtech) tools. Finally, because diverging standards can lead some sandboxes to be more lenient, which promotes arbitrage and forum shopping, international cross-sandbox compatibility and collaboration across jurisdictions would be valuable.   フィンテックからの教訓として、規制当局のサンドボックスの利点には、企業の資金調達や市場参入の促進、管理コストや取引コストの削減による市場化スピードの向上などがある。規制当局にとっても、サンドボックスでのテストは、政策立案や規制プロセスに情報を提供する。規制のサンドボックスは、規制と規制の解釈に対して、ダイナミックでエビデンスに基づいたアプローチを提供する。実際、サンドボックスの一般的な成果は、規制当局が法的枠組みの解釈方法について修正案やガイダンスを発表することである。その一方で、これまでのフィンテック規制のサンドボックスの課題には、調和され標準化された適格基準やテストプロセスの欠如がある。サンドボックスには慎重な設計とテストが必要であり、不十分な仕様では競争や消費者、公共データや個人データに害を及ぼす可能性がある。さらに、サンドボックスは現在、限定されたコホートによる小規模なテストフレームワークとみなされているが、企業がサンドボックスに入ることの競争上の優位性に気づくにつれ、サンドボックスを拡大する圧力がかかる可能性がある。規制当局もまた、参加者を増やし、より多くのデータを集めて政策に反映させることを選択するかもしれない。そのためには、ガバナンスと規制のテクノロジー(govtechとregtech)ツールを使って、サンドボックス・プロセスの一部を自動化する必要があるだろう。最後に、基準が多様化することで、一部のサンドボックスがより甘くなり、裁定取引やフォーラム・ショッピングが促進される可能性があるため、国際的なクロスサンドボックスの互換性と、法域を超えた協力は価値があるだろう。  
In addition, AI regulatory sandboxes point to specific challenges and solutions:  さらに、AI規制のサンドボックスは、具体的な課題と解決策を指摘している: 
1.    Multi-disciplinary and multi-stakeholder co-operation – AI products and services are complex and often affect several areas, so that several regulatory authorities must be involved in their testing. There must be co-operation between firms, competition authorities, intellectual-property offices, national standardisation bodies, and data protection authorities, among others.  1.    複数の分野にまたがる、複数の利害関係者の協力 - AI製品やサービスは複雑で、多くの場合、複数の分野に影響を及ぼすため、その試験には複数の規制当局が関与しなければならない。特に、企業、競争当局、知的財産局、国家標準化機関、データ保護当局などの間の協力が必要である。 
2.    AI expertise within regulatory bodies – Regulatory authorities need AI technical expertise to make decisions about access to sandboxes and to develop testing frameworks. Regulatory authorities can develop new, or adapt and strengthen existing capacity-building programmes to enhance competencies related to AI and digital transformation in public bodies.   2.    規制機関内のAIの専門知識 - 規制当局は、サンドボックスへのアクセスに関する決定を下し、テストフレームワークを開発するために、AIの技術的専門知識を必要とする。規制当局は、公的機関におけるAIとデジタルトランスフォーメーションに関連する能力を強化するために、新たな能力開発プログラムを開発したり、既存の能力開発プログラムを適応・強化したりすることができる。  
3.    International regulatory interoperability and a possible role for trade policy – Stronger international co-operation and coordination is needed for regulatory experimentation mechanisms, including regulatory sandboxes. AI sandboxes and other regulatory experimentation approaches in emerging technologies could be likened to "technical regulations" in the future via "equivalence agreements" within technical barriers to trade (TBT) trade agreements.   3.    国際的な規制の相互運用性と貿易政策の役割の可能性 - 規制のサンドボックスを含む規制の実験メカニズムには、より強力な国際協力と協調が必要である。AIサンドボックスやその他の新興技術における規制的実験アプローチは、貿易の技術的障壁(TBT)貿易協定における「同等性協定」を通じて、将来的には「技術的規制」になぞらえられる可能性がある。  
4.    Comprehensive sandbox eligibility and testing criteria – International co-operation on interoperable experimentation frameworks, including testing parameters for AI, could benefit innovation and decrease regulatory fragmentation.  4.    包括的なサンドボックスの適格性とテスト基準 - AIのテストパラメータを含む、相互運用可能な実験の枠組みに関する国際協力は、イノベーションに利益をもたらし、規制の断片化を減らすことができる。 
5.    Impact on innovation and competition – Considering the impacts on innovation and competition is key. Regulatory sandboxes could affect consumers, fundamental rights, innovation, and competition, which should be assessed as early as possible.   5.    イノベーションと競争への影響 - イノベーションと競争への影響を考慮することが重要である。規制のサンドボックスは、消費者、基本的権利、イノベーション、競争に影響を与える可能性があり、可能な限り早期に評価されるべきである。  
6.    Interactions with other pro-innovation mechanisms – Sandboxes as regulatory- 6.    他のイノベーション促進メカニズムとの相互作用 - 規制としてのサンドボックス
experimentation tools should be assessed in combination with other regulatory and institutional mechanisms rather than in isolation. There are strong links between AI regulation and AI standards, especially for risk-based AI regulation that relies on standards. AI sandboxes test the fitness of AI regulations or services against existing AI standards. However, AI standards and AI regulatory sandboxes are at an early stage of development and need to inform each other.  実験ツールは、単独ではなく、他の規制・制度的メカニズムと組み合わせて評価されるべきである。AI規制とAI標準の間には強い結びつきがあり、特に標準に依存するリスクベースのAI規制にはその結びつきが強い。AIサンドボックスは、既存のAI基準に照らしてAI規制やサービスの適合性をテストする。しかし、AI標準とAI規制のサンドボックスは開発の初期段階にあり、互いに情報を提供し合う必要がある。 

 


 

まるちゃんの情報セキュリティ気まぐれ日記

中国関係...

・2023.07.14 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15

・2023.04.12 中国 意見募集 生成的人工知能サービス管理弁法

・2022.12.23 中国 インターネット情報サービス深層合成管理規定についての専門家のコメント... (2022.12.12)

・2022.12.17 中国 インターネット情報サービス深層合成管理規定 (深層合成で作ったものにはマークを...)(2022.11.25)

・2022.08.15 中国 国家サイバースペース管理局 インターネット情報サービスのアルゴリズム申請に関する情報公開の公告

・2022.01.30 中国 国家サイバースペース管理局 意見募集 インターネット情報サービスの深層合成の管理に関する規定(意見募集稿)

・2022.01.05 中国 インターネット情報サービスのアルゴリズム推奨管理規

・2021.08.28 中国 意見募集 国家サイバースペース管理局 「インターネット情報サービスのアルゴリズムによる推奨に関する管理規定」

 

 

|

« 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15 | Main | 米国 ホワイトハウス サイバーセキュリティ戦略実施計画 »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



« 中国 国家サイバースペース管理局他 生成的AIサービス管理暫定弁法 施行は2023.08.15 | Main | 米国 ホワイトハウス サイバーセキュリティ戦略実施計画 »