INTRODUCTION |
序文 |
In financial services and beyond, there is a broad technology-driven trend towards greater use of AI. The Commission highlighted the need for a targeted consultation on the use of AI in financial services. The goal is to identify the main use cases and the benefits, barriers and risks related to the development of AI applications in the financial sector. |
金融サービスをはじめ、幅広い分野でAIを活用する動きが広がっている。欧州委員会は、金融サービスにおけるAIの活用に関する的を絞ったコンサルテーションの必要性を強調した。その目的は、金融分野におけるAIアプリケーションの開発に関する主なユースケース、メリット、障壁、リスクを特定することである。 |
In general, the development and use of AI in the EU will be regulated by the AI Act, the world’s first comprehensive AI law. The AI Act which was voted by the European Parliament on 13 March and expected to enter into force in July, aims to guarantee the safety and fundamental rights of people and businesses, while strengthening AI uptake, investment and innovation across the EU. To support further these objectives, an AI innovation package has been adopted by the Commission on 24 January 2024. It contains a series of measures to support European startups and SMEs in the development of trustworthy AI that respects EU values and rules. This follows the political agreement reached in December 2023 on the AI Act. |
一般的に、EUにおけるAIの開発と利用は、世界初の包括的なAI法であるAI法によって規制される。3月13日に欧州議会で採決され、7月に施行される見込みのAI法は、EU全域でのAIの導入、投資、イノベーションを強化する一方で、人々と企業の安全と基本的権利を保証することを目的としている。こうした目標をさらに支援するため、欧州委員会は2024年1月24日、AIイノベーションパッケージを採択した。このパッケージには、EUの価値観と規則を尊重した信頼できるAIの開発において、欧州の新興企業や中小企業を支援するための一連の措置が盛り込まれている。これは、2023年12月に成立したAI法に関する政治的合意に続くものである。 |
The AI Act is designed to complement the already existing financial services acquis, that, while not explicitly targeted at regulating AI, is an important framework to manage the related risks in specific applications and includes several relevant requirements for financial entities when providing financial services. It does so by pursuing objectives to ensure healthy financial markets, such as transparency, market integrity, investor protection and financial stability. For example, when providing investment services, including through reliance on AI such as trading algorithms, investment firms must comply with the MIFID/R framework and the market abuse rulebook. |
AI法は、すでに存在する金融サービス法を補完するように設計されている。同法は、AIの規制を明確には対象としていないものの、特定のアプリケーションにおける関連リスクを管理するための重要な枠組みであり、金融サービスを提供する際の金融事業体に対するいくつかの関連要件を含んでいる。これは、透明性、市場の健全性、投資家保護、金融の安定など、健全な金融市場を確保するための防御を追求するものである。例えば、取引アルゴリズムのようなAIへの依存を含め、投資サービスを提供する場合、投資会社はMIFID/Rのフレームワークと市場濫用ルールブックを遵守しなければならない。 |
The aim of this consultation is not to lead to policy work that would generate new duplicative requirements in relation to the use of AI by the financial sector, or to new requirements that have the potential to stifle AI innovation. |
このコンサルテーションの目的は、金融セクターによるAIの利用に関して、新たな生成的要件を生み出すような政策作業や、AIのイノベーションを阻害する可能性のある新たな要件につながらないようにすることである。 |
Objective of the consultation |
コンサルテーションの目的 |
The present targeted consultation will inform the Commission services on the concrete application and impact of AI in financial services, considering the developments in the different financial services use cases. |
本コンサルテーションは、金融サービスにおけるAIの具体的な応用と影響について、さまざまな金融サービスのユースケースの進展を考慮しながら、欧州委員会の業務に情報を提供することを目的としている。 |
The views from stakeholders will support the Commission services in their assessment of market developments and risks related to AI and in the implementation of the AI Act and existing financial services legislation in the financial sector. The consultation is focused on the objectives of the financial sector acquis and the AI Act and is not intended to focus on other policy objectives such as competition policy. It is intended to improve the effective implementation of these legal frameworks. |
利害関係者からの意見は、AIに関連する市場の発展やリスクのアセスメント、金融分野におけるAI法や既存の金融サービス法の施行において、欧州委員会の業務を支援するものとなる。このコンサルテーションは、金融セクター規制およびAI法の目的に焦点を当てたものであり、競争政策など他の政策目的に焦点を当てることを意図したものではない。これらの法的枠組みの効果的な実施を改善することを目的としている。 |
This targeted consultation will include questions with multiple choice and open answers. The questionnaire contains three parts: |
この的を絞ったコンサルテーションには、多肢選択式および自由回答式の質問が含まれる。アンケートには3つのパートがある: |
1. a first part with general questions on the development of AI |
1. 第1部:AI開発に関する一般的な質問 |
2. a second part with questions related to specific use cases in finance |
2. 第2部:金融における具体的なユースケースに関する質問 |
3. and a third part on the AI Act related to the financial sector |
3. 第3部:金融セクターに関連するAI法に関する質問 |
For the purpose of this targeted consultation, the concept of AI corresponds to the definition of an AI system established in the AI Act, which covers “any machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments”. |
このコンサルテーションでは、AIの概念はAI法に定められたAIシステムの定義に対応するものであり、「様々なレベルの自律性で動作するように設計され、導入後に適応性を示す可能性があり、明示的または暗黙的な目的のために、物理的または仮想的な環境に影響を与えることができる予測、コンテンツ、推奨、決定などの出力を生成する方法を、受け取った入力から推論するもの」を対象とする。 |
Target group |
対象グループ |
The targeted consultation will gather input from all financial services stakeholders including companies and consumer associations. Views are particularly welcome from financial firms that provide or deploy/use AI systems. This consultation is designed for respondents developing or planning to develop or use AI applications in financial services. |
対象となるコンサルテーションは、企業や消費者団体を含む全ての金融サービス関係者から意見を集める。特に、AIシステムのプロバイダや導入・利用を行う金融企業からの意見を歓迎する。本コンサルテーションは、金融サービスにおいてAIアプリケーションを開発または使用する予定の回答者を対象としている。 |
Responding to the consultation |
コンサルテーションへの対応 |
Respondents are invited to complete the questionnaire by 13 September 2024. They are invited to elaborate by providing input and additional insights to their answers. |
対応者は2024年9月13日までにアンケートに回答するよう求められる。回答者は、回答に対するインプットや追加的な洞察を提供することで、より詳細な情報を得ることができる。 |
Outcome |
成果 |
Depending on the progress made, the Commission will publish a report on the findings and an analysis of the main trends and issues arising with the use of AI applications in financial services. |
進捗状況に応じて、欧州委員会は、調査結果および金融サービスにおけるAIアプリケーションの利用によって生じる主な傾向と問題点の分析に関する報告書を公表する。 |
Please note that the information collected will not be shared with third parties and if used, it will be anonymised, in such a manner that it does not relate to any identified or identifiable financial institution. |
なお、収集された情報はサードパーティと共有されることはなく、使用される場合は、特定または識別可能な金融機関に関連しないように匿名化される。 |
CONSULTATION QUESTIONS |
コンサルテーションに関する質問 |
Part 1: GENERAL QUESTIONS ON AI APPLICATIONS IN FINANCIAL SERVICES |
第1部:金融サービスにおけるAiアプリケーションに関する一般的な質問 |
1.1. Use of AI |
1.1. AIの利用 |
Question 1. Are you using or planning to use AI systems? |
質問1. AIシステムを使用しているか、または使用する予定があるか? |
• Yes, we are already using AI systems. |
・はい、すでにAIシステムを利用している。 |
• Not yet, but we plan to use AI systems within the next 2 years. |
・まだ使用していないが、今後2年以内に使用する予定である。 |
• No, we are not using AI systems and we don’t plan to use it within the next 2 years. |
・いいえ、AIシステムを利用していないし、今後2年以内に利用する予定もない。 |
Question 2. What are the positive things you encounter when using AI? |
質問2. AIを使用する際に遭遇するポジティブなことは何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question 3. What are the negative things you encounter when using AI? |
質問3. AIを利用する際に、マイナスになることは何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question 4. Will you be deploying AI for new or additional processes within your organisation? |
質問4. 組織内の新規または追加のプロセスにAIを導入するか? |
• Yes, which ones? |
・はい。 |
• No |
・いいえ |
Question 5. Are you developing or planning to develop in-house AI applications? |
質問5. 社内でAIアプリケーションを開発しているか、または開発する予定があるか? |
• Yes, please explain. |
・はい、説明してほしい。 |
• No, please explain broadly whom you plan to collaborate with for the development of your AI applications (fintech, bigtech, etc.). or whether you plan to buy off the shelf fully developed solutions. |
・いいえ、AIアプリケーション(フィンテック、ビッグテックなど)の開発のために誰と協業する予定か、または完全に開発された既製のソリューションを購入する予定かどうか、大まかに説明してください。 |
Question 6. Which tools are you using to develop your AI applications? Examples: machine learning, neural networks, natural language processing, large language models, etc. |
質問6. AIアプリケーションの開発にはどのツールを使っているか?例:機械学習、ニューラルネットワーク、自然言語処理、大規模言語モデルなど。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
1.2. Benefits of using AI applications in financial services |
1.2. 金融サービスにおけるAIアプリケーション活用のメリット |
Question 7. Please score the following benefits from most significant (10) to least significant (1): |
質問7. 以下の利点について、最も重要なもの(10)から最も重要でないもの(1)までの点数をつけてください: |
• Fraud detection: AI algorithms can analyse large amounts of data to detect patterns and anomalies that may indicate fraudulent activity, helping to reduce financial losses for businesses and customers. |
・不正検知:AIアルゴリズムは大量のデータを分析し、不正行為を示すパターンや異常を検知することができる。 |
• Risk management: AI can analyse and predict market trends, assess credit risks, and identify potential investment opportunities, helping financial institutions make more informed decisions and manage risks more effectively. |
・リスクマネジメント:AIは、市場動向の分析と予測、信用リスクのアセスメント、潜在的な投資機会の特定を行うことができ、金融機関がより多くの情報に基づいた意思決定を行い、より効果的にリスクを管理するのに役立つ。 |
• Automation of routine tasks: AI can automate repetitive tasks such as data entry, transaction processing, and document verification, freeing up time for employees to focus on more complex and strategic activities. |
・定型業務の自動化:AIは、データ入力、取引処理、文書検証などの反復作業を自動化し、従業員がより複雑で戦略的な業務に集中できる時間を確保することができる。 |
• Cost savings: by automating processes and improving efficiency, AI can help financial institutions reduce operational costs. |
・コスト削減:プロセスを自動化し、効率を向上させることで、AIは金融機関の運用コスト削減に貢献する。 |
• Personalized financial advice: AI can analyse customer data to provide personalized financial advice and recommendations, helping customers make better financial decisions and improve their financial well-being. |
・パーソナライズされた金融アドバイス:AIは顧客データを分析し、個人に合った金融アドバイスや提案を提供することで、顧客がより適切な金融上の意思決定を行い、経済的な幸福を向上させることを支援する。 |
• Compliance and regulatory support: AI can help financial institutions stay compliant with regulations by analysing and interpreting complex regulatory requirements and monitoring transactions for suspicious activities. |
・コンプライアンスと規制のサポート:AIは、複雑な規制要件を分析・解釈し、疑わしい取引がないかを監視することで、金融機関が規制を遵守し続けることを支援できる。 |
• Enhanced decision-making: AI can analyse large amounts of data and provide insights that can help financial institutions make better investment decisions, assess credit risks, and optimize their operations. |
・意思決定の強化:AIは大量のデータを分析し、金融機関がより適切な投資判断を下し、信用リスクを評価し、業務を最適化するのに役立つ洞察を提供することができる。 |
• Improved security: AI can enhance security measures by identifying potential security threats, detecting unusual patterns of behaviour, and providing real-time alerts to prevent security breaches. |
・セキュリティの改善:AIは、潜在的なセキュリティ脅威を特定し、異常な行動パターンを検知し、セキュリティ侵害を防止するためのリアルタイム・アラートを提供することで、セキュリティ対策を強化することができる。 |
• Streamlined processes: AI can streamline various financial processes, such as loan underwriting, account opening, and claims processing, leading to faster and more efficient services for customers. |
・プロセスの合理化:AIは、ローンの引き受け、口座開設、クレーム処理など、さまざまな金融プロセスを合理化し、顧客により迅速で効率的なサービスを提供することができる。 |
• Improved customer service: AI can be used to provide personalized and efficient customer service, such as chatbots that can answer customer queries and provide assistance 24/7. |
・顧客サービスの改善:AIは、顧客からの問い合わせに回答し、24時間365日サポートを提供できるチャットボットなど、パーソナライズされた効率的な顧客サービスを提供するために利用できる。 |
Question 8. What are the main benefits/advantages you see in the development of your AI applications? |
質問8. AIアプリケーションの開発における主なメリット/利点は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
1.3. Challenges and risks when using AI applications in financial services |
1.3. 金融サービスでAIアプリケーションを使用する際の課題とリスク |
Question 9. Please score the following challenges and risks from most significant |
質問9. 以下の課題とリスクについて、最も重要なもの(10点)から最も重要でないもの(1点)まで、点数をつけていただきたい。 |
(10) to least significant (1): |
(10)から最も重要でないもの(1)まで採点していただきたい: |
• Lack of access to the required data, in general. |
・一般的に、必要なデータにアクセスできない。 |
• Lack of access to the data in an appropriate digital format. |
・適切なデジタル形式のデータにアクセスできない。 |
• Lack of access to appropriate data processing technology, e.g. cloud computing. |
・適切なデータ処理技術(例:クラウド・コンピューティング)へのアクセスが欠如している。 |
• Data privacy: it is crucial to ensure that sensitive financial information remains confidential. |
・データ・プライバシー:機密性の高い財務情報の機密性を確保することは極めて重要である。 |
• Lack of trust in relation to performance levels/ security aspects/ certified solutions/ reliability of the technology. |
・パフォーマンス・レベル/セキュリティ面/認定されたソリューション/テクノロジーの信頼性に関する信頼の欠如。 |
• Regulatory compliance with financial regulation: financial services are heavily regulated and not all types of AI applications are in line with requirements under these regulations. |
・金融規制へのコンプライアンス:金融サービスは規制が厳しく、すべての種類のAIアプリケーションがこれらの規制下の要件に合致しているわけではない。 |
• Innovation: the ability to leverage on combining AI with other technologies to enhance its potential and generate new services? |
・イノベーション:AIを他のテクノロジーと組み合わせて活用し、その可能性を高め、新たなサービスを生み出す能力か。 |
• Transparency and explainability: AI algorithms can be complex and opaque. It can be difficult for humans to understand how AI arrives at certain conclusions, which can create issues of trust and accountability. |
・透明性と説明可能性:AIのアルゴリズムは複雑で不透明な場合がある。AIがどのようにして特定の結論に至るのかを人間が理解することは困難であり、信頼と説明責任の問題が生じる可能性がある。 |
• Bias and discrimination: AI models are trained using data, and if the data is biased, the AI model can also be biased, leading to unfair outcomes. |
・バイアスと識別的:AIモデルはデータを使って訓練されるため、データにバイアスがかかっていると、AIモデルにもバイアスがかかり、不公平な結果につながる可能性がある。 |
• Reputational risk from undesirable AI behavior or output. |
・望ましくないAIの行動や出力による風評リスク。 |
• Liability risks: legal uncertainty on who bears the liability in case of damages generated by the malfunctioning of the AI applications. |
・責任リスク:AIアプリケーションの誤動作によって損害が発生した場合、誰が責任を負うかに関する法的不確実性。 |
• Skills gap: the development of AI requires specific tech skills, and there is a shortage of such skills. |
・スキル・ギャップ:AIの開発には特定の技術スキルが必要であり、そのようなスキルは不足している。 |
• Dependability: as financial institutions rely more and more on AI; the dependability of these systems becomes paramount. Any malfunction or error (e.g. in risk management) can lead to significant financial losses. |
・信頼性:金融機関のAIへの依存度が高まるにつれ、これらのシステムの信頼性が最も重要になる。誤作動やエラー(リスクマネジメントなど)があれば、大きな財務的損失につながりかねない。 |
• Job displacement: the use of AI can potentially automate certain roles in the financial sector leading to job displacement. |
・雇用の置き換え:AIの利用は、金融セクターにおける特定の役割を自動化する可能性があり、雇用の置き換えにつながる。 |
• Cybersecurity: AI systems could be targeted by cybercriminals, leading to potential data breaches or manipulation of AI systems. |
・サイバーセキュリティ:AIシステムはサイバー犯罪者に狙われる可能性があり、データ侵害やAIシステムの操作につながる可能性がある。 |
• Integration challenges: integrating AI technologies with existing systems and processes can be complex and expensive. |
・統合の課題:AI技術を既存のシステムやプロセスに統合することは複雑でコストがかかる可能性がある。 |
• Additional cost: the deployment and use of AI requires up-front investment and ongoing resources (acquiring or developing applications, keeping them up to date, training/skills). |
・追加コスト:AIの導入と利用には、先行投資と継続的なリソース(アプリケーションの取得や開発、最新状態の維持、トレーニング/スキル)が必要となる。 |
Question 10. What are the main difficulties/obstacles you are facing in the development of your AI applications? |
質問10. AIアプリケーションの開発で直面している主な困難/障害は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 11. Please rank the potential negative impact that widespread use of AI can have on the following risks. 8 being the highest risk. |
質問11. AIの普及が以下のリスクに与える潜在的な悪影響をランク付けしてほしい。8が最も高いリスクである。 |
• Operational risks |
・オペレーションリスク |
• Market risks |
・市場リスク |
• Liquidity risks |
・流動性リスク |
• Financial stability risks |
・金融安定性リスク |
• Market integrity risks |
・市場整合性リスク |
• Investor protection risk |
・投資家保護リスク |
• Consumer protection risk |
・消費者保護リスク |
• Reputational risk |
・風評リスク |
Please explain your answer to the previous question and give examples when possible. |
前問に対する回答について説明し、可能であれば例を挙げて説明してほしい。
|
Question 12. AI may affect the type and degree of dependencies in financial markets in certain circumstances, especially where a high number of financial entities rely on a relatively small number of third-party providers of AI systems. Do you see a risk of market concentration and/or herding behavior in AI used for financial services? |
質問12. 特に、多数の金融事業体が比較的少数のAIシステムのサードパーティ・プロバイダに依存している場合、AIは特定の状況において、金融市場における依存関係の種類や程度に影響を与える可能性がある。金融サービスに使用される AI において、市場集中及び/又は群れ行動 のリスクがあると考えるか? |
• Yes, in which areas of AI? |
・はい、AIのどの分野で? |
• No, please explain. |
・いいえ、説明してほしい。 |
1.4. AI and compliance burden |
1.4. AIとコンプライアンスの負担 |
Question 13. Can AI help to reduce the reporting burden? |
質問13. AIは報告負担の軽減に役立つか。 |
• Yes, in which areas do you see AI reducing reporting burden? |
・はい、どの分野でAIが報告負担を軽減すると思うか? |
• No, why? |
・いいえ、その理由は? |
Question 14. Do you think AI can facilitate compliance with multiple regulatory standards across the EU and thus facilitate market integration or regulatory compliance? For example, would you consider it feasible to use AI for converting accounting and financial statements developed under one standard (e.g. local GAAP) to another standard (e.g. IFRS)? Please elaborate. |
質問14. AIはEU全域で複数の規制標準への準拠を促進し、市場統合や規制遵守を促進できると考えるか。例えば、ある標準(例えばローカルGAAP)の下で作成された会計・財務諸表を別の標準(例えばIFRS)に変換するためにAIを利用することは実現可能だと考えるか。詳しく説明してほしい。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
1.5. Data access |
1.5. データアクセス |
Question 15. In order to develop AI applications, do you need access to external datasets that you currently don’t have access to? |
質問15. AIアプリケーションを開発するために、現在アクセスできない外部データセットにアクセスする必要があるか? |
• Yes |
・はい |
• No |
・必要ない |
Question 16. Which datasets would you need to develop meaningful AI applications and for which purpose / use case? |
質問16. 有意義なAIアプリケーションを開発するために、どのようなデータセットが必要か。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 17. Do you face hurdles in getting access to the data you need to develop AI applications in financial services? |
質問17. 金融サービスでAIアプリケーションを開発するために必要なデータにアクセスする際にハードルに直面するか? |
• Yes, please explain which type of data you would need to have access to. |
・はい、どのようなデータにアクセスする必要があるか説明してほしい。 |
• No |
・いいえ |
Question 18. Are you familiar with the EU Data Hub, a data sharing tool for supervisors and financial companies? |
質問18. 監督当局と金融会社のためのデータ共有ツールであるEUデータハブをご存知か? |
• Yes, do you think it can improve access to data? |
・はい、データへのアクセスを改善できると思うか。 |
• No, are you aware of other data sharing initiatives that you find useful? |
・いいえ、有用と思われる他のデータ共有イニシアチブを知っているか。 |
Question 19. Should public policy measures (e.g. legislative or non-legislative) encourage the exchange of data between market participants, which can be used to train AI systems for use cases in finance? |
質問19. 金融のユースケースのためのAIシステムの訓練に使用できる市場参加者間のデータ交換を、公共政策措置(立法的または非立法的など)で奨励すべきか? |
• Yes. Which type of measures do you propose? |
・はい。どのような対策を提案するか? |
• No |
・提案しない |
1.6. Business model |
1.6. ビジネスモデル |
Question 20. Has AI changed your business model? |
質問20. AIは貴社のビジネスモデルを変えたか? |
• Yes, how? |
・はい、どのように? |
• No |
・いいえ |
Question 21. Which parts of the value chain are being improved with AI? |
質問21. バリューチェーンのどの部分がAIによって改善されているか? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 22. Are there functions that cannot/would not be improved by AI? |
質問22. AIで改善できない/改善しない機能はあるか? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
1.7. General purpose AI |
1.7. 汎用AI |
For the purpose of this targeted consultation, respondents should consider general purpose AI as defined in the AI Act (Article 3(63)), i.e. meaning any “AI model, including where such an AI model is trained with a large amount of data using selfsupervision at scale, that displays significant generality and is capable of competently performing a wide range of distinct tasks regardless of the way the model is placed on the market and that can be integrated into a variety of downstream systems or applications, except AI models that are used for research, development or prototyping activities before they placed on the market”. |
本対象コンサルテーションでは、回答者は、AI法(第3条63項)に定義される汎用AI、すなわち、「AIモデル(そのようなAIモデルが大規模な自己監視を使用して大量のデータを用いて訓練される場合を含む)であって、そのモデルが上市される方法にかかわらず、有意な汎用性を示し、広範囲の明確なタスクを適切に実行することができ、様々な下流のシステム又はアプリケーションに統合することができるもの(上市前に研究、開発又はプロトタイピング活動に使用されるAIモデルを除く)」を意味する汎用AIを検討すべきである。 |
Question 23. Do you use general purpose AI models, including generative AI, and their respective reference architectures? |
質問23. 生成的AIを含む汎用AIモデルと、それぞれの参照アーキテクチャを使用しているか? |
• Yes, please explain why you want to opt for these AI models in your organisation. |
・はい、あなたの組織でこれらのAIモデルを選択したい理由を説明してほしい。 |
• Not yet, but we plan to use general purpose AI models within the next 2 years. |
・まだ使用していないが、今後2年以内に汎用AIモデルを使用する予定である。 |
• No, please explain which other AI reference architectures (e.g. more traditional ones) you plan to use to develop your AI applications and why. |
・いいえ、AIアプリケーションの開発に他のどのAI参照アーキテクチャ(より伝統的なものなど)を使用する予定か、その理由を説明してほしい。 |
Question 24. How do you plan to operationalise and adopt general purpose AI at scale? |
質問24. 汎用AIをどのように運用し、大規模に採用する予定か。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question 25. How does the increasing availability of general purpose AI models, including generative AI applications, impact the need to access new datasets? |
質問25. 生成的AIアプリケーションを含む汎用AIモデルの利用可能性の増加は、新しいデータセットにアクセスする必要性にどのように影響するか? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。。 |
Question 26. Compared to traditional AI systems such as supervised machine learning systems, what additional opportunities and risks are brought by general purpose AI models? |
質問26. 教師あり機械学習システムなどの従来のAIシステムと比較して、汎用AIモデルはどのような新たな機会とリスクをもたらすか? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 27. In which areas of the financial services value chain do you think general purpose AI could have a greater potential in the short, medium and long term? |
質問27. 金融サービスのバリューチェーンのどの分野で、汎用AIが短期・中期・長期的に大きな可能性を持つと思うか? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
1.8. AI Governance in relation to non-high risk use cases, and which are not subject to specific requirements under the AI Act |
1.8. ハイリスクでないユースケースに関連し、AI法に基づく特定の要件の対象とならないAIガバナンス |
Question 28. Have you developed, or are you planning to develop an AI strategy or other relevant guidelines within your organisation for the use of AI systems? |
質問28. AIシステムの利用に関して、組織内でAI戦略やその他の関連ガイドラインを策定したか、または策定する予定があるか。 |
• Yes, which ones? |
・はい。 |
• No |
・いいえ |
Question 29. Have you put in place or are you planning to put in place governance and risk management measures to ensure a responsible and trustworthy use of AI within your organisation? |
質問29. 組織内で責任ある信頼できるAIの利用を確保するために、ガバナンスやリスクマネジメントを導入しているか、または導入する計画があるか。 |
• Yes, which ones? |
・はい、どのようなものか? |
• No |
・いいえ |
1.9. Forecasts |
1.9. 予測 |
Question 30. What are the main evolutions to be expected in AI in finance? |
質問30. 金融分野におけるAIに期待される主な進化は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 31. Which financial services do you expect to be the most impacted by AI? |
質問31. AIによって最も影響を受けると予想される金融サービスは? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question 32. Do you have any additional information to share? |
質問32. その他、共有すべき情報はあるか。 |
Part 2: QUESTIONS RELATED TO SPECIFIC USE CASES IN FINANCIAL SERVICES |
第2部:金融サービスにおける具体的なユースケースに関する質問 |
Question 33. In which sector are you using AI? |
質問33. どの分野でAIを活用しているか? |
You may select more than one answer. |
複数回答可 |
• Banking and payments |
・銀行業務と決済 |
• Market infrastructure |
・市場インフラ |
• Securities markets |
・証券市場 |
• Insurance and pensions |
・保険・年金 |
• Asset management |
・資産管理 |
• Other |
・その他 |
2.1. Questions per sector |
2.1. セクターごとの質問 |
Banking and payments (if selected) |
銀行業務と決済(選択した場合) |
In banking, possible AI use cases range from credit risk assessment and credit scoring to advice, compliance, early warning (for example of unusual social media activity / massive withdrawal of deposits), fraud/AML and customer service. |
銀行業務では、AIのユースケースとして、信用リスクアセスメントやクレジットスコアリングから、アドバイス、コンプライアンス、早期警告(ソーシャルメディアの異常な活動や預金の大量引き出しなど)、詐欺/AML、顧客サービスまでが考えられる。 |
Depending on the specific use cases, relevant legislation would include: |
具体的なユースケースに応じて、関連する法律には以下が含まれる: |
• the AI Act (for the identified high-risk use cases such as creditworthiness and credit-scoring of natural persons) |
・AI法(自然人の信用度や信用スコアリングなど、特定された高リスクのユースケース用) |
• the Consumer Credit Directive and the Mortgage Credit Directive |
・消費者信用指令および住宅ローン信用指令 |
(creditworthiness of natural persons and robo-advice) |
(消費者信用指令および住宅ローン信用指令(自然人の信用度およびロボアドバイス) |
• the Capital Requirements Regulation (CRR) (for example provisions on risk management in relation to credit risk assessment) |
・資本規制(CRR)(信用リスク評価に関するリスクマネジメント規定など) |
• the Payment Services Directives (PSD) (for example for fraud detection) |
・決済サービス指令(PSD)(不正行為の検知など) |
• and the Anti-Money Laundering Directive (AMLD) (for example for AML risk use cases) |
・マネーロンダリング防止指令(AMLD)(AML リスクのユースケースなど) |
Question BANKING 1. For which use case(s) are you using/considering using AI? |
質問 銀行業務 1. どのようなユースケースで AI を利用/検討しているか。 |
Open answer. Examples: risk assessment, credit scoring, robo-advice, sustainable finance, personal finance management, regulatory compliance, fraud detection, AML, customer service, etc. |
自由回答 検知例:リスクアセスメント、クレジットスコアリング、ロボアドバイス、サステナブルファイナンス、パーソナルファイナンスマネジメント、規制遵守、不正検知、AML、顧客サービスなど。 |
Question BANKING 2. What are the opportunities that AI brings to your use case? |
質問 銀行業務 2.AIがあなたのユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question BANKING 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 銀行業務 3. AIが貴社のユースケースにもたらす主な課題とリスクは何か(識別的、開発されたAIアプリケーションの不透明性、制御/監督が困難など)。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question BANKING 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 銀行業務 4. ユースケースにおけるAI開発の主な障壁は何か(スキルやリソースの不足、技術の準備、関連フレームワークへの準拠のための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question BANKING 5. Does AI reduce or rather increase bias and discrimination in your use case? |
質問 銀行業務 5. あなたのユースケースにおいて、AIはバイアスや識別を減らすか、むしろ増やすか? |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question BANKING 6. Has general purpose AI opened new possibilities or risks in your use case? |
質問 銀行業務 6. あなたのユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしたか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question BANKING 7. On whom do you rely for the development of your AI solutions? |
質問 銀行業務 7. AIソリューションの開発を誰に依存しているか。 |
• External providers |
・外部プロバイダ |
• In-house applications |
・社内アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダとの一部協業 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Market infrastructure (if selected) |
市場インフラ(選択した場合) |
According to the European securities and markets authority (ESMA)[1], AI is currently not widely used by financial market infrastructures in their operations. However, use of AI systems in post-trading is emerging and will likely become more relevant in the future, such as for predicting settlement fails, anomaly detection, data verification and data quality checks. |
欧州証券市場認可局(ESMA)[1]によると、現在、金融市場インフラにおいてAIはあまり活用されていない。しかし、ポストトレーディングにおけるAIシステムの利用は台頭しつつあり、決済失敗の予測、異常検知、データ検証、データ品質チェックなど、今後関連性が高まる可能性が高い。 |
Question MARKET 1. For which use case(s) are you using/considering using AI? |
質問 市場業務1. どのようなユースケースでAIの活用を考えているか? |
Open answer. Examples: risk management, sustainable finance, regulatory compliance, etc. |
自由回答 例:リスクマネジメント、サステイナブル・ファイナンス、規制遵守など。 |
Question MARKET 2. What are the opportunities that AI brings to your use case? |
質問 市場業務2. AIがあなたのユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question MARKET 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 市場業務3. AIがあなたのユースケースにもたらす主な課題とリスクは何か(識別的、開発されたAIアプリケーションの不透明性、制御/監督の困難性など)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question MARKET 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 市場業務 4.あなたのユースケースにおけるAI開発の主な障壁は何か(例:スキルやリソースの不足、技術の準備、関連フレームワークへの準拠のための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question MARKET 5. Does AI reduce or rather increase bias and discrimination in your use case? |
質問 市場業務 5. あなたのユースケースにおいて、AIはバイアスや識別を減らすか、むしろ増やすか? |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question MARKET 6. Has general purpose AI opened new possibilities or risks in your use case? |
質問 市場業務6. あなたのユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしたか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question MARKET 7. On whom do you rely for the development of your AI solutions? |
質問 市場業務 7. AIソリューションの開発を誰に依存しているか? |
• External providers |
・外部プロバイダ |
• In-house applications |
・社内アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダと一部協業している |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Securities markets (if selected) |
証券市場(選択した場合) |
In securities markets, possible AI use cases range from risk assessment to trade execution (e.g. algorithmic trading), robo-advice, regulatory compliance and market abuse to customer service. Depending on the specific use cases, relevant legislation would include, for example: |
証券市場では、リスクアセスメントから取引執行(アルゴリズム取引など)、ロボアドバイス、規制遵守、市場濫用、顧客サービスまで、さまざまなAIユースケースが考えられる。具体的なユースケースに応じて、関連する法律には例えば以下のようなものがある: |
• Markets in Financial Instruments Directive (MiFID) (for example on trading and robo-advice) |
・金融商品市場指令(MiFID)(取引やロボ・アドバイスなど) |
• and Market Abuse Regulation (MAR) (for example for market abuse detection use cases). |
・および市場濫用規制(MAR)(市場濫用検知のユースケースなど)が含まれる。 |
Robo advice: According to the upcoming AI Act, there are specific transparency requirements for AI systems which are not high-risk. The requirements imply that these |
ロボアドバイス:来るべきAI法によれば、ハイリスクではないAIシステムには特定の透明性要件がある。この要件は、以下のことを意味する。 |
AI systems are developed and used in a way that allows making humans aware that they communicate or interact with an AI system. This would for example apply to use cases such as robo-advice or other customer personalised AI applications. |
AIシステムは、AIシステムとのコミュニケーションやインタラクションを人間に認識させるような方法で開発・使用される。これは例えば、ロボアドバイスやその他の顧客向けにパーソナライズされたAIアプリケーションのようなユースケースに適用される。 |
Question SECURITIES 1. For which use case(s) are you using/considering using AI? |
質問 証券業務 1. どのようなユースケースでAIを使用/検討しているか? |
Open answer. Examples: risk assessment, individual or collective portfolio management, algorithmic trading, robo-advice, sustainable finance, personal finance management, regulatory compliance, customer service, market abuse detection, etc. |
自由回答 例:リスクアセスメント、個人または集団のポートフォリオマネジメント、アルゴリズム取引、ロボアドバイス、持続可能な金融、個人金融マネジメント、規制遵守、顧客サービス、市場濫用検知など。 |
Question SECURITIES 2. What are the opportunities that AI brings to your use case? |
質問 証券業務 2. AIがあなたのユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question SECURITIES 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 証券業務 3. あなたのユースケースにおいて、AIがもたらす主な課題やリスクは何か(識別的、開発したAIアプリ ケーションの不透明性、制御・監督の困難性など)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question SECURITIES 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 証券業務 4. ユースケースにおけるAI開発の主な障壁は何か(スキルやリソースの不足、技術の準備、関連フレームワークへの準拠のための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 5. Can AI reduce bias and discrimination or increase them in your use case? |
質問 証券業務 5.あなたのユースケースにおいて、AIはバイアスや識別的差別を減らすことができるか、あるいは増やすことができるか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 6. Has general purpose AI opened new possibilities or risks in your use case? |
質問 証券業務 6. あなたのユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしたか? |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 7. On whom do you rely for the development of your AI solutions? |
質問 証券業務 7. AIソリューションの開発を誰に依存しているか? |
• External providers |
・外部プロバイダ |
• In-house applications |
・社内アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダとの一部協業 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 8. ‘Herding effects’, where trading is dominated by trading algorithms that make decisions based on similar model calibrations, are often considered as a risk for financial markets. Do you believe that the use of AI has increased this risk? |
質問 証券業務 8. 類似のモデル・キャリブレーションに基づいて意思決定を行う取引アルゴリズ ムによって取引が支配される「ハーディング効果」は、しばしば金融市場のリスクと見なされている。AIの利用がこのリスクを高めていると考えるか? |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 9. Machine learning trading algorithms can interact with each other in unpredictable ways on the market. Do you see any risks to market integrity and efficiency stemming from these interactions, such as collusion that can amount to market manipulation or sudden bouts of illiquidity where trading algorithms stop trading in response to unusual patterns of market behaviour? |
質問 証券業務 9. 機械学習による取引アルゴリズムは、市場において予測不可能な方法で相互作用する可能性がある。このような相互作用から、市場操作に相当するような談合や、市場行動の異常なパターンに反応して取引アルゴリズムが取引を停止するような突然の非流動性の発生など、市場の整合性や効率性に起因するリスクがあると考えるか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 10. Can robo-advice based on general purpose AI, which can sometimes produce ‘hallucinations’, i.e. nonsensical or inaccurate replies, be made compatible with regulatory requirements applicable to investment advice? |
質問 証券業務 10. 時として「幻覚」、すなわち無意味または不正確な回答を生み出す可能性のある汎用 AI に基づくロボアドバイスは、投資助言に適用される規制要件に適合させることができるか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question SECURITIES 11. What precautions will you put in place to ensure robo-advice is developed in compliance with the requirements for investment advice? |
質問 証券業務 11. ロボアドバイスが投資助言の要件に準拠して開発されることを保証するために、どのような予防措置を講じるか。 |
Insurance and pensions (if selected) |
保険・年金(選択した場合) |
In insurance, possible AI use cases range from insurance pricing and underwriting to advice, compliance, fraud detection/AML and customer service. Depending on the specific use cases, relevant legislation would include |
保険では、AIのユースケースとして、保険料設定や保険引受から、アドバイス、コンプライアンス、不正検知/AML、顧客サービスまでが考えられる。具体的なユースケースに応じて、関連する法律には以下が含まれる。 |
• the AI Act (for the identified high risk use-cases such as life and health insurance risk assessment and pricing in relation to natural persons) |
・AI法(自然人に関する生命保険や医療保険のリスクアセスメントやプライシングなど、識別された高リスクのユースケースの場合) |
• the Insurance Intermediation Directive (IDD) (for example robo-advice), |
・保険仲介指令(IDD)(ロボアドバイスなど)、 |
• Solvency II and institutions for occupational retirement provisions (IORPs) (for example provisions on risk management in relation to insurance risk assessment), |
・ソルベンシーⅡおよび退職給付機構(IORPs)(保険リスクアセスメントに関するリスクマネジメント規定など)、 |
• and the Anti-Money Laundering Directive (AMLD) (for example AML use cases). |
・およびマネーロンダリング防止指令(AMLD)(AML のユースケースなど)。 |
Question INSURANCE 1. For which use case(s) are you using/considering using AI? |
質問 保険業務 1. どのようなユースケースで AI を使用しているか/使用を検討しているか? |
Open answer. Examples: risk management, insurance pricing and underwriting, setting capital requirements/technical provisions, robo-advice, regulatory compliance, sustainable finance, fraud detection, AML, customer service, sales and distribution, claims management, etc. |
自由回答 検知例:リスクマネジメント、保険のプライシングとアンダーライティング、資本要件/技術的規定の設定、ロボアドバイス、規制コンプライアンス、持続可能な金融、不正検知、AML、顧客サービス、販売・流通、クレームマネジメントなど。 |
Question INSURANCE 2. What are the opportunities that AI brings to your use case? |
質問 保険業務 2.AIが貴社のユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question INSURANCE 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 保険業務 3. AIがあなたのユースケースにもたらす主な課題とリスクは何か(識別的、開発されたAIアプリケーションの不透明性、制御/監督の困難性など)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question INSURANCE 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 保険業務 4.あなたのユースケースでAIを開発する際の主な障壁は何か(例:スキルやリソースの不足、技術の準備、関連する枠組みを遵守するための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question INSURANCE 5. Does AI reduce or rather increase bias and discrimination in your use case? |
質問 保険業務 5.あなたのユースケースにおいて、AIはバイアスや識別を減少させるか、あるいはむしろ増加させるか。 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question INSURANCE 6. How can insurers ensure that the outcomes of AI systems are not biased? |
質問 保険業務 6. 保険会社は、AI システムの結果がバイアスにならないことをどのように保証できるか。 |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question INSURANCE 7. Has general purpose AI opened new possibilities or risks in your use case? |
質問 保険業務 7. 貴社のユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしたか? |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question INSURANCE 8. On whom do you rely for the development of your AI solutions? |
質問 保険業務 8. AIソリューションの開発を誰に依存しているか? |
• External providers |
・外部プロバイダ |
• In-house applications |
・自社アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダと一部協業している。 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Asset management (if selected) |
資産管理(選択した場合) |
In asset management, possible AI use cases range from risk and portfolio management, robo-advice, regulatory compliance and market abuse to customer service. Depending on the specific use cases, relevant legislation would include, for example: |
資産管理では、リスクマネジメント、ポートフォリオマネジメント、ロボアドバイス、規制遵守、市場濫用から顧客サービスまで、さまざまなAIの活用事例が考えられる。具体的なユースケースに応じて、関連する法律には例えば以下のようなものがある: |
• Undertakings for the Collective Investment in Transferable Securities (UCITS) |
・譲渡性証券集団投資事業(UCITS:Undertakings for the Collective Investment in Transferable Securities) |
• Alternative Investment Fund Managers Directive (AIFMD) |
・オルタナティブ投資ファンド・マネージャー指令(AIFMD) |
• or Markets in Financial Instruments Directive (MiFID) |
・または金融商品市場指令(MiFID) |
Question ASSET MANAGEMENT 1. For which use case(s) are you using/considering using AI? |
質問 資産管理 1. どのようなユースケースでAIを使用/検討しているか? |
Open answer. Examples: risk management, individual and collective portfolio management, regulatory compliance, trades monitoring, robo-advice, customer service, sustainable finance, etc. |
自由回答 例:リスクマネジメント、個人や集団のポートフォリオ管理、規制遵守、取引モニタリング、ロボアドバイス、顧客サービス、持続可能な金融など。 |
Question ASSET MANAGEMENT 2. What are the opportunities that AI brings to your use case? |
質問 資産管理 2. AIが貴社のユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question ASSET MANAGEMENT 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 資産管理 3. AIがあなたのユースケースにもたらす主な課題とリスクは何か(識別的、開発されたAIアプリケーションの不透明性、制御/監督の困難性など)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question ASSET MANAGEMENT 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 資産管理 4.あなたのユースケースにおけるAI開発の主な障壁は何か(例:スキルやリソースの不足、技術の準備、関連する枠組みを遵守するための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。
|
Question ASSET MANAGEMENT 5. Does AI reduce or rather increase bias and discrimination in your use case? |
質問 資産管理 5.あなたのユースケースにおいて、AIはバイアスや識別を減少させるか、あるいはむしろ増加させるか。 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question ASSET MANAGEMENT 6. Has general purpose AI opened new possibilities or risks in your use case? |
質問 資産管理 6. あなたのユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしましたか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question ASSET MANAGEMENT 7. On whom do you rely for the development of your AI solutions? |
資産管理 7. AIソリューションの開発を誰に依存しているか? |
• External providers |
・外部プロバイダ |
• In-house applications |
・社内アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダとの一部協業 |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question ASSET MANAGEMENT 8. When delegating functions to third parties, do you check the extent to which the provisions of services will entail the use of AI? |
質問 資産管理 8. サードパーティに機能を委託する際、サービスの提供がAIの利用を伴う範囲をチェックしているか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Other (if selected) |
その他(選択した場合) |
Question OTHER 1. For which use case(s) are you using/considering using AI? |
質問 その他業務 1.どのようなユースケースでAIの利用を考えているか。 |
Open answer. Examples: accounting, financial planning, credit rating, etc. |
自由回答 例:会計、財務計画、信用格付けなど。 |
Question OTHER 2. What are the opportunities that AI brings to your use case? |
質問 その他業務 2. AIがあなたのユースケースにもたらす機会は何か? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question OTHER 3. What are the main challenges and risks that AI brings to your use case (e.g. discrimination, opacity of the AI application developed, difficult to control/supervise it, etc.)? |
質問 その他業務 3. AIがあなたのユースケースにもたらす主な課題とリスクは何か(識別的、開発されたAIアプリケーションの不透明性、制御/監督が困難など)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question OTHER 4. What is the main barrier to developing AI in your use case (e.g. lack of skills and resources, readiness of the technology, high regulatory costs for compliance with the relevant frameworks, etc.)? |
質問 その他業務 4.あなたのユースケースにおいて、AIを開発する上での主な障壁は何か(例:スキルやリソースの不足、技術の準備、関連する枠組みを遵守するための高い規制コストなど)? |
Open answer/Please explain and give examples when possible. |
自由回答/可能であれば例を挙げて説明してほしい。 |
Question OTHER 5. Does AI reduce or rather increase bias and discrimination in your use case? |
質問 その他業務 5. あなたのユースケースにおいて、AIはバイアスや差別を減らすか、むしろ増やすか? |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question OTHER 6. Has general purpose AI opened new possibilities or risks in your use case? |
質問 その他業務 6. あなたのユースケースにおいて、汎用AIは新たな可能性やリスクをもたらしたか。 |
• Yes |
・はい |
• No |
・いいえ |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Question OTHER 7. On whom do you rely for the development of your AI solutions? |
質問 その他業務 7. AIソリューションの開発を誰に依存しているか? |
• External providers |
・外部プロバイダ |
• In-house applications |
・社内アプリケーション |
• Partial collaboration with external providers |
・外部プロバイダと部分的に協力している |
Please explain and give examples when possible. |
可能であれば例を挙げて説明してほしい。 |
Part 3: AI ACT |
第3部:AI法 |
In December 2023 the European Parliament and the Council reached a provisional political agreement on the first comprehensive AI framework, put forward by the Commission on 21 April 2021. The regulation was adopted by the European Parliament on 13 March 2024 and will enter into force later this spring once it has been published in the Official Journal of the EU. This horizontal acquis is applicable across all economic sectors. |
2023年12月、欧州議会と欧州理事会は、欧州委員会が2021年4月21日に提案した初の包括的AI枠組みについて暫定的な政治合意に達した。同規則は2024年3月13日に欧州議会で採択され、EU官報に掲載された後、今春以降に発効する。この水平的協定は、すべての経済分野に適用される。 |
The AI Act defines an AI system as “a machine-based system designed to operate with varying levels of autonomy, that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments”. Recital 11 further sets out the reasons for this definition, notably setting out that it is based on key characteristics that distinguish it from simpler traditional software systems of programming approaches. |
AI法は、AIシステムを「さまざまなレベルの自律性で動作するように設計された機械ベースのシステムであって、導入後に適応性を示す可能性があり、明示的または暗黙的な目的のために、物理的または仮想的環境に影響を与えることができる予測、コンテンツ、推奨、決定などの出力を生成する方法を、受け取った入力から推測するもの」と定義している。説明11にはさらに、この定義の理由が示されており、特に、より単純な従来のソフトウェア・システムのプログラミング・アプローチとは異なる主要な特徴に基づいていることが明記されている。 |
The AI Act will establish two high risk use cases for the financial sector: |
AI法では、金融セクター向けに2つのリスクの高いユースケースを設定する: |
1. AI systems intended to be used to evaluate the creditworthiness of natural persons or establish their credit score, with the exception of those AI systems used for the purpose of detecting financial fraud |
1. 金融詐欺を検知する目的で使用されるAIシステムを除き、自然人の信用度を評価するため、または信用スコアを設定するために使用されることを意図したAIシステム。 |
2. AI systems intended to be used for risk assessment and pricing in relation to natural persons in the case of life and health insurance |
2. 生命保険および医療保険の場合、自然人に関するリスクアセスメントおよびプライシングに使用されることを意図したAIシステム。 |
The aim of this section is to identify which are your specific needs in order for the Commission to be able to adequately assist you with appropriate guidance for the implementation of the upcoming AI framework in your specific market areas, especially in particular to the high-risk use cases identified. |
このセクションの目的は、欧州委員会が、特に特定されたリスクの高いユースケースについて、今後予定されているAIの枠組みを特定の市場分野で実施するための適切なガイダンスを提供し、適切な支援を行えるようにするために、具体的にどのようなニーズがあるかを特定することである。 |
3.1. Scope and AI definition |
3.1. 範囲とAIの定義 |
Question 34. Which of the following use cases that could fall into the categorisation of high-risk are potentially relevant to your activity? |
質問34. 高リスクに分類される可能性のある以下のユースケースのうち、貴社の活動に関連する可能性のあるものはどれか。 |
• AI systems intended to be used to evaluate the creditworthiness of natural persons or establish their credit score. |
・自然人の信用度を評価したり、信用スコアを設定したりするために使用することを意図したAIシステム。 |
• AI systems intended to be used for risk assessment and pricing in relation to natural persons in the case of life and health insurance. |
・生命保険や医療保険の場合、自然人に関するリスクアセスメントやプライシングに使用されることを意図したAIシステム。 |
• Both. |
・両方 |
• None. |
・なし。 |
Question 35. Please explain the overall business and/or risk management process in which the high-risk use case would be integrated and what function exactly the AI would carry out. |
質問35. 高リスクのユースケースが統合される全体的なビジネス及び/又はリスクマネジメントプロセスと、AIが具体的にどのような機能を果たすのかについて説明してほしい。 |
Question 36. Are there any related functions AI would carry out which you would suggest distinguishing from the intended purpose of the high-risk AI systems in particular to the use cases identified in question 34? |
質問36.質問34で識別されたユースケースについて、特に高リスクAIシステムの意図された目的から区別することを提案する、AIが実行する関連機能があるか。 |
Question 37. Please explain why these functions would/should in your view not be covered by the high-risk use cases set out in the AI act either because they would not be covered by the definition of the use case or by relying on one of the conditions under article 6(3) of the AI Act and explaining your assessment accordingly that the AI system would not pose a significant risk of harm if: |
質問37. これらの機能が、ユースケースの定義に含まれないため、又はAI法6条3項に基づく条件のいずれかに依拠することにより、AI法に定める高リスクのユースケースに含まれない/含まれるべきであると考える理由を説明し、以下の場合、AIシステムが重大な危害のリスクをもたらさないというあなたのアセスメントを適宜説明してください: |
a) the AI system is intended to perform a narrow procedural task |
a) AIシステムが、狭い手続き上のタスクを実行することを意図している。 |
b) the AI system is intended to improve the result of a previously completed human activity |
b) AIシステムが、以前に完了した人間の活動の結果を改善することを意図している。 |
c) the AI system is intended to detect decision-making patterns or deviations from prior decision-making patterns and is not meant to replace or influence the previously completed human assessment, without proper human review |
c) AIシステムは、意思決定のパターンや以前の意思決定のパターンからの逸脱を検知することを意図したものであり、人間による適切なレビューなしに、以前に完了した人間のアセスメントに取って代わったり、影響を与えたりすることを意図したものではない。 |
d) or the AI system is intended to perform a preparatory task to an assessment relevant for the purpose of the use cases listed in Annex III of the AI Act |
d) または、AIシステムが、AI法の附属書IIIに記載されているユースケースの目的に関連するアセスメントの準備作業を行うことを意図している。 |
Question 38. At this stage, do you have examples of specific AI applications/use cases you believe may fall under any of the conditions from article 6(3) listed above? |
質問38. 現段階で、上記の第6条3項の条件のいずれかに該当すると思われる具体的なAIアプリケーション/ユースケースの例をお持ちか。 |
Please describe the use case(s) in cause and the conditions you believe they may fall under. |
具体的なユースケースと、それが該当すると思われる条件を記述してくださ い。 |
Question 39. Based on the definition of the AI system, as explained above (and in article 3(1) and accompanying recitals), do you find it clear if your system would fall within the scope of the AI Act? |
質問39. 上記(及び第3条第1項と付随するリサイタル)で説明したAIシステムの定義に基づき、貴社のシステムがAI法の適用範囲に入るかどうか明らかであると思われるか。 |
• Yes |
・はい |
• No, it is not clear/ easy to understand if it falls within the scope of the AI Act. If “No”, please specify in relation to what aspects and/or which algorithmic/mathematical models? |
・いいえ、AI法の適用範囲に入るかどうか明確でない/理解しにくい。いいえ」の場合、どのような側面および/またはどのアルゴリズム/数学モデルに関してか、具体的に教えてほしい。 |
3.2. AI Act requirements |
3.2. AI法の要件 |
Question 40. Bearing in mind there will be harmonised standards for the requirements for high-risk AI (Mandates sent to CEN-CENELEC can be monitored here), would you consider helpful further guidance tailored to the financial services sector on specific AI Act requirements, in particular regarding the two high-risk AI use cases? |
質問40 高リスクAIの要件については標準化が予定されているが(CEN-CENELECに送られた指令はこちらで確認できる)、特に2つの高リスクAIのユースケースについて、AI法の具体的な要件について、金融サービス部門に合わせたさらなるガイダンスが有用であると考えるか。 |
• Yes. If yes, on which specific provisions or requirements and on what aspects concretely? |
・はい。「はい」の場合、具体的にどの条項または要件について、またどのような側面についてか。 |
• No |
・いいえ。 |
3.3. Financial legislation requirements |
3.3. 金融法上の要件 |
Question 41. Future AI high-risk use cases would also need to comply with existing requirements from the financial legislation. Would you consider helpful further guidance meant to clarify the supervisory expectations for these use cases? |
質問41. 今後の AI の高リスクのユースケースは、金融法制の既存の要件にも準拠する必要があ る。このようなユースケースに対する監督当局の期待事項を明確にするために、さらなるガイダンスが有用であると考えるか。 |
• If yes, please explain your choice and indicate if the guidance should be highlevel and principles based or tailored to specific use cases. |
・「はい」の場合、その選択肢を説明し、ガイダンスがハイレベルで原則に基づくものであるべきか、特定のユースケースに合わせたものであるべきかを示していただきたい。 |
• No, the supervisory expectations are clear. |
・監督当局の期待は明確である。 |
Question 42. There are other use cases in relation to the use of AI by the financial services sector which are not considered of high-risk by the AI Act, but which need to comply with the existing requirements from the financial legislation. Would you consider helpful further guidance meant to clarify the supervisory expectations for these use cases? |
質問42. 金融サービス部門によるAIの利用に関して、AI法ではハイリスクとはみなされないが、金融法制の既存の要件に準拠する必要がある他のユースケースがある。このようなユースケースに対する監督当局の期待を明確にするための更なるガイダンスが有用であると考えるか。 |
• If yes, please explain your response, and indicate if the guidance should be highlevel and principles based or tailored to specific use cases. |
・また、そのガイダンスがハイレベルで原則に基づくものであるべきか、特定のユースケースに合わせたものであるべきかを示されたい。 |
• No, the supervisory expectations are clear. |
・監督当局の期待は明確である。 |
Question 43. Are you aware of any provisions from the financial acquis that could impede the development of AI applications (e.g. provisions that prohibit the use of risk management models which are not fully explainable or the use of fully automated services for the interaction with consumers)? |
質問43. AI アプリケーションの開発を阻害する可能性のある金融規制の規定を知っているか (完全には説明できないリスクマネジメントモデルの使用や、消費者との対話に完全自動化されたサー ビスを使用することを禁止する規定など)。 |
• If yes, please indicate the acquis/ provision in cause. |
・「はい」の場合、その根拠となる法令・規定を示すこと。 |
• No, I am not aware of any provision(s) of this kind |
・いいえ、この種の規定を知らない。 |
Recent Comments