COSO 人工知能の可能性を最大限に発揮するために
こんにちは、丸山満彦です。
COSOが「人工知能の可能性を最大限に発揮するために - COSOフレームワークと原則を適用し、AIの導入と拡張に役立てる」を公表していますね。。。
著者はDeloitteですね。。。
● The Committee of Sponsoring Organizations of the Treadway Commission: COSO
・2021.09.15 (News) COSO Releases New Guidance: Realize the Full Potential of Artificial Intelligence
目次...
| Introduction | はじめに |
| The AI revolution: Transforming Business and Innovation | AI革命：ビジネスとイノベーションの変革 |
| The COSO ERM Framework: Addressing AI Risks Aligned with your Overall Business and IT Strategy | COSOのERMフレームワーク：事業戦略・IT戦略の全体と連携したAIリスクへの対応 |
| Governance & Culture | ガバナンスと文化 |
| Strategy and Objective-Setting | 戦略・目標設定 |
| Performance | パフォーマンス |
| Review and Revision | レビューと改訂 |
| Information, Communication, and Reporting | 情報・コミュニケーション・報告 |
| Summary Remarks | まとめ |
頭とお尻と...
まずは、頭...
| INTRODUCTION | はじめに |
| Artificial intelligence (AI) has and will continue to transform business strategies, solutions, and operations. AI-related risks need to be top of mind and a key priority for organizations to adopt and scale AI applications and to fully realize the potential of AI. Applying enterprise risk management (ERM) principles to AI initiatives can help organizations provide integrated governance of AI, manage risks, and drive performance to maximize achievement of strategic goals. The COSO ERM Framework, with its five components and twenty principles, provides an overarching and comprehensive framework, can align risk management with AI strategy and performance to help realize AI’s potential. | 人工知能（AI）は、ビジネス戦略、ソリューション、オペレーションを変革してきたし、今後も変革し続けるでしょう。組織がAIアプリケーションを採用し、規模を拡大し、AIの可能性を十分に実現するためには、AI関連のリスクを最優先に考え、重要な優先事項とする必要があります。エンタープライズ・リスクマネジメント（ERM）の原則をAIイニシアティブに適用することは、組織がAIの統合的なガバナンスを提供し、リスクを管理し、戦略目標の達成を最大化するためにパフォーマンスを推進するのに役立ちます。COSO ERMフレームワークは、5つの構成要素と20の原則からなる包括的かつ包括的なフレームワークを提供しており、リスク管理をAI戦略およびパフォーマンスと整合させ、AIの可能性の実現を支援することができます。 |
お尻...
| SUMMARY REMARKS | まとめ |
| To realize AI’s value and take advantage of its potential, organizations must align risk management with their strategy and execution of their AI initiatives. The COSO ERM Framework can help organizations develop integrated governance over AI, manage risks, and drive performance to achieve strategic goals. By implementing integrated governance over AI, organizations can have better information about relevant risks. This may support an increase in the range of opportunities and flexibility to take calculated strategic risks and become nimbler and more adaptive in planning and executing their AI initiatives. Although not authoritative, the Deloitte Trustworthy AITM Framework can help organizations think through the risks when implementing COSO’s ERM Framework for AI. | AIの価値を実現し、その潜在能力を活用するために、組織はリスクマネジメントとAIイニシアティブの戦略および実行を一致させる必要があります。COSO ERMフレームワークは、組織がAIに関する統合的なガバナンスを構築し、リスクを管理し、戦略的な目標を達成するためにパフォーマンスを推進するのに役立つと考えられます。AIに関する統合的なガバナンスを実施することで、組織は関連するリスクについてより良い情報を得ることができます。これは、AIイニシアチブの計画と実行において、計算された戦略的リスクを取るための機会の範囲と柔軟性を高め、より軽快で適応力のあるものになることをサポートする可能性があります。権威あるものではないが、デロイトの「信頼できるAITMフレームワーク」は、組織がCOSOのAI向けERMフレームワークを実施する際に、リスクを考え抜くのに役立つと考えられます。 |
| Through ERM, informed by the COSO ERM Framework, organizations can reduce performance variability and improve the likelihood of success for their AI initiatives. By identifying signals to correct course early, organizations can increase positive outcomes, reduce negative surprises, and improve resilience to risk. Risk-informed resource allocation can also be improved and, by understanding its risk, the organization may be better equipped to deliver return on investment and meet stakeholder expectations. Furthermore, by implementing ERM, organizations can refine and adapt their innovation initiatives to support their strategies in a rapidly changing business environment. | COSO ERMフレームワークに基づくERMを通じて、組織はパフォーマンスのばらつきを抑え、AIイニシアティブの成功確率を向上させることができます。早期に軌道修正するためのシグナルを特定することで、組織はポジティブな結果を増やし、ネガティブなサプライズを減らし、リスクに対するレジリエンスを向上させることができます。また、リスクを考慮した資源配分も改善され、そのリスクを理解することで、組織は投資収益率を高め、ステークホルダーの期待に応えることができるかもしれません。さらに、ERMを導入することで、組織は急速に変化するビジネス環境の中で戦略をサポートするために、イノベーションの取り組みを洗練させ、適応させることができます。 |
| Properly implemented risk management can help organizations take advantage of calculated risks with high rewards, manage inherent risks and help significantly decrease self-inflicted risks. (See Figure 9). | リスクマネジメントを適切に実施することで、組織は高い見返りのある計算されたリスクを活用し、内在するリスクを管理し、自ら招いたリスクを大幅に減少させることが可能になります。(図9参照）。 |
| AI solutions need to be trusted, tried, and true. Trusted – because ERM is transparent by nature and it helps keep an organization abreast of its risks and opportunities. Tried – in that models are continually tested and vetted to verify they are operating as intended. And True – governance, risk management, testing, and monitoring regimes help models to operate in ways that reflect the organization’s values and protect its reputation. The COSO ERM Framework, when considered appropriately, can result in trusted, tried, and true AI. | AI ソリューションは、信頼され、試され、真実である必要があります。信頼：ERMは本質的に透明であり、組織がリスクと機会を常に把握するのに役立つからです。試行錯誤 - モデルは継続的にテストされ、意図したとおりに動作していることを確認するために吟味されます。真 - ガバナンス、リスク管理、テスト、監視体制が、組織の価値観を反映し、組織の評判を守る形でモデルが運用されることを支援する。COSO ERMフレームワークを適切に考慮することで、信頼され、試行され、そして真のAIを実現することができるのです。 |
次への5つのステップ...
| Call to action: Five next steps to consider based on the COSO ERM Framework | 行動への呼びかけ COSO ERMフレームワークに基づいて検討すべき5つの次のステップ |
| Use the COSO framework and underlying components and principles to establish a trustworthy AI program. Here’s how to get started: | COSOフレームワークとその基礎となる構成要素や原則を利用して、信頼できるAIプログラムを確立してください。以下はその方法です。 |
| 1. Establish governance structure for AI program. Determine when and how the organization will use AI and define the purpose and objectives of proposed AI initiatives. This includes evaluating applicable ethical considerations. Bring various AI initiatives across your organization under an overall AI program and a governance structure providing visibility to senior management and board of directors. Identify a senior executive to lead your AI program and provide risk and performance oversight. | 1. AIプログラムのガバナンス体制を確立する。組織がいつ、どのようにAIを使用するかを決定し、提案されたAIイニシアチブの目的と目標を定義します。これには、適用される倫理的配慮の評価も含まれます。組織内のさまざまな AI イニシアティブを、全体的な AI プログラムと、上級管理職や取締役会に可視化するためのガバナンス構造の下に置きます。AI プログラムを主導し、リスクとパフォーマンスを監視する上級管理者を指名します。 |
| 2. Get an AI risk strategy together. Collaborate with stakeholders to draft an organization-wide strategy to manage the strategic, technical, regulatory, and operational risks of AI. Ensure that your organization has the AI technical experience to execute the AI risk strategy. The strategy should define roles, responsibilities, controls, and mitigation procedures. | 2. AI リスク戦略を策定する。ステークホルダーと協力し、AIの戦略的、技術的、規制的、および運用上のリスクを管理するための組織全体の戦略を立案します。AIリスク戦略を実行するためのAI技術的な経験を組織に確保する。戦略では、役割、責任、管理、および緩和手順を定義する必要があります。 |
| 3. Take the initiative with AI risk assessment. For each AI model your organization uses, gauge the potential impact of suboptimal strategic outcomes, operational failures, or bias. Also, evaluate how the algorithm manages and uses data and whether it introduces any unintended bias. For business processes that integrate with AI, look for vulnerabilities and see how likely they are to occur, then record known risks and corresponding controls. | 3. AI リスク評価を率先して行う。組織が使用する各 AI モデルについて、最適でない戦略的成果、運用上の失敗、またはバイアスの潜在的な影響を測定します。また、アルゴリズムがどのようにデータを管理・利用しているか、意図しないバイアスがかかっていないかを評価します。AIと統合するビジネスプロセスについては、脆弱性を探し、それがどの程度発生する可能性があるかを確認し、既知のリスクと対応する制御を記録します。 |
| 4. Develop a portfolio view of risks and opportunities for AI initiatives. Chief Risk Officer and AI leader can work together to proactively review AI models for risks pertaining to bias, tampering, and model malfunction. They should report a portfolio view of AI risks to senior executives and board of directors for awareness and decision-making support. | 4. AI構想のリスクと機会に関するポートフォリオビューを作成する。最高リスク責任者とAIリーダーが協力して、バイアス、改ざん、モデルの誤動作に関わるリスクについて、AIモデルを積極的にレビューすることができます。彼らは、AIリスクのポートフォリオビューをシニアエグゼクティブや取締役会に報告し、認識と意思決定を支援する必要があります。 |
| 5. Lay out an approach to manage AI risks and report to stakeholders for transparency. This includes evaluating risk-reward trade-offs for AI initiatives and resource allocation. Consider assembling a team of AI model risk experts to offer leading practices, objectivity, and risk response methodologies. Establish key performance and risk metrics to measure goals such as efficacy, fairness, and transparency of each model. For each metric, set thresholds that would trigger off-cycle model reviews and corrective actions. Develop reporting dashboards for executives and boards of directors, as well as disclose AI performance and risk management actions to external stakeholders for awareness. | 5. AIリスクを管理するためのアプローチを策定し、ステークホルダーに報告して透明性を確保する。これには、AI構想のリスクとリターンのトレードオフの評価やリソース配分が含まれる。リーディングプラクティス、客観性、リスク対応方法を提供するために、AIモデルのリスク専門家のチームを結成することを検討します。各モデルの有効性、公平性、透明性などの目標を測定するための主要なパフォーマンスとリスクの指標を確立する。各指標について、オフサイクルのモデルレビューと是正措置のトリガーとなる閾値を設定します。経営陣や取締役会向けの報告用ダッシュボードを作成するとともに、外部のステークホルダーに対してAIのパフォーマンスとリスク管理アクションを開示し、認識を高めます。 |
Comments