シンガポールエージェンティックAIのためのAIガバナンスフレームワークVer. 1.5 (2026.05.20): まるちゃんの情報セキュリティ気まぐれ日記

July 2026
Sun	Mon	Tue	Wed	Thu	Fri	Sat
			1	2	3	4
5	6	7	8	9	10	11
12	13	14	15	16	17	18
19	20	21	22	23	24	25
26	27	28	29	30	31

2026.05.31

シンガポールエージェンティックAIのためのAIガバナンスフレームワークVer. 1.5 (2026.05.20)

こんにちは、丸山満彦です。

シンガポールの情報通信メディア開発庁が、2026年１月に公表したエージェンティックAIのためのAIガバナンスフレームワークをVer. 1.5に改定していますね...

かなり力作ではありますよね...

● Sigapore - Infocomm Media Development Authority

・2026.05.20 [PDF] MODEL AI GOVERNANCE FRAMEWORK FOR AGENTIC AI Version 1.5

・[DOCX][PDF] 仮訳

目次...

Executive Summary	エグゼクティブサマリー
What’s new in this version	本バージョンの新機能
1 Introduction to Agentic AI	1 エージェンティックAIの序論
1.1 What is Agentic AI?	1.1 エージェンティックAIとは何か
1.1.1 Core components of an agent	1.1.1 エージェントの主要構成要素
1.1.2 Multi-agent setups	1.1.2 マルチエージェント構成
1.1.3 How agent design affects the limits and capabilities of each agent	1.1.3 エージェントの設計が各エージェントの限界と能力に与える影響
1.2 Risks of Agentic AI	1.2 エージェンティックAIのリスク
1.2.1 Sources of risk	1.2.1 リスクの要因
1.2.2 Types of risk	1.2.2 リスクの種類
1.2.3 Systemic and multi-agent risks	1.2.3 システミックリスクおよびマルチエージェントリスク
2 Model AI Governance Framework for Agentic AI	2 エージェンティックAIのためのモデルAIガバナンスフレームワーク
2.1 Assess and bound the risks upfront	2.1 リスクを事前にアセスメントし、範囲を限定する
2.1.1 Determine suitable use cases for agent deployment	2.1.1 エージェント展開に適したユースケースを決定する
2.1.2 Bound risks through design by defining agents limits and permissions	2.1.2 エージェントの制限と権限を定義することで、設計を通じてリスクを抑制する
2.2 Make humans meaningfully accountable	2.2 人間に有意義な説明責任を負わせる
2.2.1 Clear allocation of responsibilities within and outside the organisation	2.2.1 組織内外における責任の明確な割り当て
2.2.2 Design for meaningful human oversight	2.2.2 有意義な人的監督を可能にする設計を行う
2.3 Implement technical controls and processes	2.3 技術的統制とプロセスを実装する
2.3.1 During design and development, use technical controls	2.3.1 設計および開発段階において、技術的制御を活用する
2.3.2 Before deploying, test agents	2.3.2 展開前にエージェントをテストする
2.3.3 When deploying, continuously monitor and test	2.3.3 展開時には、継続的に監視およびテストを行う
2.4 Enable end-user responsibility	2.4 エンドユーザーの責任を明確にする
2.4.1 Different users, different needs	2.4.1 ユーザーによってニーズは異なる
2.4.2 Users who interact with agents	2.4.2 エージェントとやり取りするユーザー
2.4.3 Users who integrate agents into their work processes	2.4.3 業務プロセスにエージェントを組み込むユーザー
Annex A: Further resources	附属書A：関連リソース
Annex B: Call for feedback and case studies	附属書B：フィードバックおよび事例研究の募集
Acknowledgements	謝辞

エグゼクティブサマリー...

Executive Summary	エグゼクティブサマリー
Agentic AI is the next evolution of AI, holding transformative potential for users and businesses. Compared to generative AI, AI agents can take actions, adapt to new information, and interact with other agents and systems to complete tasks on behalf of humans. While use cases are rapidly evolving, agents are already transforming the workplace through coding assistants, customer service agents, and automating enterprise productivity workflows.	エージェンティックAIはAIの次の進化形であり、ユーザーや企業に変革をもたらす可能性を秘めている。生成的AIと比較して、AIエージェントは行動を起こし、新しい情報に適応し、他のエージェントやシステムと連携して、人間の代わりにタスクを完了することができる。ユースケースは急速に進化しているが、エージェントはすでに、コーディングアシスタント、カスタマーサービスエージェント、エンタープライズの生産性ワークフローの自動化を通じて、職場を変革しつつある。
These greater capabilities also bring forth new risks. Agents’ access to sensitive data and ability to make changes to their environment, such as updating a customer database or making a payment, are double-edged swords. As we move towards deploying multiple agents with complex interactions, outcomes also become more unpredictable.	こうした高度な機能は、新たなリスクももたらす。エージェントが機密データにアクセスしたり、顧客データベースの更新や支払いの実行など、環境を変更する能力を持つことは、諸刃の剣である。複雑な相互作用を持つ複数のエージェントを展開する方向へ進むにつれ、結果もより予測困難になる。
Humans must remain accountable and properly manage these risks. While existing governance principles for trusted AI such as transparency, accountability and fairness continue to apply, they need to be translated in practice for agents. Additionally, meaningful human control and oversight need to be integrated into the agentic AI lifecycle. Nevertheless, a balance needs to be struck as continuous human oversight over all agent workflows becomes impractical at scale.	人間は責任を負い続け、これらのリスクを適切に管理しなければならない。透明性、説明責任、公平性といった信頼できるAIのための既存のガバナンス原則は引き続き適用されるが、エージェントに対して実践的に適用する必要がある。さらに、有意義な人間の制御と監視をエージェンティックAIのライフサイクルに組み込む必要がある。とはいえ、すべてのエージェントのワークフローに対する継続的な人間の監視は、規模が大きくなると現実的ではなくなるため、バランスを取る必要がある。
The Model AI Governance Framework (MGF) for Agentic AI gives organisations a structured overview of the risks of agentic AI and emerging best practices in managing these risks. If risks are properly managed, organisations can adopt agentic AI with greater confidence. The MGF is targeted at organisations looking to deploy agentic AI, whether by developing AI agents in-house or using third-party agentic solutions.	エージェンティックAIのためのモデルAIガバナンスフレームワーク（MGF）は、組織に対し、エージェンティックAIのリスクと、これらのリスクを管理するための新たなベストプラクティスについて、体系的な概要を提供する。リスクが適切に管理されれば、組織はより確信を持ってエージェンティックAIを導入できる。MGFは、社内でAIエージェントを開発する場合でも、サードパーティのエージェンティックソリューションを利用する場合でも、エージェンティックAIの展開を検討している組織を対象としている。
Building on our previous model governance frameworks, we have outlined key considerations for organisations in four areas for agentic AI:	これまでのモデルガバナンスフレームワークを基に、エージェンティックAIに関して組織が考慮すべき4つの主要な事項をまとめた。
1. Assess and bound the risks upfront	1. リスクを事前にアセスメントし、範囲を限定する
Organisations should adapt their internal structures and processes to account for new risks from agents. Key to this is first understanding the risks posed by the agent’s actions, which depend on factors such as the scope of actions the agent can take, the reversibility of those actions, and the agent’s level of autonomy.	組織は、エージェントによる新たなリスクに対応できるよう、内部の構造やプロセスを適応させるべきである。その鍵となるのは、まずエージェントの行動がもたらすリスクを理解することであり、これにはエージェントが実行可能な行動の範囲、それらの行動の可逆性、およびエージェントの自律性のレベルといった要因が影響する。
To manage these risks early, organisations could limit their agents' scope of impact by designing appropriate boundaries at the planning stage, such as limiting access to tools and external systems. They could also ensure that the agent’s actions are traceable and controllable through measures such as identity management and access controls for agents.	これらのリスクを早期に管理するため、組織は計画段階で適切な境界を設定し、ツールや外部システムへのアクセスを制限するなどして、エージェントの影響範囲を限定することができる。また、エージェントのID管理やアクセス管理などの措置を通じて、エージェントの行動が追跡可能かつ制御可能であることを確保することもできる。
2. Make humans meaningfully accountable	2. 人間に実質的な説明責任を負わせる
Once the “green light” is given for agentic AI deployment, an organisation should take steps to ensure human accountability.	エージェンティックAIの展開に「ゴーサイン」が出されたら、組織は人間の説明責任を確保するための措置を講じるべきである。
However, the autonomy of agents may complicate traditional responsibility assignments which are tied to static workflows. Multiple actors may also be involved in different parts of the agent lifecycle, diffusing accountability. It is therefore important to clearly define the responsibilities of different stakeholders, both within the organisation and with external vendors, while emphasising adaptive governance, so that the organisation is set up to quickly understand new developments and update its approach as the technology evolves.	しかし、エージェントの自律性は、静的なワークフローに紐づく従来の責任の割り当てを複雑にする可能性がある。また、エージェントのライフサイクルの異なる段階に複数の関係者が関与することで、説明責任が分散してしまう恐れもある。したがって、組織内および外部ベンダーを含む各ステークホルダーの責任を明確に定義するとともに、適応型ガバナンスを重視することが重要である。そうすることで、組織は新たな動向を迅速に把握し、技術の進化に合わせてアプローチを更新できる体制を整えることができる。
Specifically, “human-in-the-loop” has to be adapted to address automation bias, which has become a bigger concern with increasingly capable agents. This includes defining significant checkpoints in the agentic workflow that require human approval, such as high-stakes or irreversible actions, and regularly auditing human oversight to check that it remains effective over time.	具体的には、エージェントの能力向上に伴い懸念が高まっている「自動化バイアス」に対処するため、「ヒューマン・イン・ザ・ループ」のアプローチを適応させる必要がある。これには、重大なリスクを伴う行動や取り返しのつかない行動など、人間の承認を必要とする重要なチェックポイントをエージェントのワークフローに定義すること、および人間の監督が長期にわたり有効に機能し続けているかを確認するために定期的に監査を行うことが含まれる。
3. Implement technical controls and processes	3. 技術的統制とプロセスの導入
Organisations should ensure the safe and reliable operationalisation of AI agents by implementing technical measures across the agent lifecycle.	組織は、AIエージェントのライフサイクル全体にわたって技術的措置を実施することで、AIエージェントの安全かつ信頼性の高い運用を確保すべきである。
During development, organisations should incorporate technical controls for new agentic components such as planning, tools and still-maturing protocols, to address increased risks from these new attack surfaces.	開発段階では、計画、ツール、およびまだ成熟途上のプロトコルといった新しいエージェントコンポーネントに対して技術的制御を組み込み、これらの新たな攻撃対象領域から生じる増大したリスクに対処すべきである。
Before deployment, organisations should test agents for baseline safety and reliability, including new dimensions such as overall execution accuracy, policy adherence, and tool use. New testing approaches will be needed to evaluate agents.	展開前には、全体的な実行精度、ポリシーの順守、ツールの使用といった新たな側面を含め、エージェントの基本的な安全性と信頼性をテストすべきである。エージェントを評価するためには、新たなテスト手法が必要となる。
During and after deployment, as agents interact dynamically with their environment and not all risks can be anticipated upfront, it is recommended to gradually roll out agents alongside continuous monitoring after deployment.	展開中および展開後は、エージェントが環境と動的にやり取りするため、すべてのリスクを事前に予測することはできない。そのため、展開後は継続的な監視を行いながら、エージェントを段階的に展開することが推奨される。
4. Enable end-user responsibility	4. エンドユーザーの責任を明確にする
Trustworthy deployment of agents does not rely solely on developers, but also on endusers using them responsibly. To enable responsible use, as a baseline, users should be informed of the agent’s range of actions, access to data, and the user’s own responsibilities. Organisations should consider layering on training to equip employees with the knowledge required to manage human-agent interactions and exercise effective oversight, while maintaining their tradecraft and foundational skills.	エージェントの信頼性の高い展開は、開発者だけに依存するものではなく、責任を持って使用するエンドユーザーにも依存する。責任ある利用を可能にするため、最低限、ユーザーにはエージェントの動作範囲、データへのアクセス権限、およびユーザー自身の責任について周知すべきである。組織は、従業員が人間とエージェントの相互作用を管理し、効果的な監督を行うために必要な知識を身につけられるよう、トレーニングを段階的に実施することを検討すべきである。その際、従業員の専門技術や基礎的なスキルを維持することも重要である。
This is a living document. We have worked with government agencies and leading companies to collate current best practices and contribute realworld case studies, but this is a fast-developing space. This framework will need to be continuously updated to keep pace with new developments. We invite feedback to refine the framework, and more case studies demonstrating how the framework can be applied for responsible agentic deployment.	これは継続的に更新される文書である。我々は政府機関や主要企業と協力し、現在のベストプラクティスをまとめ、実世界の事例研究を提供してきたが、この「」は急速に発展している分野である。このフレームワークは、新たな動向に対応するために継続的に更新される必要がある。フレームワークを洗練させるためのフィードバック、および責任あるエージェント展開にフレームワークを適用する方法を示すさらなる事例研究を歓迎する。