スペイン データ保護庁 エージェント型人工知能に関するガイド (2026.02.18)
こんにちは、丸山満彦です。
スペインのデータ保護庁が
エージェント型AIシステムは、業務プロセスを今まで以上に自動化できるようにする一方で、個人データ保護の観点から、これまでの生成的AIとは質的に異なる新たなリスクがありますよね...
データ管理者・処理者がエージェント型AIを処理手段として導入する際は、技術の本質・限界・脆弱性を深く理解したうえで、証拠に基づく意思決定をすることが重要ですよね...
例えば、設計段階からプライバシー・バイ・デザイン原則を遵守し、自律性の水準・メモリ管理・人間による監視・サービス連携・透明性・説明責任などを厳密に制御することが重要となりますね...
この文書は重要やね...
● Agencia Española de Protección de Datos (AEPD)
| La Agencia publica unas orientaciones sobre Inteligencia Artificial agéntica desde la perspectiva de protección de datos | 当機関は、データ保護の観点からエージェント型人工知能に関するガイドを発表した。 |
| La IA agéntica son sistemas de IA capaces no solo de responder a preguntas, sino de interactuar de forma autónoma para conseguir los objetivos | エージェント型AIとは、質問に答えるだけでなく、目標を達成するために自律的に相互作用できるAIシステムのことだ。 |
| La capacidad que tienen los sistemas de IA agéntica introduce nuevos retos en muchos aspectos, entre ellos relacionados con la protección de datos personales | エージェント型AIシステムの能力は、個人データ保護に関連する多くの側面において新たな課題をもたらす。 |
| El documento recoge medidas que podría adoptar un responsable o encargado de tratamiento para garantizar el cumplimiento de la normativa de protección de datos | この文書には、データ保護規制の遵守を保証するために、データ管理者または処理責任者が採用できる措置がまとめられている。 |
・[PDF] INTELIGENCIA ARTIFICIAL AGÉNTICA DESDE LA PERSPECTIVA DE PROTECCIÓN DE DATOS
目次...
| RESUMEN EJECUTIVO | エグゼクティブサマリー |
| INDICE | 目次 |
| I. INTRODUCCIÓN | I. はじめに |
| II. AGENTES DE IA | II. AI エージェント |
| A. AGENTE DE IA | A. AIエージェント |
| B. LA CADENA DE RAZONAMIENTO | B. 推論の連鎖 |
| C. PATRONES DE LOS AGENTES DE IA | C. AI エージェントのパターン |
| D. MULTIAGENTE | D. マルチエージェント |
| E. DETALLE DE LA ARQUITECTURA DE UN MULITAGENTE | E. マルチエージェント・アーキテクチャの詳細 |
| III. AGENTES DE IA EN LOS TRATAMIENTOS | III. 処理における AI エージェント |
| IV. VULNERABILIDADES Y TRATAMIENTOS DE DATOS PERSONALES | IV. 個人データの脆弱性と処理 |
| A. INTERACCIÓN CON EL ENTORNO | A. 環境との相互作用 |
| ▪ Acceso a datos de la organización y del usuario | ▪ 組織およびユーザーのデータへのアクセス |
| ▪ Capacidad de percepción y acción externamente a la organización | ▪ 組織の外部に対する知覚および行動能力 |
| B. INTEGRACIÓN DE SERVICIOS | B. サービスの統合 |
| ▪ Gestión de servicios | ▪ サービス管理 |
| ▪ Facilidad de desplegar servicios de IA Agéntica | ▪ エージェント型AIサービスの展開の容易さ |
| C. MEMORIA | C. メモリ |
| ▪ Memoria de trabajo | ▪ ワーキングメモリ |
| ▪ Memoria de gestión | ▪ 管理メモリ |
| ▪ Ejercicio de derechos | ▪ 権利の行使 |
| D. AUTONOMÍA | D. 自律性 |
| ▪ Transparencia y supervisión humana | ▪ 透明性と人間の監視 |
| ▪ Planificación de tareas e interacción entre agentes | ▪ タスクの計画とエージェント間の相互作用 |
| ▪ Comportamiento no repetible | ▪ 再現不可能な動作 |
| ▪ Capacidad de actuar en nombre del usuario o de la organización | ▪ ユーザーまたは組織に代わって行動する能力 |
| V. ASPECTOS DE CUMPLIMIENTOS DE LA NORMATIVA DE PROTECCIÓN DE DATOS | V. データ保護規制の遵守に関する側面 |
| A. DETERMINACIÓN DE RESPONSABILIDADES DE TRATAMIENTO | A. 処理責任の決定 |
| B. TRANSPARENCIA | B. 透明性 |
| C. LEGITIMACIÓN, MINIMIZACIÓN Y LEVANTAMIENTO DE PROHIBICIONES | C. 正当性、最小化、禁止事項の解除 |
| D. REGISTRO DE ACTIVIDADES DE TRATAMIENTO | D. 処理活動の記録 |
| E. EJERCICIO DE DERECHOS | E. 権利の行使 |
| F. AUTOMATIZACIÓN DE LAS DECISIONES | F. 意思決定の自動化 |
| ▪ Artículo 22 del RGPD | ▪ GDPR 第 22 条 |
| ▪ Otras acciones automatizadas | ▪ その他の自動化された行動 |
| G. GESTIÓN DEL RIESGO | G. リスク管理 |
| ▪ Gestión para los derechos y libertades de los sujetos de los datos | ▪ データ主体の権利と自由の管理 |
| ▪ Regla de 2 | ▪ 2のルール |
| ▪ Riesgo del tratamiento | ▪ 処理のリスク |
| ▪ Efectos colaterales de los tratamientos | ▪ 処理の副作用 |
| ▪ Evaluación de impacto para la protección de datos | ▪ データ保護のための影響評価 |
| ▪ Integración en la gestión de riesgo de la organización | ▪ 組織のリスク管理への統合 |
| H. PROTECCIÓN DE DATOS DESDE EL DISEÑO Y POR DEFECTO | H. 設計段階およびデフォルトでのデータ保護 |
| I. TRANSFERENCIAS INTERNACIONALES | I. 国際的なデータ移転 |
| VI. AMENAZAS | VI. 脅威 |
| A. PROCEDENTES DEL TRATAMIENTO AUTORIZADO | A. 許可された処理に起因する脅威 |
| ▪ Falta de gobernanza y políticas en la organización | ▪ 組織におけるガバナンスとポリシーの欠如 |
| ▪ Falta de madurez en el desarrollo | ▪ 開発における成熟度の不足 |
| ▪ Falta de una política de acceso a los datos de la organización y del usuario | ▪ 組織およびユーザーのデータへのアクセスポリシーの欠如 |
| ▪ Falta de control del proceso de razonamiento | ▪ 推論プロセス制御の欠如 |
| ▪ Falta de control en el acceso a información externa | ▪ 外部情報へのアクセスに対する制御の欠如 |
| ▪ Exfiltración shadow-leak | ▪ シャドーリーク |
| ▪ Desplazar toda la responsabilidad al usuario o a la supervisión humana | ▪ すべての責任をユーザーや人間の監督者に転嫁すること |
| ▪ Falta de compartimentación de la memoria del agente | ▪ エージェントのメモリの区分化の欠如 |
| ▪ Falta de filtrado y saneamiento de información no estructurada y metadatos | ▪ 非構造化情報およびメタデータのフィルタリングと整理の欠如 |
| ▪ Retención excesiva de datos | ▪ データの過剰な保持 |
| ▪ Sesgo de automatización | ▪ 自動化バイアス |
| ▪ Perfilado de los usuarios de la IA agéntica | ▪ エージェント型 AI ユーザーのプロファイリング |
| ▪ Disponibilidad y resiliencia | ▪ 可用性とレジリエンス |
| ▪ Acceso a la IA agéntica por usuarios no cualificados | ▪ 資格のないユーザーによるエージェント型 AI へのアクセス |
| ▪ Compromisos en la cadena de suministro | ▪ サプライチェーンにおけるリスク |
| B. PROCEDENTES DE TRATAMIENTOS NO AUTORIZADOS | B. 不正な処理に起因するもの |
| ▪ Inyección de prompts | ▪ プロンプト・インジェクション |
| ▪ Disponibilidad y resiliencia de servicios externos | ▪ 外部サービスの可用性とレジリエンス |
| ▪ Acceso ilícito a la memoria agéntica | ▪ エージェントのメモリへの不正アクセス |
| VII. MEDIDAS | VII. 対策 |
| A. GOBERNANZA Y PROCESOS DE GESTIÓN | A. ガバナンスと管理プロセス |
| ▪ Aceptar la posibilidad de fallo | ▪ 失敗の可能性の受け入れ |
| ▪ El Delegado de Protección de Datos | ▪ データ保護責任者の設置 |
| ▪ Elementos básicos que hay que incorporar a la gobernanza de la organización | ▪ 組織のガバナンスに組み込むべき基本要素 |
| B. EVALUACIÓN CONTINUA DEL AGENTE BASADA EN EVIDENCIAS | B. 証拠に基づくエージェントの継続的評価 |
| ▪ Establecimiento de criterios y métricas claras de funcionamiento | ▪ 明確な運用基準と指標の設定 |
| ▪ Prácticas de “Golden testing” | ▪ 「ゴールデンテスト」の実施 |
| ▪ Contratos y otros vínculos legales | ▪ 契約およびその他の法的拘束力 |
| ▪ Aplicar el principio de precaución | ▪ 予防原則の適用 |
| ▪ Explicabilidad | ▪ 説明可能性 |
| ▪ Intervención humana | ▪ 人間の介入 |
| C. MINIMIZACIÓN DE DATOS | C. データの最小化 |
| ▪ Definición de políticas de acceso a la información de la organización | ▪ 組織の情報へのアクセス方針の定義 |
| ▪ Catálogo y catalogación de datos | ▪ データのカタログ化と分類 |
| ▪ Catalogación de fuentes no estructuradas | ▪ 非構造化ソースのカタログ化 |
| ▪ Granularidad de la minimización | ▪ 最小化の粒度 |
| ▪ Filtrado de flujos de datos | ▪ データフローのフィルタリング |
| ▪ Shadow leaks | ▪ シャドーリーク |
| ▪ Seudonimización de las personas usuarias | ▪ ユーザー名の仮名化 |
| ▪ Control y perfilado de las personas usuarias | ▪ ユーザー制御とプロファイリング |
| D. CONTROL DE LA MEMORIA | D. メモリの制御 |
| ▪ Gestión de memoria | ▪ メモリ管理 |
| ▪ Compartimentación de la memoria | ▪ メモリの区分化 |
| ▪ Análisis y filtrado de la memoria de la persona usuaria | ▪ ユーザーメモリの分析とフィルタリング |
| ▪ No log policy selectivo | ▪ 選択的なログ不保持ポリシー |
| ▪ Establecimiento de plazos de retención estrictos | ▪ 厳格な保存期間の設定 |
| ▪ Desactivación del almacenamiento en memoria | ▪ メモリ保存の無効化 |
| ▪ Aplicar estrategias de higienización de la memoria | ▪ メモリのハイジーン戦略の適用 |
| E. AUTOMATIZACIÓN | E. 自動化 |
| ▪ Decisión sobre el grado de autonomía | ▪ 自律性の程度に関する決定 |
| ▪ Diseño eficaz y seguro de las cadenas de razonamiento | ▪ 推論チェーンの効果的かつ安全な設計 |
| ▪ Catálogo y listas blancas de servicios | ▪ サービスのカタログ化とホワイトリスト |
| ▪ Limitación de servicios accesibles | ▪ アクセス可能なサービスの制限 |
| ▪ Control en la ejecución de herramientas | ▪ ツールの実行制御 |
| ▪ Criterios y puntos de control para la intervención humana | ▪ 人間による介入の基準とチェックポイント |
| ▪ Reversibilidad de las acciones de los agentes de IA | ▪ AI エージェントの行動の可逆性 |
| ▪ Nivel de autonomía de acuerdo al tratamiento | ▪ 処理に応じた自律性のレベル |
| ▪ Supervision humana efectiva | ▪ 効果的な人間の監視 |
| ▪ Rutas de escalamiento | ▪ エスカレーションルート |
| ▪ Principio de los cuatro ojos | ▪ 「四つの目」の原則 |
| F. CONTROL DEL AGENTE DESDE EL DISEÑO | F. 設計段階からのエージェントの制御 |
| ▪ Documentación | ▪ 文書化 |
| ▪ Profesionales cualificados | ▪ 有資格者 |
| ▪ Trazabilidad | ▪ データのトレーサビリティ |
| ▪ Test de verificación y validación | ▪ 検証および妥当性確認テスト |
| ▪ Definir y controlar que los prompts siguen un procedimiento operativo estándar | ▪ プロンプトが標準業務手順に従っていることの定義と制御 |
| ▪ Mecanismos de repetibilidad | ▪ 再現性メカニズム |
| ▪ Gestión de identidad, autenticación, y privilegios | ▪ ID 管理、認証、および権限管理 |
| ▪ Control estricto sobre las actualizaciones. | ▪ 更新の厳格な管理 |
| ▪ Sandboxing en desarrollo y explotación | ▪ 開発および運用における サンドボックス化 |
| ▪ Protocolos de detección de errores y planes de contingencia | ▪ エラー検出プロトコルと緊急時対応計画 |
| ▪ Control de flujo de extracción de datos | ▪ データ抽出フローの制御 |
| ▪ Cortacircuitos y límites duros de pasos | ▪ サーキットブレー(緊急遮断機能)とステップのハードリミット |
| ▪ Controles de calibrado y alineación | ▪ キャリブレーション(校正)とアライメント(調整)の制御 |
| G. GESTIÓN DEL CONSENTIMIENTO | G. 同意の管理 |
| ▪ Gestión de memoria | ▪ メモリ管理 |
| ▪ Compartimentación de la memoria | ▪ メモリーの区分化 |
| ▪ Análisis y filtrado de la memoria de la persona usuaria | ▪ ユーザーメモリの分析とフィルタリング |
| ▪ No log policy selectivo | ▪ 選択的なノーログポリシー |
| ▪ Establecimiento de plazos de retención estrictos | ▪ 厳格な保持期間の設定 |
| ▪ Desactivación del almacenamiento en memoria | ▪ メモリ保存の無効化 |
| ▪ Aplicar estrategias de higienización de la memoria | ▪ メモリの衛生化戦略を適用する |
| I. AUTOMATIZACIÓN | I. 自動化 |
| ▪ Decisión sobre el grado de autonomía | ▪ 自律性の程度に関する決定 |
| ▪ Diseño eficaz y seguro de las cadenas de razonamiento | ▪ 推論チェーンの効果的かつ安全な設計 |
| ▪ Catálogo y listas blancas de servicios | ▪ サービスカタログとホワイトリスト |
| ▪ Limitación de servicios accesibles | ▪ アクセス可能なサービスの制限 |
| ▪ Control en la ejecución de herramientas | ▪ ツールの実行の制御 |
| ▪ Reversibilidad de las acciones de los agentes de IA | ▪ AI エージェントの行動の可逆性 |
| ▪ Nivel de autonomía de acuerdo al tratamiento | ▪ 処理に応じた自律性のレベル |
| ▪ Supervision humana efectiva | ▪ 効果的な人間の監督 |
| ▪ Rutas de escalamiento | ▪ エスカレーションルート |
| ▪ Principio de los cuatro ojos | ▪ 四つの目による原則 |
| J. TRANSPARENCIA | J. 透明性 |
| K. ALFABETIZACIÓN | K. データ保護に関するリテラシー |
| VIII. REFLEXIONES FINALES | VIII. 最終的な考察 |
| IX. REFERENCIAS | IX. 参考文献 |
エグゼクティブサマリー...
| RESUMEN EJECUTIVO | エグゼクティブサマリー |
| Un agente de IA es un sistema de inteligencia artificial que utiliza modelos de lenguaje para cumplir un objetivo. Estas orientaciones son una introducción a las cuestiones de protección de datos que pueden surgir cuando responsables y encargados de tratamiento decidan utilizar sistemas de IA agéntica para implementar tratamientos de datos personales. | AIエージェントとは、目標を達成するために言語モデルを使用する人工知能システムである。本ガイダンスは、データ管理者および処理担当者が個人データの処理を実施するためにエージェント型AIシステムを使用することを決定した場合に発生する可能性のあるデータ保護の問題に関する入門書である。 |
| El objeto de este documento no es analizar el cumplimiento de un tratamiento concreto que emplea agentes de IA, sino como gestionar las peculiaridades que se incorporan en un tratamiento por el hecho de implementarse total o parcialmente con agentes. | この文書の目的は、AIエージェントを使用した特定の処理のコンプライアンスを分析することではなく、処理がエージェントによって完全または部分的に実施されることによって生じる特殊性をどのように管理するかを検討することである。 |
| Conocer esta tecnología es clave para adoptar decisiones informadas y basadas en evidencia sobre su implementación en tratamientos de datos personales. No basta el conocimiento como usuario: es necesario comprender sus fundamentos, alcances, límites y la manera en que se aplica. Tanto el rechazo irracional de la IA agéntica como su aceptación acrítica en el tratamiento de datos personales pueden resultar perjudiciales. En particular, hay que aprovechar de forma proactiva las oportunidades que ofrece esta tecnología para una mayor protección de datos desde el diseño y como herramienta PET por sí misma. | この技術について理解することは、個人データの処理におけるその導入について、情報に基づいた証拠に基づく決定を行う上で重要だ。 ユーザーとしての知識だけでは不十分であり、その基礎、範囲、限界、および適用方法を理解する必要がある。エージェント型AIを非合理的に拒否することも、個人データの処理において無批判に受け入れることも、有害となる可能性がある。特に、設計段階からのデータ保護の強化、およびPETツールとしてのこの技術が提供する機会を、積極的に活用すべきである。 |
| El texto se estructura realizando inicialmente una breve descripción de qué son los sistemas IA agénticos. A continuación, se analizarán las posibles vulnerabilidades de estos sistemas que afectan al cumplimiento de protección de datos, los aspectos de cumplimiento de la normativa de protección de datos y las amenazas específicas que pueden aprovechar las distintas vulnerabilidades. Finalmente, el documento enumera medidas que podría adoptar un responsable o encargado para garantizar el cumplimiento de la normativa de protección de datos y reducir o eliminar los impactos que la IA agéntica presenta en su despliegue en tratamientos con relación a los derechos y libertades de los sujetos de los datos. Estos análisis se centrarán en lo que es más distintivo en la IA agéntica como sistema en un tratamiento de datos personales, más allá de las vulnerabilidades, amenazas y medidas que son bien conocidas de las inteligencias artificiales generativas, o de otros elementos que componen estos sistemas. | 本文は、まずエージェント型AIシステムとは何かについて簡単に説明することから構成されている。次に、データ保護の遵守に影響を与えるこれらのシステムの潜在的な脆弱性、データ保護規制の遵守に関する側面、およびさまざまな脆弱性を悪用する可能性のある具体的な脅威について分析する。 最後に、データ保護規制の遵守を確保し、データ主体の権利と自由に関連する処理におけるエージェント型AIの導入による影響を軽減または排除するために、責任者または担当者が採用できる対策を列挙する。 これらの分析は、生成型人工知能や、これらのシステムを構成するその他の要素についてよく知られている脆弱性、脅威、対策を超えて、個人データ処理におけるシステムとしてのエージェント型 AI の最も特徴的な点に焦点を当てる。 |
| Palabras clave: Internet y nuevas tecnologías, machine learning, aprendizaje automático, inteligencia artificial, protección de datos desde el diseño y por defecto, decisiones automatizadas. | キーワード:インターネットと新技術、機械学習、人工知能、設計段階およびデフォルトでのデータ保護、自動化された意思決定。 |
2026.03.02 追記
英語バージョンもでましたね...
・2026.02
・[PDF] Agentic Artificial intelligence from the perspective of data protection
● まるちゃんの情報セキュリティ気まぐれ日記
・2026.02.20 オランダ データ保護庁 OpenClawのようなAIエージェントに重大なセキュリティリスクがある (2026.02.12)
・2026.02.13 米国 NIST 意見募集 ソフトウェアとAIエージェントのID認証・認可の普及促進
・2026.02.09 CSA 自律型AIエージェントのセキュリティ確保
・2026.02.04 シンガポール 韓国 現実的なタスクにおけるデータ漏洩リスクに対するAIエージェントのテスト (2026.01.19)
・2026.01.15 英国 ICO技術展望: エージェント型AI(Agentic AI)
・2026.01.15 米国 NIST CAISI AIエージャントシステムのセキュリティ強化に関するRFI (2026.01.12)
« オランダ データ保護庁 OpenClawのようなAIエージェントに重大なセキュリティリスクがある (2026.02.12) | Main | アサヒホールディングス サイバー攻撃被害の再発防止策とガバナンス体制の強化について (2026.02.18) »


Comments