オランダ データ保護庁 AIとアルゴリズム (2026.03.05)

こんにちは、丸山満彦です。

オランダのデータ保護庁が、AIとアルゴリズムという報告書を公表していますね...

オランダでは採用にAIを活用することが普及しているようですね...

基本的人権に関わる問題でもありますから、慎重かつ迅速に対応をする可能性がありますね..

AIは効率性や利便性を高める一方で、差別の再生産、意思決定の不透明化、責任の所在の曖昧化といった新たなリスクを生み出す可能性がありますよね...

特にAIが広範に導入されると、個別のシステムの問題が社会全体に連鎖的影響を与えるシステミックリスクとなりえますよね...

ということで、AIの導入は技術的問題としてだけでなく、透明性、説明責任、監督体制を含むガバナンスの問題として捉える必要があるというのは、ずっといわれておりますが、AI社会を持続可能なものにするためには、技術の発展と基本権保護を両立させる制度設計が不可欠...

AIとアルゴリズムの普及は単なる技術革新ではなく、社会制度全体に影響を及ぼす構造的変化と言っても良さそうですよね...

● Autoriteit Persoonsgegevens

・2026.03.05 Rapportage AI & Algoritmes Nederland (RAN) - maart 2026

Rapportage AI & Algoritmes Nederland (RAN) - maart 2026	AI & アルゴリズムオランダ（RAN）報告書 - 2026年3月
De Autoriteit Persoonsgegevens (AP) signaleert dat de risico’s van AI in de afgelopen 6 maanden exponentieel zijn toegenomen. Tegelijk ziet de AP dat organisaties, ook commerciële, de regels proberen te ontduiken of zich er helemaal niet aan houden.	個人情報保護機関（AP）は、過去6か月間でAIのリスクが飛躍的に増加したことを指摘している。同時に、APは、商業組織を含む組織が規則を回避しようとしたり、まったく遵守していないことを認識している。
Als coördinerend toezichthouder op algoritmes en AI analyseert de AP de belangrijkste risico’s en effecten hiervan. Die analyse staat in de AI-Impactbarometer. Het beeld verslechtert: in de vorige rapportage stegen 2 van de 9 graadmeters naar rood. Nu is dat verdubbeld naar 4.	アルゴリズムと AI の監督を統括する機関として、AP は主なリスクとその影響を分析している。その分析結果は AI インパクトバロメーターに掲載されている。状況は悪化している。前回の報告書では、9 つの指標のうち 2 つが赤に上昇したが、今回は 4 つに倍増している。
Dat blijkt uit de zesde editie van de Rapportage AI & Algoritmes Nederland (RAN). De 3 belangrijkste punten uit de RAN 6 zijn:	これは、第 6 版「オランダにおける AI およびアルゴリズムに関する報告書（RAN）」で明らかになったものである。RAN 6 の 3 つの重要なポイントは次のとおりだ。
1. AI in werving en selectie groeit snel en brengt grote risico’s mee.	1. 採用・選考における AI の利用が急速に拡大しており、大きなリスクを伴う。
2. Transparantie en uitlegbaarheid van AI-systemen schiet tekort.	2. AI システムの透明性と説明責任が不十分である。
3. Voorbereiding op de AI-verordening blijft achter, terwijl versnelling nodig is.	3. AI 規制への準備が遅れており、加速化が必要である。
Ook waarschuwt de AP voor grote risico’s op onveilige en discriminerende algoritmes, waarop nu niet kan worden gehandhaafd. Lees verder: AP: AI-Impactbarometer kleurt rood, actie is noodzakelijk	また、AP は、現在では取り締まりが不可能な、安全性が低く差別的なアルゴリズムの大きなリスクについて警告している。続きを読む：AP：AI 影響バロメーターが赤信号、対策が必要
U kunt de RAN 6 hieronder downloaden.	RAN 6 は以下からダウンロードできる。
Kernboodschappen	主なメッセージ
1. Overkoepelende ontwikkelingen en beleid	1. 包括的な動向と政策
2. Systeemrisico’s en AI	2. システムリスクとAI
3. Algoritmes en AI-systemen in  het werving- en selectieproces	3. 採用・選考プロセスにおけるアルゴリズムとAIシステム
Toelichting rapportage	報告書の説明

・[PDF]

Kernboodschappen	主なメッセージ
1. Het gebruik van artificiële intelligentie (AI) in werving en selectie neemt sterk toe, zowel door werkgevers als sollicitanten.	1. 採用活動における人工知能（AI）の利用は、雇用主と求職者の双方によって急速に増加している。
Van het opstellen van vacatureteksten tot video-interviews door virtuele recruiters, AI wordt op steeds meer plekken ingezet in het proces van werving en selectie. Ook voor sollicitanten is het tegenwoordig geen enkele moeite om een sollicitatiebrief of CV te verfijnen met generatieve AI. En door de digitalisering van de samenleving is er steeds meer data beschikbaar die gebruikt kan worden in het sollicitatieproces. Dit samenspel brengt fundamentele uitdagingen mee om de werving en selectie van kandidaten eerlijk en effectief in te blijven richten. Het gebruik van AI-systemen voor werving en selectie wordt thematisch uitgediept in hoofdstuk 3.	求人情報の作成から、仮想採用担当者によるビデオ面接まで、AI は採用・選考プロセスのさまざまな場面で活用されている。また、応募者にとっても、生成型 AI を使って応募書類や履歴書を洗練させることは、今ではまったく難しいことではない。また、社会のデジタル化により、採用プロセスで利用できるデータもますます増えている。こうした相乗効果により、候補者の採用・選考を公平かつ効果的に実施し続ける上で、根本的な課題が生じている。採用・選考における AI システムの利用については、第 3 章でテーマ別に詳しく説明する。
2. De inzet van AI in werving en selectie moet zowel accuraat als niet-discriminerend zijn, met uitlegbaarheid naar de kandidaat.	2. 採用選考における AI の活用は、正確かつ差別的でないものでなければならず、候補者に対して説明可能でなければならない。
Op basis van de AI-verordening zijn AI-systemen voor werving en selectie een hoog-risico toepassing. Voordat deze systemen gecertificeerd kunnen worden, moeten ze aan producteisen voldoen. De AP roept aanbieders van deze AI-systemen op om voorbereidingen te treffen op de inwerkingtreding van deze eisen in 2026 of 2027. Het precieze moment is afhankelijk van Europese onderhandelingen over een aanpassing van de AI-verordening. De uitdaging voor aanbieders is drieledig. Eerst moeten zij zeker kunnen stellen dat het systeem bijdraagt aan de selectie van de meest geschikte kandidaat, en hoe dit gebeurt., Daarnaast moeten aanbieders zeker kunnen stellen dat het systeem niet discrimineert. Ten derde moeten aanbieders kunnen uitleggen aan de kandidaat hoe het systeem is gekomen tot de inschatting, advies of keuze. Maar, om werving en selectie accuraat en niet-discriminerend te laten zijn, moet dit niet alleen per processtap (en bijbehorend AI-systeem) gewaarborgd worden, maar ook voor de gehele wervings- en selectieprocedure.	AI 規制に基づき、採用選考のための AI システムはハイリスクな用途である。これらのシステムは、認証を受ける前に製品要件を満たさなければならない。AP は、これらの AI システムの提供者に、2026 年または 2027 年にこれらの要件が施行されることに備えて準備をするよう呼びかけている。正確な時期は、AI 規制の改正に関する欧州での交渉次第だ。プロバイダーにとっての課題は 3 つある。まず、システムが最適な候補者の選考に貢献していることを確実に保証し、その方法も説明できなければならない。次に、システムが差別的でないことを確実に保証しなければならない。第三に、プロバイダーは、システムがどのように評価、アドバイス、選択を行ったかを候補者に説明できなければならない。しかし、採用と選考を正確かつ差別のないものにするためには、プロセス各段階（および関連する AI システム）ごとにこれを保証するだけでなく、採用と選考の手順全体についても保証しなければならない。
3. De AP waarschuwt dat uitlegbaarheid en transparantie in werving en selectie op veel punten nog tekortschiet, bijvoorbeeld bij de inzet van (online) assessments.	3. AP は、採用・選考における説明可能性と透明性は、例えば（オンライン）評価の利用など、多くの点でまだ不十分であると警告している。
De AP ziet hoe game-based assessments worden gebruikt voor een eerste filtering van kandidaten. Hierbij spelen vraagstukken rondom bijvoorbeeld het recht op uitleg over de totstandkoming van het oordeel en de betwistbaarheid van dit oordeel. Ook is van buitenaf niet duidelijk hoe sommige van deze online assessments een accurate voorspelling vormen voor de geschiktheid van een kandidaat voor een bepaalde vacature. Een ander voorbeeld is een vergelijkend online assessment waarbij de werkgever andere (meer gedetailleerde) informatie krijgt te zien dan de kandidaat. Deze informatieasymmetrie is problematisch en staat op gespannen voet met het recht op uitleg. Zonder inzicht in de uitkomsten van een assessment die een werkgever krijgt, is het moeilijk, zo niet onmogelijk, voor een kandidaat om zich daartegen te verweren. De AP benadrukt dat deze systemen in lijn moeten zijn met de Algemene verordening gegevensbescherming (AVG) en de AI-verordening.	AP は、ゲームベースの評価が候補者の一次選考に使用されていることを認識している。これに関しては、判断の成立に関する説明を受ける権利や、この判断の争点性などに関する問題が存在する。また、外部からは、こうしたオンライン評価のいくつかが、特定の求人に対する候補者の適性を正確に予測しているかどうかが明らかじゃない。別の例としては、雇用主が候補者とは異なる（より詳細な）情報を見ることができる比較オンライン評価がある。この情報の非対称性は問題であり、説明を受ける権利と矛盾する。雇用主が受けるアセスメントの結果を把握しなければ、候補者がそれに対して反論することは困難、あるいは不可能である。AP は、これらのシステムは一般データ保護規則（GDPR）および AI 規則に準拠しなければならないことを強調している。
4. De AP spant zich in 2026 in om het zicht op het gebruik van AI in werving en selectie verder te vergroten. Ook wil de AP de bekendheid van de relevante regelgeving vergroten.	4. AP は 2026 年、採用・選考における AI の使用に関する認識をさらに高めるよう努める。また、関連する規制の認知度向上も目指す。
Op dit moment is er maar een beperkt openbaar overzicht van de AI-systemen die beschikbaar zijn voor werving en selectie, en welke organisaties welke systemen gebruiken.	現在、採用・選考に使用可能な AI システム、およびどの組織がどのシステムを使用しているかについて、公開されている情報は限られている。
AI- en algoritmeregistratie kan hierbij helpen. De AI-verordening gaat hierbij een belangrijke rol spelen, maar ook binnen sectoren is voor het gebruik een inspanning nodig. Voor vacatureplatformen gaat de AP op basis van de Digitaledienstenverordening (DSA) beoordelen of zij voldoen aan de transparantievereisten.	AI およびアルゴリズムの登録は、この点において役立つ可能性がある。AI 規制はここで重要な役割を果たすことになるが、各セクター内でもその使用に向けて努力が必要だ。求人プラットフォームについては、AP はデジタルサービス規制（DSA）に基づき、透明性の要件を満たしているかどうかを評価する予定だ。
Voor ontwikkelaars van AI-systemen voor werving en selectie zet de AP in op verduidelijking van de relevante eisen. Ook verwacht de AP dat de sector stappen zet. Tot slot wenst de AP sollicitanten beter bekend te maken met hun rechten op dit terrein.	採用・選考用 AI システムの開発者に対しては、AP は関連要件の明確化に取り組んでいる。また、AP は業界も対応策を講じることを期待している。最後に、AP は求職者にこの分野における自分の権利について、よりよく理解してもらうことを望んでいる。
5. Verantwoord gebruik van AI vordert, maar implementatie blijft ongelijk verdeeld.	5. AI の責任ある利用は進んでいるが、その導入は依然として不均等である。
Overkoepelend zetten organisaties – naast algoritmes – steeds vaker AI in, maar de volwassenheid en naleving van ethische richtlijnen verschillen sterk tussen organisaties en sectoren. Deze observatie is het vertrekpunt voor de overkoepelende ontwikkelingen die in hoofdstuk 1 aan bod komen.	組織は、アルゴリズムに加えて、AI をますます活用しているが、その成熟度や倫理ガイドラインの遵守度は、組織や業界によって大きく異なる。この観察は、第 1 章で取り上げる包括的な開発の出発点である。
De grootste ontwikkelingen zijn zichtbaar bij generatieve AI-modellen in het algemeen en digitale assistenten en voorspellende modellen in het bijzonder. De voorspellende modellen voor maatschappelijke vraagstukken bieden kansen. Door sneller te werken aan transparantie en beheersing kunnen deze kansen worden benut. Agentic AI (AAI) brengt als nieuwe ontwikkeling ook eigen uitdagingen met zich mee. Door toegenomen autonomie en koppeling met data kunnen systemen fouten maken met grotere effecten, of ongewenste handelingen gaan verrichten. Hiervoor zijn nieuwe vormen van beheersingsmaatregelen nodig, die parallel ontwikkeld moeten worden. De AP volgt nieuwe AI-toepassingen, zoals AAI, op de voet en komt in actie als zorgen over wet- en regelgeving onnodig innovatie belemmeren. Organisaties die voorop lopen met transparantie over de inzet van AI en algoritmes bevinden zich vaak in de publieke sector. Kleinere organisaties blijven vaker achter. Dat komt omdat zij naast de inzet van AI beperkte capaciteit hebben om ook de beheersing van nieuwe technologie goed te organiseren.	最大の進展は、生成型 AI モデル全般、特にデジタルアシスタントや予測モデルに見られる。社会問題に対する予測モデルは、チャンスをもたらす。透明性と管理の迅速化に取り組むことで、このチャンスを活用できる。エージェント型 AI（AAI）は、新たな展開として、独自の課題も伴う。自律性の向上とデータとの連携により、システムはより大きな影響をもたらすミスを犯したり、望ましくない行動を取ったりする可能性がある。このためには、並行して開発されるべき新しい形の管理措置が必要だ。AP は、AAI などの新しい AI アプリケーションを注視し、法律や規制に関する懸念が不必要にイノベーションを阻害する場合に介入する。AI やアルゴリズムの利用に関する透明性で先駆的な組織は、多くの場合、公共部門にある。小規模な組織は、より遅れていることが多い。その理由は、AI の利用に加えて、新しいテクノロジーの管理を適切に組織化する能力も限られているためだ。
De AP roept het nieuwe kabinet op om (1) te investeren in kaders en instrumenten, zoals het algoritmekader en algoritmeregister, (2) te investeren in de kaders en capaciteit van toezichthouders om ook voldoende guidance te geven en kennis te delen, en ook in samenwerking en kennisdeling tussen deze partijen en (3) de aandacht voor de verantwoorde inzet van AI en algoritmes door de overheid niet te laten verslappen.	AP は、新内閣に対して、(1) アルゴリズムの枠組みやアルゴリズム登録簿などの枠組みや手段への投資、 (2) 監督機関が十分なガイダンスを提供し、知識を共有するための枠組みと能力、およびこれらの当事者間の協力と知識共有に投資すること、(3) 政府による AI およびアルゴリズムの責任ある導入に対する関心を弱めることのないようにすること。
6. Ondanks een mogelijk gedeeltelijk uitstel tot medio 2027 vraagt de AIverordening om versnelling in voorbereiding bij zowel toezichthouders als organisaties die AI-systemen aanbieden.	6. 2027 年半ばまで一部延期される可能性があるにもかかわらず、AI 規制は、監督機関と AI システムを提供する組織の両方において、準備の加速を求めている。
Het gebrek aan voortgang bij de implementatie van de AI-verordening is zorgelijk. Dat heeft er onder andere toe geleid dat de Europese Commissie (EC) heeft voorgesteld om de inwerkingtreding gedeeltelijk met 1 tot 1,5 jaar uit te stellen. De vertraging zit vooral in (1) het aanwijzen van de toezichthouders, (2) de financiering van het toezicht en de (3) inrichting van de bijbehorende instrumenten en standaarden die organisaties nodig hebben om compliant te worden met de AI-verordening. Nederlandse organisaties voelen de druk om te voldoen aan nieuwe AI wet- en regelgeving. Door eigen kaders te ontwikkelen en pilots op te zetten, probeert een aantal organisaties hier handen en voeten aan te geven, maar ervaren ook nog onduidelijkheid over belangrijke basiselementen. Denk aan de classificatie van hun AI-systemen, hoe de interne governance eruit moet zien en wat de documentatie-eisen zijn voor hun AI-systemen. Juist op deze belangrijke basiselementen kan en moet de voorbereiding versnellen. Onduidelijkheid kan zorgen voor economische nadelen en risico’s of incidenten op korte en lange termijn.	AI 規制の実施が進展していないことは懸念される。その結果、欧州委員会（EC）は、発効を 1 年から 1 年半程度延期することを提案した。遅延は主に、(1) 監督機関の指定、(2) 監督のための資金調達、(3) 組織が AI 規制に準拠するために必要な関連ツールや基準の整備、といった分野で生じている。オランダの組織は、新しい AI に関する法律や規制に準拠しなければならないというプレッシャーを感じている。独自の枠組みを開発し、パイロット事業を開始することで、この問題に対処しようとしている組織もあるが、重要な基本要素については依然として不明確な点がある。例えば、AI システムの分類、内部ガバナンスの在り方、AI システムの文書化要件などである。こうした重要な基本要素について、準備を加速することができるし、またそうすべきである。不明確さは、短期的および長期的な経済的損失やリスク、あるいは事故につながる可能性がある。
De AP blijft, samen met het Europese AI Office, werken aan guidance over deze basiselementen. Waar mogelijk brengt de AP deze guidance eerst in publieke consultatie om het zo passend mogelijk voor de praktijk te maken.	AP は、欧州 AI 事務局と協力し、これらの基本要素に関するガイダンスの作成を継続する。可能な場合は、このガイダンスをまず公開協議にかけ、実務に可能な限り適合したものとする。
7. Het publiek vertrouwen in AI en algoritmes blijft fragiel en hangt sterk samen met transparantie.	7. AI やアルゴリズムに対する公衆の信頼は依然として脆弱であり、透明性との関連性が強い。
Burgers waarderen de inspanningen rond de uitlegbaarheid van de werking en besluiten door AI en algoritmes, maar zorgen blijven bestaan over privacy, discriminatie en dataveiligheid. Transparantie vraagt ook om heldere communicatie over de werking van algoritmes en hoe deze worden gecontroleerd. Dit is essentieel voor een betrouwbare inzet van algoritmes, zeker in de publieke sector. De AP werkt aan handvatten die organisaties inspiratie en houvast geven om transparant te zijn over hun inzet van AI. Ook roept de AP op om het Nederlandse algoritmeregister en algoritmekader met meer ambitie vorm te geven, inclusief een snelle verplichting voor publieke organisaties.	市民は、AI やアルゴリズムの動作や決定の理解可能性に関する取り組みを高く評価しているが、プライバシー、差別、データセキュリティに関する懸念は依然として残っている。透明性には、アルゴリズムの動作やその管理方法について明確なコミュニケーションも求められる。これは、特に公共部門において、アルゴリズムを信頼性をもって活用するために不可欠だ。AP は、組織が AI の活用について透明性を確保するためのインスピレーションと指針となるガイドラインの作成に取り組んでいる。また、AP は、オランダのアルゴリズム登録簿とアルゴリズムの枠組みをより野心的なものにするよう呼びかけている。これには、公共機関に対する迅速な義務付けも含まれる。
8. Datakwaliteit en modeltoezicht zijn grootste uitdagingen voor het verantwoord gebruik van AI en algoritmes.	8. データ品質とモデル監視は、AI およびアルゴリズムの責任ある利用における最大の課題である。
De grootste belemmering voor betrouwbare AI-resultaten is een gebrek aan datakwaliteit, geven organisaties aan. Daarnaast is risicobeheersing bij AI-modellen lastig. Dat komt door het gebrek aan representatieve data, de beperkte auditmogelijkheden en het onduidelijke eigenaarschap in AI-ketens.	組織は、信頼性の高い AI 結果を得る上での最大の障害は、データ品質の欠如であると指摘している。さらに、AI モデルのリスク管理は困難である。その原因は、代表性のあるデータの欠如、監査能力の制限、AI チェーンにおける所有権の不明確さにある。
Om robuuste AI-systemen verantwoord te gebruiken, is het van groot belang om de focus op de kwaliteit van data en het modeltoezicht verder te ontwikkelen. De AP blijft datakwaliteit en beheersingsinstrumenten agenderen. In 2026 volgt de AP met belangstelling de ontwikkeling en toepassing van beheersingsinstrumenten die bijdragen aan verantwoord gebruik van AI.	堅牢な AI システムを責任を持って利用するためには、データの品質とモデル監視にさらに焦点を当てることを発展させることが非常に重要だ。AP は、データ品質と管理ツールを今後も議題として取り上げる。2026 年、AP は、AI の責任ある利用に貢献する管理ツールの開発と適用を注視する。
9. Samenwerking en kennisdeling tussen overheid, wetenschap en bedrijfsleven zijn cruciaal om AI-kansen te benutten.	9. 政府、科学界、産業界間の協力と知識の共有は、AI の機会を活用するために極めて重要だ。
AI-ontwikkelingen gaan in een hoog tempo. Om kansen te benutten is structurele samenwerking vereist. Door kennis over innovaties, mogelijkheden, risico’s en beheersing te delen tussen overheid, wetenschap en bedrijfsleven, kunnen kansen beter en verantwoorder worden benut. Er is voortgang in het opzetten en benutten van gezamenlijke kennisplatformen en auditering, maar verdere standaardisatie is nodig, bijvoorbeeld in terminologie en processen. Ook blijven interbestuurlijke samenwerking en open data-initiatieven nodig om de toepassing van AI verder te laten groeien. De AP draagt vanuit de coördinerende rol bij aan kennisuitwisseling.	AI の開発は急速に進んでいる。機会を活用するには、構造的な協力が必要だ。政府、科学界、産業界の間で、イノベーション、可能性、リスク、管理に関する知識を共有することで、機会をより良く、より責任を持って活用することができる。共同知識プラットフォームの構築と活用、監査は進展しているものの、用語やプロセスなど、さらなる標準化が必要だ。また、AI の適用をさらに拡大するには、行政間の協力やオープンデータイニシアチブも引き続き必要だ。AP は、調整役として知識の交換に貢献している。
10. Inzet van AI kan systeemrisico’s versterken; investeren in risicoanalyses en testfaciliteiten is nodig.	10. AI の導入はシステムリスクを増大させる可能性がある。リスク分析や試験施設への投資が必要だ。
Systeemrisico’s zijn soms lastig te identificeren of te voorspellen en als ze tot uiting komen zijn ze ernstig van aard en groot van omvang. Vaak onderbreken ze de werking van systemen als geheel in de samenleving, denk hierbij aan ketens of systemen die afhankelijk van elkaar zijn.	システムリスクは、特定や予測が難しい場合があり、発生した場合、その性質は深刻で規模も大きい。多くの場合、社会全体のシステム、例えば相互に依存するチェーンやシステムの機能を停止させる。
De schade kan dan ook niet altijd snel hersteld worden. De inzet van AI kan deze systeemrisico’s versterken. Hoofdstuk 2 biedt thematische verdieping op dit onderwerp.	そのため、被害は必ずしも迅速に修復できるとは限らない。AI の導入は、こうしたシステムリスクを増幅させる可能性がある。第 2 章では、このテーマについてさらに深く掘り下げる。
Voorbeelden van AI-gerelateerde systeemrisico’s zijn te vinden in de financiële sector, bij algoritmische handel in financiële instrumenten. Ook in cybersecurity kan AI systeemrisico’s vergroten, doordat de verwevenheid van de digitale infrastructuur deze extra kwetsbaar maakt voor cyberaanvallen. Verder kunnen autonome AI-agents, die acties ondernemen zonder menselijke tussenkomst, mogelijk systeemrisico’s veroorzaken. Om systeemrisico’s te beheersen is het vooral belangrijk om in kaart te brengen hoe risico’s zich versterken en verspreiden, en deze risico’s te adresseren. Bijvoorbeeld door stresstesten die kwetsbaarheden kunnen blootleggen, voordat ze leiden tot daadwerkelijke verstoringen.	AI に関連するシステムリスクの例は、金融セクター、金融商品のアルゴリズム取引に見られる。また、サイバーセキュリティにおいても、デジタルインフラの相互関連性によりサイバー攻撃に対する脆弱性が高まっているため、AI はシステムリスクを増大させる可能性がある。さらに、人間の介入なしに動作する自律型 AI エージェントも、システムリスクを引き起こす可能性がある。システムリスクを管理するには、リスクがどのように増幅・拡散するかを把握し、そのリスクに対処することが特に重要だ。例えば、実際の混乱につながる前に脆弱性を明らかにするストレステストなどを実施する。
11. Kinderen en jongeren worden nog onvoldoende beschermd tegen risico’s van AI-systemen.	11. 子供や若者は、AIシステムのリスクからまだ十分に保護されていない。
Kinderen en jongeren gebruiken steeds meer en vaker AI-systemen, zoals AI-chatbots en companion-apps. Naast praktisch gebruik, bijvoorbeeld voor huiswerkondersteuning, gebruiken steeds meer kinderen en jongeren AI-systemen ook voor emotioneel advies en gezelschap. Dat kan risicovol zijn, zeker bij kinderen en jongeren in een kwetsbare positie. Zij maken relatief meer gebruik van deze AI-toepassingen en zijn tegelijk minder goed in staat om de bijbehorende risico’s in te schatten of te beoordelen. Ook het verslavende effect van AI-toepassingen kan hierbij een rol spelen.	子供や若者は、AIチャットボットやコンパニオンアプリなどのAIシステムをますます頻繁に使用している。宿題のサポートなど実用的な用途に加え、感情的なアドバイスや仲間としての存在を求めるためにAIシステムを利用する子供や若者も増えている。これは、特に脆弱な立場にある子供や若者にとってはリスクを伴う可能性がある。彼らは比較的これらのAIアプリケーションを多く利用している一方で、関連するリスクを評価・判断する能力は低い。AIアプリケーションの依存性にも、この問題に関与している可能性がある。
Ondanks de toegenomen aandacht voor deze problemen, zijn de beschermingsmaatregelen nog onvoldoende effectief om kinderen en jongeren te beschermen. Vanwege de kwetsbaarheid van deze groep volgt de AP de ontwikkelingen op dit terrein nauwgezet.	こうした問題への関心が高まっているにもかかわらず、子供や若者を保護するための保護対策は、まだ十分ではない。このグループは脆弱であるため、APはこの分野の発展を注意深く見守っている。