AI & Technologie

Transparantie over hoog-risico-AI bij overheid: drie plichten uit de AI-verordening naast de meldplicht

Deze reeks


Artikel 1: Transparantie over het systeem achter een besluit: de meldplicht die de rechter uit de Awb afleidt
Artikel 2: Transparantie over het systeem achter een besluit: geldt de meldplicht ook bij het redigeren met een AI-model?
Artikel 3: Transparantie over het systeem achter een besluit: invulling van de meldplicht volgens een verdeelde rechtbank
Artikel 4: Transparantie over hoog-risico-AI bij overheid: drie plichten uit de AI-verordening naast de meldplicht
Artikel 5: Transparantie over AI-tekst: herkenbaar door markering, mens blijft verantwoordelijk
Artikel 6: Transparantie over AI bij overheid: stappenplan van meldplicht tot markering

Inleiding


Overheden nemen besluiten met hulp van algoritmen en AI, en de bestuursrechter eist dat zij daar open over zijn. De eerste drie artikelen van deze reeks gingen over de meldplicht uit de rechtspraak: het bestuursorgaan vermeldt in het besluit welk algoritme of welke AI is gebruikt en legt bij navraag uit hoe het hulpmiddel werkt, zo nodig met stukken. Over de reikwijdte van die plicht is de rechtbank verdeeld. Volgens de ene lezing hoort elk gebruik in het besluit, volgens de andere alleen gebruik dat invloed heeft gehad op de inhoud van het besluit.

Naast die meldplicht staat nu de AI-verordening.[1] De AI-verordening regelt niet wanneer een besluit voldoende is gemotiveerd. Zij legt plichten op aan wie een AI-systeem met een hoog risico (hierna ook: hoog-risicosysteem) gebruikt, de gebruiksverantwoordelijke, en dat kan ook de overheid zijn.[2] Welke transparantie moet een overheidsorganisatie de burger bieden als zij een AI-systeem met een hoog risico gebruikt, en hoe verhoudt die zich tot de meldplicht uit de rechtspraak?

Dit artikel gaat alleen over de plichten naar de burger. De andere plichten van de gebruiksverantwoordelijke, zoals de grondrechteneffectbeoordeling, het menselijk toezicht en het bewaren van logbestanden, blijven buiten beschouwing.[3]

Leeswijzer


Paragraaf 1, 2 en 3 behandelen de drie plichten: de informatieplicht, het recht op uitleg en de registratie in de Europese databank. Paragraaf 4 zet die plichten naast de meldplicht uit de rechtspraak. Ben je vooral benieuwd wat dit concreet betekent voor jouw organisatie? Lees dan paragraaf 5. Paragraaf 6 vertelt kort wat je in de volgende artikelen van deze reeks leest.

Over deze reeks


Deze reeks bestaat uit zes artikelen over de vraag hoe open de overheid moet zijn over haar gebruik van algoritmen en AI. Het eerste artikel gaat over de meldplicht: de plicht van een bestuursorgaan om in een besluit te vermelden dat het bij dat besluit een algoritme of AI heeft gebruikt, en om de werking daarvan te kunnen uitleggen. Het beschrijft hoe die plicht is ontstaan en wanneer zij geldt. Het tweede artikel gaat over de vraag of de meldplicht ook geldt als AI alleen de tekst van een besluit heeft herschreven, terwijl de inhoud van een medewerker komt. Het derde artikel gaat over de vraag of de meldplicht ook geldt voor hulpmiddelen die geen invloed hebben gehad op de inhoud van het besluit, zoals een zoekfunctie, en over de vraag hoe een bestuursorgaan de werking van een hulpmiddel moet onderbouwen. Dit vierde artikel gaat over drie plichten die de AI-verordening de overheid oplegt als zij een AI-systeem met een hoog risico gebruikt bij beslissingen over burgers, ook als dat geen besluiten in de zin van de Awb zijn: de burger informeren, op verzoek uitleg geven en het systeem registreren. Het vijfde artikel gaat over de vraag hoe aan een tekst te zien is dat AI hem heeft gemaakt, en wie verantwoordelijk blijft voor de inhoud. Het zesde artikel is een stappenplan waarmee je de plichten uit de eerste vijf artikelen in je eigen organisatie toepast.

1. De informatieplicht

Vertellen dat het systeem wordt toegepast
Een bestuursorgaan dat met een AI-systeem met een hoog risico beslissingen over personen neemt of helpt nemen, moet die personen laten weten dat het systeem op hen wordt toegepast.[4] Volgens de overwegingen bij de AI-verordening hoort daarbij waarvoor het systeem is bedoeld, welk soort beslissingen het neemt en dat de burger om uitleg kan vragen.[5] Uitleg over de werking van het systeem of over de rol ervan in de beslissing vraagt de informatieplicht niet. De AI-verordening schrijft ook niet voor hoe, waar of wanneer het bestuursorgaan informeert. Neemt het bestuursorgaan een besluit in de zin van de Awb, dan kan het de burger in dat besluit of in het voornemen dat eraan voorafgaat informeren; daarover meer in paragraaf 4.

Bij elke beslissing over een persoon
De plicht geldt voor elke beslissing over een natuurlijke persoon waarbij het systeem wordt gebruikt, ook als het systeem alleen helpt bij de beslissing en een medewerker de uitkomst bepaalt. Voor systemen die de politie en andere opsporingsdiensten gebruiken, geldt in plaats van deze plicht de informatieplicht uit de richtlijn gegevensbescherming opsporing en vervolging.[6]

Beslissing is ruimer dan besluit
De eerste drie artikelen van deze reeks gingen over besluiten in de zin van de Awb. De AI-verordening spreekt van beslissingen, en dat begrip is ruimer: een Awb-besluit valt eronder, en een feitelijke beslissing over een persoon ook.[7]

2. Het recht op uitleg

Uitleg over rol en hoofdlijnen
Wie is getroffen door een beslissing die het bestuursorgaan op basis van de uitkomst van zo’n systeem heeft genomen, kan het bestuursorgaan vragen welke rol het systeem bij die beslissing heeft gespeeld en wat de belangrijkste elementen van de beslissing zijn. Het bestuursorgaan moet die uitleg duidelijk en zinvol geven.[8]

Breed in bereik, smal in inhoud
Het recht geldt voor elke beslissing die rechtsgevolgen heeft voor de betrokkene of hem op vergelijkbare wijze aanzienlijk treft, zodra de betrokkene zelf vindt dat de beslissing zijn gezondheid, veiligheid of grondrechten schaadt. Of dat klopt, hoeft het bestuursorgaan niet te beoordelen; de mening van de betrokkene is genoeg. Bij de overheid is zo’n beslissing meestal een besluit in de zin van de Awb, maar de AI-verordening is daartoe niet beperkt. Wat de burger krijgt, is beperkt: uitleg over de rol van het systeem en de hoofdlijnen van de beslissing, niet over de precieze werking van het systeem. De burger kan die uitleg rechtstreeks bij het bestuursorgaan vragen, zonder procedure bij de rechter. Het recht geldt alleen voor zover het Unierecht niet al in zo’n recht voorziet. Bij besluiten die volledig geautomatiseerd tot stand komen, geeft de AVG de burger al een recht op uitleg over de logica van het besluit.[9]

Uitgezonderd: kritieke infrastructuur en wettelijke beperkingen
Het recht geldt niet voor systemen voor kritieke infrastructuur, en de wetgever kan het bij wet beperken.[10]

3. Registratie in de Europese databank

Vooraf registreren, voor iedereen zichtbaar
Een overheidsorgaan dat een hoog-risicosysteem in gebruik neemt, moet zichzelf en het gebruik van dat systeem vooraf registreren in een Europese databank die de Europese Commissie beheert. In die registratie staat wie het systeem gebruikt, om welk systeem het gaat en een samenvatting van de grondrechteneffectbeoordeling die de overheid vooraf moet uitvoeren. De databank is openbaar, zodat burgers, journalisten en onderzoekers kunnen zien welke hoog-risicosystemen de overheid inzet. Voor systemen op het gebied van rechtshandhaving, migratie, asiel en grenstoezicht geldt een uitzondering: die worden geregistreerd in een afgeschermd deel dat alleen de Commissie en de toezichthouders kunnen inzien. Juist voor systemen van bijvoorbeeld de Immigratie- en Naturalisatiedienst (IND) of de politie levert de databank de burger dus geen extra inzicht op.[11]

Algoritmeregister blijft vrijwillig
Een algemene plicht om een eigen register van algoritmen bij te houden, kent de AI-verordening niet. Het Nederlandse Algoritmeregister staat dan ook los van de AI-verordening: overheden publiceren daarin vrijwillig informatie over hun algoritmen, en een wettelijke plicht daartoe komt er voorlopig niet.[12]

4. De drie plichten naast de meldplicht uit de rechtspraak

AI-verordening en motiveringsplicht gelden naast elkaar
De AI-verordening en de meldplicht uit de rechtspraak regelen elk iets anders. De AI-verordening bepaalt wat de overheid de burger moet laten weten als zij een hoog-risicosysteem gebruikt. Een overheid die de burger niet informeert of een systeem niet registreert, overtreedt de AI-verordening, en de toezichthouder kan daartegen optreden, ook als het besluit zelf in stand blijft.[13] De meldplicht gaat over het besluit en volgt uit de motiveringsplicht van de Awb: een besluit dat het gebruik van een algoritme of AI niet vermeldt, kan onvoldoende gemotiveerd zijn. De AI-verordening vervangt de motiveringsplicht dus niet; een bestuursorgaan moet aan allebei voldoen.

Vermelden in het besluit past bij beide
Voor de informatieplicht maakt het niet uit of het systeem de uitkomst in de zaak van de burger heeft beïnvloed: het bestuursorgaan moet de burger hoe dan ook laten weten dat een hoog-risicosysteem op hem wordt toegepast. Daarmee sluit de AI-verordening aan bij de eerste lezing uit het derde artikel: volgens die lezing moet het bestuursorgaan elk gebruik van een algoritme of AI in het besluit vermelden, ook als het hulpmiddel geen invloed heeft gehad op de inhoud van het besluit.[14] Bij een besluit in de zin van de Awb kan het bestuursorgaan beide plichten in het besluit combineren, maar zij vragen niet precies hetzelfde. Beide vragen dat de burger weet welk systeem is gebruikt en waarvoor. De AI-verordening vraagt daarnaast dat het bestuursorgaan de burger op zijn recht op uitleg wijst. De rechtspraak uit het derde artikel vraagt daarnaast dat het besluit zegt wat het systeem in deze zaak heeft gedaan, en volgens één uitspraak bij een AI-systeem ook welke risico’s er zijn en welke maatregelen het bestuursorgaan heeft genomen.[15] Een besluit dat al deze punten noemt, voldoet aan de meldplicht volgens de eerste lezing en geeft de burger de informatie die de AI-verordening vraagt. Het bestuursorgaan voldoet daarmee ook aan de tweede lezing, waarin het alleen gebruik hoeft te vermelden dat wezenlijke invloed heeft gehad op de inhoud van het besluit.

Recht op uitleg: de rechtspraak vraagt meer
Het recht op uitleg uit de AI-verordening is beperkt: de burger moet erom vragen, en hij krijgt uitleg over de rol van het systeem en de hoofdlijnen van de beslissing, niet over de werking van het systeem. De rechtspraak vraagt meer. Het bestuursorgaan moet uit zichzelf in het besluit vermelden welk hulpmiddel is gebruikt en waarvoor, en het moet de werking van dat hulpmiddel kunnen uitleggen en onderbouwen; paragraaf 4 van het derde artikel beschrijft wat dat concreet vraagt.[16] Daar staat tegenover dat de burger het recht op uitleg rechtstreeks bij het bestuursorgaan kan uitoefenen, zonder procedure. Een bestuursorgaan dat een verzoek om uitleg beantwoordt, heeft daarmee dus nog niet aan de meldplicht voldaan.

Zonder hoog risico gelden de drie plichten niet
De drie plichten uit dit artikel gelden alleen voor hoog-risicosystemen. Of een systeem een hoog risico heeft, hangt af van de taak waarvoor het is bedoeld en niet van de techniek. Een eenvoudige zoekfunctie of een rekenmodel als AERIUS is geen hoog-risicosysteem. Een taalhulpmodel dat alleen de tekst van een besluit verbetert, is dat ook niet, omdat de inhoud dan van de medewerker komt. Gebruikt een bestuursorgaan zo’n model om de aanvraag zelf te beoordelen, bijvoorbeeld het recht op een uitkering, dan kan het wel een hoog-risicosysteem zijn.[17] Voor hulpmiddelen zonder hoog risico bepaalt de rechtspraak uit de eerste drie artikelen wanneer het gebruik in het besluit moet staan. Voor AI zonder hoog risico gelden op grond van de AI-verordening wel andere plichten, bijvoorbeeld voor tekst die een AI-systeem heeft gemaakt. Die plichten komen in het vijfde artikel aan bod.

5. Wat betekent dit voor jouw organisatie?

Nu: inventariseren en vastleggen
Voor besluiten geldt de rechtspraak uit de eerste drie artikelen: zolang de Afdeling bestuursrechtspraak van de Raad van State niet heeft gekozen tussen de twee lezingen, is vermelden van elk gebruik de veiligste route, en je moet de werking kunnen uitleggen en met stukken kunnen onderbouwen. Breng daarnaast nu al in kaart welke van je systemen onder bijlage III vallen en welke daarvan al in gebruik zijn. Die inventarisatie sluit aan op de interne vastlegging die je voor de meldplicht al nodig hebt, en zij bepaalt op welke systemen de verplichtingen hieronder van toepassing worden en wanneer. Twijfel je of een systeem onder bijlage III valt, leg dan vast waarom je tot je oordeel komt; de toezichthouder kan daarnaar vragen.[18]

Vanaf 2 december 2027: drie plichten erbij
Voor hoog-risicosystemen die je vanaf 2 december 2027 in gebruik neemt, gelden drie plichten: je registreert het systeem vooraf in de Europese databank, je laat de personen over wie je met het systeem beslist weten dat het op hen wordt toegepast, waarvoor het is bedoeld en dat zij om uitleg kunnen vragen, en wie meent dat zo’n beslissing hem benadeelt, kan je vragen welke rol het systeem bij de beslissing heeft gespeeld en wat de hoofdlijnen van de beslissing zijn.[19] Voor systemen die vóór 2 december 2027 in de handel zijn gebracht of in gebruik zijn gesteld, gelden deze plichten pas bij een ingrijpende wijziging van het ontwerp en uiterlijk op 2 augustus 2030.[20] Bereid je organisatie daarop voor: leg vast wie de burger informeert, wie een verzoek om uitleg beantwoordt en binnen welke termijn, en wie de registratie verzorgt. Een verzoek om uitleg dat bij de verkeerde afdeling blijft liggen, is straks een overtreding van de AI-verordening waarover de burger bij de toezichthouder kan klagen.[21]

6. Wat je in de volgende artikelen leest

In het vijfde artikel lees je dat aanbieders van AI-systemen de tekst die hun systeem maakt, zo moeten markeren dat software kan vaststellen dat AI hem heeft gemaakt. Die markering zit ook in een besluit of een brief die een medewerker met zo’n systeem schrijft.[22] Die plicht geldt ook voor AI-systemen zonder hoog risico, en zij is sinds 2 augustus 2026 van toepassing. Ook lees je daar dat een markering alleen laat zien dat AI aan de tekst heeft meegeschreven, en dat de mens die het stuk vaststelt verantwoordelijk blijft voor wat erin staat.

In het zesde artikel vind je een stappenplan. Daarmee loop je bij een besluit waarbij een algoritme of AI is gebruikt stap voor stap na wat je moet vermelden, wat je moet kunnen uitleggen en wat je moet vastleggen.

Conclusie

Welke transparantie moet een overheidsorganisatie de burger bieden als zij een AI-systeem met een hoog risico gebruikt? Vanaf 2 december 2027 zijn dat drie dingen. De informatieplicht zorgt dat het bestuursorgaan de burger uit zichzelf laat weten dat het systeem op hem wordt toegepast. Het recht op uitleg geeft de burger die meent dat de beslissing hem benadeelt de mogelijkheid om te vragen welke rol het systeem heeft gespeeld en wat de hoofdlijnen van de beslissing zijn, zonder eerst naar de rechter te gaan. De registratieplicht maakt voor iedereen zichtbaar welke hoog-risicosystemen de overheid gebruikt, behalve voor systemen op het gebied van rechtshandhaving, migratie en asiel.

De AI-verordening regelt de motivering van besluiten niet en vervangt de rechtspraak niet. Zij sluit voor hoog-risicosystemen wel aan bij de eerste lezing van de meldplicht: informeren moet ook als het systeem de uitkomst in de zaak van de burger niet heeft beïnvloed. Het recht op uitleg geldt alleen op verzoek en zegt niets over de werking van het systeem; de meldplicht uit de rechtspraak vraagt op beide punten meer. Voor algoritmen en AI zonder hoog risico gelden de drie plichten niet: daar bepaalt de rechtspraak uit de eerste drie artikelen wanneer het gebruik in het besluit moet staan, en voor AI-tekst geldt de plicht uit het vijfde artikel. Voor elk systeem geldt daarnaast dat een bestuursorgaan dat niet weet of, en waarvoor, het een algoritme of AI gebruikt, dat gebruik niet kan melden en niet kan uitleggen.

Hulp nodig?
Heb je vragen over verantwoord en transparant AI-gebruik binnen je organisatie? Onze professionals helpen je graag verder! Neem gerust contact op via info@lexdigitalis.nl voor meer informatie.

Voetnoten

[1] Verordening (EU) 2024/1689 (hierna: AI-verordening).

[2] Artikel 3 punt 4 AI-verordening: de gebruiksverantwoordelijke is degene die een AI-systeem onder eigen verantwoordelijkheid gebruikt, behalve bij persoonlijk, niet-beroepsmatig gebruik. Overheidsinstanties vallen daar uitdrukkelijk onder. De plichten uit dit artikel gelden voor de gebruiksverantwoordelijke van een AI-systeem met een hoog risico (artikel 26 lid 8 en lid 11, artikel 49 lid 3 en artikel 86 lid 1 AI-verordening).

[3] Grondrechteneffectbeoordeling: artikel 27 AI-verordening; menselijk toezicht: artikel 26 lid 2; logbestanden: artikel 26 lid 6. Ook de plichten van de aanbieder van het systeem, zoals de gebruiksinstructies (artikel 13), blijven buiten beschouwing. Van de grondrechteneffectbeoordeling komt alleen de samenvatting terug in paragraaf 3, omdat die in de Europese databank wordt gepubliceerd.

[4] Artikel 26 lid 11, eerste zin, AI-verordening. De plicht geldt voor de hoog-risicosystemen van bijlage III bij de AI-verordening (artikel 6 lid 2).

[5] Overweging 93 AI-verordening. Een overweging is niet bindend, maar weegt mee bij de uitleg van artikel 26 lid 11. Een moment van informeren noemt de AI-verordening niet. Verwerkt het systeem persoonsgegevens, dan moet het bestuursorgaan de burger op grond van de AVG al eerder informeren over die verwerking, bijvoorbeeld in een privacyverklaring (artikelen 13 en 14 AVG). Die plicht valt buiten dit artikel.

[6] Artikel 26 lid 11, tweede zin, AI-verordening en artikel 13 Richtlijn (EU) 2016/680.

[7] Artikel 26 lid 11 en artikel 86 lid 1 AI-verordening. Het besluit van de Awb: artikel 1:3 Awb. De Nederlandse tekst van artikel 26 lid 11 spreekt van “beslissingen” en die van artikel 86 lid 1 van een “besluit”. Dit artikel gebruikt voor beide het woord beslissing, om verwarring met het besluit van de Awb te voorkomen.

[8] Artikel 86 lid 1 AI-verordening; vergelijk artikel 22 lid 1 AVG, dat dezelfde maatstaf gebruikt voor geautomatiseerde besluitvorming. Het recht geldt voor beslissingen die rechtsgevolgen hebben of de betrokkene op vergelijkbare wijze aanzienlijk treffen; zie ook overweging 171. Het recht geldt tegenover elke gebruiksverantwoordelijke (artikel 3 punt 4).

[9] Artikel 86 lid 3 AI-verordening; artikel 15 lid 1 onder h en artikel 22 AVG; HvJ EU 27 februari 2025, C-203/22, ECLI:EU:C:2025:117 (Dun & Bradstreet Austria).

[10] Artikel 86 lid 1 (uitzondering voor de systemen van bijlage III, punt 2), lid 2 en lid 3 AI-verordening; het recht geldt alleen voor zover het Unierecht het niet al elders regelt (lid 3).

[11] Artikel 26 lid 8, artikel 49 leden 3 en 4 en artikel 71 AI-verordening. De gegevens die het overheidsorgaan registreert staan in bijlage VIII, afdeling C, waaronder een samenvatting van de grondrechteneffectbeoordeling (punt 4) en, waar van toepassing, van de DPIA (punt 5). Systemen voor kritieke infrastructuur (bijlage III, punt 2) worden niet in de Europese databank maar op nationaal niveau geregistreerd (artikel 49 lid 5). Het afgeschermde deel van de databank geldt voor de systemen uit bijlage III, punten 1, 6 en 7, op het gebied van rechtshandhaving, migratie, asiel en grenstoezicht; van de gegevens van de gebruiksverantwoordelijke worden daar alleen de punten 1 tot en met 3 van afdeling C opgenomen, dus zonder de samenvatting van de grondrechteneffectbeoordeling (artikel 49 lid 4).

[12] Brief van de staatssecretaris van BZK van 9 september 2025 over de doorontwikkeling van het Algoritmekader en het Algoritmeregister, Kamerstukken II 2024/25, 26 643, nr. 1394; het register is te raadplegen op algoritmes.overheid.nl.

[13] Toezicht: artikelen 70 en 74 AI-verordening; klachtrecht bij de toezichthouder: artikel 85; boete voor overtreding van artikel 26: artikel 99 lid 4 onder e. Of en in hoeverre overheden een boete kunnen krijgen, bepaalt de nationale wetgever (artikel 99 lid 8). Artikel 86 staat niet in de boetebepaling; de lidstaten regelen de sancties op overtreding daarvan zelf (artikel 99 lid 1).

[14] Zie het derde artikel, paragraaf 3. Eerste lezing: Rechtbank Den Haag 10 juli 2025, ECLI:NL:RBDHA:2025:12290, r.o. 7, en Rechtbank Den Haag 29 juli 2026, ECLI:NL:RBDHA:2026:21628, r.o. 15 en 16. Tweede lezing: Rechtbank Den Haag 29 juli 2026, ECLI:NL:RBDHA:2026:21749, en Rechtbank Den Haag 2 september 2026, ECLI:NL:RBDHA:2026:25209, r.o. 12.1.

[15] Wat het systeem in de zaak heeft gedaan: Rechtbank Den Haag 29 juli 2026, ECLI:NL:RBDHA:2026:21628, r.o. 14. Risico’s en maatregelen bij een AI-systeem: Rechtbank Den Haag 7 augustus 2026, ECLI:NL:RBDHA:2026:22093, r.o. 15 met voetnoot 19 van de uitspraak. Zie het derde artikel, paragraaf 3 en 4. Wat de AI-verordening vraagt: artikel 26 lid 11 en overweging 93 (noten 4 en 5).

[16] Vermelden in het besluit: zie noot 14. Uitleggen en onderbouwen: Rechtbank Den Haag 5 augustus 2025 (tussenuitspraak), ECLI:NL:RBDHA:2025:14544, r.o. 7, 8.1 en 9 (zie het eerste artikel, paragraaf 2), en Rechtbank Den Haag 7 mei 2026 (tussenuitspraken), ECLI:NL:RBDHA:2026:10882 en ECLI:NL:RBDHA:2026:10886, r.o. 9 tot en met 12 (zie het derde artikel, paragraaf 1).

[17] Of een systeem een hoog risico heeft, hangt af van de taak waarvoor het is bedoeld, niet van de techniek (artikel 6 lid 2 en bijlage III AI-verordening). Een systeem dat alleen het resultaat van eerder menselijk werk verbetert, zoals de taal van een al geschreven tekst, heeft geen hoog risico (artikel 6 lid 3 onder b AI-verordening; zie ook overweging 53). Wie een AI-systeem gaat gebruiken voor een taak uit bijlage III waarvoor het niet was bedoeld, wordt zelf aanbieder van een hoog-risicosysteem (artikel 25 lid 1 onder c AI-verordening). Voor de overheid gaat het onder meer om bijlage III, punt 5 onder a (beoordeling van het recht op een uitkering of een andere overheidsvoorziening), punt 6 (rechtshandhaving) en punt 7 onder c (asiel-, visum- en verblijfsaanvragen). Een gewone zoekfunctie op trefwoorden is bovendien geen AI-systeem in de zin van artikel 3 punt 1; zo oordeelde Rechtbank Den Haag 2 september 2026, ECLI:NL:RBDHA:2026:25209, r.o. 10 tot en met 10.5, over de zoekfunctie Case Matcher van de IND (zie het derde artikel, paragraaf 2).

[18] Een systeem op de lijst van bijlage III is toch geen hoog risico als het geen significant risico oplevert voor gezondheid, veiligheid of grondrechten, ook doordat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. Dat is het geval als het alleen een beperkte procedurele taak uitvoert of alleen het werk van mensen ondersteunt zonder hun beoordeling te vervangen of te beïnvloeden; de uitzondering geldt niet bij profilering van personen (artikel 6 lid 3 AI-verordening). De plicht om die beoordeling vast te leggen rust op de aanbieder van het systeem (artikel 6 lid 4 AI-verordening); voor de gebruiksverantwoordelijke is vastleggen een aanbeveling, geen plicht uit de AI-verordening. Voor de vraag of iets een AI-systeem is: de richtsnoeren van de Commissie over de definitie van een AI-systeem van 6 februari 2025, C(2025) 924.

[19] Artikel 113, derde alinea, onder c, AI-verordening, zoals gewijzigd bij Verordening (EU) 2026/1744 van 8 juli 2026 (Digitale omnibus inzake AI), in werking getreden op 27 juli 2026 (zie overweging 40 van die verordening). De regels voor hoog-risicosystemen zouden op 2 augustus 2026 ingaan, maar gelden nu vanaf 2 december 2027 voor de systemen van bijlage III en vanaf 2 augustus 2028 voor die van bijlage I. Het uitstel geldt voor de afdelingen 1, 2 en 3 van hoofdstuk III, waaronder de classificatie (artikel 6) en de plichten van de gebruiksverantwoordelijke (artikel 26). De registratieplicht (artikel 49) en het recht op uitleg (artikel 86) staan niet in het uitgestelde deel. Zij gelden echter alleen voor hoog-risicosystemen, en de regel die bepaalt welke systemen dat zijn (artikel 6) geldt pas vanaf 2 december 2027. Daarom gaan ook deze twee plichten op die datum in. De AI-verordening zegt dat niet uitdrukkelijk; het volgt uit haar opbouw.

[20] Artikel 111 lid 2 AI-verordening, zoals gewijzigd bij Verordening (EU) 2026/1744.

[21] Artikel 85 AI-verordening.

[22] Artikel 50 AI-verordening; zie het vijfde artikel van deze reeks. Aanbieders van systemen die vóór 2 augustus 2026 in de handel zijn gebracht, moeten uiterlijk op 2 december 2026 aan de markeringsplicht van artikel 50 lid 2 voldoen (artikel 111 lid 4 AI-verordening, zoals gewijzigd bij Verordening (EU) 2026/1744).