CTIVD: controle op AI bij inlichtingendiensten blijft achter

De AIVD en MIVD gebruiken steeds meer AI, terwijl de controle daarop achterblijft. Dat concludeert toezichthouder CTIVD in rapport 86, gepubliceerd op 21 september. Systemen helpen bijvoorbeeld teksten samenvatten, vertalen en netwerken analyseren. Naast centrale ontwikkeling bouwen teams zelf toepassingen. Een voldoende overzicht ontbreekt, waardoor onduidelijk is of alle systemen aan wet en intern beleid voldoen. Het onderzoek is verkennend: het spreekt nog geen oordeel uit over de rechtmatigheid van concrete toepassingen. Dat onderscheid telt. Een tekort aan controle is een ernstige kwetsbaarheid, maar dit rapport bewijst niet dat een bepaalde burger onrechtmatig door AI is beoordeeld.

Het kabinet erkent het probleem

De ministers van Binnenlandse Zaken en Defensie onderschrijven de conclusies. Zij willen een uniforme werkwijze en concreter beleid, met eind 2026 als streefdatum voor vaststelling en invoering. Volgens hun reactie was eerder gezamenlijk beleid te omvangrijk en te abstract om goed bruikbaar te zijn. Zij wijzen bovendien op schaarse gespecialiseerde medewerkers: dezelfde expertise is nodig om nieuwe toepassingen te bouwen én om waarborgen te organiseren. Dat is hun verklaring voor de uitvoeringsproblemen, geen bewijs dat die inmiddels zijn opgelost. De diensten willen ondertussen bekijken welke verbeteringen al mogelijk zijn. Met de CTIVD volgen gesprekken over de stappen, de planning en het rapporteren van voortgang. Een aangekondigd beleidsdocument is daarmee een begin; de uitvoering moet nog volgen.

Wat mag een computer met die gegevens?

Geautomatiseerde data-analyse, afgekort GDA, is breder dan een chatbot. Artikel 60 van de Nederlandse inlichtingenwet staat onder meer toe dat gegevens worden vergeleken, op profielen doorzocht en op patronen onderzocht. Dat kan bijvoorbeeld gegevens uit eigen bestanden en publiek toegankelijke bronnen betreffen. De wet verbiedt echter maatregelen tegen iemand te bevorderen of te treffen uitsluitend op basis van de resultaten van die analyse. Een gevonden patroon is dus op zichzelf onvoldoende grond voor zo’n maatregel. Daarnaast verlangt artikel 18 zorgvuldige verwerking voor een noodzakelijk doel en informatie over de betrouwbaarheid of herkomst van gegevens. Artikel 24 legt de diensthoofden verantwoordelijkheid op voor maatregelen die de gegevenskwaliteit verbeteren, uitdrukkelijk ook bij algoritmen en modellen. Deze verplichtingen bestaan al.

Waarom regelt de Europese AI-wet dit niet?

De Europese AI-verordening kent een uitzondering voor systemen voor militaire, defensie- of nationale veiligheidsdoeleinden. Artikel 2 koppelt die uitzondering aan het doel waarvoor het systeem wordt aangeboden of gebruikt. Het is dus geen algemene vrijstelling voor alle software omdat een bepaalde organisatie ermee werkt. De toelichting maakt dat onderscheid expliciet: wordt een systeem voor andere doeleinden gebruikt, zoals civiele toepassingen of rechtshandhaving, dan kan het wel binnen de verordening vallen. Voor lezers in Nederland én België is de Europese uitzondering relevant. De conclusies over AIVD en MIVD gaan echter over Nederlandse diensten; ze zeggen niets over de feitelijke kwaliteit van Belgische controles. Een Europese uitzondering is op zichzelf evenmin een verklaring dat een toepassing veilig is.

Openbare informatie kan toch diep ingrijpen

Waarom is controle op het verwerken van gegevens belangrijk als sommige informatie gewoon online staat? Een eerder CTIVD-onderzoek, gepubliceerd in februari 2022, laat dat zien. Het ging over automated OSINT: software die open bronnen automatisch doorzoekt en verbanden zichtbaar maakt. Zulke hulpmiddelen kunnen in één zoekactie honderden bronnen raadplegen, waaronder locatiegegevens en gelekte gegevens van sociale media. Bedrijven kunnen die informatie samenvoegen tot grote doorzoekbare bestanden. De privacy-inbreuk kan daardoor veel verder gaan dan één losse zoekopdracht. De commissie vond destijds dat de werking en achterliggende bronnen vooraf onvoldoende waren doorgrond. Dat historische onderzoek is geen nieuwe beschuldiging over een huidige AI-toepassing. Het illustreert wel waarom toegang tot informatie en zorgvuldig gebruik ervan afzonderlijke vragen zijn.

Toestemming vooraf is één controlemoment

Voor bepaalde bijzondere bevoegdheden, zoals hacken of communicatie onderscheppen, beschrijft de Toetsingscommissie Inzet Bevoegdheden een afzonderlijke route. Eerst vraagt de dienst toestemming aan de minister. Na diens akkoord toetst de TIB of die toestemming rechtmatig is. Zij kijkt naar noodzaak, evenredigheid, gerichtheid en de mogelijkheid van een minder ingrijpend middel. Haar oordeel is bindend. Tijdens en na het gebruik controleert de CTIVD vervolgens of de dienst zich aan de regels houdt. Dit is de gewone route voor de bedoelde bevoegdheden, geen beschrijving van ieder computerprogramma bij een dienst. De twee commissies vervullen verschillende rollen: de toestemming om een middel in te zetten en het toezicht op de uitvoering zijn aparte controles.

De toezichthouder kan achter de schermen kijken

Geheimhouding betekent niet dat de CTIVD alleen openbare persberichten kan controleren. De commissie heeft rechtstreeks toegang tot relevante informatie en systemen. Medewerkers van de diensten moeten haar vragen beantwoorden en kunnen onder ede worden gehoord. Ook kan zij deskundigen inschakelen. Haar openbare rapporten en adviezen richten zich op de rechtmatigheid van het handelen. De commissie beoordeelt volgens haar taakomschrijving niet of de diensten hun beleidsdoelen effectief bereiken. Dat helpt om kritiek op toezicht goed te lezen: een controle op naleving van regels is iets anders dan een prestatiemeting van een algoritme of een beoordeling van hoeveel dreigingen ermee worden ontdekt.

Wat kan een burger laten onderzoeken?

Wie een concrete klacht heeft, moet doorgaans eerst naar de betrokken minister; daarna kan de CTIVD in beeld komen. De commissie vraagt daarbij om een beschrijving van het handelen, de gronden van de klacht en de eerdere afhandeling. Bij klachtbehandeling kan zij informatie bij de dienst opvragen en onderzoek doen. Een gegronde klacht kan leiden tot een bindende opdracht om een onderzoek of bevoegdheid te stoppen, of gegevens te verwijderen en vernietigen. Dat geeft de procedure betekenis, maar geen onbeperkte inzage: staatsgeheimen worden uit het rapport voor de klager weggelaten. Toezicht kan dus verder reiken dan wat de betrokkene zelf te zien krijgt.