Kabinet wil strikte regels voor AI
De snelle opkomst van autonome AI‑assistenten dwingt het kabinet tot duidelijke grenzen. Staatssecretaris Willemijn Aerdts benadrukt dat overheidsorganisaties zulke systemen alleen mogen gebruiken als vooraf vaststaat hoe risico’s worden beheerst en wie verantwoordelijk blijft voor beslissingen die een AI‑systeem uitvoert.
De zorgen richten zich vooral op toepassingen die zelfstandig handelingen verrichten of gegevens verwerken zonder dat gebruikers precies kunnen volgen wat er gebeurt.
De Autoriteit Persoonsgegevens waarschuwt dat dit soort systemen snel ondoorzichtig wordt. Als een AI‑assistent zelf stappen zet, kan het lastig zijn om te achterhalen hoe conclusies tot stand komen of welke data worden gebruikt. Dat maakt het volgens de toezichthouder noodzakelijk dat de overheid aantoonbaar controle houdt over elke vorm van autonome besluitvorming.
Het kabinet wijst erop dat bestaande wetgeving leidend blijft. De AVG en de Europese AI‑verordening verplichten overheidsorganisaties tot extra analyses bij hoog‑risicosystemen, zoals een gegevensbeschermingseffectbeoordeling (GEB) of een mensenrechtenanalyse. Daarnaast moet altijd sprake zijn van meaningful human control: een mens moet kunnen ingrijpen, bijsturen of een systeem volledig kunnen stoppen.
Uit recente monitoring blijkt dat generatieve AI binnen de overheid breed wordt ingezet, maar dat autonome AI‑assistenten nog nauwelijks worden benut. Aerdts werkt aan een breder afwegingskader voor verantwoord gebruik. Tot die tijd adviseert zij terughoudendheid, vooral bij toepassingen die toegang hebben tot vertrouwelijke of privacygevoelige informatie.
Bron: Binnenlands Bestuur
