AI verantwoord invoeren in de publieke sector: klein beginnen, goed borgen

Veel publieke organisaties zien de mogelijkheden van AI, maar aarzelen om te beginnen. Dat is begrijpelijk. De risico’s zijn reëel: privacy, uitlegbaarheid, afhankelijkheid van leveranciers. Toch is niets doen ook een keuze. Medewerkers gebruiken AI al, of de organisatie dat nu regelt of niet. Wie geen koers kiest, heeft wel AI in huis, maar zonder afspraken.

Bij IT Crowdsource werken wij zelf AI-first en bouwen wij onze eigen oplossingen. In dit artikel beschrijf ik wat onderzoek zegt over de opbrengsten en risico’s van AI in kenniswerk, wat de regels vragen en welke vijf stappen ik publieke organisaties aanraad.

Wat onderzoek zegt over AI in kenniswerk

Brynjolfsson, Li en Raymond (2025) onderzochten de invoering van een AI-assistent bij ruim vijfduizend klantenservicemedewerkers. Gemiddeld losten medewerkers met de assistent ongeveer 14 procent meer vragen per uur op. De grootste winst zat bij minder ervaren medewerkers, met ruim 30 procent. Bij de meest ervaren medewerkers was het effect klein. De onderzoekers verklaren dit doordat de AI de werkwijze van de beste medewerkers doorgeeft aan nieuwe collega’s.

Dell’Acqua en collega’s (2023) deden een experiment met adviseurs van een groot adviesbureau. Bij taken die binnen het bereik van AI lagen, werkten adviseurs met AI sneller en leverden zij werk van duidelijk hogere kwaliteit. Maar bij een taak die daarbuiten lag, kwamen adviseurs met AI juist minder vaak tot een juist antwoord dan adviseurs zonder AI. De onderzoekers spreken van een grillige technologische grens: het is vooraf niet altijd duidelijk welke taken AI goed beheerst en welke niet.

Dat sluit aan bij ouder onderzoek naar automatisering. Parasuraman en Manzey (2010) beschrijven hoe mensen geautomatiseerd advies te snel vertrouwen, ook als het fout is. Dat geldt ook voor ervaren professionals, en het verdwijnt niet door alleen te waarschuwen. Een mens die formeel eindverantwoordelijk is maar het advies in de praktijk overneemt, is geen echte waarborg.

Wat de regels vragen

De Europese AI-verordening (Verordening (EU) 2024/1689) trad op 1 augustus 2024 in werking en wordt gefaseerd van toepassing. De verordening werkt risicogebaseerd. Sommige toepassingen zijn verboden, voor toepassingen met een hoog risico gelden strenge eisen en voor andere toepassingen gelden vooral transparantieverplichtingen. Sinds 2 februari 2025 gelden de verboden en de plicht voor organisaties om te zorgen dat medewerkers die met AI werken voldoende AI-geletterd zijn (artikel 4).

Voor publieke organisaties komt daar meer bij. Waar persoonsgegevens worden verwerkt, geldt de AVG en is vaak een DPIA nodig. Het Impact Assessment Mensenrechten en Algoritmes (IAMA) helpt om bij algoritmen die gevolgen hebben voor burgers de afwegingen zorgvuldig te maken. En het Algoritmeregister van de overheid maakt zichtbaar welke algoritmen overheidsorganisaties gebruiken.

Vijf stappen om AI verantwoord in te voeren

1. Kies een afgebakende toepassing

Begin met een taak die veel tijd kost, weinig risico heeft en waarvan bekend is dat AI haar goed beheerst. Denk aan het samenvatten van lange stukken, het doorzoeken van eigen beleidsdocumenten of het maken van een eerste versie van een standaardbrief. Het effect is snel zichtbaar en u leert hoe de techniek zich gedraagt in uw eigen omgeving. Houd toepassingen die direct leiden tot besluiten over burgers voorlopig buiten de eerste stap.

2. Borg vanaf de eerste dag

Ook een kleine toepassing verdient goede afspraken. Welke gegevens gaan erin en welke niet? Waar worden ze verwerkt en opgeslagen? Wie controleert de uitkomst en wie is eigenaar van de toepassing? Leg dat vast voordat u start. Voer een DPIA uit als persoonsgegevens een rol spelen, en gebruik het IAMA als de toepassing gevolgen kan hebben voor burgers. Registreer de toepassing waar dat nodig is in het Algoritmeregister. Zie AI daarbij niet als apart onderwerp: het valt onder dezelfde governance voor informatiebeveiliging en privacy als de rest van uw informatievoorziening.

3. Houd de mens echt verantwoordelijk

AI ondersteunt, maar beslist niet. Zeker in de publieke sector moet een besluit uitlegbaar zijn aan de burger die het raakt. Uit het onderzoek naar automation bias volgt dat een handtekening onder een AI-advies niet genoeg is. Richt het proces zo in dat de medewerker de uitkomst echt beoordeelt: laat de bronnen zien waarop de AI zich baseert, controleer steekproefsgewijs, en maak het normaal om een AI-voorstel af te wijzen. Meet ook hoe vaak dat gebeurt. Als niemand ooit afwijkt, is dat een signaal.

4. Investeer in AI-geletterdheid

AI-geletterdheid is sinds 2025 een wettelijke plicht, maar vooral een voorwaarde voor goed gebruik. Medewerkers moeten weten wat AI goed kan, waar zij de mist in gaat en hoe zij een uitkomst controleren. Het onderzoek van Dell’Acqua en collega’s laat zien waarom: juist bij taken buiten het bereik van AI gaat het mis, en dat moeten medewerkers kunnen herkennen. Begin met de mensen die de eerste toepassing gebruiken, en laat hen hun ervaringen delen met collega’s.

5. Leg de basis en schaal op basis van ervaring

AI is zo goed als de informatie waarop zij draait. Een organisatie met een rommelige informatiehuishouding krijgt rommelige antwoorden. Investeren in een goede informatiehuishouding is daarom ook investeren in AI. Hetzelfde geldt voor architectuur: wie AI-toepassingen losjes naast elkaar laat ontstaan, krijgt dezelfde wildgroei als eerder bij applicaties. Een toets van nieuwe toepassingen aan architectuurprincipes voorkomt dat.

Werkt de eerste toepassing, dan weet u meer dan welk beleidsstuk u kan vertellen. U kent de beperkingen, u weet wat medewerkers nodig hebben en u heeft de afspraken al getest. Daarmee kunt u verantwoord de volgende stap zetten.

Hoe wij zelf werken

Bij IT Crowdsource gebruiken wij AI dagelijks in ons eigen werk: bij analyses, bij het voorbereiden van documenten en bij het bouwen van onze eigen oplossingen. Wat wij daarbij hebben geleerd, is dat de opbrengst niet zit in de techniek alleen. Zij zit in heldere afspraken over wat AI mag doen, in vaste controlemomenten door een mens en in een goed geordende informatievoorziening waarop de AI kan bouwen. Precies die lessen nemen wij mee in onze opdrachten. Meer over onze aanpak leest u op de pagina AI en innovatie.

Checklist: bent u klaar voor een eerste AI-toepassing?

Stap	Toetsvraag
Afbakening	Is de eerste toepassing een taak met veel tijdwinst en weinig risico, zonder directe besluiten over burgers?
Borging	Is vastgelegd welke gegevens erin gaan, waar ze worden verwerkt en wie eigenaar is?
Toetsing	Zijn DPIA, IAMA en registratie in het Algoritmeregister waar nodig uitgevoerd?
Menselijke controle	Beoordelen medewerkers de uitkomst echt, en wordt gemeten hoe vaak zij afwijken?
AI-geletterdheid	Weten gebruikers wat AI goed kan, waar zij fouten maakt en hoe zij een uitkomst controleren?
Basis	Is de informatie waarop de toepassing draait vindbaar, volledig en actueel?

Veelgestelde vragen

Mogen medewerkers van een overheidsorganisatie generatieve AI gebruiken?

Dat hangt af van het beleid van de organisatie en van de toepassing. Veel organisaties staan gebruik toe onder voorwaarden, zoals geen vertrouwelijke of persoonsgegevens invoeren en de uitkomst altijd controleren. Het is verstandig om zulke afspraken expliciet vast te leggen en een veilige, goedgekeurde omgeving aan te bieden.

Wat is AI-geletterdheid?

AI-geletterdheid is de kennis en vaardigheid om AI verantwoord te gebruiken: weten wat AI kan en niet kan, uitkomsten kunnen beoordelen en de risico’s kennen. De AI-verordening verplicht organisaties sinds 2 februari 2025 om te zorgen dat medewerkers die met AI werken voldoende AI-geletterd zijn.

Waar begin je met AI in een publieke organisatie?

Begin met een afgebakende toepassing met veel tijdwinst en weinig risico, zoals het samenvatten van documenten of het doorzoeken van eigen beleidsstukken. Leg vooraf de afspraken over gegevens, eigenaarschap en controle vast, en gebruik de ervaring om verantwoord op te schalen.

Bronnen

• Brynjolfsson, E., Li, D., & Raymond, L. (2025). Generative AI at work. Quarterly Journal of Economics, 140(2), 889–942.
• Dell’Acqua, F., McFowland, E., Mollick, E. R., Lifshitz-Assaf, H., Kellogg, K., Rajendran, S., Krayer, L., Candelon, F., & Lakhani, K. R. (2023). Navigating the jagged technological frontier: Field experimental evidence of the effects of AI on knowledge worker productivity and quality (Working Paper 24-013). Harvard Business School.
• Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. (2021). Impact Assessment Mensenrechten en Algoritmes (IAMA).
• Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410.
• Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (AI-verordening).