Het is niet erg benadrukt in alle commotie over de schandalige behandeling van mensen met kinderopvangtoeslag, maar het zou me niet verbazen als de problemen bij de belastingdienst toch ook voor een deel toe te schrijven zijn aan doorgeslagen automatisering. De laatste tijd hebben computerwetenschappers een hele verzameling slimme algoritmes bedacht die kunnen leren. Een algoritme is niks anders dan een procedure die uitgevoerd wordt door een computer. Het is als het ware een recept dat je aan een kok geeft die dan zonder na te denken precies gaat doen wat er op het briefje staat. De eerste computertaal die ik leerde, Algol60, dankt zijn naam aan dat woord, ontworpen in 1960, de begintijd van de computers. In die tijd moest ik mijn programma’s typen op ponskaarten en inleveren bij de balie van het rekencentrum. Na een uurtje kon je de uitvoer ophalen die op een regeldrukker werd uitgeprint. Van verre zag je dan al of er iets mis was, want als er maar een paar pagina’s op de balie lagen was het programma voortijdig gestopt; dan was je ergens een komma vergeten. Maar het moeilijkste kwam als er wel uitvoer was, want dan moest je je afvragen of datgene wat de computer voor je uitgerekend had, ook werkelijk was wat je wilde hebben. Uit die tijd heb ik geleerd dat je computeralgoritmes nooit moet vertrouwen. Altijd kijken of de uitkomst overeenkomt met wat je verwacht, niet simpelweg een programma schrijven dat loopt en dan alles geloven wat eruit komt.

Maar tegenwoordig werken informatici met zulke ingewikkelde programma’s dat je weer speciale programma’s nodig hebt om te controleren of het klopt wat er uit het eerste programma kwam. Een ontwikkeling van de laatste tijd is het werken met computerprogramma’s die kunnen leren, d.w.z. dat ze heel goed zijn in het herkennen van patronen; ze kunnen voorwerpen herkennen, gesproken tekst vertalen en zelfs beslissingen nemen op basis van gegevens waar wij als mens niet mee overweg kunnen omdat het teveel is.

Deze lerende algoritmes worden op allerlei manieren ingezet en hebben grote gevolgen voor het dagelijks leven. Arjen Lubach heeft in oktober vorig jaar al op onnavolgbare wijze uitgelegd hoe algoritmes achter de sociale media een “fabeltjesfuik” veroorzaken en complotdenken stimuleren omdat mensen alleen nog maar filmpjes en berichten voorgeschoteld krijgen die hun vooroordelen bevestigen.

Ook de belastingdienst maakt gebruik van zulke “diep lerende” algoritmes. Je begint met gegevens over bewezen fraudeurs: waar wonen ze, wat is hun leeftijd, geslacht, opleidingsniveau, etnische achtergrond, enz. Daar komen een aantal variabelen uit die leiden tot een “risicoprofiel” en die ga je dan toepassen op alle Nederlanders die een kindertoeslag aanvragen. Uiteraard is het in de praktijk veel ingewikkelder, maar u snapt het principe.

Een van de maatregelen die het kabinet nu gaat nemen is meer transparantie garanderen over de inzet van kunstmatige intelligentie bij de belastingdienst. Ook wil men de afkomst en dubbele nationaliteit niet meer gebruiken als variabelen in het risicoprofiel, omdat dat discriminatie in de hand werkt. Informatici werken bovendien aan “eerlijke” algoritmes, dat wil zeggen computerprogramma’s die voorkomen dat iemand uit een minderheidsgroep een grotere kans heeft verdacht te worden van fraude dan een gemiddelde Nederlander.

Maar ik vraag me af of dat allemaal gaat werken. Het enige eerlijke algoritme is het gezonde verstand van degene die de uitkomsten van het algoritme op tafel krijgt. Met die kunstmatige intelligentie is niks mis, maar vergeet niet: het is kunstmatig. De echte intelligentie moet daarna komen. Dus ik denk dat de belastingdienst er beter aan doet meer niet-kunstmatige mensen in te huren, mensen die nadenken, mensen met hart en ziel, die getraind zijn in rechtvaardigheid, empathie en maatschappelijke verantwoordelijkheid. En die net als ik vroeger met mijn Algol60-programma’s niet alleen enthousiasme, maar ook een gezond wantrouwen cultiveren richting de uitkomsten van kunstmatige intelligentie.

Facebook Comments