AI-slop maakt van één klacht een heel dossier

Engelfriet geeft een herkenbaar voorbeeld. Iemand wordt herhaaldelijk niet teruggebeld en vraagt een taalmodel om een klachtbrief. Het resultaat verwijst naar beginselen van behoorlijk bestuur, grondrechten, jurisprudentie en een mogelijke schadeclaim. De kern blijft één gebeurtenis, maar de ontvanger moet nu uitzoeken welke punten relevant zijn en of de genoemde uitspraken wel bestaan. Het probleem is niet het gebruik van AI zelf; ook een foutloze tekst kan slop zijn. Het gaat om de ongelijke verdeling van moeite: vijf argumenten produceren kost nauwelijks meer dan één, verwerken wel.

Vooral klachtbehandelaars, bezwaarafdelingen en teams die inzage- of informatieverzoeken afhandelen merken de gevolgen. Verzoeken bevatten tientallen deelvragen, en voor de klantenservice wordt het lastiger vast te stellen wat iemand eigenlijk wil. Doorlooptijden en capaciteit komen onder druk, omdat bestaande processen niet zijn ingericht op deze schaal van correspondentie. De vraag is volgens Engelfriet daarom niet hoe je herkent dat iemand AI gebruikt, maar wat het verandert aan het werk dat volgt. Organisaties moeten zich daarmee niet alleen voorbereiden op meer tekst, maar vooral op een andere manier van zorgvuldig behandelen.

Dit is een samenvatting van het volledige artikel op de site van ICTRecht.