Hoe je de implementatie van AI-systemen in je kantoor het beste kunt aanpakken

U verzorgt regelmatig lezingen voor kantoren en juridische afdelingen waarin u pleit voor een ‘verantwoorde AI-implementatie’. Wat houdt dat wat u betreft in?
“Verantwoorde AI gaat over een aantal onderwerpen. Het begint met het begrijpen van AI, wat het ongeveer doet en wat het kan. Als men niet weet hoe het werkt en welke data worden gebruikt, dan zijn de risico’s lastig in de schatten. Naast training is een goede afweging van de tools essentieel: wat gebruiken we en aan welke voorwaarden moet de oplossing voldoen? Dan komt het definiëren van het probleem. Chatten met een interne database is leuk, maar geen structurele oplossing. Een andere factor is het opstellen van randvoorwaarden door middel van beleid, ethiek en wetgeving. Deze laatste onderdelen neem je dan weer mee in de continue training van gebruikers.”

Wat is de meest voorkomende valkuil waarmee u kantoren en organisaties in de praktijk ziet worstelen als het gaat om verantwoorde AI-implementatie?
“We zien dat de statistieken rondom het gebruik in de eerste periode na implementatie altijd erg goed zijn, maar dat deze na verloop van tijd afnemen. Dit heeft deels te maken met het gebrek aan (continue) training, maar ook met verwachtingsmanagement. Huidige AI-oplossingen zijn nog niet hallucinatievrij en zul je moeten voeden met geschikte context. Maar alles valt of staat met probleemdefinitie: is er een probleem dat we willen oplossen en is AI hiervoor de meest geschikte oplossing?”

[....]