Shadow AI groeit uit tot compliance-risico voor juridische organisaties

Steeds meer medewerkers gebruiken AI-toepassingen buiten het zicht van hun organisatie om. Vooral in grotere organisaties en kantoren blijkt shadow AI sterk in opkomst. Volgens Arnoud Engelfriet van ICTRecht schuilt het grootste risico in het verlies van controle over gevoelige gegevens, zoals dossiers en persoonsgegevens. Daarnaast kunnen verborgen kosten ontstaan, terwijl organisaties ook onvoldoende zicht houden op de kwaliteit, herleidbaarheid en juridische onderbouwing van door AI gegenereerde analyses. Bij incidenten, zoals datalekken, blijft de organisatie bovendien juridisch verantwoordelijk, ongeacht intern beleid of verboden op AI-gebruik.

Engelfriet waarschuwt dat een puur technische aanpak, zoals het blokkeren van AI-tools, weinig effectief is. Medewerkers gebruiken deze toepassingen vaak omdat ze een concrete behoefte vervullen. Organisaties doen er daarom beter aan het gesprek aan te gaan over de onderliggende redenen en passende, veilige alternatieven te bieden. Tegelijkertijd ziet hij grote kansen voor professionele AI-oplossingen die zijn gekoppeld aan betrouwbare kennisbronnen. Voor juridische organisaties ligt de uitdaging daarmee niet zozeer in het tegenhouden van AI, maar in het beheerst integreren ervan. De manier waarop kantoren vandaag omgaan met shadow AI zal in belangrijke mate bepalen hoe verantwoord en effectief AI morgen wordt ingezet.

Dit is een samenvatting van het volledige interview op mr-online.nl.