Privacytoezichthouder ziet risico's nu incassobureaus steeds meer op AI leunen

De Autoriteit Persoonsgegevens (AP) waarschuwt incassobureaus voor hun groeiende gebruik van AI. Volgens NL Times onderzocht de toezichthouder 29 bureaus. Zo’n systeem scheelt tijd, maar het kan ook mensen benadelen door een foutieve inschatting of door groepen verschillend te behandelen.

AI berekent bij deze bureaus onder meer of een schuld waarschijnlijk te innen is. Daarnaast speurt de software naar informatie over wie iets moet betalen, bijvoorbeeld een rekeningnummer of berichten op sociale media. NL Times meldt dat woonplaats, kredietscore en betaalgeschiedenis meewegen bij de vraag wie als eerste contact krijgt.

Besluiten die helemaal door een computer worden genomen zijn verboden. De AP houdt er serieus rekening mee dat dit nu al gebeurt, omdat niet elk bureau de regels goed kent en dus niet doorheeft dat het over de grens gaat. Branchevereniging NVI was verrast door de publicatie, want de AP had haar niet ingelicht. De vereniging kan nog niet zeggen of de uitkomsten kloppen voor haar leden. Begin december zit de toezichthouder met de sector om tafel.

Wat betekent dit voor de werkvloer?

De AP legt de verantwoordelijkheid nadrukkelijk bij mensen. Gaat het om een zwaarwegend besluit, dan hoort daar iemand van het bureau bij te zitten die ervoor kan instaan. De toezichthouder raadt bureaus ook aan om te toetsen welke persoonsgegevens ze gebruiken, en om schuldenaren uit te leggen welke rol AI speelt. Voor wie bij zo’n bureau werkt, kan dat betekenen dat de uitkomst van het systeem niet langer zomaar wordt overgenomen.