Toezicht op AI en algoritmes door Autoriteit Persoonsgegevens

De Autoriteit Persoonsgegevens gaat op het gebruik van kunstmatige intelligentie (AI) en algoritmes toezien waarbij persoonsgegevens worden gebruikt. Volgens het AP kunnen algoritmes veel kansen bieden, maar hangen er ook serieuze risico’s aan.

Normen

“Je hebt in een democratische rechtsstaat bijvoorbeeld recht op een begrijpelijke motivering voor een beslissing die voor jou nadelig is. Je kunt je anders niet verdedigen en een rechter kan het niet toetsen. Transparantie is cruciaal”, aldus Aleid Wolfsen, AP-voorzitter. Er gelden verschillende basisvoorwaarden voor algoritmes die persoonsgegevens verwerken.
Er moet bijvoorbeeld een grondslag zijn voor de verwerking van de gegevens. Gegevens die voor het ene doel worden verwerkt, mogen niet voor een ander doel worden gebruikt en er gelden (afhankelijk van het type persoonsgegevens) normen rond de beveiliging en opslag. Daarnaast is Data Protection Impact Assessment (DPIA) bij het gebruik van algoritmes veelal verplicht. Degene die verantwoordelijk is voor het verwerken moet het effect van de gegevensverwerking uitvoeren op de bescherming van persoonsgegevens.

Verwerkingsverantwoordelijke

De verwerkingsverantwoordelijke moet in de DPIA onderbouwen waarom hij bepaalde gegevens gebruikt in een algoritme, wat het doel van het algoritme is en waarom het nodig is om met dat algoritme te werken. Wanneer risico’s onvoldoende kunnen worden weggenomen dan moet er van tevoren advies worden gevraagd bij de Autoriteit Persoonsgegevens.
De Autoriteit Persoonsgegevens zal zich de komende periode richten op het verder uitwerken van het toezicht op algoritmes waarin persoonsgegevens worden gebruikt en AI. Hierbij zal de autoriteit samenwerken met andere partijen zowel binnen als buiten Nederland.

Bron: Security.nl