Van AI-model naar betrouwbare zorgtoepassing met MLOps bij het LUMC
LUMC
DPIA voor AI-toepassingen
We leveren de techniek voor je DPIA: data, modelgedrag, risico’s en monitoring, met je FG. Met het LUMC werken we aan AI op soevereine infrastructuur.
Het cairelab van het LUMC en wij zorgen samen dat AI in de zorg veilig beheerd wordt, met controle over data en modellen
Het LUMC wil AI duurzaam beheren in de dagelijkse zorgpraktijk, op een on-premise en soevereine infrastructuur, zodat veiligheid, privacy en controle over data en modellen geborgd blijven. Samen werken we aan modelontwikkeling, CI/CD, model serving, monitoring, onderhoud en integratie met klinische systemen.
Waar vraagt onze FG naar als het model in de DPIA komt?
Een DPIA vraagt een beschrijving van de verwerking, het doel, de risico’s en de maatregelen. Bij AI gaat dat ook over trainingsdata, bias en uitlegbaarheid. Die technische kant leveren wij aan; de afweging blijft bij jullie.
Per AI-toepassing de technische feiten die in de DPIA horen
Welke data, voor welk doel
Welke persoonsgegevens het model gebruikt bij training en gebruik, uit welke bron, voor welk doel, en wat je kunt weglaten.
Hoe het model zich gedraagt
Wat het model voorspelt of genereert, waar het fout gaat, of het per groep anders uitvalt en hoe je een uitkomst uitlegt.
Maatregelen in de bouw
Voor GVB telt software passagiers op camerabeelden die niemand bekijkt of deelt. Zulke keuzes beschrijven we per risico als maatregel.
Monitoring na livegang
Wij meten of data en uitkomsten van het model verschuiven, zodat je ziet wanneer de DPIA bijgesteld moet worden.
De DPIA begint in het ontwerp van het model, niet vlak voor livegang
-
Verwerking beschrijven
Met je FG of privacy officer beschrijven we data, doel, model en wie de uitkomst gebruikt.
-
Risico’s en maatregelen
We toetsen het model op fouten en bias en leggen per risico een technische maatregel voor.
-
Bijhouden
Bij een nieuw model, nieuwe data of ander gebruik leveren we de wijzigingen aan voor de herziening.
Hoort bij onze AI-toepassing een DPIA, en wat doen jullie dan wel en niet?
Past als
Je gaat een model of AI-toepassing inzetten die persoonsgegevens verwerkt, van klanten, patiënten of medewerkers, en je FG vraagt technische onderbouwing die je zelf niet paraat hebt.
Past niet als
De AI verwerkt geen persoonsgegevens, of je zoekt iemand die het juridische oordeel geeft en de DPIA vaststelt. Dat blijft bij de verwerkingsverantwoordelijke, met FG of jurist.
Waar de omvang van afhangt
Hoeveel modellen en databronnen meedoen, of het een eigen model of ingekochte AI is, welke documentatie er al ligt en of er ook een FRIA nodig is.
Nemen jullie de DPIA over?
Nee. Je organisatie blijft verantwoordelijk voor de DPIA en de afweging. Wij geven geen juridisch advies; we leveren de technische beschrijving, toetsen en maatregelen waar je FG en jurist mee verder kunnen.
DPIA, IAMA of FRIA: welke beoordeling vraagt jouw AI-toepassing?
Een DPIA
Kies dit als de toepassing persoonsgegevens verwerkt en er waarschijnlijk een hoog privacyrisico is. Dat volgt uit de AVG; de AP noemt negen criteria als toets.
Een IAMA ernaast
Kies dit als je een overheid of publieke organisatie bent. De AP raadt het IAMA aan om mensenrechten te beoordelen bij de inzet van algoritmes.
Een FRIA voorbereiden
Kies dit als je als overheid of publieke dienst hoog-risico-AI gaat gebruiken. Ons advies: neem de technische feiten uit de DPIA mee, zie AI Act.
We documenteren modellen terwijl we ze bouwen, en dat is wat een DPIA nodig heeft
Data Science Lab werkt sinds 2016 aan data en AI, als Databricks Partner en Microsoft Partner. We bouwen modellen en richten monitoring in. Juridisch advies geven we niet; de technische onderbouwing wel.
Je AI-toepassing en de vragen van je FG staan centraal in het eerste gesprek
Stef Stoelwinder
Business DevelopmentStef is je aanspreekpunt. In het eerste gesprek bespreken we welke AI-toepassing het is, welke data erin gaat en wat je FG al vroeg.
E-mail info@datasciencelab.nl
Telefoon +31 (0)20 3636 724
Voor welk model vraagt je FG nu technische onderbouwing?
Beschrijf de toepassing, de persoonsgegevens en wat je FG of privacy officer al heeft gevraagd. Je krijgt antwoord per mail, of we plannen een eerste gesprek.
Bericht verstuurd
Bedankt voor je bericht. We nemen zo snel mogelijk contact met je op.
Veelgestelde vragen
Volgens de Autoriteit Persoonsgegevens (AP) moet een organisatie eerst een DPIA uitvoeren als een verwerking van persoonsgegevens waarschijnlijk een hoog privacyrisico oplevert. Over algoritmes schrijft de AP: wil je algoritmische systemen gebruiken en worden daarbij persoonsgegevens verwerkt, dan is een DPIA verplicht. Dat geldt ook voor pilots, testen en proefprojecten.
De AP verwijst daarbij naar artikel 35 van de AVG. De DPIA hoort bij je bredere data governance.
De AP noemt drie hulpmiddelen: wat de AVG zelf zegt, de DPIA-lijst van de AP en negen criteria van de EU-privacytoezichthouders. Als vuistregel voer je een DPIA uit als je verwerking aan twee of meer criteria voldoet. Voorbeelden zijn geautomatiseerde besluiten, profilering, gevoelige gegevens, gekoppelde databases en nieuwe technologie.
Voldoe je aan geen of één criterium, dan moet je volgens de AP goed kunnen onderbouwen waarom je geen DPIA doet.
Volgens de AP in ieder geval een systematische beschrijving van de verwerking en de doeleinden, een beoordeling van noodzaak en proportionaliteit, een beoordeling van de privacyrisico’s en de beoogde maatregelen.
Bij algoritmes vraagt de AP extra aandacht voor technische aspecten zoals algoritmekeuze en bias, voor transparantie en uitlegbaarheid, en voor rechten zoals verwijdering en rectificatie. Het Model DPIA Rijksdienst werkt een DPIA uit in zeventien punten.
De verwerkingsverantwoordelijke zorgt dat er een DPIA komt en blijft eindverantwoordelijk, ook als iemand anders hem uitvoert. Heeft je organisatie een functionaris gegevensbescherming (FG), dan moet je volgens de AP diens advies vragen en dat in het rapport opnemen.
Een verwerker moet je ondersteunen met de informatie die je nodig hebt. Daar sluit ons werk op aan: de technische beschrijving van data, model en maatregelen.
De FRIA, de grondrechteneffectbeoordeling uit de AI-verordening, is volgens de AP een aanvulling op de DPIA. Een DPIA richt zich op privacyrisico’s; een FRIA kijkt breder naar alle grondrechten bij de inzet van een hoog-risico-AI-systeem. Vanaf december 2027 is de FRIA verplicht voor onder meer overheidsorganisaties die bepaalde hoog-risicosystemen willen gaan gebruiken.
Wat voor jou geldt, beoordeelt je jurist; zie ook AI Act.
De AP noemt een DPIA geen eenmalige opdracht maar een continu proces. Bij veranderingen in de verwerking, de risico’s of de context is een nieuwe DPIA nodig. Bij AI kan dat een nieuw model zijn, nieuwe trainingsdata of een ander gebruik van de uitkomst.
Daarom koppelen we versiebeheer en monitoring van het model aan de DPIA, met MLOps. Zo werken we ook met het LUMC aan monitoring en onderhoud.
Dan moet je volgens de AP met de AP overleggen voordat je met de verwerking start: de voorafgaande raadpleging. Beschrijf daarom per hoog restrisico in welke situatie het speelt, hoe waarschijnlijk het is ondanks je maatregelen en welke schade mensen kunnen oplopen.
Wie wat beslist rond AI, lees je bij AI governance. Een AI-managementsysteem beschrijven we bij ISO 42001.
Als de AI-toepassing geen persoonsgegevens verwerkt, of als het om ingekochte software gaat waarvan de leverancier de technische informatie levert die je FG vraagt. Dan volstaat het DPIA-proces dat je organisatie al heeft.
Moeten algoritmes daarnaast voor het publiek beschreven worden, lees dan onze pagina over het Algoritmeregister.