Algoritmeregister: algoritmes publiceren en bijhouden

Het Algoritmeregister van de overheid, op algoritmes.overheid.nl, maakt vindbaar waar en hoe overheden algoritmes en AI gebruiken. Het moet algoritmes beter uitleggen en hun toepassing en impact begrijpelijk maken. Wie het niet eens is met het gebruik van een algoritme, ziet in het register waar bezwaar gemaakt kan worden.

De eerste versie ging in december 2022 live. Het register hoort bij ons werk aan data governance.

Volgens het register in ieder geval AI-systemen die de AI-verordening als hoog-risico aanduidt, en algoritmes met directe impact op mensen, zoals bij een besluit over een boete of subsidie. Het Algoritmekader noemt een algoritme ook impactvol als het bepaalt hoe de overheid burgers of organisaties indeelt of benadert, bijvoorbeeld bij risico’s of fraude.

Twijfel je, dan beschouw je het algoritme volgens het Algoritmekader als impactvol.

Een wettelijke plicht is er nog niet. Het register schrijft dat aanleveren nu nog niet verplicht is voor overheidsorganisaties, maar dat die verplichting er wel aan komt. Het Algoritmekader van BZK noemt het vastgesteld beleid dat overheidsinstellingen hun impactvolle algoritmes en hoog-risico-AI-systemen publiceren, tenzij er uitsluitingsgronden zijn.

Wat dat voor jouw organisatie betekent, beoordeelt je jurist. Wij geven geen juridisch advies.

De publicatiestandaard beschrijft de velden. In een gepubliceerde beschrijving zie je onder meer doel en impact, afwegingen, menselijke tussenkomst, risicobeheer, gegevens, technische werking, leverancier, status en impacttoetsen zoals een DPIA. Volgens het register zijn de velden nog niet verplicht, maar worden organisaties gestimuleerd zoveel mogelijk te publiceren.

De privacykant werk je uit in een DPIA voor AI.

Waterschap Limburg beschrijft zijn afvoerprognosemodel voor de Roer: de invoer is gemeten afvoer, gevallen en verwachte neerslag en verdamping, de uitkomst zijn uurlijkse verwachtingen. Bij menselijke tussenkomst staat dat het model beslissingsondersteunend is en de expert de uitkomst interpreteert. Wij hebben die beschrijving niet gemaakt.

Meer over modellen voor water lees je bij AI in het waterbeheer.

Volgens het register bepaalt elke organisatie dat zelf. In de praktijk ligt het vaak bij een CISO, CIO, dataspecialist of functionaris gegevensbescherming, of bij de afdeling waar het algoritme over gaat. Een eerste stap is vaak de algoritmes inventariseren; bij ingekochte applicaties kun je het de leverancier vragen.

Hoe je zulke rollen vastlegt, lees je bij AI governance.

Volgens het register blijft het Nederlandse register bestaan naast de databank uit de AI-verordening, omdat er ook niet-zelflerende algoritmes en algoritmes met een lager risico in staan. Er wordt gezocht naar aansluiting, zodat overheden met een hoog-risicosysteem in het register ook makkelijker aan de verordening voldoen.

Meer lees je bij AI Act, en voor ministeries en gemeenten bij AI consultant Den Haag.

Als het om een handvol eenvoudige rekenregels gaat waarvan de eigenaar de werking kent, of als de leverancier al een sjabloon voor de registratie heeft. Het register raadt aan dat na te gaan. Het implementatieteam van het register helpt dan bij het publiceren.

Hulp bij de techniek loont pas als modellen lastig uit te leggen zijn of vaak veranderen, zoals bij de AI-modellen van Rijkswaterstaat.