Registo de algoritmos: publicar e manter algoritmos atualizados

O Registo de Algoritmos do governo neerlandês, em algoritmes.overheid.nl, permite descobrir onde e como as entidades públicas utilizam algoritmos e IA. O objetivo é explicar melhor os algoritmos e tornar mais compreensíveis a sua utilização e o seu impacto. Se discordar da utilização de um algoritmo, pode consultar no registo onde apresentar uma reclamação.

A primeira versão ficou disponível em dezembro de 2022. O registo está relacionado com o nosso trabalho em governação de dados.

Segundo o registo, devem constar, pelo menos, os sistemas de IA classificados como de alto risco pelo Regulamento da IA e os algoritmos com impacto direto nas pessoas, como os utilizados numa decisão sobre uma multa ou um subsídio. O Quadro de Referência para Algoritmos também considera que um algoritmo tem impacto significativo se determinar como o governo classifica ou aborda cidadãos ou organizações, por exemplo, em situações relacionadas com riscos ou fraude.

Em caso de dúvida, o Quadro de Referência para Algoritmos indica que deve considerar o algoritmo como tendo impacto significativo.

Ainda não existe uma obrigação legal. O registo indica que as organizações públicas ainda não são obrigadas a submeter informações, mas que essa obrigação está prevista. O Quadro de Referência para Algoritmos do Ministério do Interior e das Relações do Reino indica que a publicação de algoritmos com impacto significativo e de sistemas de IA de alto risco pelas instituições públicas é uma política estabelecida, salvo quando existam motivos de exclusão.

Cabe ao responsável jurídico avaliar o que isto significa para a sua organização. Não prestamos aconselhamento jurídico.

A norma de publicação descreve os campos. Uma descrição publicada inclui, entre outros elementos, a finalidade e o impacto, as ponderações feitas, a intervenção humana, a gestão de riscos, os dados, o funcionamento técnico, o fornecedor, o estado e avaliações de impacto, como uma DPIA. Segundo o registo, os campos ainda não são obrigatórios, mas as organizações são incentivadas a publicar o máximo de informação possível.

Pode abordar os aspetos relativos à privacidade numa DPIA para IA.

A Waterschap Limburg descreve o seu modelo de previsão do caudal do rio Roer: utiliza como dados de entrada o caudal medido, a precipitação registada e prevista e a evaporação; os resultados são previsões horárias. Na parte relativa à intervenção humana, indica que o modelo apoia a tomada de decisões e que um especialista interpreta os resultados. Não fomos nós que elaborámos essa descrição.

Pode ler mais sobre modelos para a gestão da água em IA na gestão da água.

Segundo o registo, cada organização decide por si. Na prática, a responsabilidade cabe muitas vezes a um CISO, CIO, especialista em dados ou encarregado da proteção de dados, ou ao departamento responsável pelo algoritmo. Um primeiro passo é, frequentemente, fazer um inventário dos algoritmos; no caso de aplicações adquiridas, pode pedir informações ao fornecedor.

Saiba como definir estas funções em governação de IA.

Segundo o registo, o registo neerlandês continuará a existir em paralelo com a base de dados prevista no Regulamento da IA, porque também inclui algoritmos que não aprendem de forma autónoma e algoritmos de menor risco. Procura-se alinhar os dois sistemas para facilitar o cumprimento do regulamento pelas entidades públicas que tenham um sistema de alto risco inscrito no registo.

Leia mais em Regulamento da IA e, no caso de ministérios e municípios, em consultor de IA em Haia.

Quando se trata de um pequeno conjunto de regras de cálculo simples cujo responsável sabe como funcionam, ou quando o fornecedor já dispõe de um modelo para o registo. O registo recomenda verificar se é esse o caso. A equipa de implementação do registo pode então ajudar na publicação.

A ajuda técnica só compensa quando os modelos são difíceis de explicar ou mudam com frequência, como acontece com os modelos de IA da Rijkswaterstaat.