Consultor de IA na Haia

O registo centra-se em algoritmos com impacto significativo, incluindo sistemas de IA de alto risco. Abrange, pelo menos, algoritmos que contribuem para decisões sobre os direitos de uma pessoa, como uma multa ou um subsídio. A publicação ainda não é obrigatória por lei. O governo anunciou essa obrigação em 2022, mas a lei ainda não foi aprovada.

O município de Den Haag, que usa um algoritmo para prever a afluência às assembleias de voto, inclui no registo algoritmos que afetam o quotidiano dos residentes e acrescenta descrições duas vezes por ano. A definição de quem mantém o registo atualizado faz parte da governação da IA.

Não. A base de dados europeia prevista no Regulamento da IA inclui sistemas de alto risco, e cada entidade pública que utilize um desses sistemas regista aí a sua própria utilização. A partir de 2 de dezembro de 2027, aplica-se o artigo 26.º: se um sistema de alto risco não constar da base de dados, uma entidade pública não pode utilizá-lo e deve informar o fornecedor. As infraestruturas críticas estão sujeitas a regras próprias.

Segundo os responsáveis pelo registo, o registo neerlandês continuará a existir, pois também inclui algoritmos mais simples e de menor risco.

O anexo III inclui, entre outros, sistemas usados por entidades públicas para avaliar se uma pessoa tem direito a prestações essenciais ou serviços públicos. Devido ao pacote legislativo omnibus digital, as regras para esses sistemas de alto risco só se aplicam a partir de 2 de dezembro de 2027. Antes de utilizar determinados sistemas de alto risco, uma entidade pública terá então de realizar uma avaliação de impacto sobre os direitos fundamentais (FRIA).

A IAMA, publicada pelo BZK, foi alinhada com a FRIA em fevereiro de 2026. Cabe à sua equipa jurídica determinar que obrigação se aplica ao seu sistema. Reunimos todas as datas de entrada em vigor em Regulamento da IA na prática.

Um funcionário que segue todas as recomendações não está realmente a decidir. Nas suas orientações, a Autoriteit Persoonsgegevens identifica quatro fatores: pessoas, tecnologia e conceção, processo e governação. Isto implica dar tempo para analisar um processo, explicar cada recomendação e conferir autoridade para decidir de forma diferente.

O município de Den Haag estabelece que um funcionário toma sempre a decisão quando um algoritmo envolve dados pessoais e tem consequências jurídicas. A aplicação pode registar os casos em que os responsáveis pela análise se afastam de uma recomendação, para que seja possível demonstrá-lo. Integramos isso na conceção. É assim que pomos a Responsible AI em prática.

Não basta excluir características protegidas: um modelo pode continuar a discriminar através de uma variável indireta, como o código postal. Compare, por grupo, a frequência com que o modelo seleciona uma pessoa e a frequência com que essa seleção se revela justificada, e verifique se os dados são representativos. Para isso, são necessários dados como a origem das pessoas, cujo tratamento é limitado pelo RGPD.

O quadro de referência para algoritmos do BZK remete para o quadro de avaliação da definição de perfis de risco do College voor de Rechten van de Mens. A Autoriteit Persoonsgegevens, sediada em Den Haag, pretende que a sua nova direção de supervisão da IA assegure a avaliação destes instrumentos quanto à discriminação e à exatidão.

Comece pelas fontes: um chatbot é tão bom quanto o conhecimento a que está ligado. Na PostNL, o Dex responde às perguntas dos funcionários, permitindo que o serviço de apoio se dedique a questões mais complexas. Desde 2 de agosto de 2026, aplicam-se as regras de transparência do Regulamento da IA: quem conversa com um chatbot deve ser informado disso, o mais tardar, no início da conversa.

Desde abril de 2025, existe uma posição comum a toda a administração pública sobre a utilização de IA generativa, acompanhada de orientações para uma utilização responsável.

O quadro de referência para algoritmos menciona, entre outros pontos, os requisitos no caderno de encargos e nos critérios de adjudicação, os acordos relativos a dados e artefactos, o direito a uma auditoria e um acordo de tratamento de dados quando estejam envolvidos dados pessoais. Determine também antecipadamente se o algoritmo tem uma influência decisiva numa decisão sobre pessoas.

Defina antecipadamente que registos de atividade e documentação são necessários para preencher a entrada no registo e a FRIA.

Se o algoritmo aplicar uma regra de cálculo fixa prevista na legislação ou regulamentação, que qualquer pessoa possa verificar, bastam uma boa documentação e uma entrada no registo. Se a questão disser respeito a recursos, responsabilidade ou interpretação de um artigo de lei, deve ser encaminhada para um jurista.

Os municípios que ainda estejam a explorar onde a IA pode ser útil podem começar de forma mais simples, com um workshop de IA para municípios.