IAMA: avaliação do impacto dos algoritmos nos direitos humanos
Avaliam os direitos fundamentais; nós descrevemos os dados, o funcionamento, os enviesamentos e a monitorização do algoritmo. Para a Rijkswaterstaat, desenvolvemos a monitorização de modelos de IA.
Para garantir a qualidade dos seus modelos de IA em produção, fornecemos ao Rijkswaterstaat um pacote genérico para deteção de drift e de valores atípicos
O Rijkswaterstaat colocou vários modelos de IA em produção. A monitorização manual não é escalável, por isso desenvolvemos um único pacote de monitorização para todos eles. “A DSL apresentou uma solução engenhosa que podemos utilizar eficazmente.” Nanine Overgaauw, Rijkswaterstaat - SRE Data Science
Pode este algoritmo ser utilizado e que impacto tem nas pessoas sobre as quais toma decisões?
O IAMA ajuda as entidades públicas a avaliar antecipadamente o impacto de um algoritmo nos direitos fundamentais, numa conversa entre o gestor de projeto, o responsável pelo desenvolvimento, o jurista e a equipa de políticas públicas. Levamos os factos técnicos para a discussão e respondemos às questões sobre eles.
As questões técnicas da avaliação dos direitos humanos, respondidas em termos que um jurista pode avaliar
Objetivo e dados documentados
Que dados o algoritmo utiliza, de que fontes provêm, que lacunas e erros contêm e que características dos grupos estão presentes ou se refletem indiretamente nesses dados.
Um funcionamento que pode explicar
Como o modelo chega a um resultado, que características têm mais peso e como explicar um resultado concreto ao residente ou colaborador afetado.
Viés medido por grupo
Testamos se os resultados diferem entre grupos e identificamos a origem dessas diferenças. Cabe-lhe a si e ao seu jurista avaliar se uma diferença é justificada.
Monitorização e um plano de suspensão
Para a Rijkswaterstaat, desenvolvemos a monitorização de drift em modelos de IA em produção. Com um plano de suspensão, sabe também quando é necessário reavaliar a situação.
O IAMA faz parte da conceção, muito antes de o algoritmo entrar em utilização
-
Objetivo e motivo
Com o responsável pelo projeto e a equipa de políticas, definimos que problema o algoritmo resolve e se é possível resolvê-lo sem o algoritmo.
-
Analisar a tecnologia
Descrevemos os dados, o modelo, os enviesamentos e a explicabilidade, e respondemos às perguntas do jurista através do diálogo.
-
Integrar medidas
Integramos o que o IAMA exige: testes, intervenção humana, monitorização e um plano para deixar de utilizar o algoritmo.
O nosso algoritmo precisa de um IAMA e que parte assumem?
Adequado se
É uma entidade pública que pretende desenvolver, adquirir ou utilizar um algoritmo ou sistema de IA que afeta pessoas, e há questões técnicas por resolver no diálogo do IAMA.
Não é adequado se
Procura alguém que pondere os interesses em causa ou aprove o IAMA em nome da sua organização. Essa decisão cabe à direção, aos responsáveis pelas políticas e aos juristas da sua organização; não prestamos aconselhamento jurídico.
O que determina o âmbito
Se se trata de um modelo próprio ou de um sistema adquirido, quantas fontes de dados estão envolvidas, se já existe uma DPIA e se também desenvolveremos a monitorização após a entrada em produção.
O IAMA é obrigatório?
O governo recomenda o IAMA, sobretudo para sistemas de IA de alto risco e algoritmos com impacto significativo. No entanto, o artigo 27.º do Regulamento da IA exige uma avaliação do impacto nos direitos fundamentais para determinados sistemas de IA de alto risco.
Um IAMA por si só, em conjunto com uma DPIA ou como avaliação dos direitos fundamentais para IA de alto risco?
O IAMA por si só
Escolha esta opção se o algoritmo afetar pessoas, mas não tratar dados pessoais nem for IA de alto risco. O Algoritmekader também recomenda o IAMA para algoritmos com impacto significativo.
IAMA e DPIA em conjunto
Escolha esta opção se o algoritmo também tratar dados pessoais. O nosso conselho: siga as orientações do BZK e do CIO Rijk, que relacionam as perguntas sobrepostas.
IAMA para o artigo 27.º
Escolha esta opção se representar uma instituição pública que vai utilizar IA de alto risco. A versão do IAMA de fevereiro de 2026 foi alinhada com o artigo 27.º e assinala as perguntas relevantes.
Se constrói e monitoriza modelos, pode responder às questões técnicas de uma IAMA
A Data Science Lab trabalha desde 2016 com dados e IA para organizações de média dimensão e instituições públicas, enquanto Databricks Partner e Microsoft Partner. Desenvolvemos projetos para Rijkswaterstaat, ProRail e LUMC, entre outros. Não prestamos aconselhamento jurídico.

Um algoritmo proposto e as questões em aberto do seu IAMA são suficientes para uma primeira conversa
Stef Stoelwinder
Business DevelopmentStef é o seu ponto de contacto. Na primeira conversa, discutimos o algoritmo, os dados e as questões técnicas do IAMA que ainda estão em aberto.
E-mail info@datasciencelab.nl
Telefone +31 (0)20 3636 724
Que algoritmo pretende discutir no diálogo IAMA?
Descreva o algoritmo, quem é afetado por ele e que questões do IAMA continuam em aberto. Receberá uma resposta por e-mail ou agendaremos uma primeira conversa.
Mensagem enviada
Obrigado pela sua mensagem. Entraremos em contacto consigo o mais rapidamente possível.
Perguntas frequentes
Segundo o Algoritmekader, o Impact Assessment Mensenrechten en Algoritmes (IAMA) é um instrumento para entidades públicas que facilita o diálogo interdisciplinar e apoia a tomada de decisões sobre o desenvolvimento e a utilização de sistemas algorítmicos. Aplica-se a sistemas de IA e a outros algoritmos, centrando-se sobretudo no impacto sobre os direitos fundamentais.
Depois, o IAMA serve de referência para a tomada de decisões. Faz parte da sua governação de dados mais ampla.
A Utrecht Data School da Universidade de Utrecht desenvolveu o IAMA em 2021, a pedido do Ministério do Interior e das Relações do Reino (BZK). Foi atualizado em fevereiro de 2026 com base no feedback dos utilizadores e na experiência prática.
A nova versão é mais curta, tem um documento explicativo separado e foi alinhada com o artigo 27.º do Regulamento da IA. As perguntas diretamente relacionadas com esse regulamento estão assinaladas. Segundo a Digitale Overheid, continua a ser um instrumento de diálogo e tomada de decisões, não uma lista de verificação.
Antes de um algoritmo ser utilizado, para que os riscos sejam avaliados atempadamente. O Algoritmekader associa o IAMA à análise do problema, à conceção, à verificação e validação, e à monitorização e gestão. Associa-o também às funções de gestor de projeto, developer, consultor jurídico e profissionais de políticas e aconselhamento.
Em 2023 e 2024, municípios e a Belastingdienst estiveram entre as entidades que avaliaram quinze algoritmos com o IAMA. As lições constam do relatório IAMA in actie.
A Digitale Overheid indica que é recomendável utilizar o IAMA para avaliar o impacto nos direitos fundamentais quando um algoritmo tem um impacto significativo ou um sistema de IA é de alto risco. O Algoritmekader recomenda-o em particular para estes dois grupos.
O artigo 27.º do Regulamento da IA exige uma avaliação do impacto nos direitos fundamentais para sistemas de IA de alto risco; o IAMA é um instrumento que ajuda a cumprir essa exigência. O seu consultor jurídico pode avaliar o que se aplica à sua organização.
Segundo a Digitale Overheid, têm o mesmo objetivo — avaliar o possível impacto de um tratamento previsto nas pessoas em causa —, mas âmbitos diferentes. Uma DPIA diz respeito ao tratamento de dados pessoais; o IAMA, ao impacto dos algoritmos nos direitos humanos.
Um guia do BZK e do CIO Rijk relaciona as perguntas do Model DPIA Rijksdienst com as do IAMA, para evitar trabalho duplicado. Para saber mais sobre a vertente da privacidade, consulte DPIA para IA.
O artigo 27.º exige que organismos públicos e entidades privadas que prestam serviços públicos avaliem os efeitos nos direitos fundamentais antes de utilizarem determinados sistemas de IA de alto risco. São permitidas referências cruzadas a uma DPIA, e o AI Office está a trabalhar num modelo.
O IAMA atualizado está alinhado com esta exigência. O Algoritmekader menciona também uma alteração ao artigo 27.º incluída no pacote omnibus da IA. Acompanhe a evolução dessa alteração com o seu consultor jurídico e saiba mais sobre o Regulamento da IA.
Para a avaliação dos direitos fundamentais, o Algoritmekader refere, entre outras medidas: testar o algoritmo quanto a enviesamentos e realizar um teste de justificação, verificar e melhorar regularmente a qualidade, preparar um plano de contingência para interromper o algoritmo e fazer amostragens aleatórias na seleção baseada no risco.
Integramos estas medidas no modelo e na pipeline, com MLOps. Para ver como funciona a monitorização de drift, leia o caso de estudo da Rijkswaterstaat.
Quando se trata de uma regra de cálculo simples cujo responsável conhece o funcionamento, ou quando o fornecedor de um sistema adquirido já fornece as respostas técnicas. Nesses casos, a sua própria equipa e a ferramenta de preenchimento online da Rijksoverheid são suficientes. A ferramenta também utiliza uma avaliação preliminar para indicar que avaliação é necessária.
Se depois for necessário descrever o algoritmo ao público, leia sobre o Registo de Algoritmos. Pode definir quem decide o quê através da governação da IA.
Que acordos sobre dados, privacidade e publicação resultam da avaliação dos direitos fundamentais?
- Data governanceTitularidade, definições, acesso e acordos sobre dados que sustentam qualquer avaliação de um algoritmo.
- DPIA para IAA dimensão da privacidade de uma aplicação de IA: que dados pessoais utiliza, para que finalidade, e quais os riscos e as medidas previstas.
- Registo de algoritmosDescrever os algoritmos da administração pública de forma compreensível, publicá-los e manter a informação atualizada.