Ir para o conteúdo

Consultor de IA na Haia

Para ministérios, organismos de execução e municípios: primeiro, definir que decisão um algoritmo afeta e quem a toma; depois, desenvolvê-lo até entrar em produção. Também desenvolvemos o Dex para a PostNL.

Com o Dex, a PostNL passou a ter um ponto central para as perguntas dos colaboradores

Para a PostNL, cuja sede fica na Waldorpstraat, na Haia, desenvolvemos o chatbot Dex, com capacidade de autoaprendizagem, ligado aos sistemas existentes para que a base de conhecimento não tenha de ser armazenada e mantida em vários locais.

Leia o caso de estudo

Os nossos técnicos continuam a decidir por si próprios ou limitam-se a aprovar a recomendação?

Um modelo ordena os pedidos, e o registo de algoritmos indica que a decisão cabe a um colaborador. Mas ninguém sabe com que frequência os técnicos se afastam da recomendação. Integramos essa avaliação humana no processo: uma explicação para cada recomendação, o registo da recomendação e da decisão, e um responsável designado.

Agende uma conversa
Het Binnenhof aan de Hofvijver in Den Haag, met kantoortorens erachter

Um dossiê por algoritmo, útil para o registo, a IAMA e os juristas

Fale connosco sobre o seu algoritmo

Visão geral de todos os algoritmos

Da seleção baseada no risco a um programa de semáforos: para cada algoritmo, o objetivo, os dados que utiliza, o responsável e a decisão para a qual contribui.

Uma descrição para o registo, dirigida aos residentes

Uma descrição para o Algoritmeregister: o que faz o algoritmo, que dados utiliza, como pode intervir um funcionário e a quem se pode recorrer em caso de dúvidas.

Trabalho preparatório para a IAMA e a FRIA

Para cada sistema, os factos de que também precisa para a IAMA e a avaliação dos direitos fundamentais: o objetivo, as pessoas afetadas e os dados utilizados.

Todas as alterações rastreáveis

Para o Zorginstituut Nederland, criámos no GitLab uma pipeline de validação e publicação para lançamentos controlados de produtos do programa KIK-V.

A decisão sobre um residente determina a forma como desenvolvemos

  1. Definir a decisão e os papéis

    Que decisão o algoritmo apoia, quem a toma e se a sua organização é o fornecedor, a responsável pela utilização ou ambos.

  2. Desenvolver com explicações e registos

    Uma recomendação inclui uma explicação para o técnico responsável e é registada juntamente com a decisão.

  3. Registar e monitorizar

    Uma descrição no registo, monitorização após a entrada em funcionamento e uma revisão sempre que o objetivo, os dados ou a regulamentação mudarem.

Vale a pena para o seu ministério, serviço ou município?

Avalie numa conversa

Adequa-se se

Há algoritmos em funcionamento ou previstos que influenciam decisões sobre cidadãos ou empresas, mas ainda não é possível responder ao conselho municipal, ao parlamento ou ao auditor quando perguntam exatamente que algoritmos estão em funcionamento.

Não se adequa se

Trata-se de uma regra de cálculo fixa prevista na lei, como o cálculo de uma taxa administrativa, que qualquer pessoa pode verificar. Nesse caso, uma descrição clara no registo é mais útil do que um projeto de IA.

O que determina a dimensão do projeto

O número de algoritmos e fornecedores, a existência de decisões sobre pessoas que dependam deles, a documentação já disponível e se também ficaremos responsáveis pelo desenvolvimento e pela gestão dos sistemas. Cabe à sua organização designar um responsável e dar acesso aos contratos.

Quem decide a classificação de risco

Cabe ao jurista ou ao departamento de compliance da sua organização; não prestamos aconselhamento jurídico. Para cada sistema, fornecemos os factos: para que serve, que dados utiliza, que cidadãos afeta e quem utiliza os seus resultados.

Comprar uma aplicação de IA, mandar desenvolvê-la ou desenvolvê-la internamente?

Comprar

Escolha esta opção se existir no mercado um produto que responda às necessidades do seu processo. Inclua no concurso a exigência de que o fornecedor disponibilize documentação, logging e condições para uma auditoria.

Mandar desenvolver

Escolha esta opção se o algoritmo tiver influência em decisões relativas aos residentes. O nosso conselho: defina no contrato que código, dados e documentação do modelo irá receber, para que possa explicar cada recomendação.

Desenvolver internamente

Escolha esta opção se a sua equipa de dados conseguir monitorizar e rever o modelo mesmo após a entrada em produção. Se faltar capacidade temporariamente, podemos destacar um MLOps engineer ou data scientist.

Consultoria e desenvolvimento com um só parceiro, com gestão após a entrada em produção

A Data Science Lab trabalha com dados e IA desde 2016. Enquanto Databricks Partner e Microsoft Partner, trabalhamos com clientes como a PostNL e o Zorginstituut Nederland. Podemos reunir-nos no seu escritório, no nosso em Amesterdão ou online.

Agende uma reunião de apresentação

Traga um algoritmo para a primeira reunião

Stef Stoelwinder

Stef Stoelwinder

Desenvolvimento de Negócio

Stef é o seu primeiro ponto de contacto. Na primeira conversa, discutimos um algoritmo ou uma ideia de IA: que decisão influencia, quem utiliza o resultado e o que já consta do registo e da DPIA.

A que algoritmo devemos dar atenção primeiro?

Descreva o algoritmo ou a ideia e a decisão que depende disso. Respondemos por email ou agendamos uma primeira conversa.

Introduza um endereço de e-mail válido.

Diga-nos como podemos ajudar.

Perguntas frequentes

O registo centra-se em algoritmos com impacto significativo, incluindo sistemas de IA de risco elevado. Abrange, pelo menos, algoritmos que contribuem para decisões sobre os direitos de uma pessoa, como uma multa ou um subsídio. A publicação ainda não é obrigatória por lei; o governo neerlandês anunciou essa obrigação em 2022, mas a lei ainda não foi aprovada.

O município de Den Haag, que usa um algoritmo para prever a afluência às assembleias de voto, inclui algoritmos que afetam o quotidiano dos residentes e acrescenta descrições duas vezes por ano. Pode definir quem mantém essas informações atualizadas através da governação de IA.

Não. A base de dados europeia prevista no Regulamento da IA inclui sistemas de risco elevado, e uma entidade pública que utilize um desses sistemas regista aí a sua utilização. A partir de 2 de dezembro de 2027, o artigo 26.º determina que uma entidade pública não utilize um sistema de risco elevado que não conste da base de dados e que informe o fornecedor desse facto. Aplicam-se regras próprias às infraestruturas críticas.

Segundo os seus responsáveis, o registo neerlandês continuará a existir, porque também inclui algoritmos mais simples e de menor risco.

O anexo III inclui, entre outros, sistemas usados pelas entidades públicas para avaliar se uma pessoa tem direito a prestações essenciais ou a serviços públicos. Devido ao pacote legislativo digital omnibus, as regras aplicáveis a estes sistemas de risco elevado só entram em vigor em 2 de dezembro de 2027. Antes de utilizar determinados sistemas de risco elevado, uma entidade pública terá então de realizar uma avaliação de impacto sobre os direitos fundamentais (FRIA).

O IAMA, publicado pelo Ministério do Interior e das Relações do Reino dos Países Baixos (BZK), foi alinhado com a FRIA em fevereiro de 2026. Cabe ao seu jurista determinar que obrigações se aplicam ao seu sistema. Reunimos todas as datas de entrada em vigor em O Regulamento da IA na prática.

Um colaborador que aceita todas as recomendações não está realmente a decidir. Nas suas orientações, a autoridade neerlandesa de proteção de dados identifica quatro fatores: pessoas, tecnologia e conceção, processo e governação. Importa prever tempo para analisar cada processo, uma explicação para cada recomendação e a autoridade para decidir de forma diferente.

O município de Den Haag estabelece que, quando um algoritmo envolve dados pessoais e tem consequências jurídicas, a decisão cabe sempre a um colaborador. Pode configurar a aplicação para registar os casos em que os responsáveis pelos processos se afastam das recomendações, permitindo demonstrá-lo. Incluímos isso na conceção. É assim que aplicamos a Responsible AI na prática.

Excluir características protegidas não basta: um modelo pode continuar a discriminar através de uma variável indireta, como um código postal. Compare, para cada grupo, a frequência com que o modelo seleciona pessoas e a frequência com que essa seleção se revela justificada, e verifique se os dados são representativos. Para isso, precisa de informações como a origem étnica, cujo tratamento só é permitido em circunstâncias limitadas ao abrigo do RGPD.

O Quadro de Referência para Algoritmos do BZK remete para o quadro de avaliação da definição de perfis de risco do Instituto Neerlandês dos Direitos Humanos. A autoridade neerlandesa de proteção de dados, sediada em Den Haag, pretende que a sua nova direção de supervisão da IA assegure que estes instrumentos são avaliados quanto à discriminação e à exatidão.

Comece pelas fontes: um chatbot só é tão bom quanto o conhecimento a que está ligado. Na PostNL, o Dex responde às perguntas dos colaboradores, permitindo que o serviço de apoio se concentre em questões mais complexas. As regras de transparência do Regulamento da IA aplicam-se desde 2 de agosto de 2026: quem fala com um chatbot deve ser informado disso, o mais tardar, no início da conversa.

Desde abril de 2025, existe uma posição comum a todas as entidades governamentais sobre a utilização de IA generativa, acompanhada de orientações para uma utilização responsável.

O Quadro de Referência para Algoritmos refere, entre outros pontos, os requisitos do caderno de encargos e os critérios de adjudicação, os acordos relativos a dados e artefactos, o direito a uma auditoria e um acordo de tratamento de dados caso estejam envolvidos dados pessoais. Determine também antecipadamente se o algoritmo tem uma influência decisiva numa decisão sobre pessoas.

Defina previamente os registos de atividade e a documentação necessários para preencher o registo e a FRIA.

Se o algoritmo for uma regra de cálculo fixa, prevista na lei ou na regulamentação, que qualquer pessoa pode verificar, bastam uma boa documentação e uma descrição no registo. Se a questão disser respeito a recursos, responsabilidade ou interpretação de uma disposição legal, deve ser colocada a um jurista. Os municípios que ainda estão a explorar onde a IA pode ser útil podem começar com um workshop de IA para municípios. Se, depois do aconselhamento, quiser mandar desenvolver um modelo preditivo, leia sobre a nossa consultora de data science em Den Haag. Se quiser mandar desenvolver uma aplicação e depois entregar a sua gestão, leia sobre a nossa consultora de IA em Den Haag. Se o objetivo for produzir relatórios, consulte a página do nosso especialista em Power BI em Den Haag. Saiba como descrever, publicar e manter os algoritmos atualizados na nossa página sobre o Registo de Algoritmos. Para prestadores de cuidados em lares e ao domicílio, escrevemos uma página sobre dados e IA nos cuidados a pessoas idosas.