Responsible AI: dos princípios à prática

A inteligência artificial está a evoluir rapidamente. Surgem novos modelos quase todas as semanas, e cada vez mais organizações experimentam a IA. Ao mesmo tempo, coloca-se uma questão importante: como garantir que a IA não só acrescenta valor prático a uma organização, mas também é desenvolvida e utilizada de forma segura e responsável?  

Na prática, vemos muitas organizações confrontadas com as mesmas questões:  

• É permitido utilizar todos os dados para IA? 

• Como evitar que um modelo discrimine? 

• Como garantir que a IA cumpre a nova legislação, como o Regulamento da IA da UE e o RGPD/AVG? 

• Quem assume a responsabilidade se a IA cometer um erro? 

• Que dados são utilizados para treinar este sistema? 

Muitos projetos de IA começam com entusiasmo. As questões sobre riscos, conformidade e ética só surgem mais tarde. É muitas vezes aí que começam os problemas. 

Sem orientações claras, aumenta o risco de problemas jurídicos, podem surgir resultados pouco fiáveis e a confiança dos clientes pode ficar comprometida. Responsible AI não é, por isso, um conceito teórico, mas uma condição prática para as organizações que querem utilizar a IA de forma sustentável. 

Na Data Science Lab, traduzimos Responsible AI num enquadramento concreto assente em três princípios: responsabilidade ética, conformidade legal e segurança e fiabilidade técnicas. Juntos, estes princípios constituem a base de soluções de IA que têm impacto e são responsáveis.  

A nossa abordagem à Responsible AI 

Responsible AI é um termo abrangente que engloba vários temas. Entre eles estão o respeito pelos direitos humanos e o desenvolvimento de sistemas de IA seguros, fiáveis e explicáveis, mas também justos, inclusivos e concebidos tendo em conta a sustentabilidade.  

1. IA eticamente responsável

Os sistemas de IA têm impacto nas pessoas. Apoiam decisões, automatizam processos e ajudam a definir opções de política. É precisamente por isso que importa avaliar criticamente o impacto de uma solução de IA na sociedade.  

Por exemplo, analisamos a origem dos dados utilizados, investigamos se um modelo prejudica determinados grupos e garantimos que os resultados são explicáveis às partes interessadas. 

Dos princípios à prática 

Para responder a estas questões de forma sistemática, contamos com uma equipa de Responsible AI que funciona como grupo interno de consulta.  

Discutimos os possíveis riscos éticos logo na primeira fase do projeto. Além disso, promovemos a partilha de conhecimento na organização através de: 

• Workshops de Responsible AI 

•  Projetos internos de investigação 

• Desenvolvimento de soluções sustentáveis de IA 

Um exemplo é o nosso LessGPT, uma alternativa sustentável ao ChatGPT que consome menos energia, água e CO₂.  

2. IA em conformidade com a legislação 

Os sistemas de IA não têm apenas de ser eticamente responsáveis; também devem cumprir a legislação e a regulamentação.  

Na Europa, aplica-se o EU AI Act. Esta legislação estabelece requisitos para as organizações que desenvolvem ou utilizam sistemas de IA. As obrigações variam consoante o risco de uma aplicação de IA. 

Alguns exemplos de obrigações que podem aplicar-se às organizações (consoante o seu papel e os riscos do sistema’) são: 

• Como o sistema de IA é concebido e documentado (documentação técnica) 

• Garantir que os dados utilizados têm qualidade suficiente e que os enviesamentos são reduzidos tanto quanto possível 

• Identificar e mitigar sistematicamente os riscos (gestão de riscos) 

• Permitir a supervisão humana (supervisão humana) 

• Garantir que o sistema funciona de forma segura, robusta e precisa 

• Informar claramente os utilizadores sobre a utilização de IA (transparência)  

Dos princípios à prática 

Para avaliar os projetos de IA face a estes requisitos, desenvolvemos uma verificação interna de conformidade com o EU AI Act. Com esta verificação, avaliamos os novos projetos quanto a: 

• A categoria de risco do sistema de IA 

• Documentação obrigatória 

• Requisitos de transparência  

• Responsabilidades dos programadores. 

Assim, temos a regulamentação em conta desde o início.  

3. IA tecnicamente segura e fiável 

Além da ética e da legislação, a tecnologia também desempenha um papel crucial. Os sistemas de IA têm de funcionar de forma fiável e tratar os dados em segurança. Isso exige controlo sobre a infraestrutura e os modelos.  

Dos princípios à prática 

Nem todas as organizações querem partilhar dados sensíveis com plataformas públicas de IA. Por isso, quando necessário, executamos os modelos de IA na nossa própria infraestrutura de GPU. Assim, as organizações mantêm o controlo sobre os seus dados e cumprem mais facilmente os requisitos de segurança e conformidade. 

Responsible AI é um processo contínuo 

Responsible AI não é uma lista de verificação que se preenche uma única vez.  

A tecnologia de IA está em constante evolução. Novas aplicações trazem novos riscos e questões. Por isso, vemos Responsible AI como um processo contínuo de aprendizagem, avaliação e melhoria. Ao combinar princípios claros com formas de trabalho práticas, garantimos que as soluções de IA não só criam valor, como também são desenvolvidas de forma segura, transparente e responsável.   

As organizações que integram Responsible AI desde o início não se limitam a evitar riscos. Também conquistam mais rapidamente a confiança dos colaboradores, clientes e entidades reguladoras. É isso que faz de Responsible AI não uma mera obrigação a cumprir, mas uma parte importante de implementações de IA bem-sucedidas. 

Contacte-nos 
Quer saber como a sua organização pode utilizar IA de forma segura, responsável e em conformidade com a regulamentação? Teremos todo o gosto em conversar consigo. Numa conversa sem compromisso, identificamos as oportunidades, os riscos e os próximos passos para a sua organização.