Utilize LLMs para partilhar conhecimento na sua organização

Desde o aparecimento do ChatGPT, tornou-se impossível ignorar esta realidade: os ‘Large Language Models’* (LLMs) vieram para ficar. Várias empresas tecnológicas desenvolveram LLMs avançados. Entre os exemplos mais conhecidos estão o ChatGPT da OpenAI, o LLaMA da Meta e o laMDA da Google. Talvez esteja a pensar: ‘Tudo isto é muito interessante, mas como posso utilizá-los?’

Na prática, encontrar um caso de negócio adequado para aplicar soluções baseadas em LLMs é um grande desafio para muitas organizações e empresários. Neste artigo, explicamos por que razão pode valer a pena utilizar LLMs para partilhar conhecimento dentro da sua organização. Abordamos os desafios da gestão do conhecimento e o papel que os LLMs podem desempenhar.  

O que é a gestão do conhecimento?
A gestão do conhecimento consiste em armazenar, organizar, gerir e partilhar conhecimento dentro de uma organização. Contribui significativamente para o sucesso de uma organização: quando o conhecimento não é facilmente acessível, as consequências podem ser prejudiciais, porque se perde tempo valioso à procura de informação em vez de o dedicar às atividades principais. O sucesso da gestão do conhecimento depende não só das pessoas, mas também dos processos e da tecnologia. Foram desenvolvidos sistemas de gestão do conhecimento para simplificar os processos associados. Ainda assim, muitas organizações continuam a enfrentar desafios nesta área. Alguns dos mais comuns são:  

1. Silos de conhecimento fragmentados

Esta situação é-lhe familiar? Os diferentes departamentos da sua organização têm as suas próprias ferramentas e métodos para partilhar dados (pense no SharePoint, no Slack ou no Google Drive). São úteis dentro das equipas, mas dificultam a colaboração em toda a organização. Sem regras claras para organizar documentos, encontrar informação torna-se como procurar uma agulha num palheiro.
 

1. Informação de difícil acesso

À medida que a sua organização cresce e reúne mais informação, torna-se cada vez mais difícil para os colaboradores encontrarem aquilo de que precisam. Isto é especialmente problemático se o seu sistema de gestão do conhecimento assentar numa estrutura de pastas, como acontece no SharePoint.
 

1. Falta de adesão por parte dos colaboradores

Quando os sistemas de conhecimento são difíceis de usar, os colaboradores demoram mais a adotá-los. Isto leva à perda de conhecimento valioso e limita a capacidade da empresa para aprender e adaptar-se rapidamente.  

As LLMs vêm em socorro (?)
As LLMs também são conhecidas como modelos generativos e foram concebidas para gerar conteúdos com base nos dados que recebem. Embora as LLMs tradicionais sejam poderosas, têm limitações. Exigem muitos dados para serem treinadas, precisam de uma elevada capacidade de processamento e não conseguem responder a perguntas que dependam de um contexto para o qual não tenham sido ‘pré-treinadas’. Na prática, isto significa que uma LLM de uso geral, como o ChatGPT, provavelmente não consegue responder corretamente a perguntas específicas sobre os dados da sua empresa. Afinal, foi treinada com dados da Internet e, por isso, só conhece a informação publicamente disponível online. Pouco adianta perguntar ao ChatGPT qual foi o volume de negócios da sua empresa no ano passado: irá simplesmente encaminhá-lo para o seu departamento financeiro.  

Felizmente, no mundo da IA há sempre uma solução. Neste caso, é (não se assuste) ‘Retrieval Augmented Generation’, ou RAG. Vejamos o que significa cada termo: ‘Retrieval’ é ‘recuperar’, ‘Augmented’ é ‘acrescentar’ e ‘Generation’ é ‘produzir algo novo’. Os modelos de recuperação de informação não são novos. Foram concebidos para recuperar informação relevante de uma determinada base de conhecimento. Recorrem frequentemente a técnicas de pesquisa semântica para encontrar e ordenar a informação mais relevante para uma pesquisa. Mas, por si só, não conseguem gerar conteúdos criativos ou novos. O RAG responde a esta limitação ao combinar a capacidade generativa das LLMs tradicionais com a especificidade dos modelos de recuperação de informação. Para os dados da sua organização, o RAG poderia funcionar da seguinte forma:  

1. Com base numa pergunta sobre a sua organização, um modelo de recuperação obtém o contexto relevante da sua própria base de conhecimento
   
2. Uma LLM responde à pergunta com base no contexto recuperado, incluindo a indicação da respetiva fonte 

A utilização do RAG poderia oferecer uma solução eficaz para os desafios da gestão do conhecimento. Isto porque:  

• Ao ligar separadamente os diferentes sistemas de conhecimento ao modelo RAG, deixa de existir o problema dos silos de conhecimento fragmentados. Passa a haver um único portal de conhecimento onde os colaboradores podem obter informações da organização. 

• O problema da informação de difícil acesso, causado por estruturas de pastas profundas e complexas, desaparece com um método de pesquisa mais simples. Os colaboradores só precisam de introduzir uma pergunta ou pesquisa através de uma interface interativa. Assim, todos conseguem encontrar informação relevante com mais facilidade, mesmo à medida que a organização cresce e reúne mais dados. Isto contribui para uma disponibilização de informação mais eficiente. 

• Uma interação mais fácil de usar com os sistemas de gestão do conhecimento ajuda a reduzir a falta de adesão dos colaboradores.  

Conclusão
É um momento estimulante para as organizações que querem tirar partido do potencial dos LLMs
O surgimento destas novas tecnologias, com especial destaque para Retrieval Augmented Generation, oferece oportunidades interessantes para enfrentar desafios na gestão do conhecimento.