João Miguel MesquitaO debate sobre segurança na inteligência artificial ganhou nova intensidade com a proliferação dos grandes modelos de linguagem, conhecidos como LLM. Estes sistemas conseguem gerar texto, código ou imagens com elevada qualidade, mas também podem produzir respostas problemáticas ou inadequadas. Uma das principais preocupações da indústria é o risco de um modelo gerar conteúdos perigosos, como incitação ao ódio, instruções ilegais ou informação sensível.
Para lidar com este cenário, vários grupos de investigação começaram a desenvolver modelos cuja função principal é vigiar outros sistemas de IA. Em vez de responder diretamente ao utilizador, estas ferramentas analisam as interações e avaliam se o comportamento do modelo principal se mantém dentro de limites aceitáveis. Na prática, trata-se de usar um modelo de IA como mecanismo de proteção para controlar outro modelo.
Entre os exemplos mais conhecidos está o LlamaGuard, desenvolvido no âmbito da iniciativa PurpleLlama da Meta. O sistema foi treinado com exemplos de utilizações abusivas para identificar interações potencialmente problemáticas. Algumas versões conseguem classificar conteúdos associados a violência, discurso de ódio ou automutilação em várias línguas, enquanto outras se concentram em riscos ligados à execução de código, como ataques de negação de serviço ou tentativas de escapar a ambientes isolados.
A IBM seguiu uma abordagem semelhante com o Granite Guardian. O modelo atua como filtro em fluxos de trabalho baseados em IA e analisa diferentes tipos de risco. O sistema verifica pedidos que possam gerar conteúdos indesejados, deteta tentativas de contornar as regras do modelo e avalia a qualidade de documentos externos usados em processos de geração de respostas. Estas ferramentas procuram introduzir uma camada adicional de governação nas aplicações empresariais baseadas em inteligência artificial.
Outros projetos procuram resolver o problema através de princípios éticos integrados no próprio modelo. A Anthropic, por exemplo, desenvolveu as diferentes versões do Claude com base num conjunto de regras internas designado “constituição”. Este conjunto de orientações inclui restrições claras para atividades perigosas e princípios mais gerais sobre comportamento responsável, como honestidade ou prudência nas respostas.
Existem ainda sistemas focados em ameaças específicas. O WildGuard, criado pelo Allen Institute for AI, foi treinado para detetar intenções maliciosas em pedidos feitos ao modelo. O PIGuard concentra-se em ataques de injeção de prompts, uma técnica em que instruções ocultas tentam manipular o comportamento do sistema. Já o PIIGuard foi concebido para identificar dados pessoais em fluxos de texto e impedir que um modelo divulgue inadvertidamente informações como moradas ou datas de nascimento.
Também grandes fornecedores tecnológicos começaram a introduzir mecanismos semelhantes nas suas plataformas. O Google lançou a família ShieldGemma para classificar e bloquear conteúdos problemáticos em texto e imagem, enquanto a Nvidia integrou um sistema de verificação de segurança no seu conjunto de modelos Nemotron e no ambiente NeMo Guardrails, que permite aos programadores definir regras adicionais de comportamento.
Modelos com menos restrições ganham espaço
Apesar do foco crescente na segurança, existe um movimento paralelo entre investigadores e programadores que defendem modelos menos restritivos. A ideia é que limitações demasiado rígidas podem impedir a exploração de novos casos de uso ou dificultar tarefas de investigação.
Alguns programadores optam por remover ou reduzir deliberadamente os mecanismos de controlo para permitir respostas mais diretas e menos filtradas. É o caso dos modelos Dolphin, criados pela equipa da Cognitive Computations, que eliminam restrições existentes em modelos de código aberto e voltam a treiná-los para responder a qualquer tipo de pergunta.
A Nous Research segue uma lógica semelhante com os modelos Hermes, desenhados para serem mais “dirigíveis”. Estes sistemas utilizam conjuntos de exemplos sintéticos para privilegiar utilidade e raciocínio livre, produzindo respostas mais diretas e com menos recusas.
Outros projetos concentram-se em aplicações muito específicas. O modelo Flux.1 foi desenvolvido para gerar imagens seguindo instruções com grande fidelidade, podendo ser ajustado para diferentes estilos visuais. Já o Cydonia e o Midnight Rose foram concebidos para experiências de narrativa interativa e jogos de interpretação, com respostas longas e sem censura para explorar enredos ficcionais.
Há ainda ferramentas criadas para investigadores de segurança que precisam de testar vulnerabilidades. O Pingu Unleashed, da Audn.ai, foi treinado com exemplos de pedidos que normalmente seriam recusados por modelos comerciais. O objetivo é gerar cenários de teste em áreas como spear-phishing ou engenharia reversa, mantendo registos de auditoria e acesso controlado.
Uma terceira abordagem consiste em alterar diretamente modelos existentes para remover as camadas de proteção. A técnica é conhecida como “abliteração”, uma combinação de ablação e destruição, e consiste em identificar os componentes responsáveis por limitar determinadas respostas e neutralizá-los.
Alguns laboratórios afirmam que modelos modificados desta forma conseguem, em certos casos, superar as versões originais em determinadas tarefas. Um dos exemplos mais citados nesta categoria é o Grok, desenvolvido no ecossistema da X. A equipa responsável privilegia a correção factual e a capacidade de investigação do modelo, em vez de impor restrições extensas ao conteúdo gerado.
O resultado é um panorama tecnológico marcado por duas correntes opostas. De um lado, organizações que investem em sistemas de controlo cada vez mais sofisticados para reduzir riscos. Do outro, investigadores e programadores que defendem modelos mais livres para explorar o potencial da inteligência artificial.
Para as empresas que adotam estas tecnologias, a escolha depende sobretudo do contexto de utilização. Aplicações e serviços públicos tendem a exigir mecanismos robustos de controlo e auditoria. Em ambientes de investigação ou desenvolvimento experimental, modelos menos restritivos podem oferecer maior flexibilidade.
Com informação Computerworld
