João Miguel Mesquita
A utilização empresarial da inteligência artificial está a avançar mais depressa do que os mecanismos criados para a controlar. Modelos alojados na cloud, ferramentas integradas nos navegadores, agentes autónomos, aplicações desenvolvidas internamente e serviços utilizados sem aprovação formal podem coexistir dentro da mesma organização, muitas vezes sem que as equipas de segurança disponham de uma visão consolidada sobre a sua presença ou funcionamento.
Perante estas necessidades das empresas a Qualys anunciou novas capacidades para a TotalAI, uma plataforma destinada a acompanhar os riscos associados à inteligência artificial desde as primeiras fases de desenvolvimento até à entrada em produção. A proposta procura reunir tarefas que, em muitas organizações, continuam distribuídas por diferentes ferramentas, equipas e processos, dificultando a criação de uma leitura coerente do risco.
A questão central deixou de ser apenas saber se uma aplicação de IA contém vulnerabilidades e passou a incluir a capacidade de localizar essa aplicação, compreender as suas ligações e provar que os controlos de segurança estão ativos.
Esta mudança é relevante para os CIO, CISO e responsáveis de compras tecnológicas porque amplia o perímetro tradicional da cibersegurança. Uma aplicação de IA não representa apenas mais um componente de software. Pode aceder a bases de dados, consultar serviços externos, executar ações através de outras ferramentas e produzir respostas com base em informação interna. Quando estas ligações não são devidamente identificadas, aumenta a dificuldade de avaliar o impacto de uma falha, de uma configuração incorreta ou de uma utilização indevida.
A TotalAI passa a procurar diferentes formas de inteligência artificial existentes nos ambientes empresariais, incluindo serviços utilizados sem supervisão das equipas de TI, prática habitualmente designada por IA na sombra. A plataforma abrange ainda modelos, agentes, contentores, serviços na cloud, aplicações executadas no navegador e servidores baseados no protocolo MCP.
O MCP, ou Model Context Protocol, permite que modelos e agentes de IA comuniquem com ferramentas e fontes de informação externas. Na prática, pode funcionar como uma camada de ligação entre um assistente inteligente e sistemas empresariais, bases de dados ou aplicações. Esta capacidade aumenta a utilidade dos agentes, mas também cria novos pontos de exposição, sobretudo quando não existe controlo sobre as ferramentas que podem invocar ou sobre os dados aos quais conseguem aceder.
A proposta da Qualys inclui a visualização das chamadas realizadas pelos agentes através deste protocolo e a possibilidade de limitar o respetivo alcance. O objetivo é permitir que as equipas de segurança identifiquem não apenas a existência de um agente, mas também aquilo que este pode fazer dentro da infraestrutura tecnológica.
A plataforma utiliza igualmente instrumentação eBPF ao nível do núcleo do sistema operativo. Esta tecnologia permite observar a atividade das cargas de trabalho diretamente nos servidores, procurando revelar processos relacionados com IA que podem não aparecer nos scanners convencionais ou nos registos das aplicações. Para os responsáveis de segurança, esta abordagem pretende reduzir zonas invisíveis em ambientes onde diferentes componentes são instalados ou executados de forma dinâmica.
A visibilidade proposta não se limita a criar um inventário de modelos, procurando também mostrar como os agentes interagem com ferramentas, servidores e dados empresariais.
A capacidade de inventariar é apenas uma parte do problema. As organizações necessitam igualmente de classificar a criticidade dos sistemas, reunir provas para auditorias e estabelecer prioridades de correção. A TotalAI integra estas tarefas numa vertente de governação, risco e conformidade, associando os ativos de IA identificados aos respetivos riscos e controlos.
Esta componente ganha importância à medida que surgem requisitos regulamentares específicos para a utilização segura da inteligência artificial nos Estados Unidos e na União Europeia. Para as empresas, o cumprimento não dependerá apenas da existência formal de políticas internas. Será necessário apresentar evidências sobre os sistemas utilizados, os riscos avaliados, as medidas aplicadas e os processos de acompanhamento.
A promessa de uma plataforma unificada deverá, contudo, ser analisada à luz da realidade operacional de cada organização. Centralizar informação pode simplificar auditorias e reduzir a fragmentação, mas não elimina a necessidade de definir responsabilidades claras entre equipas de segurança, desenvolvimento, dados, risco e conformidade. A tecnologia pode mostrar onde existe IA e sinalizar exposições, mas a decisão sobre o que é aceitável continua a depender da governação interna.
Outra das capacidades anunciadas é a deslocação dos controlos para as fases iniciais do desenvolvimento, abordagem conhecida como shift left. Em vez de esperar que uma aplicação esteja operacional para procurar problemas, a plataforma analisa código e pipelines de desenvolvimento, procurando vulnerabilidades, configurações incorretas e possíveis exposições de dados antes da entrada em produção.
Esta antecipação pode reduzir o custo e a complexidade das correções. Uma falha descoberta durante o desenvolvimento tende a ser mais simples de resolver do que um problema identificado depois de a aplicação já estar ligada a utilizadores, dados e processos empresariais. A TotalAI inclui ainda testes aos modelos para avaliar a sua reação a ataques ou a pedidos concebidos para gerar resultados inseguros.
A segurança da IA começa, assim, a deslocar-se de verificações realizadas no final do projeto para um controlo contínuo que acompanha o código, os modelos e a infraestrutura.
Na componente de testes de penetração, a plataforma procura simular técnicas utilizadas para manipular grandes modelos de linguagem e servidores MCP. Entre os cenários referidos encontram-se a injeção de instruções maliciosas nos pedidos enviados ao modelo, as tentativas de ultrapassar as suas restrições e a manipulação das ferramentas disponibilizadas aos agentes.
A análise abrange igualmente ataques em que um servidor é induzido a aceder a recursos internos ou externos que não deveriam estar disponíveis, bem como alterações maliciosas em ferramentas inicialmente consideradas legítimas. Os testes são alinhados com referências como a OWASP LLM Top 10 e com os requisitos da legislação europeia sobre inteligência artificial.
Ao analisar os próprios servidores MCP, e não apenas os mecanismos que controlam o acesso ao protocolo, a Qualys procura alargar a avaliação a uma camada que poderá tornar-se relevante à medida que os agentes assumem mais funções nos processos empresariais. Quanto maior for a autonomia concedida a estes sistemas, maior será a necessidade de verificar não só quem pode utilizá-los, mas também que ações podem executar e através de que componentes.
A TotalAI é desenvolvida sobre a plataforma Enterprise TruRisk, que já concentra mecanismos de avaliação e priorização de risco. A integração procura transformar a segurança da IA num processo contínuo, em vez de depender de avaliações periódicas que podem ficar rapidamente desatualizadas perante a velocidade com que novos modelos, agentes e integrações são introduzidos.
Para os decisores tecnológicos, a proposta traduz uma tendência mais ampla na gestão da inteligência artificial empresarial. A compra de ferramentas de IA começa a exigir uma avaliação semelhante à aplicada a outras infraestruturas críticas, mas com questões adicionais relacionadas com o comportamento dos modelos, a circulação de dados e a autonomia dos agentes.
O valor destas plataformas será medido não apenas pela quantidade de riscos que conseguem detetar, mas pela capacidade de transformar essa informação em prioridades compreensíveis, ações verificáveis e provas utilizáveis em auditoria.
A consolidação pode reduzir a dependência de ferramentas isoladas e facilitar a supervisão, mas também aumenta a importância da integração com os processos existentes. Uma plataforma deste tipo só terá impacto se os resultados forem incorporados nas decisões de desenvolvimento, nas políticas de acesso, na gestão de fornecedores e nos mecanismos de resposta a incidentes.
A evolução da segurança da IA entra, deste modo, numa fase em que descobrir falhas já não é suficiente. As organizações terão de conhecer o seu património tecnológico, acompanhar as ligações criadas pelos agentes e demonstrar que os controlos permanecem eficazes ao longo do tempo. A proposta da TotalAI procura ocupar esse espaço, juntando visibilidade, testes, governação e conformidade numa mesma estrutura operacional.
