Digital Inside
A adoção corporativa de agentes de inteligência artificial autónomos para executar fluxos de trabalho, redigir e-mails ou aceder a sistemas internos gerou novos vetores de vulnerabilidade. Uma investigação recente da Acuvity, adquirida pela Proofpoint, aponta que sete em cada dez organizações carecem de uma governação otimizada para estas tecnologias, enquanto metade antecipa sofrer perdas de dados relacionadas com a sua utilização durante o próximo ano. Ameaças como a escalada de privilégios por parte dos agentes ou os ataques de injeção de instruções sem interação prévia do utilizador criam um cenário em que uma única solicitação pode desencadear múltiplas ações a grande velocidade e sem supervisão humana.
Perante este panorama, as ferramentas tradicionais de segurança perimetral revelam-se insuficientes, uma vez que se limitam a supervisionar o tráfego e as permissões de acesso, mas carecem de visibilidade sobre o conteúdo semântico das interações. Sumit Dhawan, diretor da Proofpoint, declara: “Os humanos e os agentes de IA partilham riscos semelhantes: ambos podem ser manipulados e realizar ações que se desviam do propósito previsto. No entanto, a segurança tradicional nunca foi concebida para validar a intenção. A Proofpoint posiciona-se de forma única como uma plataforma de cibersegurança unificada, construída para proteger as pessoas, defender os dados e governar os agentes de IA em conjunto, proporcionando uma verificação contínua e baseada na intenção, que garante que o comportamento está alinhado com a política e a intenção no espaço de trabalho agêntico”.
Para colmatar esta lacuna técnica, a empresa de cibersegurança lançou a nível global a Proofpoint AI Security. Uma plataforma que avalia continuamente se o comportamento da IA está em conformidade com as políticas estabelecidas e com o objetivo inicial da solicitação. Ao analisar o contexto semântico em tempo real, o sistema é capaz de identificar e bloquear ações de alto risco ou comunicações não conformes antes que ocorra uma violação operacional.
A arquitetura desta solução opera de forma transversal em todos os pontos de contacto onde estes sistemas interagem. Abrangendo desde os equipamentos dos utilizadores finais e as extensões dos navegadores até às ligações do Protocolo de Contexto de Modelos (MCP), algo especialmente crítico em ambientes de desenvolvimento de software. Através destes pontos de controlo, os administradores de sistemas podem identificar as ferramentas que operam na rede corporativa, monitorizar os fluxos de dados e implementar inspeções em tempo de execução. A plataforma permite estabelecer barreiras de acesso de forma direta e aplicar as normas da empresa durante a utilização fluida de programas como o ChatGPT, o Ollama ou o OpenClaw, tanto por parte de humanos como de sistemas automatizados.
Padronização da integridade operacional
Paralelamente à solução técnica, a Proofpoint introduziu o Quadro de Integridade de Agentes, um guia estruturado que fornece um modelo de maturidade de cinco fases para padronizar o comportamento e a adoção segura de sistemas autónomos. Os responsáveis pela estratégia de cibersegurança da empresa enfatizam que os agentes artificiais devem estar sujeitos aos mesmos padrões de integridade exigidos aos funcionários humanos na utilização dos recursos corporativos, abrangendo desde a fase de descoberta inicial das ferramentas até à aplicação definitiva das políticas de controlo.
Ryan Kalember, vice-presidente executivo de estratégia de cibersegurança na Proofpoint, salienta: “A Integridade do Agente significa garantir que os agentes de IA ajam dentro dos limites da sua finalidade prevista, das permissões autorizadas e do comportamento esperado em cada interação, chamada à ferramenta e acesso aos dados. Com o Proofpoint AI Security e o Quadro de Integridade dos Agentes, podemos fornecer um plano claro para ajudar as empresas a abordar de forma abrangente todo o espectro de riscos que surgem quando os agentes de IA operam de forma autónoma nos sistemas empresariais”.
A arquitetura conceptual deste quadro assenta em cinco pilares fundamentais que garantem que a tecnologia atue sempre dentro dos limites da sua finalidade e das permissões de acesso aos dados. Estes princípios incluem o alinhamento das intenções, a identidade e atribuição das ações, a consistência do comportamento, a capacidade de auditoria e a transparência das operações. O seu design visa facilitar às empresas a adoção de medidas de governança eficazes sem as obrigar a reestruturar as suas arquiteturas de segurança pré-existentes.
