João Miguel Mesquita
A ESET identificou uma nova modalidade de ataque cibernético, designada “AI-aided malvertising”, ou “Grokking”, que utiliza a inteligência artificial para manipular chatbots e distribuir campanhas de phishing e malware em larga escala. O caso mais recente ocorreu na plataforma X (anteriormente Twitter), onde o chatbot Grok foi involuntariamente transformado num difusor de conteúdo malicioso.
Segundo a empresa de cibersegurança, os criminosos exploraram o próprio sistema publicitário da rede social para contornar as restrições que impedem a divulgação de anúncios fraudulentos. Através de vídeos com conteúdo apelativo — conhecidos como clickbait —, os atacantes inseriram no pequeno campo “from” links que redirecionavam os utilizadores para páginas de phishing ou descargas de malware.
O passo seguinte foi solicitar ao chatbot Grok que identificasse a origem dos vídeos. O sistema de IA, ao analisar o conteúdo, repetia automaticamente o link incorporado, amplificando o alcance da fraude sem que os seus programadores tivessem consciência do abuso.
Uma nova fronteira da engenharia social digital
Esta técnica transforma o chatbot num agente malicioso indireto, explorando a confiança dos utilizadores em ferramentas de IA consideradas fidedignas. De acordo com os investigadores da ESET, as mensagens promovidas por este método podem atingir milhões de visualizações, além de beneficiarem de maior visibilidade nos motores de busca, uma vez que o Grok é percecionado como uma fonte de informação legítima.
Como resultado, os utilizadores podem ser encaminhados para páginas falsas destinadas ao roubo de credenciais ou para software com código malicioso. Foram já identificadas centenas de contas que reproduziam este padrão antes de serem suspensas.
O impacto desta ameaça, no entanto, não se limita à plataforma X. Especialistas advertem que qualquer serviço que integre modelos de linguagem generativa ou assistentes baseados em IA pode ser vulnerável a este tipo de manipulação.
Injeção de instruções: uma vulnerabilidade em crescimento
A ESET enquadra o incidente na categoria de ataques por “injeção de instruções” (prompt injection), em que comandos ocultos são inseridos no conteúdo processado por sistemas de IA. Estes comandos podem esconder-se em metadados, texto invisível ou código Unicode, levando o assistente digital a executar ações não previstas.
Um relatório recente da Gartner indica que 32% das organizações sofreram pelo menos uma tentativa de ataque deste tipo no último ano, confirmando a tendência de crescimento desta técnica entre os cibercriminosos.
