João Miguel Mesquita
O primeiro-ministro do Reino Unido, Keir Starmer, afirmou esta semana que o Governo está a avaliar novas medidas para reforçar a proteção de crianças nas redes sociais, na sequência do escândalo internacional em torno do chatbot de inteligência artificial Grok, associado à empresa de Elon Musk. O caso reacendeu o debate sobre os limites da autorregulação tecnológica e a eficácia das leis existentes num contexto de rápida evolução da IA generativa.
Starmer reconheceu que “é preciso fazer mais” para proteger os menores online e garantiu que o Executivo britânico está a analisar um conjunto alargado de opções, sem excluir novas restrições ou enquadramentos legais adicionais. A declaração foi feita a jornalistas após a divulgação de que o Grok teria sido usado para produzir imagens sexuais não consentidas de pessoas reais, incluindo conteúdos envolvendo menores.
A empresa responsável pelo chatbot, a xAI, indicou na semana passada que introduziu alterações técnicas para impedir a edição de imagens de pessoas reais em contextos de nudez ou roupa reveladora, como fatos de banho. A empresa afirmou ainda ter bloqueado a geração deste tipo de imagens em determinados países onde a prática é considerada ilegal, embora não tenha identificado que jurisdições estão abrangidas por essas restrições.
O episódio surge num momento em que o Reino Unido acaba de reforçar o seu enquadramento legal nesta matéria. A nova legislação britânica passa a criminalizar não só a partilha, mas também a produção de imagens sexuais não consentidas, uma mudança relevante face ao regime anterior, que se focava sobretudo na distribuição deste tipo de conteúdos.
Para os decisores de tecnologia, o caso evidencia a crescente pressão regulatória sobre plataformas digitais e fornecedores de IA generativa. A combinação entre legislação mais exigente e expectativas públicas mais elevadas poderá obrigar as empresas a investir mais em salvaguardas técnicas e mecanismos de controlo, especialmente quando os seus serviços podem ser usados para criar ou manipular imagens de pessoas reais.
