João Miguel Mesquita
Yuval Noah Harari, no seu artigo no Financial Times, lança um alerta urgente sobre o verdadeiro risco que a inteligência artificial (IA) representa para a sociedade moderna. Ao invés de se focar numa imagem clássica de uma “revolta das máquinas” — inspirada em filmes como Extreminador ou Matrix, o autor do best-seller Sapiens, argumenta que o perigo real da IA reside no seu papel como “burocratas digitais”. Neste sentido, Yuval sugere que um futuro distópico de IA se assemelha muito mais a “O Processo”, de Kafka, do que a um cenário de guerra robótica.
A distinção entre o medo fictício e a realidade da IA
Yuval enfatiza que o conceito de “robôs assassinos” domina o imaginário popular, mas que essa imagem está longe de se tornar uma ameaça real. A tecnologia atual é ainda limitada — trata-se de “idiotas prodigiosos”, ou seja, sistemas extremamente competentes em tarefas específicas (como jogar xadrez ou dobrar proteínas), mas incapazes de desenvolver inteligência geral ou autonomia completa. No entanto, segundo o filósofo, isso não significa que devemos ignorar os riscos. Pelo contrário, os “burocratas digitais” — sistemas de IA que operam dentro de estruturas burocráticas já estabelecidas — podem acumular poder sem nunca precisar “revoltar-se” no sentido tradicional.
O poder burocrático: da Mesopotâmia à Era Digital
Yuval revisita a história da burocracia, desde as primeiras tábuas de argila na antiga Mesopotâmia até aos sistemas complexos que regem a nossa sociedade contemporânea. Argumentando que, ao longo dos séculos, a burocracia mudou radicalmente o conceito de posse e autoridade, substituindo consensos comunitários por documentos legais que podiam ser manipulados por uma elite administrativa. Esse desenvolvimento burocrático, segundo o autor de Sapiens, moldou a forma como o poder é exercido — e agora, é precisamente este modelo que a IA está prestes a assumir, oferecendo eficiência e automação, mas também suscetível a problemas graves de transparência e responsabilidade.
Os burocratas digitais e o impacto na vida humana
A visão de Yuval sobre os “burocratas digitais” é inquietante: num futuro próximo, milhões de sistemas de IA poderão tomar decisões sobre aspetos essenciais da vida humana, como a concessão de crédito bancário, admissões universitárias, seleções de emprego e até sentenças judiciais. Para o autor o contrário dos seres humanos, a IA não têm intuição ou compaixão e operam exclusivamente com base em algoritmos e dados, podendo amplificar e automatizar erros e preconceitos. O filósofo exemplifica este problema com as redes sociais, onde os algoritmos de maximizam as reações emocionais dos utilizadores, promovendo discursos de ódio, teorias da conspiração e divisões sociais.
A comparação entre o editor humano do passado — uma figura influente que moldava a opinião pública — e os algoritmos de redes sociais que ocupam agora essa função é particularmente reveladora. Em tempos, figuras como Jean-Paul Marat e Vladimir Lenin usaram os media para influenciar mudanças sociais. Agora, algoritmos que maximizam o tempo de ecrã dos utilizadores desempenham esse papel, mas sem qualquer responsabilidade social ou sensibilidade às consequências. Esse poder concentrado e inconsciente é para Yuval um prenúncio do que a IA pode fazer dentro das estruturas burocráticas.
A “Revolução Silenciosa” da IA nas estruturas burocráticas
Um dos argumentos centrais de Yuval é que a IA não precisa de “subverter” o sistema de fora para exercer poder; basta operar dentro das estruturas já estabelecidas. As IA atuais são perfeitas para funcionar como “peças” de um sistema burocrático, onde decisões impessoais e baseadas em dados já prevalecem. Se a burocracia já é, por si só, complexa e despersonalizada, a IA, quando inserida nesses sistemas, pode amplificar essa característica até níveis perigosos. Yuval alerta que o verdadeiro problema reside na possível desumanização das decisões administrativas, onde a responsabilidade humana é substituída por linhas de código e modelos de machine learning.
Yuval Noah Harari deixa-nos com uma advertência urgente: a necessidade de desenvolver uma regulação robusta para os “burocratas digitais”. A IA argumenta o autor de Sapiens, pode trazer grandes avanços, mas se não for devidamente regulamentada, corre-se o risco de transformar a sociedade numa máquina impessoal e incontrolável, onde os cidadãos são apenas números num sistema de decisão algorítmica. Ao invés de se preocupar com uma rebelião futurista de robôs, o filósofo aconselha a atenção ao poder “silencioso” das IA no domínio administrativo.
Em Portugal, como noutros países da União Europeia, onde regulamentações como o AI Act estão a ser implementadas, é fundamental que este tipo de preocupações informem os processos de desenvolvimento e uso de IA. Yuval Noah Harari convida-nos a compreender os impactos da Inteligência Artificial nas estruturas de poder e a garantir que, à medida que avançamos, não sacrifiquemos a humanidade em prol da eficiência algorítmica.
