Digital Inside
O podcast “Se a IA fosse Deus não havia Fé” apresenta-se como um espaço de análise sobre inteligência artificial dirigido a líderes, empresários e responsáveis de tecnologia e compliance. Em cada episódio, João Miguel Mesquita e Elsa Veloso recebem um convidado para discutir o impacto da IA na liderança, nas empresas e na sociedade, procurando uma abordagem técnica, jurídica e ética, sem afastar a perspetiva prática de quem tem de tomar decisões no dia a dia.
Neste episódio de estreia, o convidado é Pedro Vale Gonçalves, um especialista em privacidade, proteção de dados, compliance, governance e gestão de risco, com intervenção regular em debates europeus sobre o enquadramento jurídico da inteligência artificial. O primeiro programa centra-se na questão de como os líderes devem posicionar-se perante a adoção de sistemas de IA, numa fase em que a tecnologia avança mais depressa do que a literacia e a regulação nas empresas.
Um dos pontos sublinhados é a necessidade de começar pela estratégia e não pela ferramenta. Ao discutir o que deve preocupar hoje um líder perante a IA, Pedro Vale Gonçalves chama a atenção para a ideia de escolha: antes de selecionar plataformas e modelos, os responsáveis devem clarificar qual é o objetivo de negócio, que processos querem transformar e que resultados pretendem alcançar. Só depois dessa definição é que faz sentido olhar para soluções concretas. Os intervenientes alertam que muitos líderes estão a seguir uma lógica de “manada”, adotando sistemas generativos apenas porque estão na moda, sem compreenderem o seu funcionamento, os riscos associados e a sua verdadeira relevância para a estratégia da organização.
A conversa aborda também a forma como a oferta tecnológica está a ser moldada pelas grandes empresas globais de software e serviços de cloud. O painel assinala que alguns grandes fornecedores procuram associar a sua própria marca ao conceito genérico de inteligência artificial, gerando confusão no mercado. Na prática, soluções de produtividade, colaboração ou cloud passam a incorporar funcionalidades de IA que são empurradas para as organizações através de contratos de licenciamento existentes, reforçando fenómenos de bundling e dependência tecnológica. Segundo os participantes, esta dinâmica faz com que muitas empresas acabem reféns de subscrições de longa duração, com custos significativos, para acederem ao “pacote completo” de funcionalidades de IA, sem uma avaliação estratégica independente.
Em paralelo, o episódio discute o desfasamento entre a força comercial destes grandes grupos e a capacidade de resposta europeia em termos de soluções tecnológicas próprias. É referida a existência de iniciativas de investigação na Europa, incluindo um esforço que resultou numa carta aberta à Comissão Europeia a defender a criação de um “porto seguro” para treino de grandes modelos de linguagem, desde que respeitadas as normas de privacidade e de direitos de autor. Coloca-se a questão de saber se a Europa deve tentar competir diretamente com os grandes modelos generalistas norte-americanos e chineses ou, em alternativa, apostar em nichos setoriais e modelos mais especializados por indústria.
O enquadramento regulatório europeu é outro dos eixos centrais da discussão. Os participantes recordam que o EU AI Act foi publicado a 13 de junho de 2024, com uma primeira fase em vigor desde 1 de agosto de 2024, e sublinham que, desde 2 de fevereiro de 2025, passou a existir uma obrigação de capacitação em literacia de inteligência artificial para as empresas. Esta literacia implica não apenas saber usar ferramentas, mas também compreender conceitos como algoritmos, autonomia dos sistemas, supervisão humana e produção de outputs. A mensagem para os decisores é que a conformidade com a lei europeia sobre IA não se esgota em políticas formais: exige formação estruturada das equipas e integração da IA na gestão de risco, na privacidade, na segurança da informação e no copyright.
Ao longo da conversa, há um destaque particular para a dimensão ética e para os riscos que acompanham a utilização de IA nas empresas. Entre os riscos apontados surgem a opacidade dos sistemas, o envenenamento de dados, as deepfakes, as alucinações, as fugas de informação, os vieses nos dados históricos e a criação de “filter bubbles” que condicionam a visão dos utilizadores. Os participantes defendem que estes problemas não podem ser tratados apenas no plano teórico. As empresas são encorajadas a operacionalizar a ética da IA, o que implica avaliar a qualidade e o enviesamento dos dados, definir mecanismos de supervisão dos outputs, estabelecer limites para a disseminação de conteúdos manipulados e integrar estes temas na formação e nos processos internos.
No campo jurídico, o diálogo sublinha a continuidade entre o Regulamento Geral de Proteção de Dados e o novo enquadramento para a IA. É defendido que a Europa conseguiu posicionar-se a nível global como referência na defesa dos direitos das pessoas e que o AI Act pretende seguir a mesma linha, protegendo direitos fundamentais, segurança e propriedade intelectual, sem bloquear a inovação. Os intervenientes consideram que o desafio está em simplificar e operacionalizar as regras, garantindo que o quadro regulatório europeu é um fator de diferenciação e confiança, e não apenas um custo adicional para as organizações.
A conversa aborda ainda a tensão entre a busca de resultados de curto prazo e a preservação de valores como a privacidade, a segurança e a propriedade intelectual. É apontado que, num contexto em que a produção industrial foi deslocalizada, o capital intelectual se tornou o principal ativo de muitos profissionais e empresas europeias. Os participantes alertam que, se o conhecimento produzido na Europa for absorvido sem proteção por grandes plataformas tecnológicas externas, existe o risco de perda de valor económico local e de maior dependência de licenças e serviços de terceiros.
Apesar das preocupações, o episódio termina com uma nota de pragmatismo e de oportunidade. São referidos exemplos de utilização de IA em áreas como saúde, energia, alimentação, automação e robótica, com impactos considerados positivos na eficiência e na tomada de decisão, incluindo na investigação oncológica e na gestão de recursos energéticos. A ideia transmitida é que a Europa não pode ficar para trás no aproveitamento destes benefícios, devendo investir simultaneamente em literacia, ética, regulação e casos de uso concretos que gerem valor mensurável para as empresas e para a sociedade.
A conversa encerra com uma sugestão musical de Pedro Vale Gonçalves:
O primeiro episódio do “Se a IA fosse Deus não havia Fé” funciona como um alerta para a necessidade de combinar estratégia, conhecimento técnico, literacia jurídica e critérios éticos em qualquer projeto de IA que venha a ser adotado nas organizações.
