João Miguel Mesquita
As organizações de saúde vivem hoje sob uma pressão intensa para operacionalizar sistemas de inteligência artificial generativa, sobretudo em casos de uso ligados à documentação clínica em tempo real. As primeiras implementações em larga escala já mostram benefícios mensuráveis, com redução do esforço administrativo e menor carga cognitiva sobre os profissionais de saúde. O valor mais visível está na capacidade de captar conversas clínicas e transformá-las em registos estruturados, acelerando o fecho dos processos e reduzindo tarefas repetitivas.
Esse avanço, porém, trouxe para o centro da agenda um problema mais estrutural. Ao contrário de outros setores, a saúde não pode adotar uma lógica de “lançar primeiro e corrigir depois”. O tratamento de dados clínicos sensíveis e o impacto potencial sobre decisões médicas obrigam a que a introdução destas ferramentas seja acompanhada por uma revisão profunda dos modelos de governação, dos controlos de segurança e da infraestrutura tecnológica.
O princípio que se consolida é simples, mas decisivo. A IA pode apoiar a redação de notas clínicas, resumir processos ou sugerir respostas, mas a decisão final continua a pertencer ao profissional de saúde. A intervenção humana mantém-se como camada obrigatória de validação, não apenas por exigência regulatória, mas como mecanismo central de mitigação de risco clínico. Esta abordagem está a levar muitas organizações a classificar formalmente os casos de uso por impacto assistencial e por nível de automação, reservando escrutínio reforçado para cenários mais sensíveis.
A experiência dos primeiros projetos também deixou claro que sofisticação técnica não é sinónimo de utilidade clínica. Em vários casos, ferramentas capazes de produzir respostas extensas acabaram por introduzir ruído e aumentar a carga mental dos utilizadores, demonstrando que a usabilidade tem de evoluir em paralelo com a conformidade.
À medida que as implementações formais avançam, cresce um problema bem conhecido dos líderes tecnológicos, a experimentação fora dos canais autorizados. Mesmo quando existem plataformas empresariais aprovadas, os utilizadores tendem a procurar atalhos se perceberem ganhos imediatos de produtividade.
Na saúde, este risco é particularmente sensível porque a utilização de ferramentas de consumo pode expor informação clínica protegida sem intenção maliciosa. O problema central não está no incumprimento deliberado, mas no atrito operacional quando as ferramentas oficiais não acompanham o ritmo do trabalho clínico. Sempre que esse desfasamento surge, copiar e colar dados para serviços externos torna-se uma tentação real.
Por isso, a governação está a assumir uma dimensão mais comportamental. Em vez de depender apenas de bloqueios de rede, as organizações estão a combinar políticas, formação e alternativas empresariais seguras. O objetivo não é eliminar a experimentação, mas canalizá-la para ambientes controlados, onde os dados possam ser anonimizados e os resultados validados.
Esta mudança de abordagem reforça outra aprendizagem importante. A variabilidade das respostas dos grandes modelos linguísticos continua a ser um fator de risco material, sobretudo em contextos onde uma recomendação incorreta pode traduzir-se em dano clínico. Isso está a empurrar os programas de IA para modelos de validação contínua, maior transparência e treino específico das equipas clínicas.
Em paralelo com a integração no fluxo de trabalho, as equipas de segurança observam um agravamento da superfície de ameaça. A principal alteração não é necessariamente a sofisticação dos ataques, mas a velocidade com que passam a ser executados. A automação baseada em IA está a multiplicar tentativas de acesso indevido, campanhas de credenciais e exploração de terceiros.
Cada nova ferramenta clínica baseada em IA aumenta o perímetro de risco ao processar interações altamente sensíveis fora dos limites tradicionais dos sistemas clínicos centrais. Como resposta, as avaliações de fornecedores tornaram-se mais profundas, incluindo conformidade com referenciais reconhecidos, histórico de testes de intrusão, controlos de acesso e incidentes anteriores.
Por trás da camada de segurança existe ainda um problema mais profundo. Muitos ambientes tecnológicos da saúde não foram concebidos para a velocidade e fluidez exigidas pelos novos fluxos de trabalho de IA. Daí a crescente defesa de ambientes isolados de experimentação, com anonimização automática de dados e segmentação rigorosa entre produção e teste.
As provas de conceito assumem aqui um papel crítico. Quando são desenhadas sem visão de escala, podem criar dívida arquitetónica difícil de corrigir mais tarde. Os pilotos deixaram de ser apenas exercícios de inovação e passaram a ser ensaios estruturais da futura governação, identidade e monitorização em produção.
O resultado é um novo padrão operacional. Em vez de perseguir automação total, as organizações de saúde estão a avançar por fases, privilegiando sistemas assistidos, risco graduado e supervisão humana. Segurança, conformidade e arquitetura deixam de ser camadas adicionadas no fim e passam a funcionar como restrições de desenho.
Para os responsáveis de TI, a mensagem é inequívoca. O desafio já não está em decidir se a IA deve entrar no ecossistema clínico, mas em construir a pista que permita a sua expansão segura. Na saúde, a vantagem competitiva não estará em adotar primeiro, mas em escalar melhor.
