João Miguel Mesquita
A IBM será chamada a responder, na próxima assembleia de acionistas, a uma proposta que exige maior transparência na forma como gere o enviesamento nos seus sistemas de inteligência artificial. A iniciativa coloca em evidência uma preocupação recorrente entre responsáveis de tecnologia, que há anos enfrentam desafios ligados à fiabilidade dos modelos, desde a qualidade dos dados de treino até à interpretação dos resultados.
A proposta solicita que a empresa publique, no prazo de um ano, um relatório detalhando os métodos utilizados para eliminar enviesamentos nos modelos de IA, incluindo uma avaliação do impacto dessas medidas na precisão e na confiança dos resultados. A questão central é saber até que ponto a tentativa de reduzir discriminações pode comprometer a utilidade prática dos sistemas.
A IBM recomenda aos acionistas que rejeitem a proposta, argumentando que já divulga informação relevante através de relatórios técnicos, documentação dos modelos e participação em iniciativas externas de avaliação. Entre estas, destaca-se o índice de transparência de modelos fundacionais da Universidade de Stanford, que analisa práticas de divulgação em áreas como fontes de dados, métodos de treino, métricas de avaliação e governação.
A empresa sustenta que a informação pedida já está amplamente disponível e que a elaboração de um novo relatório seria redundante e desviaria recursos internos, sem acrescentar valor significativo para os investidores. Além disso, sublinha que os seus modelos são disponibilizados em código aberto, o que, no seu entender, reforça a transparência.
Outro argumento central da IBM prende-se com o posicionamento dos seus produtos. Os modelos desenvolvidos são orientados para clientes empresariais e casos de uso específicos, permitindo ajustes finos por parte dos utilizadores para responder a preocupações concretas de enviesamento. Na prática, a empresa fornece ferramentas e base tecnológica, cabendo aos clientes adaptar os sistemas às suas necessidades operacionais.
Este ponto é, contudo, alvo de debate entre analistas. Embora reconheçam que a abordagem da IBM está alinhada com práticas do setor, vários especialistas consideram que existe uma tendência crescente para transferir a responsabilidade da mitigação de enviesamentos para os clientes empresariais. Essa dinâmica levanta questões sobre responsabilização, sobretudo num contexto em que faltam normas uniformes, auditorias independentes e métricas padronizadas.
O consenso entre analistas é que o enviesamento em IA não é exclusivo da IBM, mas um problema estrutural que afeta todo o setor, decorrente do facto de os modelos serem treinados com dados gerados por humanos, que refletem inevitavelmente padrões históricos e culturais.
A discussão vai além da tecnologia. Alguns especialistas sublinham que não existe uma definição universal de “ausência de enviesamento”, uma vez que diferentes intervenientes podem interpretar justiça e equilíbrio de formas distintas. Neste contexto, a eliminação total do problema é vista como irrealista, sendo mais plausível uma abordagem centrada na mitigação, monitorização contínua e transparência.
Vários especialistas defendem que eliminar completamente o enviesamento é impossível, recomendando antes mecanismos de supervisão humana e avaliação contínua dos sistemas, sobretudo em aplicações com impacto direto na vida das pessoas, como recrutamento ou concessão de crédito.
Acresce que parte do enviesamento pode surgir não apenas nos dados de treino, mas também na interação com os utilizadores, cujas próprias perspetivas influenciam as perguntas colocadas e a interpretação das respostas. Este fator torna ainda mais complexa qualquer tentativa de controlo absoluto ao nível do modelo.
Neste enquadramento, a posição da IBM é considerada tecnicamente consistente, mas insuficiente para alguns observadores, que defendem uma abordagem mais abrangente ao problema. À medida que os sistemas de IA evoluem de ferramentas de apoio para mecanismos de decisão autónoma, a forma como o enviesamento é gerido deverá assumir um papel cada vez mais central nas estratégias tecnológicas das empresas.
