João Miguel Mesquita
Os assistentes Alexa for Shopping e Sparky conseguem detetar contradições entre a indicação de que um produto foi fabricado nos Estados Unidos e outras informações disponíveis no respetivo anúncio. Segundo um estudo do Centro de Direito e Economia da Universidade de Columbia, essa capacidade não está, contudo, a ser aplicada de forma sistemática para sinalizar alegações suspeitas.
A conclusão central é simples: os sistemas conseguem identificar o risco, mas as plataformas não estão obrigadas a transformá-lo num alerta para o consumidor.
As regras da Comissão Federal de Comércio dos Estados Unidos determinam que um produto apresentado como fabricado no país deve ser total ou quase totalmente produzido em território norte-americano. No ano passado, o regulador instou a Amazon e o Walmart a reforçarem o controlo sobre alegações feitas por vendedores terceiros.
O estudo mostra, porém, que os próprios assistentes associam a ausência de intervenção a razões comerciais e à menor exposição direta dos retalhistas perante o regulador. Esta resposta evidencia uma questão mais ampla: a inteligência artificial pode reconhecer um problema sem estar autorizada a agir sobre ele.
Para os responsáveis por governação de IA, o caso demonstra que a eficácia de um sistema não depende apenas da qualidade do modelo. Depende também dos objetivos definidos pela organização, das regras de escalamento, dos mecanismos de supervisão e da existência de responsabilidade clara quando o sistema identifica informação contraditória.
Nas plataformas digitais, esta tensão é particularmente relevante. Os assistentes de compras são apresentados como ferramentas de apoio ao utilizador, mas operam dentro de modelos de negócio orientados para aumentar transações. Sinalizar inconsistências pode proteger o consumidor, mas também criar fricção no processo de compra.
A questão deixa, assim, de ser o que a IA consegue detetar e passa a ser quem decide aquilo que ela deve revelar.
Para o procurement tecnológico, a principal implicação está na avaliação de fornecedores. Não basta verificar se uma solução utiliza inteligência artificial ou se consegue identificar fraude, erro ou incumprimento. É necessário perceber se os alertas são efetivamente ativados, quem controla os critérios, como são auditadas as decisões e que interesses podem limitar a resposta do sistema.
O caso demonstra ainda que a disponibilização de informação numa página de produto não equivale a um mecanismo ativo de validação. Entre mostrar dados e prevenir uma decisão baseada em informação potencialmente falsa existe uma diferença de governação, não apenas de tecnologia.
À medida que os assistentes digitais assumem maior influência na pesquisa e recomendação de produtos, as empresas terão de exigir maior transparência sobre os critérios que orientam as respostas. Sem regras claras, a IA pode tornar-se tecnicamente competente e comercialmente silenciosa.
Com infirmação Reuters
