Digital Inside
A Veeam Software apresentou o Data and AI Trust Maturity Model, um quadro de trabalho destinado a permitir que as empresas avaliem e melhorem a governança da IA. Esta ferramenta surge num momento em que esta tecnologia está a passar de um mero assistente para se tornar um agente autónomo capaz de tomar decisões sobre a informação corporativa a grande velocidade e sem intervenção humana.
Apesar da rápida adoção destes sistemas no tecido empresarial, os estudos demonstram que existe uma lacuna significativa entre a implementação técnica e os controlos necessários para a sua supervisão. De acordo com uma análise elaborada pelo Emerald Research Group, a maioria das empresas acelerou a implementação destas ferramentas sem estabelecer previamente as bases de dados e as estruturas de identidade necessárias para justificar as ações automatizadas perante os auditores ou os conselhos de administração.
A investigação revela que 7 em cada 10 empresas já integram a IA nas suas operações diárias, lidando com informações sensíveis dos clientes. Embora uma elevada percentagem de gestores confie na capacidade de ampliar a utilização desta tecnologia de forma segura nos próximos anos, quase metade admite que esta perceção se baseia mais na intuição do que em provas demonstráveis. Esta falta de maturidade operacional fez com que, no último ano e meio, mais de metade das organizações tivesse de reduzir as suas iniciativas neste domínio, enfrentando graves atrasos ou mesmo paralisando completamente os seus projetos.
Os principais obstáculos que travam este avanço no mercado são de natureza organizacional e operacional. Os responsáveis pela tecnologia enfrentam uma falta de conhecimentos específicos em aprendizagem automática, dificuldades em integrar as novas ferramentas nos fluxos de trabalho existentes, incerteza em torno da regulamentação aplicável, problemas com a qualidade da informação original e dúvidas sobre como explicar de forma lógica as decisões tomadas pelos algoritmos. Como resultado destas lacunas, embora a imensa maioria das empresas disponha de políticas teóricas de governação, apenas um terço é capaz de apresentar provas de auditoria exaustivas de forma imediata quando tal é solicitado.
Da direção da empresa, Anand Eswaran, CEO da Veeam, afirma: “A confiança na IA é elevada, mas esta, por si só, não garante o sucesso. A nossa investigação mostra que, embora a maioria das organizações acredite estar preparada para escalar a IA de forma segura e responsável, muitas têm dificuldades em demonstrar essa preparação perante um conselho de administração, em auditorias ou perante organismos reguladores. O Data and AI Trust Maturity Model proporciona aos líderes uma forma clara e objetiva de compreender a sua situação, identificar lacunas na execução e priorizar as capacidades necessárias para pôr em prática a confiança na IA, em vez de simplesmente aspirar a ela. Isto é fundamental num mundo impulsionado por agentes”.
Para resolver esta situação de incerteza, o novo modelo avalia a maturidade das organizações através de 12 dimensões, classificando o progresso técnico em 5 etapas evolutivas que vão desde a improvisação até ao controlo absoluto. Especialistas do setor da análise tecnológica alertam que o sucesso destas implementações depende intrinsecamente da solidez da base de dados, uma área onde as empresas apresentam graves vulnerabilidades atualmente. Apesar da elevada taxa de implementação nos escritórios, uma minoria das empresas realiza cópias de segurança da informação gerada pela inteligência artificial. Facilitando que os atacantes externos vulnerem diretamente a camada de dados através de técnicas de manipulação ou extração ilícita.
Para combater estes riscos, o quadro de trabalho estrutura a fiabilidade tecnológica na compreensão total, na proteção, na resiliência operacional e na disponibilidade da informação. Em primeiro lugar, o sistema procura a visibilidade absoluta do contexto e a rastreabilidade dos ativos digitais para conhecer os seus riscos. Em segundo lugar, centra-se em garantir os controlos de identidade, acesso e privacidade. O terceiro pilar garante a continuidade dos serviços críticos através de cópias de segurança face a possíveis falhas do sistema. Por último, assegura o acesso a dados fiáveis para continuar a desenvolver estas ferramentas de forma ética e responsável.
A aplicação prática deste modelo no ambiente corporativo é realizada através de um serviço de consultoria especializada que fornece aos gestores uma pontuação de maturidade e um roteiro priorizado para facilitar a supervisão regulamentar, comparando ainda a situação tecnológica da empresa com outras corporações do mesmo setor para estabelecer um contexto de mercado baseado em factos reais.
