João Miguel Mesquita
A sessão decorreu na segunda-feira, 15 de dezembro, na sede da Comissão Europeia, e teve como objetivo analisar de que forma os compromissos do AI Pact estão a ser concretizados no desenvolvimento e na adoção de sistemas de Inteligência Artificial em contextos reais, sobretudo em ambientes regulatórios exigentes.
A Starkdata foi uma das cinco organizações selecionadas para participar na sessão, a par de empresas como a OpenAI, Securitas, Dedalus e Cohere. O convite partiu da Comissão Europeia no âmbito das iniciativas que assinalam um ano desde o lançamento do AI Pact, focadas na aplicação prática dos requisitos regulamentares em sistemas de IA.
A intervenção da startup portuguesa centrou-se na experiência resultante da utilização do seu framework proprietário de Compliance e Governança em IA, aplicado a cenários considerados de alto risco. Foram partilhadas observações concretas sobre risco sistémico em sistemas de IA, mecanismos de supervisão contínua, requisitos de explicabilidade e controlos operacionais testados em contextos reais de utilização. O objetivo foi demonstrar como as exigências regulamentares podem ser traduzidas em práticas operacionais ao nível dos sistemas.
Na sessão, foi sublinhada a importância de integrar a governança e o compliance desde as fases iniciais do desenvolvimento de soluções de IA. A Starkdata defendeu que o compliance em IA não deve ser tratado como um exercício retroativo, mas incorporado no desenho e na operação dos sistemas, sobretudo quando estes são utilizados em setores altamente regulados.
A empresa aplica estes standards de compliance tanto nos projetos desenvolvidos para clientes como na própria arquitetura da sua plataforma de Enterprise AI. A plataforma integra uma solução de compliance que permite às organizações automatizar avaliações e processos de governança, assegurando supervisão consistente, documentação adequada e alinhamento regulamentar ao longo de todo o ciclo de vida dos sistemas de IA. Esta abordagem é direcionada, em particular, a setores como a saúde e os serviços financeiros, onde os requisitos regulatórios são mais exigentes.
