MedAIVeritas - Inovação e Validação de IA na Medicina

O projeto MedAIVeritas tem como objetivo responder aos principais desafios-chave nos processos de validação de modelos de IA com vista ao cumprimento dos requisitos regulatórios para a aplicação de IA em Dispositivos Médicos na União Europeia. Desta forma, o projeto pretende mapear metodologias e investigar novos processos de validação de IA para o sector nacional, que promovam a competitividade e conhecimento das entidades nacionais neste sector económico de grande potencial nacional. O projecto incide na investigação de processos que visam responder às concretas necessidades industriais do setor, em particular: Transparência: Desenvolver processos baseados em metodologias que promovam a clareza e interpretabilidade dos modelos de IA, permitindo que profissionais de saúde, reguladores e pacientes compreendam as decisões algorítmicas. Confiabilidade: Processos capazes de garantir que os sistemas de IA sejam precisos e consistentes em variados cenários clínicos, minimizando o risco de erros. Segurança e Proteção: Processos de desenvolvimento e implementação que protejam sistemas de IA contra ciberameaças e garantam a segurança dos dados pessoais utilizados. Ética: Processos assentes em diretrizes capazes de assegurar que os modelos de IA operam de acordo com elevados padrões éticos, evitando preconceitos e promovendo a equidade. Privacidade: Processos capazes de assegurar a integridade e confidencialidade dos dados pessoais ao longo de todo o ciclo de vida dos sistemas de IA. Este projecto reúne um conjunto de empresas, instituições de ensino superior e centros de investigação líderes no desenvolvimento, implementação e regulamentação de modelos de IA num contexto prático, ambicionando assim projetar a excelência nacional neste sector a nível internacional. O MedAIVeritas é inovador ao colocar a investigação científica e tecnológica nesta área ao serviço do desenvolvimento de produtos de saúde, pretendendo dar resposta aos seus principais desafios tecnológicos, regulamentares, éticos e de segurança. Dando resposta aos desafios actuais da indústria, este projecto também capacita os seus parceiros como agentes de disseminação e adopção de processos que se pretendem capazes de equipar o sector em crescimento a nível global. Assim, o projeto assume-se como pioneiro no desenvolvimento de ferramentas práticas e aplicáveis em torno de novos processos de desenvolvimento, produção e implementação de soluções de IA como dispositivo médico. Os objectivos deste projecto passam pela criação de 5 processos testados e validados, cada um com foco numa das áreas regulamentares (Transparência, Confiabilidade, Segurança, Ética e Privacidade), que possam ser usados e adotados por fabricantes de modelos de ML na área da linguística (onde se inclui os LLM) e da imagem médica (onde se inclui a área do modelos de imagem). Este processos serão adicionalmente implementados no desenvolvimento de 2 novos produtos de automatização dos mesmos, um a ser incorporado na plataforma digital de gestão de conformidade de dispositivo médicos da Complear, e outro lançado pela Compliance Labs.