CNPD participa na Conferência sobre Inteligência Artificial e Proteção de Dados

A Comissão Nacional de Proteção de Dados (CNPD) representada pelo Consultor-Coordenador, João Osório, participou no painel "Regulação da IA: Perspetiva nacional", ao lado da Entidade Reguladora para a Comunicação Social (ERC) e da Entidade Reguladora da Saúde (ERS), contribuindo com uma abordagem centrada na proteção dos direitos fundamentais e na responsabilidade ética da inovação tecnológica.

A CNPD tem vindo a acompanhar de forma ativa os desenvolvimentos da IA, com especial atenção à sua aplicação em contextos que envolvem o tratamento de dados pessoais. A crescente acessibilidade de ferramentas generativas, como os modelos de linguagem de grande escala (LLMs), levanta preocupações sobre opacidade algorítmica, supervisão humana e riscos de discriminação.

A CNPD tem procurado assegurar que os sistemas de IA respeitem os princípios do Regulamento Geral sobre a Proteção de Dados (RGPD), nomeadamente o princípio da privacidade desde a conceção (privacy by design) e por defeito (by default). Como referiu João Osório, Consultor da CNPD, "a supervisão humana, especialmente em cenários de risco médio ou elevado, será sempre uma necessidade. Não podemos aceitar decisões automáticas que coloquem em causa os direitos dos cidadãos."

Foi partilhado um exemplo concreto de uma consulta prévia recebida pela CNPD, relativa à instalação de um sistema de videovigilância com reconhecimento facial num recinto desportivo. O sistema pretendia identificar automaticamente indivíduos banidos por comportamentos violentos. A CNPD alertou para os riscos de falsos positivos e para a necessidade de supervisão humana em decisões automatizadas e, no caso concreto, não permitiu a instalação deste sistema.

Outro caso citado pela CNPD foi o de um jovem que, ao desenvolver uma relação emocional com um sistema de IA, acabou por cometer suicídio. Este episódio ilustra os riscos da iliteracia digital e da falta de compreensão sobre a natureza simulada das interações com sistemas generativos.

A CNPD abordou também os desafios relacionados com o direito ao esquecimento no contexto da IA generativa. Mesmo quando um cidadão solicita a remoção de informação dos motores de busca, os modelos de IA já podem ter absorvido esses dados durante o seu treino, perpetuando conteúdos desatualizados ou incorretos. "Como é que asseguramos o direito ao esquecimento na IA generativa, se os dados já foram usados para treinar os modelos? Essa é uma das grandes questões que enfrentamos," questionou João Osório.

No âmbito da sua atividade de controlo prévio, a CNPD propôs ainda a criação de mecanismos que permitam excluir determinados nomes ou perfis dos resultados gerados por IA - uma abordagem que foi bem-recebida e considerada tecnicamente viável.

A CNPD destacou a importância da articulação entre entidades reguladoras nacionais e estruturas europeias. Participa como observadora, através do Comité Europeu de Proteção de Dados (CEPD), no European Data Innovation Board (EDIB), que visam promover a livre partilha de dados entre os Estados-Membros, de forma setorial e segura. A ERC e a ERS também sublinharam a relevância da cooperação institucional.

Segundo a CNPD, a proteção de dados pessoais não trava a inovação tecnológica. Pelo contrário, considera que a regulação garante que o progresso tecnológico respeita os valores democráticos e os direitos dos cidadãos. "Se a proteção de dados for integrada desde a conceção, o bloqueio regulatório será nulo ou próximo de zero," acrescentou João Osório.

A participação da CNPD na Conferência reforça seu compromisso com a regulação da Inteligência Artificial que, de acordo com o segundo objetivo estratégico do Plano Plurianual da CNPD do triénio 2024-2026, centra-se justamente na proteção dos dados pessoais, direito fundamental da pessoa humana. Num contexto de transformação acelerada, a CNPD continuará a trabalhar em articulação com entidades nacionais e europeias, promovendo literacia digital, responsabilidade institucional e soluções inovadoras que respeitem a privacidade os dados pessoais e a dignidade humana.