Presidente da CNPD faz intervenção sobre “A proteção de dados e a inteligência artificial” na Conferência anual da APDSI

A Presidente da Comissão Nacional de Proteção de Dados (CNPD), Professora Doutora Paula Meira Lourenço, participou no jantar-debate promovido pela Associação para a Promoção e Desenvolvimento da Sociedade da Informação (APDSI), sob o tema "A proteção de dados e a Inteligência artificial", evento que teve lugar em Lisboa, tendo como mote: «O Dilema da Inteligência Artificial na Administração da Justiça».

Na sua intervenção, a Presidente da CNPD sublinhou que a IA «vive dos nossos dados pessoais», portanto, onde estiver tecnologias de IA, a CNPD também estará a assegurar a defesa do direito fundamental à proteção de dados pessoais, consagrado no artigo 35.º da Constituição da República Portuguesa, e direitos e liberdades fundamentais conexas, como como a reserva da intimidade da vida privada, a identidade pessoal, o bom nome, a imagem, a igualdade e a não discriminação e o direito à liberdade.

A Presidente da CNPD enumerou os principais riscos associados à IA, entre os quais a desinformação e a proliferação de deepfakes, os riscos reputacionais, a usurpação de identidade, o furto de segredo de negócio, as violações de dados (data breach), o treino de algoritmos sem consentimento, com o consequente enviesamento e risco de discriminação em razão do género e da raça (ilustrado pela descontinuação do sistema COMPAS, lançado nos EUA), e os desvios de finalidade (demonstrado pelo escândalo Cambridge Analytica).

Destacou ainda o aumento da violência digital contra os mais vulneráveis, em particular, crianças, meninas e mulheres, incluindo a sexualização de menores através de tecnologias que os desnudam, com graves consequências ao nível da saúde mental e do risco para a vida das vítimas. Alertou também para os neurodados - informações obtidas diretamente da atividade cerebral - enquanto dados pessoais extremamente sensíveis, capazes de revelar estados mentais, emoções e intenções, e de conduzir à manipulação do ser humano, alterando a sua forma de se percecionar a si próprio e o mundo.

Perante estes riscos, Paula Meira Lourenço traçou o percurso das sucessivas vagas de regulamentação europeia desde 2016, ano de aprovação do Regulamento Geral sobre a Proteção de Dados (RGPD), seguido do Regulamento dos Serviços Digitais, da Diretiva NIS 2, do Regulamento de Dados e do Regulamento da Inteligência Artificial, este último organizado em quatro níveis de risco (inaceitável, elevado, limitado e mínimo). Referiu igualmente o pacote legislativo europeu «Omnibus Digital», atualmente em debate, que visa desburocratizar a forma de assegurar o cumprimento dos vários instrumentos jurídicos, manifestando a convicção de que expectativa tal desiderato nunca poderá colocar em causa os nossos direitos fundamentais, imanente ao estado de direito democrático, e que urge defender, sob pena de se colocar em causa a identidade da pessoa humana, tal como a conhecemos.