Report sull’impatto negativo dell’IA generativa sui diritti umani

Le aziende stanno ottenendo vaste quantità di dati online attraverso forme illegali di estrazione di informazioni dalla rete per realizzare i loro prodotti di intelligenza artificiale generativa. In questo modo, consentono un'invasione di massa della privacy. I loro prodotti sono illegali proprio per il modo in cui sono progettati.

È quanto ha dichiarato oggi in un nuovo rapporto Amnesty International, mettendo in guardia sull'impatto negativo per l'ambiente e per le comunità storicamente marginalizzate.

"Aziende di ogni parte del mondo stanno rifornendo i loro prodotti di intelligenza artificiale generativa vantandone l'efficienza e la sofisticatezza. In realtà, stanno perpetuando un'invasione di massa della privacy attraverso l'estrazione illegale di dati dalla rete: usano procedimenti automatizzati per estrarre dati dai siti, compresi quelli personali come le immagini e le attività sulle piattaforme social al fine di addestrare i loro modelli di intelligenza artificiale", ha dichiarato Likhita Banerji, direttrice dell'Algorithmic Accountability Lab di Amnesty International.

"Creare sistemi d'intelligenza artificiale generativa attraverso enormi estrazioni di dati, scelte di progettazione ben precise e catene di fornitura basate sullo sfruttamento ha dato vita a un modello di sviluppo tecnologico che favorisce il rischio di una violazione di massa dei diritti umani", ha aggiunto Likhita Banerji.

Amnesty International ha svolto ricerche sui modelli che alimentano alcuni dei più popolari strumenti di intelligenza artificiale generativa, come GPT 3 di Open AI, Gemini di Google, Llama di Meta, DeepSeek e ulteriori strumenti di Midjourney e Stable Diffusion.

Questi sistemi si basano sull'estrazione di informazioni, spesso senza il consenso esplicito delle persone interessate, da miliardi di post e immagini pubblicati sulle piattaforme social. Non solo sono progettati per violare la privacy ma, via via che i set di dati che alimentano i modelli di intelligenza artificiale aumentano di numero, ne deriva l'amplificazione di contenuti discriminatori e di odio, di stereotipi negativi e di pregiudizi, soprattutto di tipo razziale e di genere.

Proprio i pregiudizi razziali, culturali e di genere sono tratti caratteristici dei sistemi d'intelligenza artificiale generativa, poiché i dati per l'addestramento sono prevalentemente tratti dalla rete e dunque pieni di pregiudizi provenienti dal mondo reale a danno soprattutto delle comunità storicamente marginalizzate. Inoltre, i sistemi d'intelligenza artificiale generativa mettono in pericolo il diritto alla libertà di pensiero in quanto sono in grado di influenzare le idee delle persone utenti e di modellare le loro opinioni attraverso suggerimenti predittivi. Ciò è particolarmente vero per quanto riguarda i modelli più grandi che si basano su grandi quantità di dati per il loro addestramento.

"Queste scelte non sono inevitabili. Dobbiamo sfidare le scelte fatte dalle aziende che producono sistemi d'intelligenza artificiale generativa affidandosi all'addestramento attraverso i dati, compresi quelli personali estratti su larga scala e in modo non consensuale", ha proseguito Likhita Banerji.

"Occorre contrastare urgentemente questo modo di fare delle aziende, che disprezzano i diritti umani. Una differente traiettoria di sviluppo tecnologico è possibile, a patto che le autorità agiscano velocemente per procedere in modo corretto", ha sottolineato Likhita Banerji.

Elevati costi ambientali

Tanto crescono la dimensione e la velocità dello sviluppo nelle aziende d'intelligenza artificiale generativa e diventano impellenti le necessità delle infrastrutture, quanto aumentano i costi ambientali.

Lo sviluppo di modelli più grandi richiede chip ad alta energia, centri per l'elaborazione dei dati di dimensioni maggiori e, di conseguenza, più elevate quantità di energia e di acqua per la loro operatività. La produzione dell'intelligenza artificiale generativa spesso ha conseguenze negative per le comunità storicamente marginalizzate dato che le terre e le risorse che loro appartengono sono sfruttate per costruire quei centri e per soddisfare tutte le necessità operative.

Nel suo rapporto sulla sostenibilità del 2024, Google ha dichiarato uno sbalorditivo aumento del 48 per cento delle emissioni di gas serra dal 2019, attribuibile ai centri per l'elaborazione dei dati e alle emissioni della catena di fornitura. Le emissioni di Microsoft sono aumentate del 29 per cento dal 2020 al 2024, a causa dei centri per l'elaborazione dei dati che supportano i processi di intelligenza artificiale.

L'uso intensivo delle risorse nella produzione di intelligenza artificiale generativa ha spinto comunità in Cile, Messico e Stati Uniti d'America a opporsi alla costruzione di tali centri in zone che sono già altamente colpite da siccità e mancanza di elettricità.

Nel corso delle sue ricerche Amnesty International ha scritto a Google, OpenAI, Meta, Stability AI, Midjourney e DeepSeek dando loro l'opportunità di rispondere alle sue conclusioni circa le violazioni dei diritti umani insite nella progettazione dei loro sistemi d'intelligenza artificiale generativa. Amnesty International ha anche scritto a Intel e VMware riguardo ai rischi di discriminazione e a Google, Microsoft e Amazon circa i danni arrecati all'ambiente dalle loro infrastrutture. Una sintesi delle risposte è contenuta nel rapporto.

Amnesty International chiede agli stati di vietare i sistemi autonomi di intelligenza artificiale generativa che si basano sull'estrazione illegale di dati e sulla raccolta di massa di dati dalla rete per l'addestramento. Le aziende devono immediatamente porre fine alla prassi illegale di estrarre senza consenso dati personali dalla rete per addestrare i sistemi e gli stati devono chiamare le aziende a rispondere del loro coinvolgimento in violazioni dei diritti umani legate alle loro scelte di progettazione e ai loro modelli di business.

Ulteriori informazioni

Il rapporto di Amnesty International contiene un'analisi, dal punto di vista dei diritti umani, dei flussi di dati che alimentano i prodotti di intelligenza artificiale generativa, comprese le fasi della cattura dei dati e i passaggi cruciali per il funzionamento complessivo di quei sistemi.

In particolare, il rapporto esamina a fondo i parametri e le implicazioni delle scelte di progettazione fatte in reazione all'addestramento sui dati dei modelli di intelligenza artificiale generativa, dedicando particolare attenzione ai metodi e alle fonti della raccolta dei dati, della loro analisi, della messa in scala dei modelli e della produzione dei dati.

Amnesty International definisce strumenti autonomi d'intelligenza artificiale generativa quei prodotti che sono sviluppati, impiegati e commercializzati unicamente per le loro capacità nel campo dell'intelligenza artificiale generativa, come le chatbot, i generatori di immagini, video, audio e testi e così via. La definizione non comprende quei prodotti in cui l'intelligenza artificiale generativa è una caratteristica aggiuntiva in una più vasta gamma di funzioni, come ad esempio i software per produrre testi con funzioni opzionali di intelligenza artificiale generativa.

LEGGI IL REPORT