Che cosa sanno algoritmi e Intelligenze Artificiali?
L’IA, per apprendere e poi per lavorare, si serve di algoritmi di machine learning, di deep learning e di reti neurali, oltre che di un’immensa quantità di dati. Gli LLMs (Large Language Models come ChatGPT, Gemini, Claude, DeepSeek…) che usiamo ormai tutti i giorni adoperano algoritmi per processare le istruzioni che diamo loro. Ma non ci sono solo gli LLM a riempire l’infosfera.
Gli algoritmi sono onnipresenti, sanno tutto di noi e spesso decidono per noi! Se ne parla ormai ovunque, per la paura che ci fa la profilazione algoritmica, nei nostri piccoli smartphone pieni zeppi di App, come nelle grandi operazioni di sorveglianza tramite telecamere intelligenti. O con software di «giustizia preventiva e valutazione del rischio», come quello usato dagli americani, il COMPAS, che ha già sbattuto in galera diversi incensurati, a suo dire più a rischio recidiva di rodati criminali. Gli algoritmi ci spaventano perché di noi conoscono il colore della pelle, i gusti, le abitudini, le cattive frequentazioni.
Più spesso però quel che davvero sanno di noi è quel che possono inferire un po’ sbrigativamente da cookies e dati biometrici, o ancora peggio da database immensi di dati aggregati da cui pretendono di ricavare quei pochi solo nostri e personali. Ma ecco che in soccorso arrivano due importanti misure dell’UE: il GDPR (la legge sulla privacy e sulla protezione dei dati personali) e, per regolamentare i sistemi di intelligenza artificiale, l’AI Act, che prova a tutelare cittadine e cittadini UE dalla minaccia di IA che non sanno proprio farsi i fatti loro!
Che cosa sono e come funzionano profilazione e manipolazione?
La profilazione raccolta e analisi di dati personali per creare profili dettagliati di individui. È un’operazione che fanno tante aziende per garantire la soddisfazione della propria utenza e clientela e così fidelizzarla. Se ne servono un po’ tutte, dai supermercati alle IA!
Su di noi, i nostri consumi, le nostre convinzioni e i costumi, ogni giorno gli algoritmi fanno supposizioni e talvolta emettono sentenze, magari commettendo errori che non sappiamo a chi attribuire. Gli algoritmi raccolgono dati sui gruppi di appartenenza – in certi Paesi privi di una legge come il GDPR europeo, infischiandosene della privacy. Come se non bastasse, le decisioni che prendono in automatico sono spesso poco trasparenti, e la responsabilità di tali decisioni è difficile da attribuire. Risulta quasi impossibile, così, capire chi portare in tribunale! Anche in che modo gli algoritmi di machine learning davvero apprendano, per fare un altro esempio, è un processo opaco di analisi di database che non possiamo interrogare a dovere in prima persona, poiché sono sterminati. Insomma, quanta autonomia stiamo svendendo all’IA?
Ad aggravare il quadro, c’è che gli algoritmi hanno ormai su di noi «un indice di penetrazione del 100%». Questa non è mia, l’ho rubata a Zadie Smith: leggetevi il suo Some Notes on Mediated Time (trad. di Martina Testa)!
Le persone parlano come l’algoritmo. Scherzano come l’algoritmo. Ragionano come l’algoritmo. Ci piace pensare che l’algoritmo ci abbia radicalmente divisi in campi contrapposti, ma visti dall’esterno, i campi non sono poi così diversi.
In pratica gli algoritmi sono riusciti a prendersi anche le nostre capacità critiche e dialettiche per pensare, confrontarci, dialogare. E infine sì, ci hanno pure rincretinito!
Che misure introduce l’AI Act in materia di IA manipolative, profilazione e identificazione biometrica?
Nel 2024 diventa operativo l’AI Act che da allora non smette di evolvere. Nel 2025, l’articolo 5 introduce una disciplina comune per sviluppo, commercializzazione e utilizzo dei sistemi di Intelligenza Artificiale, attenta ai pericoli della profilazione algoritmica, specie quando sfrutta le nostre vulnerabilità per renderci ancora più dipendenti. In particolare, la disciplina vieta «l’immissione sul mercato, la messa in servizio o l’utilizzo» di sistemi di IA che impieghino tecniche subliminali, manipolative o intenzionalmente ingannevoli; che sfruttino le vulnerabilità delle persone o di gruppi di persone con l’obiettivo di alterarne i comportamenti; che servano a valutare o classificare le persone in base ai loro comportamenti e alla loro personalità; o che servano a prevedere reati basandosi sulla profilazione o sulla valutazione dei tratti caratteriali delle persone.
L’AI Act vieta inoltre sistemi di IA che servano ad ampliare banche dati di riconoscimento facciale mediante il reperimento di immagini da Internet o dai filmati di telecamere a circuito chiuso; che servano a interpretare le emozioni delle persone nei luoghi di lavoro e negli istituti scolastici e di formazione, salvo per ragioni mediche; che si servano di dati biometrici per dedurre o inferire la razza, le opinioni politiche, l’appartenenza sindacale, le convinzioni religiose o filosofiche, la vita sessuale o l’orientamento sessuale delle persone.
Infine, vieta l’utilizzo di sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico, salvo per confermare l’identità della persona interessata in casi specifici o di urgenza debitamente giustificata, che tengano conto della gravità, della probabilità e dell’entità del danno che si verificherebbe altrimenti, ma anche delle conseguenze stesse dell’utilizzo di tali sistemi per i diritti e le libertà delle persone interessate. In UE, nessuna decisione che produca effetti giuridici negativi nei confronti di una persona può essere adottata basandosi esclusivamente sull’output del sistema di identificazione biometrica. L’obiettivo è ovviamente quello di impedire la sorveglianza di massa pur consentendo, in casi di emergenza, di prevenire minacce imminenti alla vita delle persone, come nel caso di attentati terroristici.
Quali obblighi di trasparenza impone l’AI Act ai fornitori e distributori di sistemi di IA?
Dal 2 agosto 2026 si applica anche l’articolo 50 dell’AI Act, aggiunto per garantire a chi usa sistemi di IA generativa e interattiva maggiore trasparenza sui processi. Le persone devono essere informate ogniqualvolta interagiscano con un sistema di IA (salvo eccezioni regolamentate, in caso sia ovvio che stanno interagendo con l’IA, o in caso ragioni di sicurezza impongano di agire diversamente). In particolare, i distributori di questi sistemi devono informare l’utente ogniqualvolta vi sia esposizione a riconoscimento emozionale o biometrico, o a contenuti di importanza pubblica che non siano stati controllati e revisionati da esseri umani. A maggior ragione nel caso di deepfake, i fornitori del sistema di IA che consente di produrli devono assicurarsi che gli output siano marcati/rilevabili come generati o manipolati artificialmente.
L’UE ha tracciato confini chiari con l’AI Act, vietando l’uso di IA manipolative e imponendo massima trasparenza sui contenuti generati artificialmente. Ma le leggi da sole non bastano.
Il controllo umano resta l’unico vero filtro per garantire che i contenuti che pubblichiamo o utilizziamo siano accurati, etici e privi di pregiudizi. Delegare la bozza alla macchina va bene, ma la responsabilità finale del messaggio è sempre nostra.
Sei alle prese con un testo generato dall’Intelligenza Artificiale e non sai da che parte iniziare a revisionarlo? Vorresti capire meglio quali sono le sfide etiche legate allo sviluppo dell’IA?
Scrivici e ne verremo a capo insieme!
Illustrazione: RUPHUS – BEHANCE/Portfolio