Se negli ultimi mesi hai senti parlare dell’AI Act probabilmente hai sentito una di queste affermazioni:
“L’Europa sta mettendo un freno all’Intelligenza Artificiale“
“Da Agosto cambia tutto per chi usa l’AI”
Ma come spesso accade la realtà è un po’ meno drammatica e più interessante.
L’AI Act non ci dice semplicemente cosa possiamo o non possiamo fare con l’intelligenza artificiale, è il primo quadro normativo Europeo dedicato all’AI e segue un principio piuttosto semplice:
Più un sistema AI può incidere sulla vita delle persone e sui loro diritti, maggiori sono le responsabilità di chi lo sviluppa e di chi lo utilizza.
La prima cosa da fare quindi è capire cosa è l’AI Act?
L’AI Act è il regolamento Europeo che stabilisce le regole per lo sviluppo, la commercializzazione e l’utilizzo dei sistemi di AI nell’Unione Europea; è entrato in vigore il 1 Agosto 2024 ma è dal 2 Agosto 2026 che le regole sono diventate applicabili!
C’è una cosa fondamentale da capire, non tutti gli utilizzi dell’Intelligenza Artificiale vengono trattati allo stesso modo: usare l’AI per consigliarti una canzone non è la stessa cose che utilizzarla per selezionare dei candidati.
Proprio per questo l’AI Act crea una piramide del rischio che parte dagli utilizzi più comuni e arriva a quelli più delicati
Immaginiamo quindi quattro scenari:
🟢 Rischio minimo: chiedi all’AI di preparare una bozza per un report partendo dai tuoi appunti.
In questo caso l’AI ti sta aiutando a svolgere un’attività ma non sta prendendo una decisione che non ha conseguenze dirette su altre persone, in questo caso l’AI Act non introduce obblighi specifici; ricorda però che quando fornisci documenti all’AI entrano in gioco altre considerazioni riguardanti privacy, sicurezza e altre normative.
🔵 Rischio di trasparenza: crei un chatbot che parla con i tuoi clienti.
In questo caso entra in gioco un principio diverso, la persona deve poter capire quando sta interagendo con un contenuto o un sistema AI; se sei il provider di un sistema progettato per interagire con persone fisiche devi informare l’utente.
🟠 Alto rischio: crei un sistema di selezione dei candidati ad una posizione lavorativa.
In questo caso stai costruendo un sistema che può contribuire a determinare se una persona avrà o meno un’opportunità di lavoro, per cui gli obblighi diventano più stringenti.
Non basta più che la tua AI funzioni ma devi considerare:
sistemi di valutazione dei rischi
elevata qualità dei dati che alimentano il sistema
tracciabilità delle attività
documentazione tecnica
sorveglianza umana
elevato livello di robustezza, sicurezza informatica ed accuratezza
In altre parole, più responsabilità dai al tuo sistema, più responsabilità hai nel progettarlo.
Ma cosa rientra nel caso di alto rischio? I settori che rendono ad alto rischio il tuo progetto sono trasporti, selezione di candidature, medicina, identificazione biometrica, giustizia, e tutti quei casi in cui l’intelligenza artificiale impatta direttamente su diritti ed opportunità delle persone.
🔴 Rischio inaccettabile: stai progettando un sistema che osserva il comportamento delle persone, ne costruisce un profilo ed assegna loro un punteggio sociale.
Il regolamento dell’AI Act vieta specifici utilizzi dell’Intelligenza Artificiale considerati incompatibili con i diritti fondamentali ed i valori dell’Unione Europea.
Nel rischio inaccettabile rientrano 9 categorie:
manipolazione e inganno dannosi
sfruttamento dannoso delle vulnerabilità
punteggio sociale
Valutazione o previsione del rischio di reato individuale
raschiamento non mirato di materiale Internet
riconoscimento delle emozioni nei luoghi di lavoro e negli istituti di istruzione
categorizzazione biometrica per dedurre determinate caratteristiche protette
identificazione biometrica remota in tempo reale a fini di contrasto in spazi accessibili al pubblico
sistemi di IA che generano contenuti sessualmente espliciti
questo perché ad un certo punto non è più soltanto di quanto è precisa l’AI ma di quanto siamo disposti a lasciare che entri nelle nostre vite.
L’AI Act può sembrare un labirinto di regole, definizioni e obblighi. Ma il punto da portarsi a casa è molto più semplice:
non conta solo quale AI utilizzi, conta soprattutto cosa decidi di farle fare.
Se stai costruendo un prodotto o introducendo una funzionalità AI nella tua azienda, parti da lì: chiediti che impatto può avere sulle persone, quali decisioni le stai affidando e quale ruolo hai tu nel processo.
Più aumenta quell’impatto, più aumentano anche le tue responsabilità.
E forse è proprio questo il modo migliore di guardare all’AI Act: non come un freno all’innovazione, ma come un invito a costruire l’AI con un po’ più di consapevolezza.
Se vuoi approfondire, puoi consultare il sito ufficiale della Commissione europea.
Per questa settimana, la cartolina finisce qui.
A presto,
Cartoline dall’AI 🌍
