L’intelligenza artificiale è realmente imparziale o favorisce le discriminazioni?

di

Federica Gaetani

16.9.2021

4

minuti di lettura

Il dibattito su questo argomento, si è acuito negli ultimi mesi, dopo la morte di George Floyd ed il crescere delle manifestazioni del movimento Blacklivesmatter.

Quello che è successo ha portato moltissime aziende a prendere posizione in merito e chi non lo ha fatto (comeElon Musk) è stato fortemente criticato.

Molte società tecnologiche hanno dovuto prendere provvedimenti a riguardo dovendo addirittura ritirare alcuni prodotti dal mercato, in particolare facciamo riferimento alle applicazioni che utilizzano le tecnologie di riconoscimento facciale, di seguito i casi più emblematici.

Amazon blocca Rekognition per un anno, si tratta di un software che facilita l'inserimento di analisi di immagini e video alle tue applicazioni utilizzando una tecnologia di deep learning verificata. Con Amazon Rekognition puoi identificare oggetti, persone, testo, scenari e attività in immagini e video e riconoscere i contenuti inappropriati. Amazon Rekognition fornisce anche un'analisi facciale altamente accurata e funzionalità di ricerca facciale che possono essere utilizzate per individuare, analizzare e comparare volti per una grande varietà di casi d'uso come la verifica degli utenti, il conteggio delle persone e la sicurezza pubblica.

Anche Ibm esce dal mercato del riconoscimento facciale: “Basta profilazione razziale.

Nella sua dichiarazione l’amministratore delegato si dice preoccupato che questa tecnologia venga utilizzata a fini liberticidi, per sopprimere le libertà civili, come ad esempio la sorveglianza di massa e la schedatura razziale. E fa presente la necessità di aprire un dialogo nazionale sul modo come le tecnologie di riconoscimento facciale debbano essere utilizzate dalle forze dell'ordine.

La preoccupazione è che l’intelligenza artificiale favorisca l’aumento delle disuguaglianze perché tende a favorire le discriminazioni sfavorendo ceti meno agiati e minoranze etniche, la ragione di questo è dovuta al fatto che indirizza a perpetuare un ciclo che tende a ripetere le azioni del passato esasperando i bias e i pregiudizi umani.

AncheIn Italia abbiamo avuto un caso di sospetto abuso di strumenti tecnologici, in particolare di sistemi di video sorveglianza. Negli ultimi mesi Como ha spinto molto in questa direzione, diventando una delle realtà urbane più avanzate nel suo utilizzo. In particolare, il modo in cui la città lombarda ha scelto, installato e attivato sistemi di riconoscimento facciale è emblematico per comprendere come la tecnologia stia prendendo piede.

Wired ha ricostruito la genesi del sistema di riconoscimento facciale, il ruolo delle aziende private che hanno fornito la tecnologia e della scarsa attenzione generale rivolta alle ripercussioni in termini di diritti e privacy. A testimonianza di questo ultimo aspetto vi è un provvedimento del Garante della privacy,Antonello Soro nei confronti del Comune di Como, dal quale emerge che mancano le basi legali per installare il sistema di riconoscimento facciale.

LA TECNOLOGIA NON PUO’ ESSERE NEUTRALE

Shoshana Zuboff, accademica e scrittrice statunitense, ha di recente scritto un saggio, “Il capitalismo della sorveglianza”, molto approfondito sull’evoluzione di Internet e delle multinazionali americane che stanno dominando i principali universi digitali occidentali.

È necessario smettere di essere fruitori passivi delle informazioni e della tecnologia, i maggiori player tecnologici tentano di chiuderci in una bolla in cui continuiamo ad essere esposti solo al tipo di articoli e pubblicità che abbiamo mostrato di preferire, questo però ci porta a chiudere gli occhi, a credere che esista solo la nostra versione della realtà, così facendo smettiamo di imparare ed esercitare il nostro pensiero critico.

Per tutti questi motivi in futuro sarà necessaria una maggiore regolamentazione che permetta lo sviluppo delle innovazioni senza sacrificare le libertà individuali.

Iscriviti alla newsletter

Unisciti alle menti principali della tecnologia legale e ricevi mensilmente le ultime notizie e gli aggiornamenti su legge, tecnologia legale, intelligenza artificiale e molto altro.

Grazie! La tua richiesta è stata ricevuta!
Oops! Something went wrong while submitting the form.