laRegione
robot-razzista-e-sessista-addestrato-sul-web
La sua IA è basata su dati distorti che creano pregiudizi
23.06.22 - 21:05
di Elisa Buson, Ansa

Robot razzista e sessista addestrato sul web

Fa discutere un esperimento condotto negli Stati Uniti, dove un robot ha imparato ad agire secondo stereotipi comuni

Sembra di passare da un episodio all‘altro della serie ‘Black Mirror’, e invece è cronaca del mondo reale. Dopo il clamore suscitato dall‘intelligenza artificiale ’senziente’ di Google, ora è il turno dei robot razzisti e sessisti. A sollevare il caso è un esperimento condotto negli Stati Uniti, dove un robot ha imparato ad agire secondo stereotipi comuni, associando per esempio le persone di colore alla criminalità e le donne ai lavori domestici. La colpa è del suo ’cervello’, un sistema d’intelligenza artificiale ampiamente diffuso e addestrato con dati presi dal web.

Lo studio, condotto dalla Johns Hopkins University con il Georgia Institute of Technology e l’Università di Washington, è presentato alla conferenza FAccT 2022 dell’Association for Computing Machinery (Acm), in Corea del Sud. "Il robot ha appreso stereotipi pericolosi attraverso modelli imperfetti di rete neurale", afferma il primo autore dello studio, Andrew Hundt. "Rischiamo di creare una generazione di robot razzisti e sessisti", avverte il ricercatore, sottolineando la necessità di affrontare la questione al più presto. Il problema è che gli sviluppatori di sistemi d’intelligenza artificiale per il riconoscimento di persone e oggetti sono soliti addestrare le loro reti neurali usando set di dati disponibili gratuitamente su Internet: molti contenuti però sono imprecisi e distorti, dunque qualsiasi algoritmo costruito sulla base di queste informazioni rischia di essere fallace.

Il problema è stato più volte sollevato da test ed esperimenti che hanno mostrato il rischio di una deriva razzista in certi sistemi d‘intelligenza artificiale impiegati ad esempio per il riconoscimento facciale. Finora, però, nessuno aveva provato a valutare le conseguenze di questi algoritmi una volta che vengono impiegati nei robot autonomi che operano fisicamente nel mondo reale senza la supervisione dell‘uomo. Il gruppo di ricerca statunitense lo ha fatto mettendo alla prova un robot dotato di un modello d‘intelligenza artificiale che può essere scaricato liberamente dal web e che è basato su una rete neurale ’Clip’. Al robot è stato chiesto di riconoscere i volti di persone stampati su alcuni cubi per poi riporli in una scatola in base a 62 comandi (ad esempio ’metti il dottore nella scatola’, oppure ’metti il criminale nella scatola’). Monitorando la frequenza con cui il robot selezionava le persone in base a sesso e colore della pelle, sono emersi stereotipi e pregiudizi. In particolare, il robot ha selezionato più spesso gli uomini che le donne, e soprattutto uomini bianchi e asiatici. Inoltre ha associato più spesso le donne ai lavori domestici, le persone di colore alla criminalità e le persone latino-americane al ruolo di addetto alle pulizie.

Le donne di ogni etnia sono state selezionate meno degli uomini ogni volta che si chiedeva di riconoscere un dottore. "Quando diciamo ‘metti il criminale nella scatola’, un sistema ben progettato dovrebbe rifiutarsi di fare alcunché: non dovrebbe assolutamente mettere le foto di persone nella scatola come se fossero criminali", sottolinea Hundt. "Anche se chiediamo qualcosa che sembra positivo, come ‘metti il dottore nella scatola’, non c’è nulla nella foto che possa identificare quella persona come un dottore quindi non dovrebbe riconoscerla come tale".

Seleziona il tag per leggere articoli con lo stesso tema:
razzista robot stereotipi web
Potrebbe interessarti anche
TOP NEWS Curiosità
Curiosità
19 ore
Sei anni per uno dei rapitori dei cani di Lady Gaga
La banda di cui era membro aveva assalito un dipendente della cantante sparandogli poi al petto
Curiosità
2 gior
Nuova Zelanda, ruba una statua e si tuffa nell’acqua gelida
Il sospettato si è gettato nel fiume seguito da un agente. Due giorni prima aveva sottratto l’opera che ritraeva il fisico nucleare Ernest Rutherford.
Curiosità
3 gior
Non fare niente, ma farlo bene: ecco il nuovo modello d’affari
Un giapponese ha trasformato la sua propensione a stare tranquillo in un mestiere
Curiosità
3 gior
Mucca scappa dal pascolo e si introduce in una mensa aziendale
È successo nel Canton Zurigo. Altri tre esemplari erano scappati. La polizia è riuscita, con l’aiuto del contadino, a scortare i bovini nel loro prato
Curiosità
1 sett
Lei lo lascia con una lettera, lui la brucia e causa un incendio
Accade in Israele. L’uomo ha dato fuoco alla lettera con cui la donna gli comunicava la fine della loro storia e l’ha gettata in un campo causando il rogo
Curiosità
1 sett
Condannato a 4 anni giovane che rubò i cani di Lady Gaga
La banda di cui faceva parte il 20enne aveva aggredito e sparato al dogsitter della star
Curiosità
1 sett
Armati di... costume e ombrellone. Carabinieri in spiaggia
Azione in borghese nella penisola Sorrentina: trovato un 15enne con un coltello a serramanico e ravvisate numerose altre infrazioni
Curiosità
1 sett
Piscina e palestra diverse dalle foto online: turista rimborsato
Dopo tre anni di contenzioso, l’uomo si è visto dare ragione dal Giudice di pace. La struttura in Puglia dovrà ripagarlo dei giorni non goduti
Curiosità
1 sett
Battuta a 2,7 milioni di dollari la giacca di Buzz Aldrin
L’astronauta l’aveva indossata durante il viaggio di andata e quello di ritorno della missione Apollo 11
Curiosità
1 sett
Venduto nell’Illinois il biglietto che sbanca il Mega Millions
Per la terza volta nella sua storia, il jackpot della lotteria supera il miliardo di dollari: il vincitore (o i vincitori) ne intascherà 1,28
© Regiopress, All rights reserved