Il sistema di intelligenza artificiale di Facebook ha inavvertitamente scambiato un uomo di origine africana per una scimmia. Questo errore, a dir poco grave e imbarazzante, è stato scoperto in modo casuale da un utente che dopo aver visto una serie di video con uomini di colore, gli è stato chiesto da Facebook se era interessato a vedere altri video relativi alle scimmie.
Facebook utilizza un sistema di intelligenza artificiale per individuare persone e oggetti presenti in foto e video sul social media, e questa tecnologia viene sfruttata per consigliare agli utenti altri contenuti simili a quelli appena visti. Sono sistema piuttosto diffusi, se non fosse che a volte causano errori davvero gravi e imperdonabili come in questo caso. In ogni caso, Facebook si è poi scusata per questo grosso equivoco, definendo l’accaduto “un errore imperdonabile”.
Il social network di Mark Zuckenberg ha disattivato temporaneamente questo sistema di raccomandazione basato sull’intelligenza artificiale per prendersi ulteriore tempo per migliorare la sua IA ed evitare errori simili in futuro, che rischiano di mettere in una posizione molto discutibile il social network. Il video originale, come riporta il New York Times, era stato pubblicato sul quotidiano The Daily Mail, e presentava diverse persone di origine africana discutere in modo acceso con delle persone caucasiche insieme anche ad alcuni membri delle forze dell’ordine.
Non è la prima volta che Facebook affronta problemi razziali di questo tipo. Nel 2016, Mark Zuckerberg, ha chiesto ai dipendenti di smettere di cancellare la frase “Black Lives Matter” e di sostituirla con “All Lives Matter” in uno spazio comune nel quartier generale dell’azienda a Menlo Park, in California. Centinaia di dipendenti hanno anche organizzato uno sciopero virtuale lo scorso anno per protestare contro la gestione da parte dell’azienda di un post del presidente Donald J. Trump sull’uccisione di George Floyd a Minneapolis.