Facebook, la IA confunde a un africano con un mono: “error imperdonable, pedimos disculpas”

El sistema de inteligencia artificial de Facebook confundió por error a un hombre de ascendencia africana con un mono.

El error fue descubierto accidentalmente por un usuario, quien luego de ver un video con unos hombres de piel oscura fue preguntado por la red social si estaba interesado en ver más videos sobre monos.

Facebook utiliza un sistema basado en inteligencia artificial para clasificar personas y objetos que aparecen en contenido multimedia.

Facebook también utiliza la tecnología para sugerir contenido a los usuarios similar a los que ya han visto.

En el pasado, varias investigaciones habían demostrado que la mayoría de las tecnologías de aprendizaje automático todavía tienen muchas dificultades para identificar a las personas de etnia no caucásica, con errores a menudo graves e imperdonables, especialmente cuando se trata de tecnologías de reconocimiento facial utilizadas con fines de seguridad pública.

Mientras tanto, la red social ha desactivado el sistema de recomendación de vídeos basado en inteligencia artificial. La compañía quiere tomarse el tiempo para mejorar su IA y evitar que un error tan ofensivo vuelva a ocurrir en el futuro.

El video en cuestión, escribe el New York Times, fue publicado por The Daily Mail y mostraba a algunas personas de ascendencia africana discutiendo acaloradamente con caucásicos y algunos miembros de la policía.

Leave a Reply

Your email address will not be published.