El Sumario – La clasificación que la inteligencia artificial (IA) hace de la imagen de un rostro humano no siempre es correcta ni precisa, e incluso a veces se encuentra con terminología misógina o racista, como pone de relieve el proyecto ImageNet Roulette, centrado en el entrenamiento de IA en la categoría de personas.

ImageNet Roulette emplea la base de datos ImageNet, “una de las más importantes e históricamente significativas”, puesta en marcha inicialmente en 2009, que aloja millones de imágenes de entrenamiento para IA. Esta base de datos emplea la estructura semántica de Wordnet, integrada por palabras de clasificación, creada por la Universidad de Princeton, como explican los responsables de este proyecto.

ImageNet, aunque se enfoca al reconocimiento de objetos, cuenta también con una categoría de ‘persona’, que contiene más de 2500 etiquetas que clasifican a la gente según raza, nacionalidad, profesión, comportamiento, situación económica o moralidad.

Leer también: Amazon prueba el escaneo de la mano como método de pago

No obstante, y como señalan los responsables de ImageNet Roulette, la clasificación de una persona no está exenta de los problemas que presentan tanto ImageNet como Wordnet: “contiene una cantidad de categorías problemáticas, ofensivas o extrañas”, o emplean terminología misógina o racista. Y no siempre acierta con lo que se muestra en la imagen. Así, una persona, según su selfie, puede ser clasificada como ‘piloto de combate’, ‘currante’, ‘sindicalista’, ‘enérgica’ o ‘miembro de una tribu’.

Para mostrar la forma en que una inteligencia artificial clasifica un rostro humano siguiendo las categorías de ImageNet, crearon ImageNet Roulette, donde el usuario puede subir una fotografía en la que se le vea bien el rostro para descubrir de qué forma fue clasificado.

Para ello, una vez subida, la IA analiza la fotografía en busca de rostros. Si así ocurre, entonces los envía a Caffe (una herramienta de aprendizaje automático de código abierto) que realiza la clasificación. Posteriormente, la imagen regresa con etiquetas sobre las clasificaciones realizadas. Si no reconoce ningún rostro, entonces la imagen mostrará una etiqueta en la esquina superior izquierda.

ImageNet Roulette es una aplicación web desarrollada por Leif Ryge para el estudio del artista Trevor Paglen, y forma parte de la muestra ‘Training Humans‘, de Trevor Paglen y Kate Crawford, que actualmente se exhibe en la Fundación Prada, de Milán (Italia).

Con información de dpa