El universo de los objetos no es un mundo dado sobre el que la visión algorítmica posa su mirada modesta. Por el contrario, su orden proyecta unas visiones del mundo cargadas política, económica e históricamente. Cada imagen que aquí emerge narra una historia de dominación y colonialismo político, estético y epistemológico. El papel que cumple cada imagen en el conjunto de datos de entrenamiento permite entrever los prejuicios, hegemonías, reparticiones, legados, imposiciones que están allí insertos.

Cargando

Las imágenes, y las etiquetas que las categorizan, representan un lugar y una forma de ver el mundo. Este punto de vista se reproduce en los modelos de IA, imponiendo una realidad y privilegiando los intereses que se lucran de ella.

Este es un espacio para explorar tu propia realidad a través de la mirada algorítmica. Por medio de la cámara web, el modelo de clasificación automática de objetos categoriza todo lo que hay a tu alrededor. COCO-SSD es el modelo que se ejecuta con Tensorflow JS, utilizando los recursos gráficos de tu navegador.

¿Qué tipo de objetos reconoce? ¿Qué categorías de objetos reconoce? ¿Qué tipo de objetos son excluídos? ¿Cuál es la realidad que se constituye con esta inclusión/exclusión? ¿Qué palabras definen la ontología del objeto clasificado?

La división rectangular induce a la comparación; en este caso, la comparación taxonómica. Cada una de estas divisiones representa una propuesta política, estética y epistemológica. ¿Cómo es clasificado el mundo? ¿Cuál es la forma prototípica del patrón estadístico que determina la pertenencia de un objeto a una clase u otra a partir de su relación icónica con el objeto representado?

Una vez adentro no hay escapatoria, así como ocurre en el mundo físico. Para salir de este entramado taxonómico debes cumplir una meta: que COCO-SSD pueda clasificar 10 objetos a través de tu cámara web. Una vez los haya identificado, podrás salir de este sistema de clasificación y analizar cómo la visión algorítmica organizó el mundo según los datos con los que ha sido entrenado para clasificarlo.

Hay diversas realidades que son subordinadas. Estas realidades son en muchas ocasiones las de lxs excluidxs, colonizadxs, marginadxs. ¿Cuál es la realidad que percibe COCO-SSD? ¿Cuál es la realidad con la que ha sido entrenado?

Los diversos sistemas de clasificación (personales, institucionales, tradicionales, etc.), se materializan en el etiquetado de las imágenes. La clasificación es una práctica política que puede imponer una realidad.

Estos 👆 son los 'objetos' que COCO_SSD reconoció. ¿Qué piensas?

Los sesgos de la clasificación algorítmica

¡Lo lograste! Saliste de la vigilancia de un sistema de clasificación basado en aprendizaje de máquinas que es bastante problemático. Pero sólo saliste de este sistema. En nuestras vidas cotidianas es imposible evitar esta vigilancia y control social por medio de la clasificación. No hay escapatoria un sistema cada vez más masivo y al mismo tiempo personalizado.

Con todo, es necesario pensar cómo somos clasificadxs, con qué etiquetas nos nombran y cuáles son los distintos problemas que emergen con el despliegue de modelos de aprendizaje de máquinas, en muchas ocasiones bastante sesgados. Este ejercicio quiere reflexionar sobre algunos de estos problemas, planteando alternativas para pensar en modelos que no reproduzcan los sesgos, injusticias y discriminaciones históricas que muchas personas deben soportar.