Este es un espacio para explorar tu propia realidad a través de la mirada algorítmica. Por medio de la cámara web, el modelo de clasificación automática de objetos categoriza todo lo que hay a tu alrededor. COCO-SSD es el modelo que se ejecuta con Tensorflow JS, utilizando los recursos gráficos de tu navegador.
¿Qué tipo de objetos reconoce? ¿Qué categorías de objetos reconoce? ¿Qué tipo de objetos son excluídos? ¿Cuál es la realidad que se constituye con esta inclusión/exclusión? ¿Qué palabras definen la ontología del objeto clasificado?
La división rectangular induce a la comparación; en este caso, la comparación taxonómica. Cada una de estas divisiones representa una propuesta política, estética y epistemológica. ¿Cómo es clasificado el mundo? ¿Cuál es la forma prototípica del patrón estadístico que determina la pertenencia de un objeto a una clase u otra a partir de su relación icónica con el objeto representado?
Una vez adentro no hay escapatoria, así como ocurre en el mundo físico. Para salir de este entramado taxonómico debes cumplir una meta: que COCO-SSD pueda clasificar 10 objetos a través de tu cámara web. Una vez los haya identificado, podrás salir de este sistema de clasificación y analizar cómo la visión algorítmica organizó el mundo según los datos con los que ha sido entrenado para clasificarlo.
Estos 👆 son los 'objetos' que COCO_SSD reconoció. ¿Qué piensas?
Los sesgos de la clasificación algorítmica
¡Lo lograste! Saliste de la vigilancia de un sistema de clasificación basado en aprendizaje de máquinas que es bastante problemático. Pero sólo saliste de este sistema. En nuestras vidas cotidianas es imposible evitar esta vigilancia y control social por medio de la clasificación. No hay escapatoria un sistema cada vez más masivo y al mismo tiempo personalizado.
Con todo, es necesario pensar cómo somos clasificadxs, con qué etiquetas nos nombran y cuáles son los distintos problemas que emergen con el despliegue de modelos de aprendizaje de máquinas, en muchas ocasiones bastante sesgados. Este ejercicio quiere reflexionar sobre algunos de estos problemas, planteando alternativas para pensar en modelos que no reproduzcan los sesgos, injusticias y discriminaciones históricas que muchas personas deben soportar.