MANIFIESTO ALGORITMIAS HACKFEMINISTAS
Presentación 05.04.22 --> Creación en Internet
Documento Algoritmias Hackfeministas --> https://genderit.org/es/articles/edicion-especial-manifiesto-por-algoritmias-hackfeministas
1. Contexto Manifiesto (Jaime)
Este Manifiesto se escribió desde la complicidad algorítmica a cuatro manos, Natasha Felizi y Liliana Zaragoza, y en portuñol-espanglish entre México y Brasil de mayo a octubre de 2017, principalmente a través de un larguísimo pad <3, chats, notas de voz, spokenword, notas en video, imágenes, desvelos, debrayes, mails, pausas, llamadas, música, y sobre todo, ganas. En una segunda etapa, desde el verano mexicano y el invierno brasileño del 2018, buscamos crear un co-relato visual en diálogo con las palabras para darle vida a la Algoritmia a través de una narrativa que también muta, se amplía y decodifica.
2. Explicación puntos claves
Conceptos relevantes (Jaime)
Algoritmo: En matemáticas, lógica y computación, es un conjunto prescrito de instrucciones o reglas bien definidas, ordenadas y finitas, que permite llevar a cabo una actividad mediante pasos sucesivos que no generen dudas a quien deba hacer dicha actividad. En programación, es una secuencia de pasos lógicos que permiten solucionar un problema.
Loop: En computación, una secuencia de instrucciones que se repite, ya sea un número específico de veces, o hasta que se cumple una condición en particular. En electricidad, un circuito cerrado.
Beat: Significa "latido" en inglés. En música, una sucesión constante de unidades de ritmo.
Force feeding: Derivación de la expresión del inglés ‘force-feed’: obligar a una persona o animal a comer y beber, a menudo poniendo comida en el estómago a través de una pipa en la boca.
Glitch: Expresión en inglés proveniente de la electrónica: refiere a un error en un archivo, y se visualiza comúnmente con la pixelización de la pantalla a partir de una falla en un sistema electrónico.
Caja negra: Tecnologías inaccesibles para las personas que no han participado en su fabricado, resultado de un proceso de optimización, eficacia y eficiencia industrial.
Puntos que identifica el manifiesto (María)
- Algoritmo como parte de una infraestructura que permite y reproduce opresión, discriminación y misoginia.
- Utilización del algoritmo como dogma.
- Inaccesibilidad, transparencia, incapacidad de gobernar y legibilidad del algoritmo.
- - Algoritmo como "caja negra".
- - Convierte al usuario, al sujeto, como una mina de datos.
- - Al algoritmo le han impuesto un caracter casi místico: sabemos que existe y que nuestros datos están gobernados por el, pero no lo conocemos: nunca lo hemos visto. Tampoco sabemos cómo funciona, cómo se relaciona ni quiénes y por qué lo diseñan, ¿a quiénes responde?
- - Modificación de la realidad y los algoritmos no permiten lo "real", sino que alteran lo que percibimos.
- <body>
- <script>
- while (i=algoritmomisóginocolonialracistaysexista){
- if (i=algoritmiahackfeminista <3){
- break;
- </body>
-
Objetivos Manifiesto (María)
- Unificar a todo el mundo y sentar unas bases generalizadas que se alejen de la opresión, descriminación y misoginia.
- Romper los discursos hegemonicos sociotecnicos --> romper los discursos dominantes que reproducen al sistema patriarcal a través de las tecnologías.
- Repensar el funcionamiento de los algoritmos.
- - Reconocer los movimientos de intento, prueba y error.
- - No más consumo impositivo, sometimiento y force feeding.
- - Rechazar el conocimiento binario.
- - Intentar que el algoritmo sea matematico, pero alejarnos de la forma dogmatica y de la perspectiva colonialista eurocentrista.
- Reivindicar el uso del código abierto.
Frases claves (X)
"La algoritmia hackfeminista es el pulso que programamos nosotras para sintonizar nuestros beats."
"Los términos y condiciones los ponemos nosotrxs. No queremos tener que aceptar nada."
"La algoritmia hackfeminista comprende cómo funciona esa versión de mundo y desde ahí programa variables críticas para intervenirlo."
3. Genealogía: Vincular con otros proyectos (Albert)
- Tipos de Opacidad del Algoritmo (https://algocracy.wordpress.com/2016/03/05/three-types-of-algorithmic-opacity/)
- - Opacidad intencionada: El funcionamiento interno del sistema algocrático se oculta deliberadamente a los afectados por su funcionamiento.
- - Opacidad analfabeta: El funcionamiento interno del sistema algocrático es opaco porque sólo aquellos con conocimientos técnicos expertos pueden entender cómo funciona.
- - Opacidad intrínseca: El funcionamiento interno del sistema algocrático es opaco debido a un desajuste fundamental entre la forma en que los humanos y los algoritmos entienden el mundo.
- Futurismo --> Manifiesto Filippo Tommaso Marinetti: Glorificación de la guerra y la belleza en la velocidad.
- Algoritmo únicamente reconoce el binarismo
- Manifiesto servidores feministas (https://hub.xpub.nl/systers/mediawiki/index.php?title=A_Feminist_Server_Manifesto)
En 2013, Constant, una organización sin fines de lucro dirigida por artistas en Bruselas, organizó el taller ¿Estás siendo atendido? Durante la sesión: Primera Cumbre de Servidoras Feministas, artistas y activistas reflexionaron sobre cuestiones en torno al potencial de una práctica de Servidoras Feministas. Las discusiones colectivas arrojaron el siguiente resultado:
- - Se basa en la materialidad del software, el hardware y los cuerpos reunidos en torno a ella.
- - Se abre a exponer procesos, herramientas, fuentes, hábitos, patrones.
- - Desea que las redes sean mutables y accesibles a la lectura y escritura.
- Artefacto ficcion:
4. Cambios en los algoritmos (Albert)
Caso de estudio 1: Evolución de los algoritmos de Google
https://nyupress.org/9781479837243/algorithms-of-oppression/
"Si buscas en Google "chicas negras", ¿qué encontrarás? Es probable que aparezcan 'Big Booty' y otros términos sexualmente explícitos como primeros términos de búsqueda. Pero si escribes "chicas blancas", los resultados son radicalmente diferentes. Los sitios porno sugeridos y los debates no moderados sobre "por qué las mujeres negras son tan descaradas" o "por qué las mujeres negras están tan enfadadas" presentan un retrato inquietante de la feminidad negra en la sociedad moderna"
Caso de estudio 2: Vision AI
--> El algoritmo, anteriormente, detectaba a los monos como personas de piel oscura.
Después de hacer pruebas, hemos identificado que esto ya no sucede.
======
Ideas Comentadas en clase 29.03.21
======
¿El Porqué del formato?
- Alejarnos de lo visual y acercarnos a lo textual, a la representación del código.
- Incomprensión por parte del espectador, brindar la opacidad en el aula.
ANEXOS
A continuación se hayan diferentes capturas de pantallas sobre los ejercicios prácticos que se realizaron y que ayudaron a construir la presentación en cuestión.
-->Carperta Drive Imágenes<---
https://drive.google.com/drive/folders/1_J5HIXWvBX3LxCwrY9JnL8NaN6mAzO5C?usp=sharing
1. Vision AI Google
https://cloud.google.com/vision
Vision AI de Google es una solución de búsqueda visual basada en la nube que ha sido diseñada para ayudar a las empresas a gestionar sus procesos de reconocimiento de imágenes empleando modelos personalizados de aprendizaje automático. Con las API REST y RPC previamente entrenadas, los usuarios pueden asignar etiquetas para clasificar las imágenes en categorías predefinidas.
https://nyupress.org/9781479837243/algorithms-of-oppression/
"Si buscas en Google "chicas negras", ¿qué encontrarás? Es probable que aparezcan 'Big Booty' y otros términos sexualmente explícitos como primeros términos de búsqueda. Pero si escribes "chicas blancas", los resultados son radicalmente diferentes. Los sitios porno sugeridos y los debates no moderados sobre "por qué las mujeres negras son tan descaradas" o "por qué las mujeres negras están tan enfadadas" presentan un retrato inquietante de la feminidad negra en la sociedad moderna".
Ejercicio Práctico
Los algoritmos están en continua evolución y, por tanto, muchas de las afirmaciones que se realizan en el artículo no suceden en la actualidad.
Algo parecido sucedió en un artículo (actualmente no se encuentra disponible), donde al proveer a la API una imagen de una persona negra, el sistema de redes neuronales interpretaba dicha imagen como un simio. Actualmente, esta cuestión no sucede y, de nuevo, podemos interpretar una evolución de los algoritmos donde el sesgo parece verse modificado.
2. Prueba "Nipples" Instagram (Proyecto Pezinsta)
https://www.instagram.com/p/Cb2MRwOrHHF/
Ejercicio Práctico
A raíz de un movimiento social que se dedicó a editar pezones de hombres cis en pechos de mujeres cis (https://www.hercampus.com/school/kcl/instagram-censorship-policies-reinforcing-cisgender-white-male-ideas-acceptability/), para evitar la censura en Instagram, decidimos recrearlo editando pezones de mujer cis en un pecho de hombre cis para analizar la respuesta de Instagram. La red social aún no ha retirado la fotografía.
3. Gender Classification
https://www.bytesview.com/name-gender-classifier
El clasificador de género de nombres de BytesView permite identifcar el género de clientes o seguidores con una precisión garantizada y aprovechar los conocimientos para planificar campañas de marketing exitosas basadas en el género de su público objetivo.
Ejercicio Práctico
Clasifica los nombres propios por género y de manera totalmente binaria. Aquellos nombres que podrían ser ambiguos o que pueden ser empleados en ambos casos, se encasillan en un de estos dos. El algoritmo también tiene un comportamiento eurocentrista, pues no parece reconocer otros nombres con estructuras distintas como podrían ser los nombres coreanos.
4. Gender API
https://gender-api.com
Gender-API.com permite mejorar la experiencia de los clientes en diferentes servicios, creando formularios más sencillos y permite optimizar sitios webs y aplicaciones. Con una API fácil de implementar.
Ejercicio Práctico
La misma función que el Gender Classification añadiendo porcentajes a su resultado final. En este caso, decantando la balanza hacia un lado u otro, sin llegar a funcionar de una forma binaria.