Violencia algorítmica, colonialismo de datos y alcaldes nocturnos
Violencia algorítmica, colonialismo de datos y alcaldes nocturnos
Según un informe de Bloomberg que examinó Stable Diffusion, su sistema de generación de imágenes a partir de texto no solo replica prejuicios, sino que los intensifica.
“Básicamente, estamos proyectando una única cosmovisión en el mundo, en lugar de representar diversos tipos de culturas o identidades visuales”, dijo Sasha Luccioni, científica investigadora de la empresa emergente de inteligencia artificial Hugging Face, coautora de un estudio sobre el sesgo en la conversión de texto a texto.
La finalidad de los modelos es generar una perspectiva singular del mundo basada en los datos que se les suministran, limitándose a promediar y homogeneizar diferentes culturas. Por lo tanto, no es posible desviar y entrenar fácilmente a los modelos generativos para evitar la propagación de ideas unívocas. La metodología implica eliminar cualquier "diferencia" entre un concepto y su representación visual, asumiendo implícitamente que hay una respuesta correcta sobre cómo debería ser algo.
Dan McQuillan, profesor de Informática creativa y social en el Departamento de Informática en Goldsmiths, University of London, señala que:
“Las estadísticas, incluso bayesianas, no se extrapolan a individuos o situaciones futuras de una manera lineal-causal, y omiten por completo los valores atípicos. Portado a los escenarios sociológicos de la vida cotidiana, esto resulta en una injusticia epistémica, donde la propia voz y experiencia del sujeto es devaluada en relación con los juicios predictivos del algoritmo.”
Esto convierte a todos los modelos generativos en formas de “violencia algorítmica”: “Puede parecer que la IA produce predicciones o emulaciones”, escribe McQuillan.
“Yo diría que su producto real es la precarización y la erosión de la seguridad social; es decir, la IA introduce vulnerabilidad e incertidumbre para el resto de nosotros”.
¿De qué hablábamos hace un año?
Ciencia ficción en Latinoamérica
Para reflexionar…
Colonialismo de datos
Aunque las comunidades indígenas descubren cada vez más utilidades en la tecnología digital, muchos expresan inquietud ante la posibilidad de que agentes externos se apropien de sus datos y se beneficien de ellos, de manera similar a cómo las potencias coloniales saquearon sus tierras ancestrales. Sin embargo, en la actualidad, algunos grupos indígenas están retomando el control al desarrollar sus propias tecnologías para proteger sus datos, demostrando así cómo las personas corrientes pueden sortear a las empresas tecnológicas y a los intermediarios de datos que poseen y comercializan los aspectos más íntimos de sus identidades, vidas y culturas.
Cuando los gobiernos, las instituciones académicas u otras entidades externas recopilan información de las comunidades indígenas, pueden denegar el acceso a dicha información o utilizarla para propósitos distintos sin el consentimiento de estas comunidades.
“Las amenazas del colonialismo de datos son reales”, dice Tahu Kukutai, profesor de la Universidad de Waikato en Nueva Zelanda y miembro fundador de Te Mana Raraunga , la Red de Soberanía de Datos Maorí.
“Son una continuación de viejos procesos de extracción y explotación de nuestra tierra, lo mismo se está haciendo con nuestra información”.
Alcaldes nocturnos
Ámsterdam se convirtió en pionera al establecer el cargo de "alcalde nocturno". En Filadelfia, podemos encontrar un "director de economía nocturna". Boston ha designado un "zar de la noche". Montreal cuenta con un "consejo nocturno". En Washington D.C., acertadamente, tenemos una "oficina de gobierno nocturno" con un enfoque burocrático, mientras que Atlanta tiene una "división de vida nocturna". Ciudades de todo el mundo están adoptando la práctica de crear divisiones gubernamentales dedicadas a considerar las necesidades y deseos de los ciudadanos fuera de las horas tradicionales de vigilia.
Más allá de las fiestas y la vida nocturna, estas entidades nocturnas se encargan de aspectos como el transporte público, la iluminación nocturna, la seguridad pública, las regulaciones de ruido, las opciones de comida y entretenimiento las 24 horas, y prácticamente cualquier otra cosa que suceda cuando la mayoría de los ciudadanos están durmiendo.
Quizás lo más importante es que esta iniciativa promete brindar apoyo a los trabajadores tradicionalmente invisibles y desprotegidos que aceptan empleos en momentos en los que la mayoría de nosotros preferiríamos estar en la cama. Hacer una ciudad más segura para ellos significa dejar atrás el cliché de la "ciudad que nunca duerme" y contar con alguien que piense en lo que realmente implica tener una ciudad que funcione para todos, independientemente de la hora en que estén despiertos.
En otras noticias…
Humanoide que puede jugar fútbol
La Escuela de Ingeniería Samueli de UCLA ha presentado su robot humanoide más avanzado ARTEMIS, un acrónimo de Tecnología Robótica Avanzada para Movilidad Mejorada y Estabilidad Mejorada. Desarrollado por investigadores del Laboratorio de Robótica y Mecanismos de UCLA (RoMeLa), ARTEMIS es un robot humanoide de propósito general que se enfoca en la locomoción bípeda, particularmente en terrenos irregulares.
Algo que quizás no sabías…
El cabello rizado mantenía frescos a los primeros humanos
El cabello rizado puede explicar cómo los primeros humanos se mantuvieron frescos mientras conservaban el agua, según un nuevo estudio que analizó el papel que juegan las texturas del cabello humano en la regulación de la temperatura corporal.
“Los seres humanos evolucionaron en África ecuatorial, donde el sol está sobre su cabeza durante gran parte del día, año tras año”, dice Nina Jablonski, profesora de antropología en Penn State. “Aquí, el cuero cabelludo y la parte superior de la cabeza reciben niveles mucho más constantes de radiación solar intensa en forma de calor.
Los investigadores encontraron que todo el cabello reducía la radiación solar en el cuero cabelludo, pero el cabello muy rizado brindaba la mejor protección contra el calor radiante del sol y minimizaba la necesidad de sudar para mantenerse fresco.
El estudio se publica en las Actas de la Academia Nacional de Ciencias.
La última y nos vamos…
Cómo verificar la calidad del aire
El AQI es una escala de la Agencia de Protección Ambiental que va de 0 a 500 según el nivel de contaminación del aire en una ciudad. Los principales contaminantes rastreados por el AQI son el dióxido de azufre, el ozono troposférico, el monóxido de carbono, el dióxido de nitrógeno y la contaminación por partículas. Para el humo de los incendios forestales, es especialmente importante vigilar la cantidad de partículas contaminantes en el aire.
Hay varias aplicaciones gratuitas que puede descargar para controlar el AQI. Una opción es una aplicación llamada AirCare, misma que puedes descargar aquí.
Antes de que te vayas...
❤️ Si algo de esto te ha gustado, trafícalo (compártelo) con más mentes curiosas. ¡Nos vemos la semana que viene!