El uroboros de la IA, seguro para el calor extremo y pornografía deepfake
El uroboros de la IA, seguro para el calor extremo y pornografía deepfake
El mito del uroboros, que representa una serpiente que se muerde la cola en un círculo infinito, encuentra una interesante analogía en el fenómeno de la proliferación de contenido generado por IA y su efecto en los modelos de IA. En el mito, el uroboros simboliza el ciclo eterno de la creación y destrucción, donde el final y el principio están entrelazados, generando un ciclo perpetuo.
En esta analogía, el uroboros representa la interacción entre los modelos de IA generativos y el contenido que producen y consumen. Los modelos de IA generan contenido basado en patrones y datos que han sido alimentados previamente, y a su vez, se entrenan en parte con ese mismo contenido generado. Esta relación circular se asemeja al ciclo del uroboros, donde la creación de contenido por parte de la IA alimenta su propio proceso de entrenamiento, creando una especie de ciclo autónomo.
¿Qué sucede cuando el contenido generado por IA prolifera en Internet y los modelos de IA comienzan a entrenarse en él, en lugar de en contenido generado principalmente por humanos?
Un grupo de investigadores del Reino Unido y Canadá ha analizado este mismo problema y recientemente publicó un artículo sobre su trabajo en la revista de acceso abierto arXiv. Lo que encontraron es preocupante para la tecnología de IA generativa actual y su futuro:
"Descubrimos que el uso de contenido generado por modelos en el entrenamiento causa defectos irreversibles en los modelos resultantes".
La investigación mencionada, arroja luz sobre un aspecto preocupante de este proceso circular. El paralelo con el mito del uroboros puede ayudarnos a entender mejor los efectos perniciosos que pueden surgir.
En el mito, el ciclo del uroboros no tiene un final claro ni un principio definitivo; todo está entrelazado en un ciclo sin fin. En el caso de los modelos de IA, el uso excesivo de contenido generado por la IA en su propio entrenamiento puede llevar a un "colapso del modelo", donde el modelo comienza a degradarse y perder su capacidad de generar respuestas precisas y variadas. Este proceso de colapso se asemeja a la degradación del mito del uroboros, donde el ciclo se torna inestable y la creación se convierte en destrucción.
La investigación indica que este proceso degenerativo es inevitable, incluso bajo condiciones óptimas de aprendizaje. Esto resalta una importante paradoja: si los modelos de IA se entrenan cada vez más con contenido generado por ellos mismos y otros modelos, se vuelven menos efectivos en su capacidad para comprender y replicar la realidad subyacente.
Lo anterior significa que, a medida que los modelos generativos de IA se sumergen cada vez más en la creación y reproducción de su propio contenido, pueden experimentar una disminución en su calidad y diversidad de respuestas, lo que refleja el colapso del modelo. Esta analogía resalta la importancia de equilibrar el proceso de entrenamiento de IA con datos humanos reales y frescos, para evitar quedar atrapados en un ciclo autodestructivo de generación y degradación.
¿De qué hablábamos hace un año?
Para reflexionar…
Alianza para impulsar los estándares abiertos para contenido 3D
Pixar, Adobe, Apple, Autodesk y NVIDIA, junto con Joint Development Foundation (JDF), una filial de Linux Foundation, anunciaron la Alianza para OpenUSD (AOUSD) para promover la estandarización, el desarrollo, la evolución y el crecimiento. de la tecnología Universal Scene Description de Pixar.
Supuestamente, la alianza busca estandarizar el ecosistema 3D mediante el avance de las capacidades de Open Universal Scene Description (OpenUSD). Al promover una mayor interoperabilidad de herramientas y datos 3D, la alianza permitirá a los desarrolladores y creadores de contenido describir, componer y simular proyectos 3D a gran escala y crear una gama cada vez mayor de productos y servicios habilitados para 3D.
IA para ser políglota
La famosa compañía de música K-pop, HYBE, ha colaborado con una startup de inteligencia artificial llamada Supertone para lanzar la nueva canción de MIDNATT en seis idiomas diferentes: coreano, inglés, español, chino, japonés y vietnamita. ¡Y lo más sorprendente es que la IA no solo lo hizo todo por sí misma!
La IA se comportó como un entrenador de lingüística para MIDNATT. En lugar de generar automáticamente las versiones en cada idioma, la IA dividió la canción en partes, creó nuevas letras en cada idioma con la ayuda de hablantes nativos y luego ajustó la pronunciación de esas letras para que coincidieran con la música. Así, la voz de MIDNATT sonó natural en todos los idiomas, ¡como si realmente supiera hablarlos!
En otras noticias...
Seguro de viaje contra el calor extremo
Sensible Weather, con sede en EE. UU., una empresa de seguros fundada en 2019, ya ofrece pólizas que mitigan las lluvias extremas, y ahora está centrando su atención en un tema que ha causado grandes problemas para las vacaciones de este verano.
“Pronto ofreceremos protección de viaje contra temperaturas extremas. Descubrimos que los viajeros tienen diferentes expectativas sobre que hace “demasiado calor”, dependiendo de dónde y cuándo vayan a algún lugar”, dijo Nick Cavanaugh, director ejecutivo de Sensible Weather.
“Entonces, a medida que lanzamos el producto, modificaremos nuestra oferta hasta que encontremos el “punto óptimo” para un cliente, una ubicación y una época del año determinados”.
Yo me pregunto: ¿En serio creemos que podemos controlarlo todo?
La última y nos vamos…
Pornografía deepfake
La llamada "pornografía deepfake" se está volviendo cada vez más común, con creadores de deepfakes que aceptan solicitudes pagas de pornografía con una persona elegida por el comprador y una plétora de videos falsos no seguros para el trabajo que flotan en sitios dedicados a deepfakes.
El sitio de transmisión en vivo Twitch publicó recientemente una declaración contra la pornografía deepfake después de que comenzara a circular una gran cantidad de deepfakes dirigidos a las populares transmisoras femeninas de Twitch. El mes pasado, el FBI emitió una advertencia sobre las " estafas de sextorsión en línea ", en las que los estafadores usan el contenido de las redes sociales de la víctima para crear falsificaciones profundas y luego exigen un pago para no compartirlas.
Sophie Maddocks , estudiante de doctorado en la Escuela de Comunicación Annenberg de la Universidad de Pensilvania, estudia el abuso sexual basado en imágenes, como fotos y videos de desnudos filtrados y pornografía generada por IA.
Aquí, Maddocks habla sobre el aumento de la pornografía falsa, a quién se dirige y cómo los gobiernos y las empresas lo abordan (o no).
Aviso importante
🔴 ¿Cómo ser más creativo? 🔴
Hemos lanzado un curso audible gratuito en la nueva versión de Blackschool, no te lo pierdas, comienza a desatar tu potencial creativo ahora mismo.
Antes de que te vayas...
❤️ Si algo de esto te provocó un cosquilleo, trafícalo (compártelo) con más mentes curiosas. ¡Nos vemos la semana que viene!