¿Somos el fantasma que habita en la máquina?
La imitación superficial y descontextualizada del conocimiento humano.
Antes de comenzar quiero contarte que este newsletter va a transformarse, a partir de ahora, dejaré de compartir diferentes señales y comenzaré con un proceso conocido como sensemaking, con el fin de dar sentido a dichas señales a través del mundo que percibo y mis propias experiencias.
Espero que te sea valioso y encuentres nuevas preguntas. Te doy la bienvenida a esta nueva era de “Traficante de ideas”.
Esta semana me encontré con un artículo de Morgan Meaker en WIRED, que sugiere que nuestras historias digitales están siendo reempaquetadas para enseñarle a la IA sobre la humanidad y cómo imitarla.
Leí el artículo de forma pausada y concentrada, como quien degusta una buena comida sin caer en la gula de contenidos.
Pasé días haciendo anotaciones hasta que llegué a la pregunta que le dio nombre a la entrega de esta semana: ¿somos el fantasma que habita en la máquina?
Comencemos por el principio. El valor del contenido ha estado históricamente vinculado a su dificultad de acceso. En un contexto donde la información es escasa y difícil de obtener, su valor aumenta. Sin embargo, la llegada de Internet democratizó el acceso a la información, devaluando su contenido. De manera similar, las herramientas generativas de IA han intentado una y otra vez hacer lo mismo con el estilo artístico. En lugar de ser una expresión única e intransferible de un individuo, los propietarios de las empresas tecnológicas de IA, sobre todo generativa, han intentado abstraer, aislar y replicar el estilo para convertirlo en una propiedad económica fácilmente explotable.
Este proceso de devaluación del estilo artístico y/o creativo plantea una cuestión fundamental: ¿puede el estilo, la creación, la creatividad o el arte convertirse en un conjunto de datos predecibles y fácilmente replicables? Si es así, ¿cualquiera podría apropiarse de ellos?
Piensa en el siguiente ejercicio:
Imagina por un momento que cada uno de los colores de la rueda cromática representa un conjunto de datos con el que la IA ha sido entrenada (con o sin nuestro consentimiento). ¿Qué sucede cuando se mezclan a cierta velocidad?
Exacto, obtenemos una síntesis sustractiva, o lo que es lo mismo, el blanco.
En este proceso extractivista de "procesar diferentes estilos" a partir de un conjunto de datos, los modelos generativos imponen un estilo definido que, al final, termina matando la diversidad y la diferencia, convirtiéndolo todo en un solo color. Este proceso reduce cualquier complejidad, contradicción o dinamismo a un conjunto de tropos estáticos que pueden ser aplicados a cualquier otra cosa. En consecuencia, la valorización y evolución del estilo se ven truncadas, ya que la IA pretende perpetuar patrones y tendencias preexistentes en lugar de fomentar la innovación y el cambio.
Quizás por eso, hasta ahora, pese a que la IA puede intentar simular cualquier estilo de cualquier artista (siempre y cuando dicha información esté en su base de datos), ninguna obra creada íntegra o mayoritariamente por una IA ha logrado destacar, ni siquiera como entretenimiento ligero. Para los defensores más entusiastas de la tecnología, esto es solo una cuestión de tiempo y recursos: desarrollar computadoras más potentes, proporcionar más datos y mejorar los algoritmos. Y puede que tengan razón. No obstante, incluso suponiendo que continúen mejorando sus capacidades, parece difícil que logren resolver ciertas carencias estructurales que son elementales.
En esencia, crear es un acto que nace de la necesidad de comunicar, de compartir experiencias y emociones, de dejar huella en el mundo. Para ello, se requiere algo más que meras habilidades técnicas: se requiere una voz propia, una perspectiva única moldeada por las vivencias y el sentir del creador, artista o autor.
Las máquinas, por sofisticadas que sean, no poseen esa chispa vital. Carecen de la voluntad y las experiencias que dan origen a las historias que nos conmueven y nos hacen reflexionar. Como el monstruo de Frankenstein, necesitan "levantarse y echarse a andar", experimentar el mundo en toda su complejidad, para poder narrarlo con autenticidad.
La ausencia de un "no quiero hacerlo" en las IAs revela también su carencia de voluntad e iniciativa, un elemento fundamental en la creación. Sin un deseo genuino de crear, sin una voz propia que guíe al creador, resulta casi imposible crear una obra que atrape y conmueva.
Las IAs, por el momento, no han logrado franquear esa barrera. Su potencial, quizás sea enorme, pero aún les falta recorrer un largo camino para alcanzar la profundidad y la riqueza expresiva de la creatividad y la creación.
Ahora bien, ¿qué tiene que ver todo esto con la idea del "fantasma de la máquina"? Para desarrollar este punto, primero debes saber que la metáfora del "fantasma en la máquina" se atribuye comúnmente a Gilbert Ryle, un filósofo británico, quien la utilizó en su libro de 1949, "El concepto de mente", para criticar el dualismo cartesiano.
El dualismo cartesiano, defendido por el filósofo francés René Descartes, sostiene que existe una distinción fundamental entre la mente (inmaterial y no extensa) y el cuerpo (físico y extenso).
De manera contraria, Ryle consideraba que la mente es una entidad misteriosa y enigmática que está unida íntimamente al cuerpo mecánico, pero es diferente de él. El filósofo acuñó dicho concepto para representar esta idea, en la que el fantasma es el homúnculo intelectual oculto en una máquina representada por el cuerpo. De hecho, Ryle creía que esta visión errónea del ser humano contaminaba toda la filosofía y la psicología modernas.
Trasladando esta metáfora a lo que quiero plantear, el conocimiento humano, al ser procesado y transformado por la IA, podría convertirse en una sombra de su forma original. Este "fantasma" podría ser una representación despojada de la riqueza y el contexto humano, una entidad carente de la esencia vivida y la profundidad emocional que caracteriza lo creado o generado por los seres humanos.
A su vez, la posible transformación del conocimiento en este "fantasma" me hace plantear al menos un par de preguntas filosóficas. ¿Puede la IA llegar a comprender la naturaleza profunda del conocimiento humano, o se limita a imitar una representación simplista y desprovista de contexto de este? ¿Qué se pierde en el proceso de transformación y qué implicaciones tiene esta pérdida para nuestra comprensión y uso del conocimiento?
Si reflexionamos, el conocimiento, cuando es generado y compartido por los seres humanos, está lleno de matices, interpretaciones y significados que reflejan su propia riqueza. Sin embargo, como ya mencioné, cuando la IA procesa este conocimiento, tiende a eliminar estos aspectos subjetivos y contextuales, reduciéndolo a llanos datos y patrones estadísticos.
Por lo que, el intento de los corporativos detrás de la IA, de transformar el conocimiento en un "fantasma", o como dicen ellos la intención de que “la IA supere el conocimiento humano en todas las áreas” podría generar una versión inadecuada y descontextualizada de este. En consecuencia, esta simplificación excesiva podría llevarnos a una comprensión no solo incompleta y distorsionada, sino que podría, en primer lugar, limitar nuestra capacidad para comprender los matices y complejidades del mundo que nos rodea y, en segundo lugar, dificultar la identificación de sesgos y errores en la información procesada. Sin mencionar que también tendría el potencial de erosionar nuestra capacidad para generar conocimiento nuevo y significativo, al privarnos de la base conceptual y experiencial necesaria para hacerlo.
De ahí que, para mí, la metáfora del "fantasma en la máquina" es muy potente, ya que nos invita a reflexionar críticamente sobre el papel de la IA en el procesamiento y la transformación del conocimiento humano y nuestro rol al permitir o impedir que esto suceda.
Si confiamos demasiado en la IA para interpretar y gestionar el conocimiento, podríamos perder nuestra capacidad para pensar críticamente, resolver problemas de manera creativa y comprender el mundo a través de nuestras propias experiencias y percepciones, convirtiéndonos en solo eso: un fantasma...
¡Gracias por leer!
Recuerda: Por haberte suscrito a este newsletter tendrás acceso gratuito por 7 días al reto de “365 días siendo creativos”, solo necesitas usar el código: TRAFICANDOIDEAS.
❤️ Si algo de esto te provocó un cosquilleo, trafícalo (compártelo) con más mentes curiosas. ¡Nos vemos la semana que viene!