Descubrí el concepto “canon cangrejo” leyendo las cartas del compositor y teórico musical John Cage incluidas en el libro Escribir en el agua. El “canon cangrejo” es una forma de composición musical en la cual una melodía se toma normalmente y luego se reproduce en sentido inverso. Es una operación física: imagina que escuchas una melodía, y luego la misma melodía se toca hacia atrás, comenzando por la última nota y terminando en la primera, como si estuviera viendo en un espejo la música. Es un artificio, claro está; al igual que la propuesta inversiva de “Ecologías Híbridas”, desarrollada por Manuela Garretón y Martín Tironi, ambos académicos e investigadores del Núcleo Fair sobre los impactos de la Inteligencia Artificial.
Imaginen que ingresan a una pequeña sala y son recibidos por proyecciones en dos paredes y una atmósfera diseñada con efectos sonoros. En una primera estación interactúan con una tablet que les permite seleccionar tres conceptos relacionados con la Inteligencia Artificial y el medio ambiente. Con estos conceptos el ChatGPT genera una escena descriptiva, que luego utiliza para crear una imagen a través de un modelo de difusión de IA. Esa imagen se proyecta en una de las paredes, y simultáneamente 32 mililitros (ml)de agua caen desde una suerte de esfera, que es un gran hongo ubicado sobre una plataforma metálica, en el centro de la sala. Queda así escenificada la huella hídrica de este ejercicio de generación de imágenes mediante IA.
Se podría decir que este dato -cuantificado por el proyecto- no tiene importancia: difícilmente podemos representar 32 ml en nuestra cabeza y aún más tener un juicio sobre su magnitud. Si bien las opiniones bien pensantes, que a estas alturas no son más que convencionalismos, no tardan en señalar las alarmas. Es verdad: los recursos naturales están en peligro. Aunque si yo fuera la gran y única administradora del agua del planeta iría por ahí gritando: “¿Qué son 32 ml? ¿Es mucho? ¿Es poco? ¿Es necesario? ¿Es sustentable?”.
No lo sé. Pero ahora lo veo.
Al igual que aquel canon cangrejo, en “Ecologías Híbridas” la cadena de producción de una imagen generada por la IA se hace visible. Esta experiencia inmersiva es una caja de espejos sonora donde la ruta inicial se vuelve circular, y esos 32 ml cayendo desde un micelio son al mismo tiempo fin e inicio.
***
—El ChatGPT propone una escena— dice Manuela Garretón.
Retomemos la experiencia. Los visitantes eligen tres conceptos (por ejemplo, "Antropoceno", "desarrollo digital" o "modernización") disponibles en una tablet. Luego, segundo acto, el ChatGPT crea una descripción tomando las palabras seleccionadas. Manuela explica:
—El prompt que le pedimos [al ChatGPT] fue “con estos tres conceptos describe una escena”. Y ahí aparece el texto, un párrafo de tres o cuatro líneas. Hay escenas positivas donde aparece la solución de la Inteligencia Artificial y la promesa de optimización. Pero hay otras que son apocalípticas. Después, también hay parámetros que cambian aleatoriamente para generar una variabilidad dentro de las imágenes que se generan. Eso es algo que nadie ve, lo que está fuera de escena.
Así, recorriendo “Ecología Híbridas” surge la sensación que en esa sala se expresa una tensión entre los elementos ahí reunidos, lo humano y lo no humano, de lo orgánico y no inorgánico, donde se expresa el empeño por “domesticar”, en palabras de Tironi, la IA y comprender con las formas de inteligencia natural. Ambas, en cualquier caso, indóciles y dotadas de tentadoras cualidades; ambas entregadas al azar.
En cuanto a los modelos de lenguaje (LLM, por sus siglas en inglés) el azar se manifiesta en la generación de contenidos a partir de patrones estadísticos en lugar de intenciones humanas predefinidas, la aleatoriedad es controlada. Así, el ChatGPT genera contenidos basándose en grandes conjuntos de datos y utiliza técnicas (como el análisis de vectores) para entender y predecir la relación entre palabras. Tal teorización permite reconocer el funcionamiento básico de estas tecnologías: su truco es desplazar la voluntad humana en la creación de contenido. Y crear nuevos contenidos llamados a “parecer” realistas, coherentes y contextualmente relevantes. Nos damos cuenta que ya no se trata de la voluntad e intenciones humanas, no inventamos el futuro, más bien entregamos nuestro pasado para dar inicio, como lo ha explicado Mercedes Bunz, a nuevas formas de expresión generadas con su propia lógica cultural y, con ello, con sus propios aciertos y errores
Los humanos, y sus resoluciones, no son los únicos agentes en el mundo. Hace más de una década, la filósofa Jane Bennett fue parte de un grupo de pensadores que empujaron una idea tanto teórica como política: las entidades no humanas (como animales, plantas, objetos tecnológicos y materiales inorgánicos) también poseen formas de agencia que deben ser reconocidas. La relación humano-tecnología tiene implicancias para los artefactos tecnológicos: no son meramente herramientas inertes, sino que tienen sus propias formas de vitalidad que influyen y alteran las relaciones humanas. Una idea seguida por la física y filósofa Karen Barad, para quien toda la materia “siente, conversa, sufre, desea, anhela y recuerda”.
—El agua nos parecía que era un elemento súper pregnante de esa tensión entre lo digital y lo material—añade Tironi.
Es cuando el problema se convierte en promesa: explorar el mundo de esas inteligencias. Resulta tentador atribuir el antropomorfismo a seres no humanos, objetos inanimados, fenómenos naturales o entidades abstractas. Todo este antropomorfismo es parte de la costumbre a reafirmar la voluntad humana sobre la naturaleza, frecuentemente comprendidos como una colección de objetos inertes y mudos. Lidiar con todo lo que no es humano puede ser desorientador y caótico.
Entonces pienso, quizás la invisibilidad del agua esconde algo. Un secreto que John Cage exploró desde el arte, al utilizarla como fuente de sonido; un camino para explorar y expresar sus ideas sobre la fluidez, la indeterminación y la integración de la naturaleza en el arte.
Quizás pueda decirte qué visión tengo: el ritmo es como el aire o el agua o el éter donde se mueven los planetas: de hecho, es como el espacio, y todo el problema al escribir notas o hacer movimientos, etc., es no destruirlo. No tiene lo más mínimo que ver con algo que se pone ahí: un acento o metro o lo que sea; sólo ruega por ser libre.
John Cage, Escribir en el agua.
***
Pero el azar puede tener mala fama, sobre todo cuando deja al sujeto en un lugar de extravío y desconcierto. Al estupor.
Para el filósofo Georges Bataille el azar es una fuerza que introduce incertidumbre a la experiencia humana; un estado de estupor que lleva al sujeto a rendirse ante las influencias que escapan de su control. Bataille considera que esta imprevisibilidad es la naturaleza incontrolable de la vida y el pensamiento. El azar es una herramienta que abre nuevas posibilidades a la exploración de lo desconocido y lo inesperado. En sus términos, es el rechazo a las estructuras establecidas y la apertura hacia la libertad.
Por su parte, la periodista y activista social Naomi Klein describe el “estupor” como un estado de shock y desorientación que afecta a las personas tras eventos traumáticos como desastres naturales, ataques terroristas o crisis económicas. En su libro Esto lo cambia todo: El capitalismo contra el clima, Klein argumenta que las crisis medioambientales pueden provocar en las personas un estado de estupor que se expresa en la parálisis y la desorientación. Estas características serían aprovechadas por gobiernos y corporaciones con el propósito de implementar políticas que beneficien a intereses privados en desmedro de las causas, por ejemplo, del cambio climático.
El hecho que el “estupor” pueda surgir a causa de hechos traumáticos no evita que regrese a las ideas de Bataille, para quien esta suerte de estado de disminución de la consciencia no supone la incapacidad de respuesta. El “estupor” estaría indefectiblemente vinculado a una experiencia intensa y transformadora. Aquí la distancia entre Klein y el filósofo francés, mientras para la primera el estupor un estado de parálisis, Bataille insiste que es un momento con el potencial de impulsar a los individuos a cuestionar y transgredir los límites racionales y sociales; un umbral hacia la transformación y el despertar.
Para darme esperanza a mí misma me dejo persuadir por esta idea. Si en “Ecologías Híbridas” se reúne el caos y la falta de control sobre lo orgánico, lo inorgánico y lo digital, como una continuidad del mundo; tal vez es en este enjambre donde puede surgir la acción.
El 2006 la 27a Bienal de Sao Paulo se tituló “¿Cómo vivir juntos?”, nombre que alude a los planteamientos del escritor Roland Barthes durante sus seminarios impartidos en el Collège de France entre 1976 y 1977. La diferencia entre las consideraciones de Barthes del humano y su entorno, e incluso lo expuesto en la Bienal del 2006, es el predominio humano en estas reflexiones. A estas alturas la pregunta “¿Cómo vivir juntos?” no puede sino involucrar la relación humano-no humano de una forma más igualitaria, desafiando la noción antropocéntrica que supone que la determinación y la intencionalidad recae únicamente en nosotros.
Sabemos que durante la exhibición de “Ecologías Híbridas” los visitantes generaron con la IA más de 12.000 imágenes. ¿Cuánta agua involucró? ¿Una ducha? ¿Una piscina municipal? ¿Un embalse? Aún no logró ver esa imagen. Pero sí el agua, y el conflicto de su uso en la tecnología.
—Creo que hay una operación que activamos y que es una operación de hacer visible un elemento que tradicionalmente es invisible o incluso impensado, que es el agua en el mundo de la Inteligencia Artificial—, dice Martín Tironi. Luego, con cierto ánimo de esperanza, agrega: Entonces, hay algo ahí, de politizar la discusión de la Inteligencia Artificial desde un gesto tangible y material, que es el agua.
Nadie puede averiguar por nosotros “¿Cómo vivir juntos?”. Pero lo innegable es que no podemos dejar de preguntárnoslo. Quizás por ello “Ecologías Híbridas” se distancia de la denuncia para instalarnos en el estupor. Tal vez sea inútil decirlo de esta forma, pero me gusta pensar que la pregunta es el primer paso para cruzar el umbral hacia algo por venir.
La experiencia interior se desarrolla en el movimiento de una imposibilidad de principio: lo que se ha deshecho, se deshace, y lo que queda es una suerte de horror en el que la lucidez última confina con la locura.
Georges Bataille, La experiencia interior.
-
Imagen de portada: Fotografía de la instalación Ecologías Híbridas en el Centro Cultural La Moneda. Fotografía de Verónica Aguirre.
Imágenes interior realizadas por los visitantes durante la exhibición utilizando el modelo generativo de imágenes Stable Diffusion.