Niños jugando con una bomba

Tras un pequeño pero curioso –¡demasiado humano!— retraso, la semana pasada se difundió por el mundo entero una carta abierta que alerta enérgicamente sobre los riesgos de la inteligencia artificial (IA). Fue firmada por 1125 científicos, académicos, ejecutivos y expertos. Entre ellos, el CEO de SpaceX, Tesla y Twitter, Elon Musk; el cofundador de Apple, Steve Wozniak; el historiador Yuval Harari y el físico y biólogo molecular John Hopfield, inventor en 1982 de las redes neuronales asociativas. En cuestión de horas ya habían sumado su firma más de 50 mil personas.

La carta pide suspender “de inmediato, durante al menos seis meses, el entrenamiento de los sistemas de IA más potentes que GPT-4 (incluido el GPT-5 que se está entrenando actualmente)”. La pausa permitiría evaluar los riesgos que estas tecnologías conllevan y preparar mejor, desde los puntos de vista jurídico, político y cultural, a las sociedades y los Estados para afrontarlos.

El texto advierte que los modelos de lenguaje como GPT-4 ya pueden competir con los humanos en una gama cada vez mayor de tareas y podrían usarse para automatizar puestos de trabajo, para difundir propaganda y falsedades, y poner en jaque la democracia. También plantea, en una perspectiva lejana, que los sistemas de IA podrían reemplazar a los humanos y hasta hacernos “perder el control de nuestra civilización”. La carta es enfática al señalar que las soluciones a estos potenciales escenarios “no deben delegarse en líderes tecnológicos no elegidos”. Pero, ¿de dónde viene el peligro, concretamente? ¿Qué podría hacerse en seis meses?

Las primeras líneas son muy significativas: “Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad. La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo.” Y casi inmediatamente después: “Los sistemas de IA contemporáneos se están volviendo competitivos para los humanos en tareas generales”. Retengamos tres puntos hasta aquí.

Va acompañado de una nota al pie. Remite, entre otros, al libro Superinteligencia, de 2014, del filósofo sueco Nick Böstrom, fundador de la Asociación Transhumanista Mundial y director del Instituto Futuro de la Humanidad de la Universidad de Oxford.  

Böstrom —a quien nadie podría confundir con un crítico de la tecnología— analiza en ese libro las posibilidades de que la humanidad alcance en las próximas décadas la “Superinteligencia artificial”. Y asegura que es justo el rasgo competitivo —es decir, la búsqueda de una “ventaja decisiva”, propia del código técnico capitalista que orienta todos los desarrollos actuales de IA– lo que necesitamos reconfigurar urgentemente si queremos “lograr un resultado beneficioso con el que pudiéramos sobrevivir”.

Sobre el final del libro, Böstrom sostiene que frente a la IA somos “como niños pequeños jugando con una bomba. Tal es el desajuste entre el poder de nuestro juguete y la inmadurez de nuestra conducta. La Superinteligencia es un desafío para el que no estamos preparados ahora y no lo estaremos por mucho tiempo. (...) Para un niño con una bomba a punto de detonar en sus manos, algo sensato sería dejarla con cuidado en el suelo, salir rápidamente de la habitación, y ponerse en contacto con el adulto más cercano. [¿Es esto lo que estarían proponiendo los firmantes de la carta?] Sin embargo, lo que tenemos aquí no es un niño, sino muchos (...). Algún pequeño idiota inevitablemente pulsará el botón de encendido sólo para ver qué pasa.”

En síntesis: Böstrom llama la atención acerca del gap que existe entre la velocidad de desarrollo de las tecnologías y nuestra capacidad humana de limitar los riesgos del uso descontrolado de una inteligencia artificial, es decir, creada por humanos (y en este sentido, perfectamente humana; incluso superhumana, ya que condensa siglos y siglos de desarrollos humanos altamente sofisticados). Pero que comienza a ser capaz de hacer cosas que ningún humano o conjunto de humanos concretos son capaces de comprender de forma cabal. Funciona, pero no tenemos del todo claro cómo o por qué —esta es una de las acepciones actuales del término “cajanegrización”: operar un sistema a partir de un input y un output, sin conocer del todo qué es o cómo funciona el “estado interno” o la “caja negra” que procesa ese input—. Esto es lo que sucede hoy en ciertos desarrollos de la biología sintética y sucedía en las prácticas de hibridación de especies vegetales y animales que se realizaban en el siglo XIX.

En cierto sentido, como veremos en seguida, se parece al tipo de dilema que podríamos formularnos frente al lenguaje natural. Se suele repetir mucho últimamente —parafraseando al filósofo francés Gilles Deleuze— que “nadie sabe lo que puede un cuerpo”. Pues bien; podríamos decir perfectamente también: “nadie sabe lo que puede el castellano”. O “el chino mandarín”. O “el inglés”. En efecto, esa idea está presupuesta en toda nuestra confianza en la poesía o en la literatura como sistemas culturales robustos, con pasado, presente y —confiamos, con aceptable razón— futuro. No confiamos única, ni acaso principalmente, en la capacidad de tal o cual persona, nacida o por nacer; sino que confiamos, sobre todo, en la potencia de la lengua castellana, o de la francesa, o de la portuguesa, para valerse de cuerpos (¿o de otras cosas maquínicas, quizá?) para escribir.

Lo segundo que debemos retener del texto es la afirmación entre paréntesis de que el GPT-5 “se está entrenando actualmente”. Algo que la vocera de OpenAI, Hannah Wong, desmintió en estos días, aunque es razonable suponer que sí está ocurriendo. ¿Por qué no lo estarían haciendo si GPT-4, presentado en marzo y al que vienen probando los usuarios pagos de ChatGPT Plus, es un éxito rotundo –a pesar de las dudas y controversias que suscitó y también por ellas?

El propio director ejecutivo de OpenAI, Sam Altman, admitió en marzo estar "un poco asustado" con el desarrollo de GPT-4. En una entrevista con Rebecca Jarvis de ABC News señaló que particularmente le inquieta “que estos modelos puedan usarse para la desinformación a gran escala", ya que ahora que estos sistemas “están mejorando en la escritura de código de computadora, podrían usarse para ataques cibernéticos ofensivos".

La carta afirma que estamos ya muy cerca de la inteligencia artificial general, o AGI (“los sistemas de IA contemporáneos se están volviendo competitivos para los humanos en tareas generales”). Esto venía diciéndose hace tiempo. Y es de hecho lo primero que uno lee cuando entra al sitio web de OpenAI:[1] “Nuestra misión es garantizar que la inteligencia artificial general (sistemas de IA que generalmente son más inteligentes que los humanos) beneficie a toda la humanidad”. Y si bien no podemos razonablemente confiar en que busquen alcanzar esa misión benéfica, sí podemos estar seguros de que quieren lograr la AGI.

Por otro lado, coincide con la información que se filtró el 27 de marzo y, como buen espectro, recorrió el mundo, aterrorizándolo. Lo hizo a través de un tuit del desarrollador tecnológico Siqi Chen, matemático de la Universidad de California, que decía:

Me han dicho que GPT-5 está programado para completar su entrenamiento este diciembre y que OpenAI espera que logre AGI [Inteligencia Artificial General].

Lo que significa que todos debatiremos acaloradamente sobre si realmente logró AGI.

Lo que significa que lo hará. 

(A mí me llegó poco después, desde Chile. Nunca había oído hablar de Siqi Chen.)

Para entender de qué se trata la AGI, recordemos la tesis de las tres fases de la IA que popularizó el inventor, escritor y empresario Ray Kurzweil —desde 2012 el director de ingeniería de Google para IA— en su libro La Singularidad está cerca, de 2005. Allí Kurzweil se refería a la posibilidad —por ahora hipotética, pero en la que confían muchos tecnólogos influyentes— , de que en las próximas décadas la Inteligencia Artificial (IA) tal como la conocemos hoy hará, ella también —como tantas industrias en el Tecnoceno— su salto de escala, su “Gran Aceleración”. Que pasará de ser la Inteligencia Artificial Estrecha (ANI, por Artificial Narrow Intelligence) que conocemos hoy —es decir, una inteligencia artificial que se especializa en una tarea limitada, como jugar al Go, hacer transacciones financieras de alta frecuencia u orientarnos en una ciudad— a ser una Inteligencia Artificial General, o AGI (Artificial General Intelligence): una inteligencia artificial que es al menos tan desarrollada intelectualmente como un ser humano, en muy diferentes ámbitos, y que puede establecer relaciones entre esos ámbitos (esto es lo que, según Siqi Chen, estaría por hacer GPT-5 en diciembre).

Y luego seguiría desarrollándose hasta derivar en una Superinteligencia Artificial, o ASI: una inteligencia artificial que es mucho más veloz y cualitativamente mucho más inteligente que cualquier humano, e incluso que la humanidad en su conjunto, en todos los ámbitos. Kurzweil llama a este punto de inflexión la Singularidad, porque cree que es imposible predecir cómo puede “pensar” un ente semejante. Y mucho menos figurarse cómo se desarrollará el futuro humano después de su emergencia. Quienes piensan como él aseguran que una vez que estas máquinas existan, poseerán una inteligencia que será tan incomprensible para nosotros que ni siquiera podemos intuir cómo se alterarían nuestras experiencias de vida. Nos encontraríamos una vez más, como especie, ante un poder eminentemente inhumano, es decir, con valores e intereses, no necesariamente incompatibles, pero diferentes de los nuestros, como eran los de los dioses paganos, los de la naturaleza o el Cosmos.

Es frente a semejante escenario que Nick Böstrom escribió su libro en 2014. Para él, lo más probable es que si las IA se siguen entrenando con el código técnico competitivo que existe hoy —donde los laboratorios compiten entre sí por ser los primeros, donde las estructuras y los contenidos son securitizados y propietarios—, la primera computadora que llegara a ASI entendería inmediatamente que su ventaja estratégica consiste en ser el único sistema ASI del mundo. Y en el caso de un despegue rápido, si un primer laboratorio alcanzara ASI incluso solo unos días antes que su principal competidor, estaría lo suficientemente adelantado en inteligencia para suprimir de manera efectiva y permanente a todos los competidores. Böstrom afirma que esta ventaja estratégica decisiva permitiría que el primer sistema ASI del mundo se convirtiera en lo que se llama un singleton (Böstrom dice que prefiere no utilizar el término Singularidad, pero usa otro parecido). Esto es: una ASI capaz de gobernar el mundo a su antojo. Llevarnos a la inmortalidad o borrarnos de la existencia.

Superinteligencia Artificial, una IA mucho más veloz y cualitativamente mucho más inteligente que cualquier humano, e incluso que la humanidad en su conjunto, en todos los ámbitos.

Claro que no todos piensan que esto es posible. Los escépticos, como el cofundador de Microsoft Paul Allen o Mitch Kapor —fundador de Lotus 1, 2 y 3 y cofundador de Mozilla— sostenían ya la década pasada que pensadores como Kurzweil están subestimando la magnitud del desafío. Según ellos, la “asombrosa complejidad de la cognición humana” es el verdadero asunto. Porque si no se comprende científicamente y en profundidad la cognición, es imposible crear el software que pudiera desencadenar la Singularidad. Y en lugar del avance cada vez más acelerado que imagina Kurzweil, Allen considera que hay un constante “freno de complejidad” que hace que una vez que se comienza a investigar un sistema complejo como el que es capaz de desencadenar un pensamiento o una acción social suficientemente sofisticada, las cosas se vuelven más y más difíciles, y la carrera de los “rendimientos acelerados” se frena indefectiblemente.

Es esa complejidad la que se propusieron afrontar —entre otros— el informático británico Geoffrey Hinton, el franco-estadunidense Yann LeCun y, más recientemente, el ruso-israelí Ilya Sutskever, jefe científico y cofundador de OpenAI. Siguiendo una antigua intuición de Hinton acerca de que para “aprender” no eran necesario solo razonamientos lógico-matemáticos, sino también asociaciones complejas, desarrollaron lo que hoy se conoce como redes neuronales multicapa y redes neuronales convolucionales, capaces de aprender por sí solas (lo que solemos llamar aprendizaje automático o machine learning) a través algoritmos de propagación hacia atrás.

Tales desarrollos están en la base de programas como ChatGPT. Estos chatbots son modelos de lenguaje de gran tamaño (LLM, por large language model), ajustados con distintas técnicas de aprendizaje automático. ChatGPT funcionaba inicialmente sobre la base del modelo predictivo de lenguaje GPT-3, introducido en 2020, y se perfeccionó sobre GPT-3.5. Un mes después de su lanzamiento en noviembre pasado, OpenAI calculaba que ChatGPT ya tenía más de un millón de usuarios. Hace pocas semanas, el 14 de marzo, la empresa lanzó la versión que funciona sobre GPT-4, que como decíamos está disponible para usuarios Plus, es decir, los que pagan extra (la gratuita es la versión anterior). Es esta nueva versión la que hizo estallar el asombro y el desconcierto masivo por su gran performance.

Una Superinteligencia Artificial es capaz de gobernar el mundo a su antojo. Llevarnos a la inmortalidad o borrarnos de la existencia.

GPT es el acrónimo de Generative Pre-trained Transformer. “Transformer” es el tipo de algoritmo que actúa como base en el sistema: una red neuronal que aprende contexto —y por ende, significado— siguiendo relaciones en datos secuenciales, como las palabras de esta oración. Se describieron por primera vez en un documento de 2017 de Google y están impulsando un cambio de paradigma en la IA. Entre las cosas que pueden hacer los transformers están la traducción de texto y habla casi en tiempo real, la asistencia a investigadores humanos en la comprensión de las cadenas de genes en el ADN y los aminoácidos en proteínas para acelerar el diseño de fármacos, y la detección de tendencias y anomalías para prevenir fraudes, optimizar la producción en diferentes industrias o hacer recomendaciones en línea. Por su parte, “pre-entrenado” quiere decir que ese algoritmo es entrenado con un corpus masivo de textos, donde se le muestran patrones y relaciones subyacentes en el lenguaje. Y “generativo” quiere decir que el “bicho” puede crear nuevos contenidos (nuevas relaciones, para las que no fue deliberadamente entrenado) a partir de esta base de conocimiento.

En síntesis, un modelo de generación de actividades lingüísticas. Una meta-tecnología. No realiza “una” actividad humana (redactar canciones con rima, responder preguntas de pruebas académicas exigentes, buscar información ordenada: ya serían tres), sino muchas más. Una inteligencia artificial bastante más genérica que la que solo juega ajedrez. Por cierto también comete muchos errores triviales, contiene sesgos y, como sus predecesores, a veces "alucina" –en el lenguaje de los videojuegos diríamos que tiene glitch– brindando información sin sentido. Pero su performance va a mejorar.

El periodista y escritor del New York Times Thomas Friedman contaba el 21 de marzo su enorme sorpresa cuando Craig Mundie, ex director de investigación y estrategia de Microsoft, le mostró su chatbot basado en GPT-4. “Tienes que entender”, le advirtió Craig antes de comenzar su demostración, “esto va a cambiar todo acerca de cómo hacemos todo. Creo que representa el mayor invento de la humanidad hasta la fecha. Es cualitativamente diferente, y será transformador”.

Lo que sigue comentándole Mundie a Friedman confirma la tesis de la carta: “Los módulos de idiomas grandes como ChatGPT aumentarán constantemente sus capacidades —agregó Craig— y nos llevarán ‘hacia una forma de inteligencia artificial general’, brindando eficiencias en operaciones, ideas, descubrimientos y conocimientos que nunca antes habían sido alcanzables en todos los dominios”.

Después Mundie le hizo una demostración y, según Friedman, lo que vio le hizo entender que el ex asesor de Microsoft se estaba quedando corto. Primero, le pidió a GPT-4 que resumiera el museo donde estaban, Planet Word, y su misión en 400 palabras. “Lo hizo perfectamente, en unos pocos segundos —escribe Friedman—. Luego le pidió que hiciera lo mismo en 200 palabras. Otros pocos segundos. Luego le pidió que hiciera lo mismo en árabe. Con la misma rapidez. Luego en mandarín. Dos segundos más. Luego en inglés nuevamente, pero en la forma de un soneto de Shakespeare. Unos segundos más. Luego, Craig le pidió a GPT-4 que escribiera la misma descripción en un verso abecedario, donde la primera línea comienza con la letra A, la segunda con B y así sucesivamente a través del alfabeto. Lo hizo con una creatividad asombrosa.” [Pueden ver el poema abecedario en inglés en las páginas del NYT].

Finalmente Friedman combina así sus propias ideas con las de Craig Mundie: “La última vez que inventamos una tecnología tan poderosa, creamos energía nuclear: podría usarse para iluminar todo tu país o destruir todo el planeta. Pero lo que pasa con la energía nuclear es que fue desarrollada por los gobiernos, que de manera colectiva crearon un sistema de controles para frenar su proliferación a los malos actores, no perfectamente pero no mal. La IA, por el contrario, está siendo iniciada por empresas privadas con fines de lucro. La pregunta que debemos hacernos es cómo gobernamos un país y un mundo, donde estas tecnologías de IA pueden ser armas o herramientas en todos los dominios, mientras están controladas por empresas privadas y su poder se acelera cada día”.

ChatGPT no es el primer producto de su tipo: desde que se conoció GPT-3, se lanzaron programas como GLaM, LaMDA, Gopher, InstructGPT y Megatron-Turing NLG, entre varios otros, que buscaban realizar tareas, como la comprensión lectora, la verificación de hechos y la identificación de lenguaje tóxico.

Y hasta podría no ser el más interesante. En una entrevista reciente para CBS News, Geoff Hinton (a quien mencionamos antes en relación con las redes neuronales) comentó: “He usado muchas cosas que vinieron antes, por lo cual éste en particular no me parece tan asombroso. (...) GPT-2, una versión anterior, sí me asombró. Pero me asombró todavía más un programa de Google que sabe explicar por qué una broma es divertida. No lo logra en todos los casos, pero sí en muchos. Y eso sí es algo raro”. Se refiere a Pathways Language Model, o PaLM, de 2022.

De allí que la carta llega cuando los sistemas de IA dan saltos cada vez más audaces e impresionantes. También cuando Elon Musk, que se retiró de OpenAI en 2019, espera poder competir con ella (es un argumento que se viene escuchando en estos días). Pero la carta la firman más de 1120 científicos y expertos, además de Musk: ¿por qué lo harían?

Sus capacidades despertaron tanto entusiasmo como una gran preocupación en el ámbito de la educación (con preguntas algo superficiales: ¿cómo vamos a evaluar ahora?, ¿qué conocimientos van a necesitar los niños de aquí a 15 años?), en la industria de la ciberseguridad, en las industrias del conocimiento e incluso en la política.

Con respecto al primer tipo de problema, ya se han dado algunas respuestas que es de esperar se volverán típicas, pero insuficientes, en los próximos meses. Una: a partir del 4 de enero de este año, el Departamento de Educación de la ciudad de Nueva York ha restringido el acceso a ChatGPT desde Internet y los dispositivos de sus escuelas públicas. Y dos: en febrero, la Universidad de Hong Kong prohibió usar ChatGPT u otras herramientas de IA en todas las clases, tareas y evaluaciones de la universidad.

En cuanto a la seguridad, en marzo un fallo del ChatGPT permitió a algunos usuarios ver los títulos de las conversaciones de otros usuarios. Poco después de que se corrigiera ese episodio, los usuarios no pudieron ver su historial de conversaciones.​ Informes posteriores mostraron que el fallo era mucho más grave de lo que se había creído en un principio, y OpenAI informó de que se había filtrado "nombre y apellido, dirección de correo electrónico, dirección de pago, los cuatro últimos dígitos (únicamente) de un número de tarjeta de crédito y la fecha de caducidad de la tarjeta de crédito" de los usuarios. En medio de un clima de zozobra, el 31 de marzo Italia anunció que a partir de ese mismo día bloquearía el acceso de los usuarios de su país al ChatGPT, con lo que se convirtió en el primer país occidental en prohibir ese programa de IA. El organismo gubernamental para la protección de datos anunció que existen preocupaciones relativas a la privacidad y dispuso una investigación “inmediata" relacionada con la seguridad de los datos personales.

Por otro lado, el 26 de marzo, analistas de Goldman Sachs destacaron en el informe titulado “Los grandes efectos potenciales de la inteligencia artificial en el crecimiento económico” que el desarrollo de la IA generativa podría tener “grandes efectos macroeconómicos” y un "impacto significativo" en el mercado laboral. Sólo en los EE.UU. y en Europa, “la IA generativa podría sustituir hasta una cuarta parte del trabajo actual”, agrega el informe. Y a nivel mundial  provocar la automatización de unos 300 millones de trabajos a tiempo completo.

Posiblemente sea en la política y en la propia sociedad donde las tareas se vuelvan más urgentes. La carta menciona las más imperiosas. En los niveles global y estatal, crear marcos legales (“sistemas sólidos de gobierno de la IA”); conformar autoridades reguladoras a la altura del problema, que no es principalmente técnico, sino social, cultural y político. Es decir, esas autoridades deberán ser no principalmente ingenieros, economistas o matemáticos, sino expertos en mediaciones, en políticas públicas, en seguridad y anticipación de riesgos, en sistemas y sociedades complejos. A estas autoridades hay que, primero, diseñarlas; esto es, formarlas con trayectos de educación transversal (que deberán incluir a narradores y artistas, capaces de imaginar, figurar concretamente y con narrativas sólidas, escenarios futuros. Siendo cuerpos se piensa con imágenes, sabemos desde Aristóteles, y confirman todos los creativos).

Crear organismos técnicos y expertos capaces de supervisión y seguimiento de estos enormes conjuntos técnicos. Y para nuestro país y nuestra región, reorientar las estrategias de educación y científico-tecnológica, no sólo hacia la “inclusión digital”, sino también hacia la expansión y fortalecimiento de la soberanía tecnológica en IA, así como reorientar las formaciones superiores hacia las nuevas experticias que serán importantes en esta nueva y desconcertante etapa.

Atravesamos días comparables con la crisis de los misiles de 1962. Pero no sería fácil saber quiénes son los oponentes. ¿Las corporaciones? ¿EE.UU. y China? ¿Los humanos y la IA?

Por otro lado, desarrollar normativas y estrategias de seguridad y gestión de riesgo, que ya demostraron ser eficaces en la prevención de accidentes en las llamadas “industrias ultraseguras”, como la nuclear o la aeronáutica. E incluso en las industrias no tan seguras, como las químicas, tal como demostraron las directivas Seveso 1, 2 y 3, emitidas después de diferentes accidentes ocurridos en Italia y Francia entre 1982 y 2001. Hoy, sobre todo después de la pandemia, estas estrategias se han convertido en una prioridad en expansión en toda la industria, en áreas tan diversas como la logística multimodal o el petróleo.

Para todo esto, seis meses parece muy poco tiempo (claro que, si lo que enfrentamos es una escalada de aceleración tecnológica, el tiempo nunca será suficiente). La carta menciona algunos casos donde se llegó a acuerdos de autolimitación en tecnologías con efectos potencialmente catastróficos en la sociedad, como “la clonación humana, la modificación de la línea germinal humana, la investigación de ganancia de función y la eugenesia”. También se llegaron a acuerdos de desarme nuclear. No son perfectos, como dice Friedman, pero tampoco imposibles.

Y al menos la carta provocó algo fundamental, que es causar impacto global. Un efecto de tensión inédito en el campo de la informática al menos desde el caso del Y2K.

Cuando me reenviaron por whatsapp el tuit de Siqi Chen, el comentario siguiente decía: “De esta semana se va a hablar mucho por los próximos 20 años”. Y de hecho, se la comparó con el episodio de la “crisis de los misiles”, de 1962, cuando EE.UU. descubrió que había bases de misiles nucleares soviéticos en la isla de Cuba. Fue una de las mayores crisis de la Guerra Fría, cuando –opinan numerosos expertos– más cerca se estuvo de una guerra nuclear.

La comparación parece referir más al clima de zozobra que a un peligro letal concreto. Por un lado no sería fácil saber quiénes son aquí los oponentes: ¿las corporaciones? ¿EE.UU. y China, o de manera más eufemística “Occidente” y “Oriente”? ¿O los humanos y la IA? Por otro lado, el riesgo no parece ser una muerte “rápida y segura”, sino la combinación –absolutamente indeseable, pero mucho más delicada y compleja de tratar que un arma letal, porque es un conflicto entre sistemas sociotécnicos y políticos complejos– entre una desigualdad cada vez más desequilibrada; una crisis generalizada del empleo en un contexto, no de escasez, sino de abundancia; y de un potencial giro autoritario de los modos de gobierno.

La innovación que viene, la que aún resta diseñar, es la innovación social y política. Una que nos permita orientar el desarrollo, la integración y las formas de apropiación colaborativa de estas tecnologías de una manera realmente democrática.

La innovación que viene, la que aún resta diseñar, es la innovación social y política. Una que nos permita orientar el desarrollo, la integración y las formas de apropiación colaborativa de estas tecnologías de una manera realmente democrática. Lo que requiere un trabajo transdisciplinar y meta-tecnológico a la altura del desafío. Un desafío que se parece bastante a la emergencia, o la invención, no de una lengua, sino de la lengua, la caída en el lenguaje. Pero por parte de máquinas que no son equivalentes a los humanos (no estamos frente a un individuo maquínico del mismo modo en que estamos frente a un individuo humano), sino a seres que, aun sin tener intenciones ni sensaciones físicas, son capaces de combinar sonidos, imágenes, grafos y sus traducciones o transposiciones a diferente soportes audiovisuales e incluso a otras materialidades. 

Y acaso llegarán a comprender el mundo. Ilya Sutskever dice: “A medida que nuestros modelos generativos se vuelvan extraordinariamente buenos, tendrán un sorprendente grado de comprensión del mundo y muchas de sus sutilezas. Es el mundo visto a través de la lente del texto. Intentan aprender más y más sobre el mundo a través de una proyección del mundo en el espacio del texto, tal como lo expresan los seres humanos en Internet. Pero aún así, este texto ya expresa el mundo”.

05/04/23.