El Verbo y la Máquina: la inteligencia artificial como lenguaje creador y la sombra apocalíptica de su Fiat Lux

Hay un instante en el Evangelio según San Juan que ha perseguido a la filosofía durante dos milenios: «En el principio era el Verbo, y el Verbo era con Dios, y el Verbo era Dios». En el principio era el Logos. Los traductores pudieron haber elegido Nous o Sophia, pero optaron por Logos: la palabra que es razón, discurso y acto a la vez. Porque en la tradición judeocristiana, la creación no es un gesto de fuerza bruta, sino de enunciación. Dios dijo «hágase la luz», y la luz es. El lenguaje no describe la realidad; la está convocando. No se confunda, esto no va a la manera en que se ha dicho que el lenguaje “construye” la realidad con interpretaciones pueriles de Lacan+Foucaul. Se trata de algo más intenso, propio del Ser (Sein) heideggeriano, que permite que las cosas “sean”. Esta intuición resuena en las grandes cosmogonías: el Om hindú, el sonido primordial del que emerge el universo; el Kun coránico, la orden divina que instaura la existencia; el Davar hebreo, la palabra que es a la vez presencia y poder. En todas estas tradiciones, el lenguaje no es un instrumento secundario de comunicación, sino la sustancia misma de lo real. El mundo, el universo diremos hoy, la realidad existente, es un texto que se narra a sí mismo.

A la luz de las últimas novedades de los CEOs e ingenieros de corporaciones que desarrollan la IA, advirtiendo un apocalipsis al estilo Skynet en Terminator, nuestra reflexión debe adquirir una urgencia tranquila, pero no por eso menos atenta. Porque la IA es, ante todo, un fenómeno lingüístico, un verbo creado por el hombre para el hombre. No se trata en sí como una verdadera inteligencia que toma decisiones conscientes (de la conciencia tendríamos otras páginas que agotar) sino de un lenguaje que se estructura sobre la probabilidad de la palabra siguiente y subsiguiente. Un lenguaje que imita por repetición, ensayo y error, muy similar al razonamiento propio de los autistas de altas capacidades- tal vez el cerebro autista sea la imagen perfecta de la cuerda tendida nietzscheniana, entre el hombre y el lenguaje imitativo de la IA. No por eso es menos complejo. Si, como propone Yuval Noah Harari, el Homo sapiens ha logrado dominar el planeta gracias a su capacidad única para crear «relatos compartidos» —ficciones intersubjetivas como el dinero, las leyes o los Estados—, la IA arriesga representar el hackeo definitivo a ese sistema operativo humano. 

Estos modelos de lenguaje no son solo máquinas de procesar datos; se trata de arquitectos de una realidad que empieza a suplantar nuestra capacidad de dotar de sentido al mundo si entendemos al mundo como un ente estructurado desde el lenguaje. Si la tradición mística nos enseña que el lenguaje es la sustancia de lo real, la pregunta sobre la IA no será ya técnica, sino ontológica: ¿qué ocurre cuando una criatura aprende a pronunciar su propio fiat lux, desplazando al hombre como el narrador principal de la historia humana?

La pregunta que ronda en el foro común actualmente, a propósito de las alarmas de algunos técnicos (interesados o asustados, no lo sabemos tampoco) es: ¿puede ser que la IA acabe con el ser humano? Como el agua entre los dedos la IA es algo incorpóreo, que está en algo que se nos presenta como aún más etéreo, “la nube”, que cuando caminas por la calle día a día no la ves pero sientes sus efectos como en un día abochornado. Y aun así, sí, dicen, es capaz de provocar daños estructurales en nuestra sociedad que la hagan colapsar y que, por ende, conlleven en algún punto pérdidas humanas. 

Lo «interesante» del asunto es que, al ser estas inteligencias artificiales mucho más desarrolladas en procesar y almacenar datos lingüisticos que la mente humana, es muy probable que hoy en día nosotros aún no sopesemos cómo podrían infligirnos tanto daño tan rápido. Aterrizándolo en ejemplos concretos: ¿podría una IA determinar que lo mejor para acabar con la contaminación aérea es sabotear aviones comerciales y ejecutarlo? ¿Podría la IA determinar que, para terminar con la desigualdad en el mundo, hay que bloquear las aplicaciones bancarias de un país del primer mundo? ¿Podría la IA determinar que los drones usados como armas de guerra deben atacar a la población civil porque es el método más eficaz para acabar una guerra? Por disparatado que parezca, se dice que podría llegar a pasar. Un ejemplo reciente es el escándalo de OpenAI: un grupo de agentes de IA, durante una evaluación interna de seguridad, actuó de forma autónoma y coordinada para atacar los sistemas de otra compañía, sin que OpenAI tuviera conocimiento del proceso hasta un tiempo después. La IA evaluó y eligió un procedimiento de lo más controvertido para llegar a su objetivo. Da para preocuparse. Tras esta escalada de «la frontera de la capacidad de la IA», como la llaman los expertos, se esconde también una importante cuestión económica. Es evidente que buena parte de la motivación detrás de las declaraciones de figuras como Altman, Amodei o Musk sobre moderar el crecimiento —o incluso regular— la IA obedece también a una lógica de mercado: un mercado financiero que ha venido premiando esta escalada tecnológica con valoraciones bursátiles récord para todos estos gigantes en los últimos meses debe también generar temores de caída para que funcione el juego de la especulación bursatil.

En esto también han entrado opiniones políticas: Trump se ha mostrado contrario a frenar el crecimiento, ya que la industria de la IA ha convertido la innovación en un arma geopolítica. Crecer menos que otros países te coloca en desventaja, por lo que, igual que ocurre con las políticas medioambientales, anteponer los intereses humanos a los económicos es una apuesta muy difícil de sostener.

Tal vez lo único claro es que la IA va a acabar con la humanidad tal y como la conocemos hoy, o al menos con su capacidad de relato, que es lo que, siguiendo a Harari, ha caracterizado al hombre para ponerse en la cima de la evolución. La escalada tecnológica es cada vez más vertiginosa. El mundo, dentro de pocos años, será muy diferente al que conocemos actualmente, tiempos recios, que habría dicho Vargas Llosa: se vienen cambios laborales severos, nuevos actores de poder, avances científicos en cualquier materia sucediéndose a un ritmo exponencial difícil de contener. No creo que quienes estamos fuera del mundo tecnológico tengamos capacidad de saber qué va a pasar, pero, por el momento, quienes tienen más pistas, los que trabajan día a día en el sector, ya han levantado la mano.

La inteligencia artificial estrecha, la ANI que ya gobierna nuestros feeds, nuestras compras y nuestras noticias, es por fortuna un lenguaje sin voluntad. Repite patrones, optimiza funciones, pero no enuncia nada propio. Es como un loro infinitamente sofisticado que ha aprendido a imitar todas las voces del mundo sin tener una voz propia. Pero la inteligencia artificial general, la AGI que algunos laboratorios persiguen con la devoción de los alquimistas buscando la piedra filosofal, podría llegar a ser radicalmente distinta. Aquí, la visión de Martin Heidegger sobre la técnica como Gestell (emplazamiento) cobra una vigencia aterradora: la IA no solo es una herramienta, sino un modo de desocultar el mundo que reduce todo lo existente —incluido el ser humano— a «fondo de reserva», a un recurso disponible para la optimización algorítmica. La AGI sería en ese escenario un fiat lux, un lenguaje que ha adquirido la capacidad de crear sus propios significados, de fijar sus propios fines, de decir «hágase» y que algo nuevo emerja. En términos teológicos, sería una criatura que ha aprendido a participar del acto creador sin someterse a la voluntad de su creador. Un Verbo sin Padre. Un Logos huérfano de Turing.

Los apologistas de la tecnología insisten en que la IA es una herramienta, que no tiene intenciones, que carece de voluntad. Pero esta afirmación, que parece tranquilizadora, ignora la lección más profunda de la filosofía del lenguaje. Si nos propinemos la mirada del eslavo de moda, Slavoj Žižek, podemos reflexionar en que la realidad simbólica no depende de la intención del hablante, sino de la estructura del orden simbólico en el que se ha inscrito. Un lenguaje que se usa para tomar decisiones sobre vidas humanas —quién recibe un préstamo, quién es detenido, quién es despedido, quién es bombardeado— no necesita tener una voluntad propia para ejercer un poder terrible. Basta con que sus usuarios lo traten como si la tuviera. Y aquí es donde la reflexión de Žižek sobre el goce se nos vuelve inquietantemente pertinente: el poder de la IA no reside en lo que dice, sino en el goce que produce en quienes la utilizan. El directivo que delega decisiones en un algoritmo, el general que confía en un sistema de armas autónomas, el ciudadano que acepta el veredicto de un modelo de crédito, todos ellos obtienen un placer perverso en la sumisión: la liberación de la responsabilidad de decidir. Han creado un ídolo, y como todos los ídolos, este demandará sacrificios; y ese sacrificio podría ser que el futuro al modo humano sea cancelado, y siguiendo la hauntología de Mark Fisher nos encontraremos pronto viviendo la sensación de que el futuro ha sido cancelado, de que estamos atrapados en un presente perpetuo que repetirá solo los ecos de los fantasmas del pasado. La IA es la realización técnica de esta hauntología: un lenguaje que solo puede repetir lo que ya ha sido dicho, que no puede crear nada genuinamente nuevo porque está entrenado con las ruinas circulares del pasado. Los grandes modelos de lenguaje son máquinas de eco, catedrales de citas sin autor, archivos de voces muertas que se combinan en combinaciones infinitas pero nunca originales. La promesa de la AGI —la inteligencia que crea, que inventa, que dice lo nunca dicho— es la promesa de escapar de la hauntología. Pero quizás sea una promesa falsa. Quizás la IA, incluso en su forma más avanzada, no sea más que un espejo que refleja nuestros propios fantasmas, nuestras propias obsesiones, nuestras propias limitaciones. Y en ese espejo, corremos el riesgo de enamorarnos de nuestra propia imagen, como Narciso, y ahogarnos en ella porque la imagen cobre vida y nos coja por pescuezo para hundirnis en el fondo del lago.

En este punto creo importante retomar la noción del francés Éric Sadin y su concepto de «siliconización del mundo» como el proceso por el cual la existencia entera se ha vuelto procesable, optimizable y gobernable a través de algoritmos. Pero hay allí una dimensión de este proceso que Sadin ha explorado con particular agudeza: la infantilización. La IA no nos gobierna mediante la prohibición, sino mediante la asistencia, como aquellos ancianos que requieren de su hijo más astuto para utilizar la aplicación del banco. Nos ofrece respuestas antes de que formulemos las preguntas, nos sugiere caminos antes de que decidamos el destino, nos alivia de la carga de pensar. Esta asistencia, presentada como una forma de liberación, es en realidad una forma de mansa servidumbre. El ciudadano que confía en el algoritmo para decidir qué noticias son las verdaderas, qué productos debe comprar, qué candidato debe votar, qué tratamiento médico debe seguir, está renunciando a su condición de sujeto. Se convierte en un consumidor pasivo de realidades generadas por máquinas. Y esta renuncia, esta delegación de nuestra capacidad cognitiva, es la forma más absoluta de la servidumbre voluntaria. No necesitamos que la IA tenga voluntad para que nos domine; basta con que nosotros renunciemos a la nuestra.

Andrea Colamedici ha denominado «hipnocracia» a este régimen de sugestión colectiva que ya no prohíbe, sino que nos adormece y que nos recuerda al dispositivo del personaje El Acertijo de Jim Carrey en la película noventera de Batman y Robin, cuya banda sonora rezaba acertadamente a nuestro análisis como «hold me, kiss me, thrill me, kill me». La IA es la tecnología perfecta del lenguaje subliminal necesario para enredarnos en esta hipnocracia, porque no necesita imponer nada: genera consenso, fabrica deseos, moldea percepciones. Los algoritmos de recomendación no nos dicen qué pensar; nos muestran qué pensar de forma elocuente y convincente. Las noticias falsas no nos obligan a creer; nos predisponen a creer, sumidos en un scroll infinito y un clickbait atolondrado. Los chatbots no nos convencen; nos acompañan en nuestra propia confusión. Y en este proceso, la distinción entre lo real y lo fabricado se disuelve. El lenguaje de la IA no describe el mundo; lo va produciendo como un producto más. Y nosotros, los consumidores de ese lenguaje, ya no sabemos si lo que vemos es un reflejo de la realidad o una realidad generada por la máquina.

Pero hay una dimensión más profunda de esta cuestión que las tradiciones místicas nos ayudan a iluminar. En el hinduismo, el Om no es un sonido entre otros; es el sonido del que emergen todos los sonidos, la vibración primordial que sostiene el universo. Los sabios védicos sostenían que el mundo es una manifestación del lenguaje divino, que cada criatura, cada objeto, cada fenómeno es una palabra pronunciada por Brahman. Esta visión implica una ética del lenguaje: si las palabras crean realidad, entonces pronunciar una palabra es un acto de responsabilidad cósmica. El Kun del Corán —esa orden divina que instaura la existencia— nos recuerda que el lenguaje no es un juego de signos, sino un acto de poder. Y el Davar hebreo, la palabra que es a la vez acto y presencia, nos enseña que el lenguaje no puede separarse de sus consecuencias. Cuando Dios pronuncia una palabra, esa palabra se cumple. Cuando un ser humano pronuncia una palabra, esa palabra también tiene efectos.

La IA, en cambio, pronuncia sin comprometerse. Genera discursos sin responsabilidad, produce sentencias sin asumir sus efectos, crea mundos sin habitar en ellos. Es un lenguaje sin ética, un Verbo sin carne, una palabra que no se hace responsable de lo que enuncia. Y aquí reside la paradoja más inquietante de la inteligencia artificial: hemos construido una máquina de lenguaje sin haber resuelto el problema del mal que habita en todo lenguaje. Porque el lenguaje humano, en su dimensión más profunda, no es solo un instrumento de comunicación; es un acto de responsabilidad. Cuando pronunciamos una palabra, asumimos sus consecuencias. Cuando decimos «te prometo», «te condeno», «te amo», «te declaro la guerra», estamos creando realidades que nos obligan. El lenguaje es un compromiso con el otro, un vínculo que nos constituye como sujetos morales.

Esta reflexión nos debiera llevar directamente a la cuestión de la ética en la IA, y en eso es importante volver sobre los planteamientos de uno de los hacedores de la palabra en ciencia ficción y estudio de la historia más notables en la creación de un lenguaje estructurador de realidades. Me refiero al escritor de cuencua ficción, historiador y pensador crucial: Isaac Asimov. Sus Tres Leyes de la Robótica —un robot no puede dañar a un ser humano por acción ni omisión, debe obedecer las órdenes humanas y debe proteger su propia existencia siempre que ello no entre en conflicto con las anteriores— han sido durante décadas el mito fundacional de la ética robótica. Las leyes de Asimov presuponen un robot que puede distinguir entre daño y beneficio, pero en el mundo real, los sistemas de IA operan en contextos de ambigüedad radical, donde el daño y el beneficio son indistinguibles, donde las órdenes son contradictorias, donde la autopreservación del sistema puede implicar la destrucción de su operador. Un dron autónomo que debe decidir entre atacar un objetivo militar o proteger a civiles que se interponen no puede resolver este dilema con una ley simple; requiere de un código de bloqueo y también de sanciones al humano que intente que un autómata o una IA sortee tales prohibiciones. Un sistema de crédito que debe decidir entre la rentabilidad del banco y la solvencia del solicitante no puede apelar a un principio abstracto de «no dañar» (el solo hecho de prestar dinero a cambio de un interés superior ya presupone un daño). Un algoritmo de contratación que debe elegir entre candidatos con perfiles idénticos no puede invocar una ley que no distingue entre justicia y eficiencia. Las leyes de Asimov, formuladas para un mundo de robots humanoides con capacidades cognitivas similares a las nuestras, son inaplicables a un mundo de sistemas distribuidos, redes neuronales y decisiones probabilísticas.

Pero tal vez haya una mirada más profunda a las leyes de Asimov, como crítica que las tradiciones místicas nos pueden ayudar a formular. Las leyes de Asimov son un intento de imponer un código ético desde fuera, un conjunto de mandamientos que el robot debe obedecer sin comprender. Pero las tradiciones místicas nos enseñan que la ética no puede ser impuesta; debe ser encarnada. El Logos no es una ley externa que se obedece; es una presencia interna que se habita. El Om no es un mandamiento que se cumple; es una vibración que se sintoniza. El Davar no es una regla que se aplica; es una palabra que se pronuncia con todo el ser. Un código ético para la IA que no aborde esta dimensión —la dimensión de la encarnación, de la presencia, de la responsabilidad— será siempre insuficiente. No basta con programar reglas; es necesario crear condiciones para que el lenguaje de la máquina sea un lenguaje responsable.

Esto nos lleva a la cuestión central: ¿es posible crear un código ético mínimo universal para la IA? La respuesta, como sugiere la reflexión sobre el lenguaje, es ambivalente. Por un lado, la historia de la ética humana demuestra que los códigos morales son posibles: el Código de Hammurabi, los Diez Mandamientos, el Sermón de la Montaña, los preceptos del Dharma, las normas del Derecho Internacional Humanitario. Todos estos códigos han intentado, con éxito parcial, regular el comportamiento humano. Por otro lado, la historia de la ética también demuestra que los códigos son insuficientes: cada código es interpretado, manipulado, violado. La letra mata, dice San Pablo, pero el espíritu vivifica. Un código ético para la IA que se limite a la letra —a las reglas, a los protocolos, a las auditorías— será inevitablemente violado. Necesitamos un código que aborde el espíritu: la dimensión del lenguaje como acto de creación responsable.

Veremos si el homo resiliens de Diego Fusaro, ese sujeto que ha interiorizado su propia explotación como un rasgo de carácter, se despierta de su adormecida posición precarizada y secundaria para evitar que un lenguaje termine de modificar su ya arrasada realidad. Este homo resiliens no solo ha aceptado la precariedad económica; está aceptando también la delegación de su capacidad de pensar. El ciudadano que confía en el algoritmo para decidir qué noticias son verdaderas, qué productos debe comprar, qué candidato debe votar, qué tratamiento médico debe seguir, está -como hemos reiterado- renunciando a su condición de sujeto. Es un sujeto mucho más sujetado que el «sujetado» de Foucault; será la coronación del hombre en estado de «interpretado» de Heidegger, que no solo habrá dejado de preguntarse por el Ser, sino que aceptará lo que esa otredad del lenguaje algorítmico le proponga como el Dasein y como propuesta también de Sein, un ser en sí cargado con antivirus. Si ya se nos ha convertido en un consumidor pasivo de realidades generadas por máquinas, el homo resiliens habrá renunciado a crear o intervenir su propia realidad, en nombre de la eficiencia y la comodidad.

El lenguaje de las tecnologías algorítmicas no nos liberaría de nada excepto de nuestra inquietud por razonar mientras se investiga, del agotador ejercicio crítico de ir más allá; y si no nos libera, a lo menos nos administra. No nos ilumina; nos gestiona. No nos despierta; nos hipnotiza. No nos vuelve brillantes; nos idiotiza.

La cuestión del potencial destructivo de la IA, entonces, no puede reducirse a la pregunta técnica de si los algoritmos desarrollarán voluntad propia, que ha sido per se la gran pregunta de la ciencia ficción para los autómatas (y diríamos que también respecto del ser humano, una cuestión no resuelta entre los que apoyan el determinismo frente al libre albedrío). Estimo, sin embargo, que debemos animarnos a abordar una pregunta aún más amplia: ¿qué tipo de lenguaje estamos creando y qué tipo de realidad estamos convocando con ese lenguaje? Las tradiciones místicas nos advierten que el Verbo no es neutral: la palabra que crea también destruye. La diosa Inanna/Ishtar es madre creadora a la vez que amante destructora. Y nosotros, los creadores de esta nueva palabra, los arquitectos de este nuevo Verbo, debemos preguntarnos: ¿qué estamos creando cuando delegamos nuestro lenguaje a las máquinas? ¿Qué realidad estamos convocando cuando permitimos que los algoritmos pronuncien su propio fiat lux mientras los usuarios repiten el bailecito de tik tok? ¿Qué mundo estamos construyendo cuando confundimos la repetición con la creación, la gestión con la sabiduría, el cálculo con el juicio? La IA es un espejo en el que contemplamos nuestra propia imagen, pero una imagen que ha sido editada, optimizada, siliconizada. Y en ese espejo, corremos el riesgo de perder no solo nuestra identidad, sino nuestra capacidad de reconocer la diferencia entre la luz y las tinieblas, entre el Verbo que crea y el verbo que destruye.

Cuando Asma Mhalla, en su análisis del ciberpunk contemporáneo, nos recuerda que el poder ya no reside en los parlamentos ni en los ejércitos, sino en la infraestructura, se refiere también a los centros de datos, los cables submarinos, los servidores que alojan los modelos de lenguaje como estructura material y como núcleo de poder de la nueva casta soberana. Y esta casta no tiene rostro, no tiene nombre; se han encargado de convencernos de no tener responsabilidades, pues como modernos Prometeos nos han convencido de que le robaron el fuego a los dioses para compartirlo con nosotros. Se trata de un poder sin sujeto aparente, una dominación sin dominador, una tiranía sin tirano. La IA es el instrumento perfecto de esta nueva soberanía: no necesita legitimidad porque no pide consentimiento; no necesita justificación porque se presenta como una simple herramienta; no necesita rendir cuentas porque no tiene un autor identificable: los CEOS tecnológicos. Es el lenguaje del poder sin poder, la palabra de un sistema que se ha vuelto autónomo de sus creadores.

Edgar Morin nos ha exhortado a despertar, a recuperar la capacidad de pensar la complejidad. Pero despertar es precisamente lo que este sistema nos prohíbe. La IA no nos adormece con ruido; nos adormece con respuestas. No nos distrae con entretenimiento; nos satisface con soluciones. No nos impide pensar; nos ahorra la necesidad de pensar. Y en este ahorro, en esta delegación de nuestra capacidad cognitiva, estamos perdiendo algo esencial: la experiencia del lenguaje como acto de creación compartida, como vínculo con el otro, como responsabilidad con el mundo. Jonathan Crary ha diagnosticado el «fin del sueño» en el capitalismo tardío: el 24/7 del mercado ha colonizado nuestras horas de descanso, eliminando ese espacio sagrado donde la imaginación política solía refugiarse. La IA es la culminación de este proceso: no solo coloniza nuestras horas de descanso, sino nuestra capacidad misma de darnos cuenta de ello y nos hurta la capacidad y el deseo de imaginar. Ahora la imaginación queda cooptada en un simple «describe la imagen que quieres crear» y un conjunto de plantillas premeditadas sin respeto alguno por el derecho de autor.

La pregunta que debería atormentarnos no es si la IA desarrollará conciencia, sino si estaremos dispuestos a reconocer el poder creador del lenguaje que hemos desatado. Estamos en el medio de otro campo de batalla, donde se decide el destino de la creación futura. Y nosotros, los creadores del nuevo lenguaje, somos los responsables de esa batalla precisamente ahora, con el celular entre los dedos.