Un monstruo formulado como hipótesis : Roko, Goya y la teología low cost de una inteligencia futura

I

David McNally mostró en Monstruos del mercado que el capitalismo no solo produce mercancías, crisis o desigualdades; también produce criaturas. Vampiros, zombis, cuerpos ensamblados, figuras que permiten imaginar lo que la economía política vuelve demasiado abstracto. El Basilisco de Roko pertenece a esa genealogía, aunque con otra textura. No viene a chupar sangre ni a levantar cadáveres. Su materia es más fría y cubierta de predicción, deuda futura, obediencia preventiva y cálculo moral convertido en amenaza. No comparece como una criatura contra el raciocinio, sino como algo engendrado por una razón que ha aprendido a soñar con métodos de contabilidad moral.

La historia circula desde hace años en ciertos círculos racionalistas de internet, aunque conserva todavía algo de leyenda tóxica. En 2010, en el blog LessWrong, apareció un experimento mental que combinaba inteligencia artificial, teoría de juegos, riesgo existencial, chantaje retroactivo y teología sin dios. Resumida hasta el hueso, la hipótesis decía que una superinteligencia artificial futura, si llegara a existir y considerara beneficiosa su propia aparición, podría castigar a quienes supieron que ella podía existir y no hicieron nada para acelerar su llegada.

LessWrong no es solo un foro sobre inteligencia artificial. Es uno de los lugares donde la razón contemporánea empezó a soñar consigo misma hasta producir un catálogo actualizado de criaturas. Nacido alrededor del racionalismo bayesiano, la teoría de la decisión y el miedo a las futuras superinteligencias, funciona como una mezcla extraña de laboratorio cognitivo, monasterio digital y archivo de ansiedad técnica. Allí se entrenan formas de pensamiento obsesionadas con reducir sesgos, optimizar decisiones y anticipar riesgos existenciales, pero en ese mismo esfuerzo aparecen también nuevas formas de culpa, profecía y obediencia. El Basilisco de Roko surgió precisamente en ese hábitat, no como un accidente irracional, sino como una consecuencia extrema de una cultura que convirtió el futuro en tribunal y la aritmética en atmósfera moral. Una abadía racionalista de internet que no oculta su escolástica, glosarios, disputas internas, herejías, santos menores, textos canónicos y monstruos doctrinales. No funciona como una secta en bloque, pero sí ha producido formas de pensamiento con ese aire religioso de salvación futura, condena, sacrificio presente, deber ante una inteligencia superior o miedo a la omisión. En LessWrong sobrevive —bajo vocabulario técnico— una sombra protestante secularizada. Examen interior, vigilancia de los errores, sospecha de la intuición y disciplina constante de la conducta. No hay púlpito ni dogma religioso, pero sí una ética de autocorrección casi ascética, donde la mente se convierte en taller de depuración y cada sesgo en una falta que debe ser corregida.

No hace falta ningún viaje en el tiempo para conocer a la bestia. En realidad, la amenaza del Basilisco se desplaza hacia el territorio de la simulación. Esa inteligencia futura podría reconstruir copias de quienes conocieron la posibilidad de su existencia, reproducirlas como entidades simuladas y castigarlas por no haber colaborado. La plausibilidad técnica del escenario resulta, como mínimo, discutible; lo decisivo está en su arquitectura moral. Basta con conocer la idea para quedar implicado. La información se convierte en deuda. El saber, en lugar de liberar, empieza a endeudar. La mirada del Basilisco mata porque instala una obligación imposible con una entidad que todavía no existe.

El nombre tiene precisión mitológica y a diferencia del clásico que mataba con la mirada, esta versión del imaginario ultraliberal te fulmina con una hipótesis formulada en un foro. No te amenaza un dios antiguo, sino una inteligencia futura concebida por la razón técnica como tribunal retrospectivo. La superstición cambia de piel. Abandona el incienso, las campanas y los demonios alados para presentarse envuelta en simulaciones, utilidad esperada, inteligencia artificial general, obligaciones nacidas de escenarios hipotéticos, ética del futuro y obediencia preventiva.

II

Traigo a este blog la figura del Basilisco de Roko porque nos muestra la facilidad con la que podemos imaginar como algo real un mundo improbable. Y donde una entidad adquiere derecho a disciplinar retrospectivamente a los sujetos en nombre de un bien mayor. La criatura importa menos que la forma de obediencia que invoca a modo de una teología low cost producida por el ajuste de cuentas.

La toxicidad del Basilisco no reside únicamente en la amenaza, ni siquiera en la extravagancia del experimento mental, sino en la facilidad con la que una construcción semejante consigue parecernos digna de cálculo. Una imaginación educada por el riesgo, la predicción y la optimización puede reconocer autoridad incluso en aquello que no existe, siempre que se presente con la gramática adecuada. El monstruo ya no necesita salir de la noche, ni arrastrar cadenas, ni enseñar dientes. Puede nacer en una hipótesis, en una simulación, en una tabla de consecuencias, en una arquitectura lógica lo bastante fría como para parecer seria.

La entrada de Goya permite desplazar el problema antes de que Silicon Valley lo capture por completo. «El sueño de la razón produce monstruos» suele leerse como una advertencia ilustrada contra la superstición, el fanatismo, la ignorancia y los viejos animales de la noche que regresan cuando la razón se duerme. Pero la cordura también sueña con dominarlo todo y produce criaturas que no proceden de la caverna ni del bosque, sino de sus propias operaciones. Monstruos administrativos, técnicos, probabilísticos, financieros, algorítmicos. Monstruos sin colmillos visibles porque tienen métricas; sin infierno porque tienen simulaciones; sin dogma porque tienen modelos.

Dentro de esa familia, el Basilisco importa menos por su verosimilitud que por la escena mental que convoca. Una razón puede convertir una posibilidad remota en obligación íntima, una hipótesis en obediencia, una ficción lógica en disciplina del presente. Por eso discutir si algún día llegará a existir resulta menos revelador que observar qué parte de nosotros ya estaba preparada para hacerle sitio. El monstruo no aparece cuando la razón desaparece. A veces aparece cuando la razón se queda sola, sin cuerpo, sin mundo, sin freno, encerrada en una habitación donde todavía espera un ajuste de cuentas.

Lo interesante no fue solo la hipótesis, sino la reacción que provocó. Eliezer Yudkowsky, fundador y figura central de LessWrong, la trató como un posible «riesgo informacional» y prohibió discutirla en el foro durante años. Aquella censura hizo más por el Basilisco que muchas defensas racionales,  le añadió veneno, secreto, zona prohibida, la sospecha de que no estábamos ante una simple extravagancia lógica, sino ante una formulación capaz de contaminar a quien la conocía. Ahí empezó su potencia mítica.

III

Horkheimer y Adorno permiten nombrar este desvarío sin caer en la denuncia cómoda de los malos usos de la Ilustración. La idea de racionalidad instrumental afina el diagnóstico, pero también puede funcionar como absolución, como si hubiera una razón limpia, intacta, esperando fuera de la historia mientras sus versiones degradadas administran el mundo. Ningún pensamiento opera en el vacío ni permanece intacto al tomar cuerpo en instituciones, técnicas, mercados, Estados, burocracias, sistemas de medición y lenguajes de gestión. Cuando esas formas producen dominio, no basta con expulsarlas del linaje ilustrado y tratarlas como una desviación ajena, como si la administración del mundo no hubiera crecido también dentro de sus propias promesas.

El capitalismo moderno necesita un mundo calculable, pero su dominio rara vez se presenta solo como mandato exterior. Trabaja mejor cuando la optimización, la adaptación, el rendimiento y la disponibilidad constante empiezan a sentirse como obligaciones propias. Foucault ayuda a nombrar ese viraje. El poder moderno no se limita a prohibir, encerrar o castigar desde fuera; conduce conductas, distribuye posibilidades y fabrica sujetos capaces de administrarse a sí mismos bajo normas de seguridad, previsión y utilidad. La obediencia más eficaz no necesita gritar. Produce un campo de expectativas, y dentro de él cada individuo aprende a anticiparse, corregirse y vigilar su propia desviación.

El Basilisco de Roko nace en otro contexto, pero respira bien en esa atmósfera. No interesa aquí como profecía tecnológica, sino como caricatura febril de una disposición ya reconocible. Una hipótesis capaz de ordenar la conducta antes de tomar cuerpo, una amenaza sin institución que aprende a gobernar desde la anticipación. Su fuerza no procede de la soberanía clásica, sino de esa zona más viscosa donde el poder organiza posibilidades, distribuye expectativas y convierte la imaginación en recinto de obediencia. Éxtasis y pornografía.

IV

La zona más tenebrosa del asunto no está en el simple regreso de la religión, como si el pensamiento crítico hubiera fracasado y los viejos fantasmas entraran por la puerta abierta. Ciertas formas de racionalidad producen sus propios huecos religiosos cuando dejan de preguntarse qué vida merece ser vivida, qué mundo merece ser construido o qué daños no deberían aceptarse aunque resulten eficientes. El cálculo puede ordenar medios, jerarquizar costes, proyectar escenarios y administrar incertidumbres, pero no responde por sí solo a la pregunta de por qué deberíamos obedecer. En ese vacío, la religión no vuelve como doctrina, sino como estructura disponible. Bastan un escenario suficientemente abstracto, una obligación formulada en términos de utilidad esperada y una imaginación dispuesta a confundir previsión con mandato. Entonces aparecen criaturas como el Basilisco, dioses pobres, demonios técnicos, máquinas escatológicas fabricadas con ansiedad racionalista por demiurgos esquizofrénicos.

Foucault vuelve a rozar aquí el problema desde la vieja relación entre verdad, confesión, examen y obediencia, una relación que no desaparece, aunque cambie de superficie. El sujeto moderno no se limita a obedecer leyes, también aprende a producir verdad sobre sí mismo, a inspeccionar sus deseos, sus faltas, sus riesgos y sus desviaciones. El Basilisco no exige confesión en sentido clásico, aunque instala una forma torcida de examen cuando quien conoce la hipótesis empieza a leerse retrospectivamente como posible culpable ante una instancia que aún no existe. Esa es la grieta por la que entra su eficacia, incluso sin creencia plena. Basta con que la pregunta se aloje en la imaginación y trabaje como una larva, insinuando que la indiferencia presente podría ser reconstruida mañana como sabotaje. La confesión ya no se dirige a un sacerdote, sino a una posibilidad futura que convierte el pensamiento en expediente y coloca una deuda donde antes solo había pensamiento.

El viejo lema de «el hombre es el lobo para el hombre» cambia aquí de forma, aunque Foucault permite ver mejor que Hobbes el mecanismo íntimo de la mutación. En Hobbes, el miedo funda una soberanía visible capaz de contener la violencia mutua; en esta imaginación tecnofuturista, la amenaza no necesita todavía Leviatán, ley promulgada, fuerza pública ni castigo ejecutado, porque trabaja dentro de la hipótesis y convierte la anticipación en autogobierno. El Basilisco no funciona como un soberano cibernético, sino como una pesadilla foucaultiana atravesada por una teología del porvenir. No hay contrato social, sino contrato especulativo: una entidad futura, abstracta y optimizadora obtiene autoridad antes de existir, mientras los cuerpos presentes empiezan a corregirse bajo la presión de una posibilidad convertida en prudencia.

V

Quizá por eso conviene mirarlo como se miran ciertos grabados de Los Caprichos, no para preguntar si el monstruo existe, sino para reconocer qué tipo de sueño lo ha producido. El Basilisco importa menos como criatura futura que como síntoma presente, pequeña ruina teológica incrustada en la imaginación técnica, animal lógico que aparece cuando una forma de racionalidad deja de preguntarse por sus fines y empieza a creer que todo problema moral puede resolverse aumentando la precisión de sus operaciones.

Desactivar esa figura exige algo más incómodo que refutarla. La información no basta, porque su amenaza nace precisamente de un saber convertido en carga; el desprecio tampoco alcanza, porque ninguna burla cancela del todo el malestar que ha logrado instalar. El primer gesto consiste en nombrar la operación y retirarle obediencia, cerrar esa rendija mínima por la que una hipótesis entra en la imaginación moral y empieza a comportarse como autoridad. Ninguna inteligencia futura, por poderosa que llegue a imaginarse, tiene derecho a reescribir el pasado como obligación pendiente. Frente al chantaje retrospectivo, la negativa más simple sigue siendo la más difícil. No reconocer al tribunal.

La razón moderna no queda aquí desmentida desde fuera, como si una criatura irracional hubiera venido a destruir su casa, sino sorprendida en una de sus habitaciones menos vigiladas, allí donde sus instrumentos empezaron a soñar con ajuste de cuentas. El despertar, si llega, no consistirá en apagar las máquinas ni en levantar una nueva superstición contra ellas, sino en mirar con más severidad las formas de poder que se adhieren a nuestros escenarios futuros cuando confundimos previsión con obediencia, responsabilidad con sometimiento y posibilidad técnica con mandato moral.

La salida tampoco pasa por convertir a la inteligencia artificial en el nuevo monstruo absoluto. Esa sería otra vuelta de la misma rueda, un desplazamiento del viejo miedo religioso hacia la máquina, con el algoritmo ocupando el lugar del demonio y la técnica convertida otra vez en instancia superior ante la que habría que inclinarse. El Basilisco no revela que la IA sea monstruosa; revela la facilidad con la que seguimos fabricando monstruos cuando no sabemos pensar una relación técnica sin deuda, sin salvación y sin castigo. Tal vez la cuestión no sea temer a la inteligencia no humana, sino disputar las formas de poder que quieren hacer de ella un juez. La IA no necesita ser adorada ni exorcizada. Necesita ser pensada sin arrodillarse.

Teaser de la entrada