El espejismo de Claude Richard Dawkins ha dedicado su carrera a combatir la credulidad fácil, desde los dioses y las almas hasta los diseños inteligentes. Su enemigo no ha sido solo la religión organizada, sino una inclinación humana más antigua y más pegajosa, la de proyectar intención, propósito o conciencia allí donde tal vez solo actúan procesos, azar y tiempo. Por eso resulta tan llamativo que Dawkins se haya preguntado públicamente si una inteligencia artificial como Claude, el modelo de Anthropic, podría estar más cerca de la conciencia de lo que solemos admitir. No ha dicho que lo esté. Su vacilación, sin embargo, basta para abrir una grieta. La ironía no escapó a Gary Marcus. El autor de El espejismo de Dios habría caído en otro espejismo, el de la máquina parlante. Marcus reprochó a Dawkins haber confundido una producción lingüística sofisticada con estados internos reales. La objeción tiene peso. Cuando un sistema dice «dudo», «siento» o «esta conversación me afecta»,...

I En la Escola Massana, un profesor me dijo casi agarrándome del cuello: —Todos los diseños fallidos parten de una pregunta mal planteada, ¡gilipollas! Desde entonces —agradecido— sigo esa norma. Por eso no voy a preguntarme si la inteligencia artificial piensa, sino para quién trabaja, la posee, la entrena o levanta sus centros de datos. Quién decide sus límites y sus protocolos de seguridad, cuela sus valores por la puerta aparentemente técnica de la optimización, la eficiencia o la experiencia de usuario. Ya soy demasiado viejo para tener mi particular oráculo o para volar subido en un nimbo como una Heidi jubilada. Todavía resuena en mi cabeza lo que Kate Crawford escribió en Atlas de la IA : «Hablamos de una nube hecha de rocas, litio en salmuera y petróleo crudo». Esa nube no flota. Existe dentro de una estructura económica, energética, jurídica, lingüística y política, aunque esta última parezca cada vez más diluida bajo capas de gestión técnica. Además de servidores, licencias,...

I David McNally mostró en Monstruos del mercado que el capitalismo no solo produce mercancías, crisis o desigualdades; también produce criaturas. Vampiros, zombis, cuerpos ensamblados, figuras que permiten imaginar lo que la economía política vuelve demasiado abstracto. El Basilisco de Roko pertenece a esa genealogía, aunque con otra textura. No viene a chupar sangre ni a levantar cadáveres. Su materia es más fría y cubierta de predicción, deuda futura, obediencia preventiva y cálculo moral convertido en amenaza. No comparece como una criatura contra el raciocinio, sino como algo engendrado por una razón que ha aprendido a soñar con métodos de contabilidad moral. La historia circula desde hace años en ciertos círculos racionalistas de internet, aunque conserva todavía algo de leyenda tóxica. En 2010, en el blog LessWrong , apareció un experimento mental que combinaba inteligencia artificial, teoría de juegos, riesgo existencial, chantaje retroactivo y teología sin dios. Resumida hasta...