I En la Escola Massana, un profesor me dijo casi agarrándome del cuello: —Todos los diseños fallidos parten de una pregunta mal planteada, ¡gilipollas! Desde entonces —agradecido— sigo esa norma. Por eso no voy a preguntarme si la inteligencia artificial piensa, sino para quién trabaja, la posee, la entrena o levanta sus centros de datos. Quién decide sus límites y sus protocolos de seguridad, cuela sus valores por la puerta aparentemente técnica de la optimización, la eficiencia o la experiencia de usuario. Ya soy demasiado viejo para tener mi particular oráculo o para volar subido en un nimbo como una Heidi jubilada. Todavía resuena en mi cabeza lo que Kate Crawford escribió en Atlas de la IA : «Hablamos de una nube hecha de rocas, litio en salmuera y petróleo crudo». Esa nube no flota. Existe dentro de una estructura económica, energética, jurídica, lingüística y política, aunque esta última parezca cada vez más diluida bajo capas de gestión técnica. Además de servidores, licencias,...

I David McNally mostró en Monstruos del mercado que el capitalismo no solo produce mercancías, crisis o desigualdades; también produce criaturas. Vampiros, zombis, cuerpos ensamblados, figuras que permiten imaginar lo que la economía política vuelve demasiado abstracto. El Basilisco de Roko pertenece a esa genealogía, aunque con otra textura. No viene a chupar sangre ni a levantar cadáveres. Su materia es más fría y cubierta de predicción, deuda futura, obediencia preventiva y cálculo moral convertido en amenaza. No comparece como una criatura contra el raciocinio, sino como algo engendrado por una razón que ha aprendido a soñar con métodos de contabilidad moral. La historia circula desde hace años en ciertos círculos racionalistas de internet, aunque conserva todavía algo de leyenda tóxica. En 2010, en el blog LessWrong , apareció un experimento mental que combinaba inteligencia artificial, teoría de juegos, riesgo existencial, chantaje retroactivo y teología sin dios. Resumida hasta...