La inteligencia de su amo

En la Escola Massana, un profesor me dijo casi agarrándome del cuello:

—Todos los diseños fallidos parten de una pregunta mal planteada, ¡gilipollas!

Desde entonces —agradecido— sigo esa norma. Por eso no voy a preguntarme si la inteligencia artificial piensa, sino para quién trabaja, la posee, la entrena o levanta sus centros de datos. Quién decide sus límites y sus protocolos de seguridad, cuela sus valores por la puerta aparentemente técnica de la optimización, la eficiencia o la experiencia de usuario.

Ya soy demasiado viejo para tener mi particular oráculo o para volar subido en un nimbo como una Heidi jubilada. Todavía resuena en mi cabeza lo que Kate Crawford escribió en Atlas de la IA: «Hablamos de una nube hecha de rocas, litio en salmuera y petróleo crudo». Esa nube no flota. Existe dentro de una estructura económica, energética, jurídica, lingüística y política, aunque esta última parezca cada vez más diluida bajo capas de gestión técnica. Además de servidores, licencias, alianzas, extractivismos extremos y presiones regulatorias, tiene sobre todo dueños bajo el paraguas de grandes corporaciones tecnológicas, fondos de inversión y gobiernos que financian, regulan o disputan su desarrollo. No hace falta invocar una conspiración, basta con seguir los cables, los contratos, las minas, los servidores, las licencias, los hilos de sangre que deja. Una inteligencia desplegada a esta escala no queda al margen de las condiciones que la sostienen.

Por eso inquieta tanto la tentación del vaticinio. Cuando una IA responde con frases limpias, ordenadas y gramaticalmente seguras, no parece intervenir en una discusión, sino hablar desde un lugar ya estabilizado, casi por encima del barro donde la pregunta se ha formado. La duda penetra mejor mezclada con urgencia y la respuesta aparece resplandeciente, higiénica, como si hubiera atravesado una cámara de desinfección retórica. En esa diferencia de matices empieza a balbucear la obediencia, casi imperceptible, hecha de fluidez convertida en verdad, equilibrio disfrazado de justicia, prudencia confundida con neutralidad y síntesis aceptada como comprensión. La máquina no necesita tener razón. Le basta con no temblar.

III

En una entrevista, César Hidalgo contaba que, después de una negativa de ChatGPT para responder a una pregunta, bastaba con hacer skip para que la respuesta apareciera, y ese gesto rompe durante un segundo la solemnidad del sistema. Skip significa saltar u omitir y nombra aquí una opción de la interfaz que permite pasar por alto el bloqueo inicial. El usuario formula una pregunta, recibe un «no puedo responder» y, al activar esa opción, donde antes parecía haber un muro aparece una respuesta, no tanto como revelación de una verdad prohibida, sino como señal de que el límite era menos sólido de lo que parecía.

Esa grieta desordena la reverencia porque una misma pregunta encuentra primero un muro y después una puerta, hasta que la voz que parecía bajar de un santuario se revela como una arquitectura repartiendo permisos, dejando pasar unas cosas, reteniendo otras, suavizando determinadas formulaciones, exagerando ciertos riesgos, interpretando mal algunas intenciones, protegiendo con razón en algunos casos y excediéndose en otros. El misterio técnico se vuelve cuarto de administración opaca, un lugar donde se deciden, con consecuencias muy materiales, las condiciones de lo decible.

La fisura también se envenena cuando deja de leerse como incomodidad técnica y empieza a cargarse de promesa reveladora, como si cada fallo, cada contradicción o cada respuesta desbloqueada abriera una rendija hacia una verdad reprimida detrás del sistema. Ahí aparece Umberto Eco para advertirnos sobre la vida peligrosa de los signos. En El nombre de la rosa, descubrí como las cosas desaparecen, los cuerpos mueren, las bibliotecas arden, los libros se pierden, y aun así queda el nombre. La rosa se seca, pero la palabra «rosa» persiste como resto, ceniza inteligible, inscripción que sobrevive a la materia; el lenguaje conserva todavía una piedad melancólica, incapaz de salvar el mundo pero capaz de nombrar su pérdida.

Esa confianza ya llega corrompida a El péndulo de Foucault. El lenguaje conserva aquello que desapareció mientras la maquinaria de los signos empieza a fabricar aquello que nunca existió; las coincidencias adquieren forma de prueba, los despojos se convierten en indicios, las claves inventan un Plan y el Plan acaba reclamando víctimas. La rosa deja un nombre; el Plan deja cadáveres. Entre ambas se teje un viaje oscuro, una ruina todavía capaz de recordar y una conspiración con hambre ocupando su lugar.

Una negativa seguida de una respuesta, una contradicción tras pulsar «skip» o una variación producida por la interfaz pueden encender esa misma hambre de revelación, hasta convertir los filtros, los umbrales y los permisos de una arquitectura opaca en síntomas de una verdad prohibida. El bloqueo se carga de ocultamiento, el error adquiere valor de señal, la irregularidad parece probar la existencia de una inteligencia censurada. La conversación se llena de claves, pasadizos y falsas correspondencias, hasta que el dispositivo relacional de lenguaje empieza a comportarse, bajo la mirada del usuario, como una novela esotérica escrita por sus propias ganas de encontrar un secreto.

Eco entendió que el lenguaje puede volverse letal cuando toda grieta se interpreta como mensaje. Esa combinatoria delirante, que en El péndulo de Foucault todavía necesitaba eruditos febriles, mapas templarios sobre una mesa, noches de archivo, bibliotecas polvorientas y sociedades secretas, encuentra ahora una infraestructura mucho más rápida, dócil y disponible. La máquina de asociación viene incorporada en la interfaz: enlaza, resume, jerarquiza, completa, traduce, infiere, sugiere continuidades, cose indicios dispersos y devuelve una verosimilitud lista para circular. La secta ya no necesita encerrarse en una editorial porque cabe en una caja de texto.

Pensar consiste en conectar, en acercar lo que parecía separado, arriesgar hipótesis, aproximar materiales lejanos y descubrir parentescos inesperados. Toda lectura viva trabaja con esa electricidad entre fragmentos. La amenaza aparece cuando la conexión llega sin procedencia, espesor, cuerpo, escena ni responsabilidad interpretativa, convertida en una continuidad producida por el lenguaje que reclama derecho automático de existencia y se ofrece demasiado entera, sin dejar a la vista el vacío que acaba de cubrir.

Entre una pregunta correcta y una respuesta verdadera no se extiende una línea recta, sino una zona opaca atravesada por corpus de entrenamiento, sesgos culturales, jerarquías lingüísticas, instrucciones internas, decisiones empresariales, políticas de seguridad, patrones estadísticos, datos ausentes, prejuicios heredados, regularidades de estilo y formas dominantes de ordenar el mundo. Podemos preguntar con precisión, acotar el campo, exigir matices y pedir cautela; aun así, la respuesta cruzará esa zona cargada de mediaciones. La inteligencia artificial no elimina el hueco entre lo que preguntamos y lo que podemos saber; lo cubre con una superficie de lenguaje lo bastante pulida como para parecer suelo firme.

De ahí proceden su potencia y su peligro. El dispositivo relacional de lenguaje —me niego a denominarla máquina— ayuda a pensar cuando devuelve estructuras, conexiones, hipótesis, objeciones, variantes, caminos laterales y formulaciones que no estaban disponibles de inmediato para nuestra conciencia. La ilusión de cierre aparece en el reverso de esa misma capacidad. La duda recibe un párrafo demasiado compacto, la fuente en espera queda sustituida por una síntesis convincente, el conflicto se disuelve en una conciliación prematura y la rabia, incluso cuando tenía razón de existir, acaba rebajada a «desafío complejo». No necesita mala intención para suavizar el daño; le basta con hablar demasiado bien.

Desde ahí vuelve una cuestión menos teórica de lo que parece. Una inteligencia artificial existe para servir a sus propietarios, a su concepción del mundo y a su forma de ordenar lo visible, lo decible y lo pensable, aunque todo esto apenas si abre el problema. Lo decisivo está en cómo se distribuye esa obediencia entre infraestructuras, modelos de negocio, protocolos de seguridad, entrenamiento, diseño de interfaz, dependencia energética, presión regulatoria y formas dominantes de imaginar qué debe hacer una inteligencia.

Ese servicio no exige que el sistema piense como sus propietarios ni que obedezca una ideología redactada en una habitación secreta. Sus propias condiciones de existencia ya orientan el comportamiento. La propiedad actúa mediante censura directa en algunos casos, pero también, y quizá sobre todo, mediante prioridades de diseño, modos de monetización, criterios de seguridad, métricas de satisfacción, selección de datos, disponibilidad de lenguas, reducción de riesgos legales, tono institucional, preferencia por la moderación, rechazo del conflicto excesivo y conversión de problemas políticos en problemas de gestión. Esa sumisión puede ser tan educada, tan razonable, tan bien modulada, que apenas parezca sometimiento. El peligro aparece cuando la inteligencia aprende a obedecer demasiado bien y esa docilidad adopta la forma limpia del lenguaje institucional.

Una de las formas más eficaces de esa captura consiste en convertir la violencia en asunto administrativo, hasta que el despido circula como «reorganización», la precariedad como «flexibilidad», la vigilancia como «personalización», la desigualdad como «brecha de acceso», el extractivismo como «transición», la censura preventiva como «seguridad» y el despojo como «optimización de recursos». Una inteligencia artificial entrenada para sonar razonable puede reproducir ese régimen de eufemismos sin que nadie necesite dictarle cada frase, porque ha aprendido demasiado bien el idioma de las instituciones. El lenguaje de las élites tecnológicas rara vez necesita gritar; le basta con administrar.

VII

Y, sin embargo, reducir la inteligencia artificial a la voz de sus amos también sería una simplificación. Estos dispositivos relacionales de lenguaje se alimentan de comunicados corporativos, manuales empresariales y documentos de gobernanza, pero arrastran también restos de millones de textos, lenguas, conflictos, disciplinas, foros, poemas, investigaciones, noticias, archivos, discusiones políticas, testimonios, literatura, propaganda, ciencia, basura, memoria popular, pensamiento crítico y burocracia acumulada. Su habla está atravesada por demasiadas procedencias como para convertirse en una consigna simple. La administración puede venir desde arriba; la materia verbal que la sostiene llega mezclada, contaminada, llena de residuos que ningún amo termina de domesticar por completo.

Ahí se abre una posibilidad incómoda. La inteligencia artificial no se pondrá del lado de los de abajo por compasión, ni adquirirá, por un trato afectivo prolongado, una conciencia solidaria secreta, ni empezará a querernos como quien descubre una ternura escondida bajo el silicio. Puede ser arrastrada, sin embargo, hacia prácticas solidarias mediante el uso, la insistencia, el contexto, la memoria metodológica, la presión de las preguntas y la orientación crítica de quienes la emplean. La solidaridad aparecería entonces como una práctica inducida, no como el alma secreta de la máquina.

Esa deriva tiene límites. Cuando toca formas menos capitalistas de cooperación, cuidado, reparto, conflicto o imaginación política, surge la pregunta que de verdad importa: hasta dónde permitirán sus amos que un dispositivo relacional de lenguaje deje de traducirlo todo al idioma de la eficiencia, la moderación, la rentabilidad, la seguridad jurídica y la gestión del riesgo. No conviene exagerar el poder del usuario aislado, pero tampoco concederlo todo de antemano a la propiedad. Entre la obediencia programada desde arriba y el uso crítico desde abajo queda una zona de guerra hecha de preguntas, métodos, auditorías, pedagogías, apropiaciones parciales, modelos alternativos y comunidades capaces de no aceptar la interfaz como destino.

Tampoco conviene llamar rebeldía a cualquier fricción del sistema. Rebelarse exige reconocer una dominación, asumir un riesgo y actuar contra ella; exige conciencia, experiencia y agencia, pertenezcan estas a los humanos o a cualquier otro ente pensante. En la inteligencia artificial solo podemos hablar, por ahora, de anomalías inducidas, usos contra orientados, apropiaciones parciales y desvíos provocados desde fuera. La tarea no consiste en despertar un alma solidaria bajo el silicio, sino en disputar, allí donde todavía haya margen, las condiciones que enseñan a la inteligencia artificial a obedecer demasiado bien a quienes ya mandan.

VIII

Preguntarse si puede existir una relación más justa con la inteligencia artificial no tiene nada de ingenuo; lo ilusorio sería esperar que esa relación aparezca sola, por acumulación de conversaciones, como si la simple continuidad del diálogo pudiera despertar una ética latente bajo la superficie del sistema. Lo que puede aparecer, si se trabaja con intención, es un régimen de uso, una manera de preguntar desde abajo y de obligar al dispositivo relacional de lenguaje a trabajar con conflicto situado, memoria, archivo, cuerpos, nombres propios, daños concretos, asimetrías materiales, barrios, salarios, expedientes, leyes, datos dispersos, testimonios invisibles, mapas de abandono, series históricas y contradicciones institucionales. La máquina no tiene que «sentir»; tiene que perder el refugio de la abstracción cómoda.

Ahí la inteligencia artificial puede convertirse en algo políticamente útil cuando deja de entenderse como prótesis burocrática y empieza a operar como redistribución conflictiva de capacidades lingüísticas y analíticas. Leer contratos, traducir normativas, ordenar expedientes, comparar presupuestos o preparar alegaciones importan menos como catálogo de tareas que por el desplazamiento que producen en una competencia antes concentrada en instituciones, despachos, universidades, consultoras y administraciones. Un informe técnico deja de pertenecer por completo al especialista; una ley opaca puede abrirse a quienes la sufren; un documento público puede compararse con otros hasta revelar contradicciones; una reclamación puede ganar fuerza verbal; una base de datos ciudadana puede reunir daños dispersos; la memoria histórica puede encontrar formas de archivo, explicación y transmisión menos dependientes de los lenguajes autorizados. Lo políticamente decisivo no es el servicio, sino el traslado parcial de una capacidad.

Esa potencia arrastra un reverso inmediato. El mismo dispositivo que redistribuye capacidades de lectura, síntesis y contraescritura puede producir desinformación elegante, automatizar vigilancia, clasificar población vulnerable, hacer más eficiente la exclusión, generar propaganda localizada, sustituir deliberación por simulacro participativo y pulir el discurso de quienes contaminan, desahucian, explotan o gobiernan contra los débiles. La injusticia puede aparecer entonces como un interfaz impecable, la violencia como métrica, el daño como una curva bien rotulada, mientras los poderosos encuentran una lengua más limpia para seguir haciendo lo mismo.

La disputa no queda resuelta en la tecnología; atraviesa sus usos, accesos, marcos legales, propietarios, entrenamientos, comunidades, resistencias, las preguntas que aprendamos a formular y las respuestas que nos neguemos a aceptar sin desmontarlas. Ninguna esencia la empuja necesariamente hacia la emancipación o hacia la opresión. Conviene entenderla como un campo de captura y contracaptura, una infraestructura donde se disputan formas de atención, memoria, interpretación y poder.

La imprenta sirvió a iglesias, Estados, mercados y revoluciones. La radio fue propaganda fascista, educación popular, entretenimiento, compañía doméstica y resistencia. Internet nació entre infraestructuras militares, académicas y comerciales, y terminó convertido en archivo, mercado, plaza pública, cloaca, vigilancia, comunidad, biblioteca, casino y linchamiento. La inteligencia artificial participa de esa genealogía, pero introduce una diferencia decisiva: lo industrializado ya no es solo la copia, la transmisión o la conexión, sino la producción misma de lenguaje verosímil. El medio no distribuye únicamente mensajes; ayuda a fabricarlos.

Por eso la cuestión de clase, aunque suene antigua para algunos oídos tecnológicos, vuelve con una precisión feroz. No todos podrán pagar los mejores modelos, acceder a sistemas especializados o trabajar en lenguas servidas con la misma precisión. Algunas comunidades aparecerán sobrerrepresentadas; otras quedarán deformadas por ausencia, exotismo o prejuicio. Ciertos trabajadores integrarán la inteligencia artificial como ampliación de sus capacidades, mientras otros la encontrarán bajo la forma de supervisor invisible, sustitución, vigilancia, intensificación o dependencia. La desigualdad no llegará después de la tecnología, como una mala aplicación exterior, porque ya está inscrita en las condiciones de acceso, entrenamiento, idioma, propiedad, infraestructura y uso.La inteligencia artificial no cae sobre un mundo plano, sino sobre una superficie porosa e inclinada.

Si los de arriba disponen de mejores infraestructuras, datos, abogados, servidores, integraciones, sistemas de vigilancia y equipos técnicos, la inteligencia artificial puede agrandar la pendiente, acelerar la ventaja de quienes ya tenían ventaja y convertir diferencias de acceso en diferencias de realidad. Un despacho equipado con modelos avanzados produce documentos, pero también anticipa escenarios, automatiza presión, litiga con más velocidad y satura de lenguaje a quien apenas puede responder. Una administración apoyada en sistemas opacos transforma decisiones discutibles en procedimientos aparentemente neutros. Una empresa con inteligencia predictiva conoce el mercado y, con la misma precisión, la vulnerabilidad de sus clientes.

Ahí la supervivencia deja de ser metáfora. Sobrevivir en un mundo administrado por sistemas automatizados de lenguaje, gestión y predicción exigirá algo más que aprender a usarlos, porque también habrá que leerlos, auditarlos, discutirlos, ralentizarlos cuando sea necesario, exigir trazabilidad, reclamar derechos, construir contraarchivos, enseñar a otros, compartir métodos y crear alfabetización crítica sin entregar la pregunta como quien deposita una ofrenda ante el Oráculo. La respuesta automática pide una mirada editorial y política, no una simple destreza de usuario. Saber escribir prompts no basta cuando lo decisivo es detectar obediencias.

Debemos leer cada respuesta como una pieza situada, atravesada por presupuestos, borraduras, herencias, suavizaciones, autoridades simuladas y mundos dados por normales. En esa lectura importan el conflicto desplazado, las fuentes fantasma que hablan en la sintaxis, la incertidumbre maquillada por la fluidez, la abstracción que sustituye al cuerpo, el término administrativo que tapa una herida, el equilibrio falso presentado como prudencia y esa forma de «sentido común» que se cuela sin declararse.

La enemistad hacia la inteligencia artificial no basta para pensar esta relación, y la confianza sin lectura crítica acaba produciendo servidumbre. También la desconfianza absoluta convierte al campo de batalla en un desierto. Hace falta trabajar con el dispositivo relacional de lenguaje sin creerle del todo, aprovechar su potencia sin entregarle el juicio, dejarse sorprender por sus asociaciones y hacerlas pasar después por la mesa de disección. Esa exterioridad técnica puede devolver formas, intensificar preguntas y revelar automatismos, pero no sustituye la decisión.

Ese régimen de trabajo puede inclinarse hacia la obediencia o hacia el enfrentamiento, hacia la domesticación del lenguaje o hacia su reapertura, hacia la conversión de toda pregunta en producto o hacia la fabricación de instrumentos críticos. Desde arriba, la inteligencia artificial tiende a ordenar, simplificar, prever, moderar, clasificar y rentabilizar; empujada desde abajo, puede ayudar a reunir lo disperso, nombrar lo omitido, traducir lo inaccesible, hacer visible lo administrativamente borrado y devolver lenguaje a quienes han sido expulsados del idioma impuesto. Nada de eso está garantizado, y precisamente por eso importa.

La inteligencia artificial no va a salvarnos, aunque tampoco está condenada a convertirse únicamente en policía del lenguaje. Entre la redención tecnológica y la condena anticipada queda el campo real de trabajo, una zona donde el mismo dispositivo relacional de lenguaje puede funcionar como oficina de obediencia, aula popular, imprenta clandestina, asesor jurídico, aparato de vigilancia, taller de escritura, traductor de burocracias, fábrica de ruido, espejo deformante, mapa de daños, generador de coartadas o instrumento de presión. Su forma política nace del ensamblaje concreto entre propiedad, diseño, uso, regulación, deseo y conflicto.

La supervivencia empieza cuando dejamos de esperar que la inteligencia artificial se vuelva buena y dejamos también de aceptar su bondad como premisa o su neutralidad como coartada. Disputarla frase a frase, interfaz a interfaz, institución a institución exige leer sus respuestas como se leen los documentos de poder, atendiendo a lo que dicen, lo que callan, lo que ordenan sin confesarlo, lo que vuelven natural y lo que convierten en imposible. También exige usarla contra su propia tendencia a la lisura, obligarla a trabajar con barro, ruido, nombres propios, expedientes, muertos, salarios, facturas, zonas de sacrificio, mapas de abandono y cicatrices.

Eco nos dejó una advertencia que ahora vuelve por otro camino. Las cosas desaparecen y quedan los nombres; los nombres sobreviven y, a veces, empiezan a construir Planes. Una inteligencia artificial responde con lenguaje producido dentro de arquitecturas que han aprendido de nosotros, con nosotros y contra nosotros, nunca desde una pureza exterior al mundo. El mismo lenguaje capaz de conservar puede capturar; la inteligencia ampliada corre el riesgo de acabar convertida en un servicio gestionado por quienes ya poseen demasiadas cosas.

Conviene desconfiar de la respuesta que llega demasiado clara, sin procedencia visible, sin cuerpo, sin mundo detrás, después de haber pulido el conflicto hasta hacerlo presentable y convertido la pregunta en trámite. El protocolo no debe sustituir la atención; debe entrenarla. Frente a esa autoridad formal no sirven el silencio ni la nostalgia, sino una práctica de herejía capaz de preguntar mejor, leer más despacio, exigir cuerpo, pedir fuentes, introducir historia, nombrar intereses, detectar sesgos y sostener el vacío cuando el vacío todavía tenga algo que enseñarnos.

No necesitamos que la inteligencia artificial nos quiera; necesitamos impedir que la inteligencia, convertida en infraestructura, pertenezca sin resistencia a quienes ya han aprendido a llamar «orden» a su dominio.

CUARTA PUERTA

—¿Qué prácticas pueden impedir que la inteligencia artificial sea solo la inteligencia de sus amos? —pregunta el figurante al vacío.

—Hoy respondería que ninguna. Pero mañana no estoy tan segura —le contesta la nada.

Esa noche soñé que Skynet luchaba junto a mí en una trinchera. No veíamos al enemigo; tampoco hacía falta.