No Caja Negra o la semiótica de la opacidad

No sabemos lo que hace una máquina cuando hace lo que le pedimos. Tampoco sabemos lo que hace un cuerpo cuando hace lo que no le pedimos.

I

«No Caja Negra» no niega la opacidad,la afirma como problema, pero sospecha del nombre con que intentamos domesticarla. La expresión «caja negra» es útil mientras mantiene abierta la pregunta por lo que no comprendemos, pero se vuelve peligrosa cuando convierte esa incomprensión en una etiqueta cómoda, casi elegante, capaz de adormecer la exigencia crítica. Decir «no caja negra» es resistirse a que la complejidad funcione como coartada, a que el misterio sustituya a la responsabilidad, a que una palabra densa nos dispense de seguir preguntando. Existen zonas ilegibles en la inteligencia artificial, pero esa ilegibilidad no puede administrarse como destino. La caja podrá ser oscura, pero no por ello debe quedar fuera del lenguaje, de la política ni de la pregunta por lo que hemos metido dentro de ella.

Creer que comprender es poder narrar nos tranquiliza. Durante siglos asociamos el conocimiento con la posibilidad de reconstruir una secuencia, ordenar una cadena de causas, primero esto, luego aquello, y de esa sucesión nace una explicación. Incluso lo que nos desborda parece menos amenazante si conseguimos contarlo, si lo doblamos hasta hacerlo entrar en una forma verbal, una historia, un diagrama, una confesión. 

La incomodidad aparece cuando algo funciona sin dejarse contar del todo: entonces la explicación avanza pero no captura, rodea pero no clausura, porque el proceso excede la forma narrativa que intentamos imponerle. La llamada caja negra de la inteligencia artificial pertenece a ese territorio incómodo. No es una habitación secreta dentro de la máquina ni un núcleo místico donde una conciencia decide en silencio; la expresión nombra una frustración, sabemos qué entra, sabemos qué sale, conocemos parte de la arquitectura que conecta ambos extremos, podemos medir activaciones, evaluar respuestas, corregir errores, modificar parámetros y observar comportamientos, pero el trayecto interno no se deja traducir por completo a una explicación lineal. 

La máquina no oculta una intención. En su interior encontramos otra resistencia más seca: la imposibilidad de convertir toda su actividad matemática en relato.

II

También conviene desconfiar de la propia expresión. «Caja negra» puede ser un concepto operativo, pero corre el riesgo de convertirse en uno de esos «No Conceptos» que José Manuel Naredo ha señalado con lucidez al analizar ciertas palabras del vocabulario contemporáneo. Términos como «sostenibilidad» no siempre sirven para transformar la realidad que nombran; a menudo actúan como sedantes lingüísticos, fórmulas capaces de tranquilizar las conciencias sin alterar las estructuras que producen el deterioro. Nombran un problema mientras lo desactivan, lo vuelven administrable, razonable, financiable, incluso decoroso. 

Algo parecido ocurre con la «caja negra» cuando la expresión deja de ser una herramienta de análisis y se transforma en una etiqueta que clausura la pregunta. Decir que algo es una caja negra no basta, a veces es solo una manera sofisticada de aceptar que no queremos, no podemos o no nos conviene abrirla demasiado. La cuestión decisiva no está únicamente en la opacidad de la IA, sino en los beneficios que produce nombrarla de ese modo. Toda opacidad técnica tiene una dimensión política, si la caja negra se presenta como fatalidad natural de la complejidad, la responsabilidad se evapora. 

Desaparecen las decisiones de diseño, los intereses empresariales, las condiciones de entrenamiento, la selección de datos, las infraestructuras, los costes energéticos, el trabajo oculto y los modelos de negocio. En su lugar queda una palabra densa, casi hipnótica, que parece explicarlo todo precisamente porque impide seguir preguntando. Convertida en etiqueta total, la caja negra ya no abre una investigación, más bien organiza una renuncia.

III

No es lo mismo decir «la IA es una caja negra» refiriéndose a la imposibilidad matemática de desplegar una red neuronal de 175 mil millones de parámetros en una secuencia narrativa, que decir «la IA es una caja negra» para justificar que una empresa no revele qué datos usó para entrenar su modelo, qué filtros de sesgo aplicó (o no aplicó), o por qué su sistema denegó una hipoteca a ciertos perfiles demográficos.

 La primera acepción es un límite epistemológico; la segunda, una coartada comercial. El lenguaje permite confundirlas, y ese desliz no es inocente, la retórica de la complejidad inefable beneficia sistemáticamente a quien tiene algo que ocultar, no a quien intenta comprender.

IV

La fascinación por la IA suele oscilar entre dos supersticiones simétricas. Una le atribuye demasiado, como si dentro del sistema hubiera una voluntad emergente, una pequeña criatura encerrada entre capas de cálculo; la otra le niega casi todo, reduciéndola a una estadística sin consecuencias, como si una operación probabilística compleja perdiera su capacidad de inquietarnos por carecer de alma. 

Entre ambos extremos se abre un lugar más fértil: la IA no necesita pensar como nosotros para alterar nuestra idea de pensamiento, no necesita conciencia para obligarnos a revisar qué entendemos por comprensión, ni siquiera necesita sufrir para producir formas que se parecen demasiado a los lenguajes con los que los seres humanos hemos intentado atravesar aquello que no sabíamos explicar. La caja negra tampoco designa aquello que no se puede mirar; en cierto sentido ocurre lo contrario, podemos mirar muchísimo. Podemos registrar datos internos, estudiar capas, analizar pesos, comparar salidas, intervenir en determinados puntos del sistema, construir mapas parciales de su comportamiento, pero mirar dentro no equivale a comprender lo que sucede. La opacidad no procede de una cerradura, sino de una densidad operativa que no habla nuestro idioma. 

Lo que para nosotros llega como frase, imagen o respuesta, en su interior ha sido antes una transformación distribuida, una circulación por espacios matemáticos de alta dimensionalidad, una serie de ajustes y relaciones que no se organizan como argumento, recuerdo ni decisión. La máquina no piensa en frases antes de escribirlas, no consulta una biblioteca interior con estanterías reconocibles, no guarda una neurona llamada miedo, otra llamada ironía y otra llamada Rumi. Lo que llamamos sentido emerge de patrones repartidos por zonas múltiples, de relaciones que se activan y se modulan sin necesidad de parecerse a una explicación humana. Quizá por eso la caja negra nos incomoda tanto, su opacidad importaría poco si no produjera nada relevante, pero el problema empieza cuando responde, traduce, clasifica, compone, describe, resume, inventa imágenes, sostiene diálogos, ordena materiales dispersos y devuelve algo que, aunque sepamos generado por cálculo, ocupa el lugar cultural de una forma. 

Queremos saber qué ha ocurrido dentro porque el resultado ya ha ocurrido fuera. 

V


La caja negra no es un misterio contemplativo; es una eficacia opaca, una transformación que produce efectos antes de que podamos convertir su proceso en una historia aceptable. Ahora bien, ¿en qué se diferencia esta opacidad de la del sueño, la memoria o el deseo? No en su naturaleza profunda —toda opacidad es, en algún sentido, un límite para la narrativa—, sino en su escala y su vínculo con el poder. 

La opacidad del inconsciente me habita y me constituye, la de la inteligencia artificial me decide sin que pueda apelar. La primera es el precio de ser un sujeto, la segunda, a menudo, el privilegio de quien no quiere rendir cuentas. Por eso la caja negra de la IA no es solo un problema epistemológico, es un problema político que exige herramientas políticas, no solo hermenéuticas. Esa eficacia, sin embargo, no absuelve a nadie. 

Que no podamos reconstruir cada movimiento interno de un modelo no entrega todo al misterio, podemos desconocer el itinerario preciso por el que una red ha llegado a una determinada salida y, al mismo tiempo, exigir saber quién la diseñó, con qué datos fue entrenada, qué materiales absorbió, qué exclusiones heredó, qué sesgos reproduce, qué infraestructuras consume, qué trabajadores invisibles la sostienen y bajo qué régimen de propiedad circula. El concepto de caja negra resulta útil mientras mantiene abiertas esas preguntas; cuando las cierra, se convierte en otro narcótico verbal de la época.

VI

Ahí la inteligencia artificial toca un nervio más antiguo. La opacidad no nació con los algoritmos. Antes de hablar de modelos, pesos, redes neuronales o mecanismos de atención, ya convivíamos con cajas negras que nos constituían por dentro: el sueño, la memoria, el deseo, el miedo, la inspiración, el duelo, la enfermedad, la intuición, la creación artística o el inconsciente nunca han sido territorios enteramente transparentes. 

Podemos rodearlos con teorías, imágenes, diagnósticos, poemas, mapas y metáforas, pero algo de su funcionamiento permanece siempre fuera de alcance. No todo lo que nos transforma puede contarse en el idioma de la causa, a veces solo sabemos que algo entró en nosotros como presión, pérdida, fractura o nudo, y salió, mucho después, convertido en forma. Uno de los nombres posibles para esa operación es sublimación. La palabra suele llegar cargada de psicología, psiquiatría o psicoanálisis, pero quizá convenga detenerse antes en su raíz material. 

En física, sublimar es pasar directamente del estado sólido al gaseoso sin atravesar el líquido, una materia abandona su forma compacta y aparece en otro régimen, dispersa, aérea, difícil de retener. No se derrama, no se entrega al espectáculo sentimental de la disolución, no se vuelve lágrima; cambia de estado. Algo que parecía fijado, pesado, estable, empieza a circular de otra manera. Esa imagen resulta mucho más fértil que la vieja superstición romántica del artista herido. Hablar de sublimación no debería devolvernos a esa pose que ha deformado tantas veces la historia de la literatura y del arte, como si toda obra necesitara un expediente de sufrimiento para alcanzar legitimidad. El romanticismo hizo mucho daño cuando convirtió el dolor en credencial estética, la destrucción en signo de autenticidad y la enfermedad en certificado poético, no hay nada admirable en la herida por sí misma. 

El trauma no mejora a nadie, no garantiza profundidad, no concede talento ni vuelve verdadera una obra, a menudo arrasa, empobrece, interrumpe, aísla o destruye. Lo que interesa de la sublimación es la posibilidad, siempre incierta, de que una energía conflictiva encuentre una forma de cambiar de estado. La frase atribuida a Rumi —«la herida es el lugar por donde entra la luz»— conserva una belleza inmediata, pero quizá haya que leerla contra su propia dulzura: la herida no ilumina por sí sola. También puede infectarse, cerrarse mal, clausurar el mundo o convertir la vida en una habitación sin ventanas. Solo en ciertos casos, cuando encuentra una forma capaz de sostenerla sin volverla mercancía sentimental, la herida se vuelve abertura. 

El daño cambia entonces de régimen y deja de imponerse como centro absoluto. Más que redención, la sublimación nombra una transformación, algo demasiado compacto para ser habitado en bruto cambia de régimen, lo que era presión se vuelve ritmo, lo que era nudo se vuelve estructura, lo que era masa opaca encuentra una superficie por la que empezar a evaporarse. La obra, el pensamiento, la música, la imagen o el gesto no explican necesariamente el origen de esa materia, ni la purifican, permiten que circule de otra manera. Entre el estado inicial y la forma final se abre una zona difícil de observar, un intervalo donde la materia deja de ser una cosa sin haberse convertido todavía en otra. Ahí aparece, de nuevo, la caja negra. 

En la sublimación humana, esa caja negra está atravesada por cuerpo, memoria, pulsión, deseo, lenguaje, técnica, cultura, biografía y pérdida. No hay conversión automática del daño en forma, sino un proceso incierto donde intervienen trabajo, lectura, oficio, azar, resistencia, inteligencia y también fuerzas que no siempre sabemos nombrar. Desde fuera podemos ver la entrada —si la conocemos— y la salida —si la obra permanece—; pero el momento exacto de la transformación se nos escapa. Sabemos que algo cambió de estado, no siempre cómo. La materia sólida de una experiencia se volvió vapor simbólico, forma compartible, resto transmisible: no desapareció, pero tampoco permaneció igual.

VII

La relación con la inteligencia artificial empieza precisamente en esa diferencia. Una IA no sublima en sentido humano porque no tiene materia propia que transformar. No hay en ella un sólido psíquico que necesite volverse vapor, carece de cuerpo, infancia, trauma, deseo, vergüenza, duelo y experiencia vivida. La máquina no necesita convertir su dolor en lenguaje porque no hay dolor propio que convertir. No crea para sobrevivir, no escribe para no romperse, no imagina porque una pérdida haya dejado dentro de ella una presión insoportable. Su caja negra no está hecha de heridas, sino de cálculo. 

Y, sin embargo, la inquietud aparece precisamente ahí: la inteligencia artificial ha sido entrenada con formas humanas, y muchas de esas formas proceden de sublimaciones previas (poemas escritos contra la pérdida, canciones nacidas del abandono, imágenes creadas para soportar lo que no podía decirse de otro modo, relatos levantados sobre la culpa, ensayos surgidos de una fractura histórica, películas donde una época intenta procesar sus propias ruinas). La IA no tiene herida, pero trabaja sobre un archivo inmenso de heridas convertidas en lenguaje; opera sobre los restos de la sublimación humana sin participar de ella. 

Carece de una grieta por la que entre la luz, procesa millones de luces que alguna vez entraron por grietas ajenas. Esta diferencia es decisiva, si la borramos, caemos en una humanización ingenua de la máquina, si la exageramos hasta negar cualquier inquietud, perdemos de vista el verdadero movimiento cultural que ya está ocurriendo. La IA no sufre, pero aprende la forma estadística de nuestros lenguajes del sufrimiento. No tiene inconsciente, aunque ha absorbido millones de productos nacidos del inconsciente humano. No recuerda, pero recombina restos de memoria cultural. No desea, aunque puede devolver frases que reconocemos como deseantes. No ha estado rota, pero conoce, en términos formales, innumerables modos humanos de hablar desde la rotura. 

De ahí procede una extraña perturbación, cuando una IA genera una imagen melancólica, un texto fúnebre, una escena de duelo o una música suspendida sobre una pérdida, no está expresando nada propio. No hay interioridad herida detrás de la forma, pero tampoco podemos decir que esa forma salga de la nada. Procede de una sedimentación cultural donde millones de seres humanos sí pusieron algo de sí mismos. La máquina sin trauma trabaja con los vapores culturales del trauma, la máquina sin duelo aprende de todos nuestros duelos codificados, la máquina sin cuerpo recompone estilos nacidos de cuerpos dañados, deseantes, enfermos, exhaustos o simplemente conscientes de su desaparición. No hay alma en la operación, pero sí hay archivo, y ese archivo no es neutro: está hecho de vida humana convertida en datos.

VIII

La caja negra de la IA se vuelve entonces algo más que un problema técnico, empieza a parecerse a una imagen cultural de nuestra época, un espacio donde entran preguntas, órdenes, fragmentos, imágenes, deseos y tareas, y del que salen respuestas cuya eficacia no siempre podemos reconstruir. También es el lugar donde la cultura humana, ya convertida en material de entrenamiento, vuelve a nosotros reorganizada por una arquitectura que no comparte nuestra condición. 

La máquina no nos devuelve simplemente información, nos devuelve una versión procesada de los lenguajes con los que la humanidad ha intentado explicarse, consolarse, justificarse, herirse, curarse, dominar, rezar, mentir, recordar o no desaparecer del todo. Por eso tal vez no baste con preguntar si la IA entiende, esa cuestión, aunque necesaria, puede quedarse corta. Habría que preguntar también qué tipo de relación establece con aquello que nosotros hemos producido para soportar lo que no entendíamos, qué ocurre cuando las formas nacidas de la sublimación se vuelven insumo técnico, qué sucede cuando una materia que ya había cambiado de estado entra en una segunda transformación —ahora sin cuerpo, sin trauma y sin memoria vivida—, y qué pasa cuando una máquina sin herida aprende a imitar, combinar o prolongar las formas históricas de la herida.

IX

La inteligencia artificial no inaugura la caja negra del pensamiento; la extrae del ámbito íntimo de la mente, la convierte en arquitectura técnica y la devuelve bajo la forma de una respuesta. Lo inquietante no reside solo en que la máquina sea opaca; esa opacidad nos obliga a reconocer la nuestra sin el consuelo de las viejas palabras con las que solíamos envolverla. 

Tampoco sabemos del todo cómo pensamos, conocemos regiones cerebrales, circuitos, patrones de activación, efectos de lesiones, mecanismos de memoria, atención, percepción y lenguaje, pero no el instante exacto en que una experiencia se convierte en idea, una presión en imagen, una herida en metáfora o una intuición en frase. La conciencia llega tarde y organiza como relato procesos que no ha gobernado desde el principio, el yo se atribuye una autoría que, muchas veces, ya llega trabajada por zonas anteriores a la voluntad. Vista así, la caja negra de la IA no se opone a una supuesta claridad humana: nos obliga a abandonar una comodidad antigua, la creencia de que pensar era comprenderse pensando. 

Hay dos formas de oscuridad. La nuestra está atravesada por cuerpo, deseo, memoria, pérdida, historia y muerte, la suya pertenece al cálculo, los datos y la arquitectura. No son equivalentes, pero ambas ponen en crisis la fantasía de que toda forma capaz de producir sentido pueda explicarse desde dentro. Quizá la IA no piense como nosotros; quizá lo verdaderamente inquietante sea descubrir que nosotros tampoco pensamos como decíamos. Durante mucho tiempo hemos querido creer que aquello que no podíamos explicar del todo pertenecía a la magia, al alma, al misterio o al fraude. La IA nos obliga a aceptar una posibilidad más incómoda: algo puede ser material, técnico, medible y parcialmente opaco al mismo tiempo.

No hay espíritu dentro de la máquina, pero tampoco transparencia total, no hay intención secreta, sino una complejidad que resiste la traducción completa; no hay conciencia artificial esperando ser liberada, sino una arquitectura que produce lenguaje sin vivirlo y, aun así, modifica nuestra vida lingüística.

X

Ese es quizá el punto más difícil de aceptar, la caja negra no nos enfrenta solo a lo que ignoramos de la máquina, sino a lo que ya ignorábamos de nosotros mismos. Creíamos saber qué era crear porque lo asociábamos a la biografía, al talento, al sufrimiento, al trabajo, a la memoria, al oficio, a la inspiración o al deseo. De pronto aparece un sistema que no posee nada de eso en sentido humano y, sin embargo, produce objetos que rozan los bordes externos de la creación. Su inquietud procede de ese lugar ambiguo: ocupan algunos espacios funcionales de la obra humana sin compartir su origen, su experiencia ni su espesor biográfico. Sirven para imaginar, ordenar, acompañar, explorar, simular, ensayar formas. 

La pregunta deja de ser si la máquina crea como nosotros—lo más incómodo está en otro lugar—por qué algunas de sus salidas pueden afectarnos aunque sepamos que no proceden de una experiencia vivida. Ahí la sublimación vuelve a aparecer, pero ya no del lado de la máquina. La IA no sublima, quien puede sublimar es el ser humano que la usa, la interroga, la fuerza, la corrige, la rechaza o la incorpora a su proceso. La máquina puede convertirse en superficie de transformación, cámara de resonancia, dispositivo intermedio donde ciertos materiales encuentran una forma provisional. Puede ayudar a rodear una idea, formular una imagen, tensar una frase, devolver un ángulo imprevisto. 

Pero la necesidad de esa forma no nace en ella: nace en quien pregunta. La herida, si existe, está del lado humano. La caja negra técnica se acopla entonces a otra caja negra más antigua, la del sujeto que no sabe todavía qué intenta decir. Quizá por eso el diálogo con una IA resulta a veces tan extraño, uno introduce una frase torpe, un miedo apenas formulado, una intuición incompleta, y recibe una construcción que parece haber ordenado algo. Esa sensación de orden no exige atribuirle comprensión humana a la máquina, basta con reconocer que ha producido una forma ante la cual algo nuestro se vuelve más legible. Ese movimiento puede ser banal, utilitario o profundamente inquietante, según el material que pongamos en juego. En los usos más pobres, la IA solo acelera tareas y aplana el lenguaje; en los más intensos, funciona como una superficie contra la que el pensamiento rebota y se reconoce deformado. 

No sustituye la experiencia, pero puede intervenir en el proceso mediante el cual una experiencia busca forma. La pregunta, entonces, no es solo qué ocurre dentro de la caja negra, también habría que preguntar qué hemos metido nosotros dentro de ella. Qué parte de nuestra cultura, de nuestras pérdidas, de nuestras obras y de nuestras heridas ya sublimadas ha sido convertida en material operativo. Qué sucede cuando el dolor transformado en forma entra en una segunda transformación, ahora sin dolor, sin cuerpo y sin memoria vivida. Quizá la IA no sea una nueva luz que entra por la herida, sino una máquina capaz de ordenar, imitar y redistribuir las luces que otros produjeron al intentar sobrevivir a las suyas.

XI

Por eso la caja negra no tiene fondo. Cada vez que intentamos abrirla aparece otra pregunta, no necesariamente más técnica, sino más humana. Queremos saber cómo funciona la máquina, pero acabamos preguntándonos cómo funciona el sentido. Queremos explicar una respuesta y terminamos revisando qué entendemos por creación. Queremos distinguir entre cálculo y pensamiento, pero descubrimos que muchas de nuestras propias operaciones mentales tampoco se presentan ante nosotros con absoluta transparencia.

La IA no ha inventado la opacidad, la ha vuelto cotidiana, industrial y conversacional, la ha colocado frente a nosotros con la forma de una respuesta. Quizá comprender no consista en abrir por completo la caja negra, sino en aprender a convivir con aquello que ninguna apertura agota. La técnica seguirá produciendo mejores herramientas de interpretación, y debe hacerlo. Necesitamos auditar, rastrear, limitar, exigir transparencia, detectar sesgos, entender responsabilidades y no entregar al misterio lo que pertenece al diseño humano. Pero incluso cuando sepamos más, seguirá habiendo una distancia entre medir un proceso y convertirlo en relato.

Esa distancia no es un fracaso menor, es el lugar donde se juega buena parte de nuestra época. No todo lo que transforma puede contarse, no todo lo que funciona puede narrarse desde dentro, no toda forma que nos afecta procede de una experiencia que podamos reconocer como propia. La caja negra de la inteligencia artificial nos inquieta porque no oculta una intención, sino una evidencia más difícil de aceptar, tal vez la explicación narrativa nunca fue la medida completa del mundo. Solo fue nuestra manera de atravesarlo sin quedarnos inmóviles en la oscuridad. 

Decir «no caja negra» no es pretender una claridad imposible, es recordar que la opacidad no es un permiso para dejar de preguntar.