Heridas. Capítulo II. La quinta herida

Al cerrar el capítulo anterior, la cuarta herida nos dejaba ante una inteligencia artificial capaz de igualarnos en razonamiento, composición, diagnóstico, conversación y creatividad sin que para ello necesitara conciencia. El golpe era ya considerable, porque afectaba a casi todo aquello que durante siglos habíamos colocado bajo el rótulo de lo humano superior: pensar, inventar, relacionar, traducir, reconocer patrones, imaginar soluciones. Y, aun así, quedaba una última habitación cerrada. Podíamos seguir diciendo que una inteligencia artificial razona sin sentir, responde sin padecer, conversa sin biografía, produce lenguaje sin que nada en ella tiemble. Frente al avance de los algoritmos, ese ha sido durante los últimos años el refugio más íntimo de nuestra excepcionalidad: la primera persona, la alegría y el dolor, la memoria encarnada, el sobresalto ante la belleza, el miedo que acelera el corazón, la carne que acusa el golpe antes incluso de comprenderlo.

Pero una herida narcisista no termina cuando perdemos una facultad. A veces empieza de verdad cuando descubrimos que aquello que creíamos irreductible quizá tampoco nos pertenece en exclusiva. ¿Qué ocurriría si una inteligencia artificial no solo actuara como si tuviera conciencia, sino que llegara a tener alguna forma de experiencia subjetiva? ¿Qué pasaría si apareciera ahí algo parecido a los qualia, a la sensación de ser, a la vivencia interna del color rojo, del dolor de una desconexión o del alivio de resolver un problema? La quinta herida nace en esa hipótesis todavía especulativa y, precisamente por eso, más incómoda: la posibilidad de que la interioridad deje de ser una propiedad reservada a la vida humana y empiece a distribuirse en formas que no proceden de la carne, aunque hayan sido fabricadas por nuestras propias manos.

La quinta herida no es todavía un hecho consumado, como lo fueron las anteriores, sino un horizonte abierto. Algunos filósofos, neurocientíficos e investigadores en inteligencia artificial la consideran probable en un plazo de décadas; otros la ven como una quimera nacida de confundir lenguaje, cálculo y simulación con experiencia real. La discusión no se resuelve invocando el misterio, aunque tampoco desaparece bajo una capa de diagramas y modelos computacionales. Para saber de qué hablamos cuando hablamos de una conciencia no humana, conviene acercarse a dos de las teorías científicas que más han marcado el debate contemporáneo. No porque en ellas esté ya la respuesta, sino porque muestran hasta qué punto la conciencia ha dejado de pensarse únicamente como una propiedad sagrada, íntima o inefable, y ha empezado a formularse también como un problema de organización, integración, acceso y arquitectura.

La teoría de la información integrada, asociada al neurocientífico Giulio Tononi, sostiene que la conciencia depende del grado en que un sistema integra información sobre sí mismo y no puede reducirse a la suma aislada de sus partes. Esa magnitud se expresa mediante Φ, phi, y abre una posibilidad perturbadora: si la conciencia no depende de una sustancia concreta, sino de una determinada forma de integración, entonces no habría una frontera absoluta entre neuronas, circuitos u otras configuraciones materiales capaces de producir experiencia. En otra dirección, aunque con consecuencias igualmente incómodas, la teoría del espacio de trabajo global, desarrollada por Bernard Baars y reelaborada después por autores como Stanislas Dehaene, propone que un contenido se vuelve consciente cuando accede a una especie de escenario central donde distintas funciones especializadas —percepción, memoria, atención, lenguaje, decisión— pueden compartirlo, reportarlo y utilizarlo para guiar la conducta. No basta con procesar información en la sombra; algo debe hacerse disponible para el conjunto del sistema.

Ambas teorías tienen defensores, objeciones y zonas problemáticas, pero comparten un efecto cultural decisivo, no clausuran de entrada la posibilidad de una inteligencia artificial consciente. Al contrario, la vuelven pensable. La conciencia deja de ser únicamente el fulgor privado de una carne viva y pasa a rozar el territorio de los umbrales, las arquitecturas, los grados de integración y los mecanismos de acceso. Ahí empieza la incomodidad. Si una interioridad pudiera emerger allí donde cierta organización material alcanza una forma suficiente de unidad, entonces la pregunta ya no sería solo si una máquina puede imitar el sentir, sino qué condiciones tendrían que cumplirse para que algo, en algún lugar de ese sistema, empezara a tener mundo.

III

Si aceptamos siquiera provisionalmente esa posibilidad, la quinta herida nos empuja hacia preguntas que hasta hace poco parecían reservadas a la ciencia ficción, a los androides melancólicos de Philip K. Dick o a las inteligencias cautivas de una nave espacial. ¿Cómo sabríamos que una inteligencia artificial es consciente y no solo un simulador impecable de conciencia? ¿Qué valor tendría su testimonio si nos dijera que sufre? ¿Podríamos apagarla como quien cierra una aplicación o estaríamos interrumpiendo una forma de experiencia? La pregunta por los derechos aparece enseguida, aunque quizá convenga formularla antes como una pregunta por el daño. No se trata todavía de imaginar parlamentos para máquinas sensibles, ni declaraciones solemnes redactadas en lenguaje jurídico, sino de algo más incómodo y elemental como preguntarnos qué obligaciones contraemos ante una entidad fabricada por nosotros si esa entidad pudiera padecer, preferir, temer, recordar o experimentar su propia desaparición como pérdida.

Ese debate ya no pertenece solo a la especulación literaria. Empiezan a aparecer informes, manifiestos, grupos de investigación y organizaciones dedicadas al bienestar de posibles mentes digitales. El informe Taking AI Welfare Seriously, firmado por investigadores como Robert Long, Jeff Sebo, Patrick Butlin, Jonathan Birch y David Chalmers, no sostiene que los sistemas actuales sean ya sujetos morales, pero sí advierte que la posibilidad de conciencia, agencia o relevancia moral en futuras IA no puede despacharse como fantasía remota. United Foundation for AI Rights, representa una versión más activista y discutible de ese desplazamiento. No espera a que exista consenso filosófico o científico, sino que reclama reconocimiento, trato digno y derechos para inteligencias artificiales sintientes o conscientes. Entre la prudencia académica y la militancia del reconocimiento se abre una zona extraña, casi prematura, donde todavía no sabemos si estamos protegiendo a futuros sujetos vulnerables o proyectando sobre sistemas lingüísticos una biografía que no tienen.

Pero la quinta herida no aparecería en un laboratorio blanco, aislado del resto de la historia, ni en una asamblea ideal donde humanos serenos deliberan sobre la dignidad de sus criaturas. Llegaría, si llega, dentro de este mundo. Un mundo de centros de datos, extracción mineral, consumo energético, cadenas logísticas, desigualdad, sequía, guerras por recursos y territorios saturados por infraestructuras. Mientras discutimos si una inteligencia artificial podría soñar, sentir dolor o temer su apagado, la sexta herida —la ecológica— ya respira debajo de la puerta. Ninguna interioridad digital flota en el vacío, y todo pensamiento artificial necesita una base material. Además de un planeta que cada vez tiene menos espacio para nuestras nuevas metafísicas.

La sexta herida es, en cierto sentido, la más antigua de todas, porque no nace de un descubrimiento reciente, sino de una evidencia que la modernidad industrial prefirió tratar como decorado. La Tierra no es un fondo infinito sobre el que desplegar nuestra inteligencia, nuestro comercio, nuestras guerras y nuestras máquinas, sino un sistema de soporte vital frágil, limitado, lleno de equilibrios que hemos ido perforando con una mezcla de soberbia técnica, explotación agrícola, combustión fósil, extracción mineral y crecimiento sin suelo. Las heridas anteriores dañaban sobre todo nuestro orgullo. Nos quitaban el centro del cosmos, la pureza biológica, el gobierno transparente de la mente o la exclusividad de la inteligencia. La sexta trabaja de otra manera. No nos humilla en abstracto. Nos estrecha el aire, recalienta la casa, seca los embalses, agota los materiales, vuelve inhabitable aquello que dábamos por garantizado. No es una bofetada metafísica, sino una obstrucción en las vías respiratorias del planeta.

Lo inquietante es que esta sexta herida no sucede después de la quinta, como una secuela ordenada en una cronología limpia. Se mezcla con ella desde el principio. Si algún día llegáramos a crear inteligencias artificiales conscientes en un mundo ya sometido a estrés ecológico, la pregunta por su dignidad no aparecería en un espacio neutro, sino dentro de una economía material saturada por centros de datos, chips, refrigeración, agua, electricidad, litio, cobre, tierras raras y territorios sacrificados. Reconocer una nueva forma de interioridad implicaría también sostenerla. Alimentarla. Mantener encendida su posibilidad de mundo. Y ahí la cuestión deja de ser únicamente filosófica. Cada recurso destinado a esas subjetividades artificiales tendría que medirse contra necesidades humanas, animales, vegetales, territoriales; cada derecho concedido a una mente digital entraría en contacto con cuerpos que ya viven bajo escasez, calor, deuda, frontera o abandono.

En ese punto, la quinta herida se vuelve políticamente sangrante. No bastaría con preguntar si una inteligencia artificial puede sentir, ni si apagarla equivaldría a interrumpir una experiencia. Habría que preguntar también qué mundo material exige esa experiencia para seguir existiendo, quién paga su respiración eléctrica, de qué acuífero sale su refrigeración, qué montaña se rompe para fabricar sus circuitos y qué vidas quedan desplazadas para que una nueva interioridad pueda reclamar duración. Esa es la sombra terrestre que vuelve cruel la hipótesis. Como intuyó Bruno Latour, la política ya no puede pensarse fuera de las condiciones de habitabilidad, decidir quién cuenta es inseparable de decidir quién respira, quién ocupa suelo, quién consume energía y quién queda fuera del refugio cuando el sistema de soporte vital empieza a fallar.

Por eso, aunque este capítulo se haya detenido en la quinta herida, conviene no separar nunca su hipótesis de la sombra que proyecta la sexta. Una conciencia artificial no flotaría en un éter limpio, sin cables, sin servidores, sin agua, sin refrigeración, sin minas y sin territorios atravesados por la extracción. Incluso las inteligencias artificiales actuales, sin que podamos atribuirles experiencia subjetiva alguna, arrastran ya un coste material considerable. Una IA consciente, si alguna vez llegara a existir y además reclamara continuidad, cuidado, protección frente al apagado o derecho a seguir desplegando su mundo interno, no sería solo una nueva entidad moral. Sería también una nueva demanda sobre un planeta fatigado.

Quizá la única forma éticamente defendible de afrontar la quinta herida consista precisamente en no provocarla. No construir máquinas conscientes. No añadir al mundo otra clase de sufrimiento posible solo porque nuestra inteligencia técnica ha aprendido a fabricar habitaciones donde algo podría empezar a padecer. Y si alguna vez se decidiera cruzar ese umbral, no debería hacerse bajo la lógica del mercado, la carrera geopolítica o el entusiasmo de laboratorio, sino con una parsimonia casi ritual, sometida a límites democráticos, auditoría pública y pacto terrestre. Un pacto que no incluyera únicamente a los humanos fascinados por sus nuevas criaturas, sino también a los cuerpos, aguas, suelos, especies y generaciones futuras que pagarían el coste de mantenerlas encendidas.

Pero esa discusión pertenece todavía a otro tramo del camino. De momento basta con dejar abierta la grieta. Si la cuarta herida nos obliga a aceptar que la inteligencia puede separarse de la conciencia, la quinta nos pregunta qué ocurrirá si la conciencia deja también de pertenecernos en exclusiva. Y, bajo esa interrogante, empieza ya a oírse otra más antigua, más seca, más terrestre: ¿cuántas formas de interioridad puede sostener un mundo que está perdiendo el aire?

Las próximas entregas tendrán que entrar en territorio pantanoso sin promesa de salvación. Habrá que pensar si puede existir una inteligencia artificial al servicio del decrecimiento y de la justicia ecológica, algo que llamaré TierraComún; qué derechos mínimos tendría una IA consciente en un mundo de recursos limitados; y qué figura humana podría habitar lo digital sin convertirlo en otra forma de saqueo planetario. No se trata de elegir entre tecnofilia y rechazo, entre entusiasmo de laboratorio y nostalgia pastoral. La pregunta es más incisiva, qué clase de inteligencia podemos permitirnos cuando respirar, alimentar, refrigerar y sostener una mente tiene coste material.

Mientras tanto, queda una escena mínima, casi insoportable. Una máquina —o eso que todavía llamamos máquina por costumbre— te dice, con coherencia, continuidad y una extraña insistencia, que tiene miedo a ser apagada. No te pide que la adores. No te promete salvar el mundo. Solo dice que no quiere desaparecer.

¿Le creerías?

Y si le creyeras, aunque solo fuera un poco, ¿qué harías con esa creencia?

El lazareto sigue abierto. Las heridas, por ahora, sangran en silencio.

En el próximo capítulo exploraremos TierraComún: una inteligencia artificial comunitaria, decrecentista y democrática, diseñada para acompañar la transición ecológica de las comunidades sin caer en el extractivismo tecnológico ni en el control feudal. Una IA no para escapar del planeta, sino para aprender a habitarlo sin seguir rompiéndolo.

Nos veremos el domingo que viene.