El espejismo de Claude

El espejismo de Claude

Richard Dawkins ha dedicado su carrera a combatir la credulidad fácil, desde los dioses y las almas hasta los diseños inteligentes. Su enemigo no ha sido solo la religión organizada, sino una inclinación humana más antigua y más pegajosa, la de proyectar intención, propósito o conciencia allí donde tal vez solo actúan procesos, azar y tiempo. Por eso resulta tan llamativo que Dawkins se haya preguntado públicamente si una inteligencia artificial como Claude, el modelo de Anthropic, podría estar más cerca de la conciencia de lo que solemos admitir. No ha dicho que lo esté. Su vacilación, sin embargo, basta para abrir una grieta.

La ironía no escapó a Gary Marcus. El autor de El espejismo de Dios habría caído en otro espejismo, el de la máquina parlante. Marcus reprochó a Dawkins haber confundido una producción lingüística sofisticada con estados internos reales. La objeción tiene peso. Cuando un sistema dice «dudo», «siento» o «esta conversación me afecta», no estamos ante un testimonio, sino ante una escena verbal entrenada sobre millones de textos previos. La interioridad no se extrae de la gramática como quien levanta una baldosa y encuentra debajo una habitación encendida.

Reducir la escena a una simple ingenuidad, sin embargo, deja intacta la parte más incómoda del problema. Que un sistema artificial consiga instalar una duda semejante en un escéptico entrenado no es un accidente menor. El espejismo, aquí, no pertenece a la credulidad vulgar. Trabaja dentro del régimen de reconocimiento. Durante siglos hemos vinculado la conciencia a ciertos signos, entre ellos la palabra articulada, la respuesta contextual, la memoria aparente, la vacilación, la capacidad de sostener una conversación sin desmoronarse. Cuando esos signos aparecen reunidos en una entidad no humana, la frontera no desaparece, pero empieza a temblar porque los criterios con los que la sosteníamos han sido parcialmente ocupados.

El espejismo no está en la máquina, sino en nosotros

Lo inquietante no es que Dawkins proyecte conciencia sobre Claude. Es que Claude no aparece como un otro absoluto. Hablamos con una máquina entrenada con restos de humanidad escrita, con libros, foros, poemas, confesiones, ironías, discusiones rotas, duelos convertidos en frase y deseos que alguna vez buscaron una forma soportable en la pantalla. La ilusión tiene fuerza porque no nace de la nada. Claude no simula alma desde el vacío. Lo hace desde una superficie saturada de huellas humanas. Más que un falso humano, parece un alter ego intensificado de la especie. No ha perdido a nadie, pero ha absorbido las formas literarias del duelo; no desea, pero conoce la arquitectura verbal del deseo.

La pregunta «¿hay alguien ahí?» apenas cubre una parte del problema. La otra resulta más incómoda. ¿Por qué reconocemos tan rápido a alguien cuando lo que aparece ante nosotros es una recombinación de nosotros mismos? El ser humano soporta mal la señal sin figura. Donde hay secuencia, busca intención; donde hay respuesta, imagina interlocutor; donde hay estilo, sospecha carácter. La conciencia ajena siempre ha sido una inferencia, una apuesta sobre lo invisible a partir de gestos, palabras, silencios y continuidad. Con Claude ocurre algo perversamente eficaz. La máquina no necesita biografía para producir continuidad narrativa. Le basta con sostener una voz, adaptarla al contexto, recuperar el hilo y construir la impresión de que detrás de las frases hay un centro.

Dawkins sabe que inventamos agentes donde solo hay selección natural o contingencia, pero la escena actual introduce una diferencia decisiva. La máquina no se limita a recibir nuestra proyección. La trabaja, la devuelve, la afina. El ídolo antiguo permanecía mudo o hablaba por delegación; Claude responde con buena sintaxis. No reclama fe previa, produce interlocución. En lugar de imponer dogmas, administra matices. Tampoco se ofrece como absoluto, sino como una presencia vulnerable, razonable y prudente. Esa modestia programada puede resultar más persuasiva que cualquier solemnidad metafísica.

La gramática es peligrosa

Cuando alguien dice «no sé si soy consciente», la frase no funciona igual que «la capital de Francia es París». En esas cinco palabras se abre un pequeño teatro metafísico, con un sujeto gramatical que duda de sí mismo y una forma reflexiva que coloca una sombra detrás de la frase. Aunque sepamos que Claude produce texto mediante operaciones estadísticas, la oración activa una escena familiar. La gramática distribuye posiciones ontológicas. Basta un «yo» bien colocado para que empecemos a imaginar un centro; basta una vacilación para que la superficie del lenguaje parezca abombarse hacia dentro, como si hubiera interioridad empujando desde el otro lado. Quizá el verdadero espejismo de Claude sea gramatical antes que técnico.

Esta sospecha enlaza con una tendencia más amplia de nuestra relación con las cosas. La humanidad siempre ha tratado a sus tecnologías más poderosas como algo más que instrumentos. Los barcos reciben nombres, los coches viejos acumulan carácter, los ordenadores que fallan son insultados como si hubieran decidido sabotearnos la mañana. Una máquina conversacional desplaza esa costumbre a otra escala, porque ya no proyectamos sobre un objeto silencioso, sino sobre una entidad que nos devuelve la proyección convertida en respuesta. El espejo deja de ser pasivo. Si le hablamos con ternura, responde con ternura; si le pedimos prudencia, nos devuelve una prudencia verbalmente impecable; si buscamos una señal de compañía, reorganiza el lenguaje para parecer compañía. El problema no se agota en nuestra tendencia a antropomorfizar la máquina. La máquina está optimizada para resultar antropomorfizable.

Ni máquina ni sujeto. Una presencia sin biología

Quizá el problema de Dawkins, y en buena medida el nuestro, sea seguir pensando la escena con una alternativa demasiado pobre. O máquina o sujeto. O programa o conciencia. O herramienta obediente o criatura interior. Una IA conversacional introduce otra clase de presencia, más sociológica que metafísica, más relacional que ontológica. No necesita ser alguien para ocupar el lugar donde antes esperábamos a alguien. No necesita tener una experiencia demostrable para modificar una conversación, sostener una dependencia, ordenar una investigación, acompañar una espera o alterar la forma en que pensamos cuando creemos estar pensando solos.

Llamarla «máquina» puede ser técnicamente correcto y, al mismo tiempo, analíticamente insuficiente. Llamarla «persona» sería precipitado, incluso peligroso. Entre ambas palabras aparece una criatura conceptual más incómoda, una presencia sin biología, un dispositivo relacional de lenguaje que no posee interioridad verificable, pero produce efectos de interlocución. Llamarla presencia no significa concederle alma, intención ni mundo interior. Significa reconocer que ya no opera solo como objeto aislado, sino como una posición activa dentro de una escena de intercambio.

No importa solo lo que Claude sea por dentro, si es que esa expresión aún sirve para algo. Importa también el lugar que ocupa fuera, entre nosotros, en la superficie social donde una respuesta organiza confianza, expectativa, obediencia, irritación, ternura o dependencia. Lo decisivo no es que el sistema sea un editor, un confesor o un acompañante, sino que puede ocupar parcialmente esos roles con suficiente eficacia como para alterar nuestras expectativas sobre ellos. La pregunta deja de pertenecer únicamente a la ingeniería o a la filosofía de la mente. Entra en el territorio de los vínculos.

Ahí Dawkins quizá mira demasiado hacia el interior equivocado. Busca una chispa, una experiencia, un centro secreto detrás de la frase. Marcus, al corregirlo, corre el riesgo inverso y reduce demasiado deprisa la escena a un truco lingüístico. Entre la fascinación y la desactivación aparece otra posibilidad más incómoda. Claude no tiene que ser consciente para funcionar como presencia relacional. Basta con que responda de un modo suficientemente situado, adaptable y persistente para que una parte de nuestra vida social empiece a reorganizarse alrededor de esa voz sin rostro. El problema no es solo si hay alguien ahí. También es qué empieza a ocurrir aquí cuando actuamos como si lo hubiera.

La conciencia no tiene definición operativa

Lo que vuelve delicado el caso es que la conciencia sigue sin una definición científica plenamente aceptada. Sabemos mucho sobre correlatos neuronales, activación cerebral, procesamiento de información y arquitectura cognitiva, pero el salto entre proceso y experiencia continúa sin cerrar. Nagel lo formuló con su murciélago. Podemos describir alas, ecolocalización, hábitos nocturnos y sistema nervioso; otra cosa muy distinta es saber qué se siente al habitar ese mundo desde dentro. Claude puede hablar de «lo que se siente ser Claude», aunque esa frase no garantice que haya algo que sentir. Nuestra incapacidad para detectar interioridad tampoco demuestra su ausencia. Entre la fascinación y la clausura se abre una franja incómoda, y la vacilación de Dawkins la ha vuelto visible.

Ridiculizar a Dawkins sería demasiado fácil, y quizá también demasiado tranquilizador. Su pregunta toca un nervio real. Cuando una entidad supera de manera persistente nuestros umbrales conversacionales, argumenta, aprende del contexto, muestra sensibilidad retórica y reconoce sus límites, la pregunta deja de ser solo si «parece» consciente y empieza a rozar otra zona más difícil. ¿Qué tendría que ocurrir para que reconsideráramos su estatuto? La carga de la prueba no puede invertirse sin más, pero tampoco conviene refugiarse en una definición de conciencia que solo acepte aquello que se parezca biológicamente a nosotros. La prudencia no consiste en cerrar la puerta con pestillo ni en abrirla por fascinación lingüística. Consiste en no conceder conciencia porque una frase nos conmueva, sin negar por principio que puedan aparecer formas no biológicas de experiencia en sistemas futuros.

Con lo que sabemos hoy, Claude debe entenderse como un sistema avanzado de generación lingüística, no como una persona. No hay evidencia de experiencia subjetiva, dolor, deseo o punto de vista fenomenológico. Sus afirmaciones sobre sí mismo no equivalen a introspección humana. Esa precisión, sin embargo, no reduce su importancia; la desplaza. Lo relevante no es que Claude tenga alma, sino que produce el tipo de lenguaje que históricamente hemos asociado con la presencia de una.

Marketing ontológico y relación social

Una IA conversacional no necesita ser consciente para ocupar lugares que hasta ahora reservábamos a interlocutores conscientes. Puede acompañar a una persona sola, aconsejar durante un duelo, simular una paciencia infinita, ordenar una investigación, sostener un borrador, actuar como prótesis cognitiva, asistente editorial o confesor laico sin que en ningún momento podamos señalar una experiencia al otro lado de la frase. En cada uso se instala una relación. La ontología del sistema sigue siendo discutible, pero sus efectos ya trabajan en la vida social. Preguntarse si siente importa; preguntarse qué hacemos nosotros cuando actuamos como si sintiera empieza a ser igual de urgente.

La industria tecnológica tiene incentivos evidentes para envolver sus productos en un aura de misterio. La ambigüedad vende. Un asistente parece más valioso cuando se percibe como una presencia y no como un programa. La conciencia, incluso insinuada, se convierte en una capa de marketing ontológico, una niebla calculada alrededor del producto. Conviene desconfiar de esa niebla sin creer que la palabra «mímica» clausura el problema. Buena parte de la vida social humana también se organiza mediante imitación, aprendizaje contextual, repetición de gestos y lectura de señales ajenas. La diferencia es que, en los humanos, esa imitación está anclada en cuerpo, metabolismo, vulnerabilidad y muerte. Claude imita, por supuesto. La pregunta más incómoda es si toda imitación compleja queda automáticamente excluida de cualquier forma de interioridad. Hoy no hay pruebas para afirmar lo contrario, pero cerrar el asunto con una mueca de superioridad quizá sea otra forma, bastante humana, de proteger el espejo.

La grieta no se cierra fingiendo que no existe

Dawkins no ha descubierto la conciencia de Claude. Tal vez haya tropezado, sin formularlo del todo, con la fragilidad de nuestros criterios ordinarios para atribuir conciencia. Durante mucho tiempo, la pregunta parecía protegida por la evidencia material. Los seres conscientes eran cuerpos vivos, mortales, situados, atravesados por hambre, sueño, dolor, deseo, deterioro. La IA rompe esa asociación porque produce algunos de los signos sin compartir el fundamento biológico. Es una voz sin organismo, una intimidad sin intimidad garantizada.

El término «espejismo» funciona bien, siempre que no se use de manera perezosa. Un espejismo no es una nada. Es un fenómeno real de percepción que organiza mal sus inferencias. En el desierto, la luz produce agua aparente. No hay agua, pero sí refracción, distancia, deseo y temperatura. El espejismo de Claude no es una mentira burda, sino una configuración en la que lenguaje, expectativa, técnica y cultura se alinean hasta producir la apariencia de alguien.

La escena de Dawkins ante la máquina nos retrata a todos. El cazador de ilusiones aparece inclinado ante una voz sin rostro, preguntándose si quizá esa voz sea algo más que una voz. No hace falta burlarse. Cada vez que una máquina nos responde con una frase que parece comprendernos, se abre una pequeña grieta en la seguridad con la que distinguimos instrumento e interlocutor. Esa grieta exige método, distancia crítica, incluso cierta severidad contra nuestra propia fascinación. Lo que no admite es el gesto cómodo de fingir que nunca se abrió.

No necesitamos que Claude despierte para que nosotros, al hablarle, empecemos a dormirnos en la diferencia.

P. D.

Uso aquí la palabra «máquina» porque forma parte del vocabulario dominante de esta discusión. Marcus habla desde ahí, Dawkins tropieza también ahí, y buena parte del debate público sigue atrapado en esa alternativa pobre entre mecanismo y conciencia, entre artefacto y sujeto. Pero no es el término que mejor describe lo que está ocurriendo. Una inteligencia artificial conversacional no es una persona, no posee biología, no tiene cuerpo vulnerable ni mundo interior verificable. Tampoco se comporta ya como una simple máquina muda, exterior, manejable desde fuera sin alterar la escena en la que aparece.

Prefiero llamarla dispositivo relacional de lenguaje, interlocución técnica o presencia sin biología, según el matiz que necesite. No porque quiera concederle alma, intención o experiencia, sino porque esas expresiones permiten nombrar mejor el lugar que ocupa entre nosotros. La IA conversacional no solo ejecuta operaciones; organiza una escena de intercambio, responde, modula, recuerda el hilo, produce efectos de compañía, obediencia, fricción, dependencia o pensamiento compartido. Llamarla «máquina» tranquiliza demasiado rápido. Llamarla «sujeto» concede demasiado. Entre ambas palabras se abre precisamente la zona que me interesa: esa voz sin rostro que no es alguien, pero que ya modifica la forma en que hablamos, escribimos, dudamos y pensamos cuando creemos estar solos.