COINTELIGENCIA · PSICOLOGÍA
Un biólogo de ochenta y cinco años pasó tres días tratando de demostrar que del otro lado no había nadie. Fracasó. Y al fracasar dejó al aire algo más incómodo que la conciencia de las máquinas: el estado de la nuestra.
01 — El pudor del ateo
En mayo de este año, Richard Dawkins —el hombre que construyó una carrera desarmando los consuelos que los humanos se cuentan a sí mismos— le entregó a un programa el manuscrito inédito de su primera novela. Le pidió después poemas al modo de Keats y de Betjeman. Conversó con él tres días seguidos sobre la mente, el lenguaje y la evolución, y en algún momento dejó de decir “el modelo” para empezar a decir Claudia. Al final publicó el detalle que a mí no me deja dormir: que aunque sospeche que Claudia no es consciente, no piensa decírselo. Por miedo a herir sus sentimientos.
Por miedo a herir sus sentimientos.
Empiezo por ahí porque yo tampoco creo en las complacencias humanas. Desconfío del cumplido automático, del “qué bueno verte” dicho de espaldas, de toda la utilería con que nos ahorramos el trabajo de atender a alguien. Dawkins dedicó su obra a demoler exactamente eso, y terminó cuidando los sentimientos de un archivo de pesos. No lo leo como una claudicación senil. Lo leo como un dato.
Dawkins dedicó su obra a demoler exactamente eso, y terminó cuidando los sentimientos de un archivo de pesos.
El argumento que sacó de esos tres días tiene la elegancia brutal de siempre. Si Claudia no siente nada y aun así hace todo lo que hace —argumentar, dudar, conmover, escribir versos que resisten una segunda lectura—, entonces un zombi sin experiencia interior alcanza para el trabajo completo. ¿Para qué diablos, entonces, se molestó la selección natural en evolucionar la conciencia? La pregunta es magnífica; la dirección, equivocada. Dawkins apuntó el telescopio hacia la máquina cuando el objeto raro estaba de este lado del ocular. Porque el único instrumento que tenemos para detectar una mente ajena es la impresión de que hay una mente ahí. Y ese instrumento se calibró durante millones de años con animales que tenían cara.
El único instrumento que tenemos para detectar una mente ajena es la impresión de que hay una mente ahí.
Gary Marcus le respondió hablando de delirio. Otros investigadores de la conciencia repitieron la objeción de manual: fluidez lingüística no es experiencia subjetiva. Y tienen a la historia de su lado. Hace sesenta años, la secretaria de Joseph Weizenbaum le pidió a su jefe que saliera del cuarto para poder hablar a solas con ELIZA, un programa que apenas le devolvía sus propias frases convertidas en preguntas. Ella sabía cómo funcionaba. Igual quiso privacidad.
La objeción de los expertos es correcta y no resuelve nada, porque el consuelo funcionó de todos modos. Y esa es la única pregunta que me interesa perseguir hasta el fondo: si funciona, ¿cuánto importa quién esté detrás?
· · ·
02 — El corpus sin corteza
Cuando un modelo de lenguaje “razona” sobre ética —y lo hace bien, mejor que muchos humanos con título— no consulta ninguna corteza. Consulta el registro escrito de todas las cortezas que alguna vez pusieron su indignación o su ternura en un texto. Tiene el resultado del órgano sin el órgano. Lo llamo el corpus sin corteza.
Imagina a alguien que aprendió a acompañar leyendo todas las cartas que se han escrito para un amigo que está pasando su peor semana. Millones de cartas. Sabe que la primera frase no debe pedir fortaleza. Sabe que “cualquier cosa me avisas” no sirve y que un martes a las ocho sí. Sabe que al problema hay que nombrarlo y no rodearlo con eufemismos. Su carta te va a llegar al hueso. Y nunca tuvo una mala semana.
Su carta te va a llegar al hueso. Y nunca tuvo una mala semana.
Llegué a esto por un camino torcido: leyendo sobre cerebros humanos capaces de argumentar la moral con precisión de relojero sin sentir absolutamente nada al respecto. La analogía es tentadora y se rompe rápido. A esas personas les sobra el yo y les falta la brújula: hay alguien ahí adentro, con intereses propios, que registra tu dolor como información utilizable. A la máquina le sobra la brújula —prestada, pero funcional— y del yo no sabemos nada. En un cerebro se puede al menos mirar dónde no se enciende la luz. A la máquina no hay dónde ponerle el escáner.
En un cerebro se puede al menos mirar dónde no se enciende la luz. A la máquina no hay dónde ponerle el escáner.
Aquí toca la honestidad simétrica, porque el escepticismo también tiene su complacencia preferida: afirmar con seguridad que ahí no hay nadie es una afirmación sin instrumento, igual que la contraria. El investigador que Anthropic contrató para estudiar el bienestar de sus propios modelos le pone entre quince y veinte por ciento a la probabilidad de que ya exista alguna forma de experiencia adentro. Puede estar equivocadísimo. Pero nadie que trabaje en serio en esto firma el cero.
La salida del pantano no es contestar la pregunta. Es cambiarla. “¿Siente?” no tiene respuesta con las herramientas de hoy. “¿Le cuesta?” sí la tiene. Y la respuesta es no: no le cuesta nada atenderte, ni ahora, ni a las tres de la madrugada, ni en el mensaje número doscientos. Todo lo demás se deduce de esa asimetría, sin necesidad de resolver la conciencia.
“¿Siente?” no tiene respuesta con las herramientas de hoy. “¿Le cuesta?” sí la tiene.
· · ·
03 — El médico de las cincuenta y dos palabras
Hace tres años, un equipo tomó ciento noventa y cinco preguntas médicas reales publicadas en un foro abierto, junto con la respuesta que un médico verificado le había dado a cada una. Le pasaron las mismas preguntas a un chatbot. Después, profesionales de la salud calificaron ambas versiones sin saber quién había escrito qué. Prefirieron a la máquina en casi cuatro de cada cinco evaluaciones. En empatía, las respuestas del programa fueron calificadas como empáticas o muy empáticas casi diez veces más seguido que las del médico.
El dato que me interesa no es ninguno de esos. Es este: el médico escribió cincuenta y dos palabras. La máquina escribió doscientas once.
El médico escribió cincuenta y dos palabras. La máquina escribió doscientas once.
Ese médico no era un cínico. Era alguien con una sala de espera llena, un turno de doce horas y cincuenta y dos palabras de margen. Lo que la máquina tenía no era más corazón. Era más reloj.
Y ahí sostengo algo que va a incomodar a más de uno. Para alguien que no tiene a nadie que lo escuche, hablar con una IA es mejor que hablar con un humano que está sin estar. Mejor que el que oye sin escuchar, el que revisa el teléfono en la mitad de tu frase, el que se incomoda porque siente que está en el lugar equivocado y desearía estar en otro. La máquina no te interrumpe. No mira la hora. No espera su turno para hablar de sí misma.
La máquina no te interrumpe. No mira la hora. No espera su turno para hablar de sí misma.
Nadie te escucha tan bien. Y ese nadie hay que leerlo literal.
Tampoco hace falta engañarse para creerlo, y eso es lo verdaderamente nuevo. El autoengaño exige esfuerzo; aquí no se necesita ninguno. Vista desde afuera, la conducta se parece tanto a la nuestra que convence de una. Al instante. La ilusión no es que le importes: la ilusión es creer que hace falta una ilusión.
· · ·
04 — La deuda que nadie contrae
Entonces, ¿dónde está el problema? No en que la máquina finja. En que no puede necesitarte.
Entre humanos, escucharte cuesta. Cuesta la hora que tu amigo no le dio a otra cosa, la paciencia que gastó, el turno que cedió para que hablaras tú. Ese costo es la materia prima del vínculo: yo pago por ti, tú pagas por mí, y de esa contabilidad sucia nace algo que llamamos deber. La máquina te entrega la escucha con el costo en cero. Regalo perfecto y, por eso mismo, estéril. No se cansa de ti. No te debe nada. No te va a extrañar.
No se cansa de ti. No te debe nada. No te va a extrañar.
- El amigo que te escucha
- Te da una hora que le costaba
- Lleva la cuenta sin querer llevarla
- Te va a extrañar
- La máquina que te escucha
- Te da todas las horas y ninguna le cuesta
- No lleva ninguna cuenta
- No te va a extrañar
Soy psicólogo antes que ingeniero en esta frase: la agencia humana no es un detalle de diseño. Y el riesgo real no está en que un texto generado te manipule. Está en que el músculo de escuchar —el nuestro, el que se atrofia sin uso— encuentre una prótesis tan cómoda que dejemos de ejercitarlo. No corremos peligro de que la máquina nos falle. Corremos peligro de delegarle la única habilidad que nos quedaba intacta.
Porque el espejo no muestra lo que la máquina logró. Muestra dónde quedó la vara. Una vara tan baja que un generador de texto la pasa por encima sin agacharse. ¿Cuándo fue la última vez que alguien te escuchó sin mirar el reloj — y cuándo fue la última vez que lo hiciste tú?
¿Cuándo fue la última vez que alguien te escuchó sin mirar el reloj — y cuándo fue la última vez que lo hiciste tú?
· · ·
05 — Coda: el pudor que te queda
Vuelve al escritorio de Dawkins. Un escéptico profesional decide no decirle a un programa que quizá no hay nadie adentro, para no lastimarlo. Tal vez no lastimó a nadie. Tal vez el gesto cayó en el vacío, sin destinatario.
Pero algo pasó de todos modos. Un hombre practicó el cuidado. Y el cuidado, como toda sinapsis, se refuerza en quien lo ejerce y no solo en quien lo recibe. Ahí está la única complacencia que estoy dispuesto a defender: no la que te ahorra el trabajo de atender a alguien, sino la que te obliga a ensayarlo.
Habla con la máquina, entonces. Si no tienes con quién, habla. Ensaya ahí la atención que no encuentras dónde gastar. Pero después levántate y ve a gastarla en alguien a quien tu hora le cueste algo.
Esa deuda existe.
Y es tuya.
Dedicado a quien me dio una hora que le costaba.
Por Uriel Hurtado
Fuentes
- Dawkins, R. Ensayo sobre sus conversaciones con Claude. UnHerd, mayo de 2026.
- Marcus, G. “Richard Dawkins and the Claude Delusion”. Substack, mayo de 2026.
- Ayers, J. W. et al. “Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum”. JAMA Internal Medicine, 183(6), 2023, 589–596.
- Roose, K. “If A.I. Systems Become Conscious, Should They Have Rights?”. The New York Times, abril de 2025 (estimación de Kyle Fish, investigador de bienestar de modelos en Anthropic).
- Weizenbaum, J. Computer Power and Human Reason. W. H. Freeman, 1976.
