Sesgo del superviviente: el hangar de las fórmulas

COINTELIGENCIA · FÍSICA E INTELIGENCIA ARTIFICIAL

Una teoría habita un micrón que nadie ha medido. Una demostración habita un archivo que nadie ha leído. Entre las dos queda por resolver qué significa saber.

Los bombarderos volvían de sus misiones con el aluminio de las alas y de la cola picado como un colador, y los ingenieros militares, que sabían de blindaje y no de azar, hicieron lo razonable: marcaron los agujeros sobre el esqueleto del avión y propusieron reforzar esas zonas. Abraham Wald, un matemático que había huido de la Europa nazi y trabajaba en un grupo de estadística de la Universidad de Columbia, miró el mismo dibujo y pidió lo contrario: blindar los lugares donde no había una sola perforación. Los aviones alcanzados allí no habían regresado para ser contados. Así se cuenta la anécdota —los historiadores advierten que el trabajo real de Wald fue más técnico y menos limpio—, pero la lección —el sesgo del superviviente— sobrevive a la leyenda. Lo que no volvió no deja agujeros que contar.

Lo que no volvió no deja agujeros que contar.

· · ·

01 — El cementerio sin lápidas

La historia de la ciencia se narra en voz de hangar. Riemann inventó una geometría curva sin sospechar que Einstein la necesitaría más de medio siglo después; Dirac escribió una ecuación que exigía una partícula gemela del electrón con carga opuesta, y la partícula apareció en una cámara de niebla. Esos son los aviones que regresaron, con su dibujo de agujeros y su aplauso. Recordamos los aciertos de las matemáticas porque los aciertos tienen quien los cuente.

Del otro lado no hay lápidas. Lord Kelvin sostuvo que los átomos eran nudos de vórtices en el éter; la idea sedujo a una generación entera y dejó una herencia de tablas de nudos que la matemática todavía aprovecha, pero ningún átomo que la física reconociera. Theodor Kaluza le propuso a Einstein, en 1919, una quinta dimensión que casaba gravedad y electromagnetismo; la física la guardó durante décadas como pieza de museo. Ambas fórmulas eran hermosas. Ambas eran coherentes. Una fórmula puede ser perfecta y estar vacía.

Una fórmula puede ser perfecta y estar vacía.

Los estadísticos conocen la trampa como sesgo del superviviente. Bauticemos la versión que habita nuestras fórmulas: sesgo del hangar. Estudiamos a los sobrevivientes y llamamos método a lo que fue filtro. La sospecha de que hay algo raro en conjeturar sobre terrenos que ningún sentido pisa nace ahí, en el recuento que nadie hizo: ¿cuántos caminos matemáticos se perdieron sin noticia para que unos pocos parecieran destino?

· · ·

02 — Un micrón de ancho

El seis de octubre apareció una noticia que decía que los primeros agujeros negros del universo vivían en cinco dimensiones. Conviene leer el artículo antes que el titular. Luis Anchordoqui, Alek Bedroya y Dieter Lüst partieron de un escenario llamado Dimensión Oscura, que añade una sola dimensión espacial de más o menos un micrón y que nació de conjeturas sobre qué teorías toleraría la gravedad cuántica. Revisaron las tres maneras clásicas de fabricar agujeros negros primordiales y concluyeron que cualquiera de ellas, salvo que aparezca física exótica a bajas energías, produce agujeros de cinco dimensiones. Sobre un neutrino de energía extrema detectado por KM3NeT dicen que la coincidencia es una posibilidad, no una prueba. Nadie ha visto un agujero negro primordial. Nadie ha visto la dimensión. Nadie dice lo contrario.

Conviene separar dos cosas que la prensa mezcla. Las seis dimensiones extra de la teoría de cuerdas están enrolladas en formas minúsculas, cercanas a la escala de Planck; la dimensión de esta noticia es una sola y mide un micrón, unos veintinueve órdenes de magnitud más. Peter Woit sostiene que esa dimensión micrométrica apenas guarda relación con las cuerdas.

El artículo no exagera. Exagera el eco. Lo que el trabajo afirma tiene forma de condicional: si la Dimensión Oscura existe, entonces ocurre esto. Es una cadena de «si» honesta apoyada en un cimiento que otros físicos miran con reserva, porque las conjeturas que lo sostienen tienen, según el físico Joseph Conlon, evidencia débil.

Es una cadena de «si» honesta apoyada en un cimiento que otros físicos miran con reserva.

Así que mi sospecha apuntaba a la capa correcta y al blanco equivocado. No iba dirigida al artículo. Iba dirigida al cimiento.

· · ·

03 — Lo que los sentidos no cuentan

Nadie ha visto un electrón. Nadie ha tocado la curvatura del espacio. Nadie ha sentido un campo cuántico en la yema de los dedos. Si la ausencia de experiencia sensorial bastara para descalificar un concepto, la física del último siglo cabría en un cajón. Lo digo como psicólogo, desde el otro lado de la pregunta: la rareza que sentimos ante una quinta dimensión describe nuestra arquitectura perceptiva, no la del universo. Un cerebro afinado para esquivar depredadores en una sabana no ofrece un criterio sobre la geometría del cosmos.

El criterio verdadero es otro, y es más frío: que la idea pueda perder. La ciencia no le exige a una dimensión que se deje ver. No le exige que se deje tocar. Le exige que corra el riesgo de morir.

La ciencia no le exige a una dimensión que se deje ver. No le exige que se deje tocar. Le exige que corra el riesgo de morir.

Aquí la Dimensión Oscura muestra su mitad luminosa y su mitad sospechosa. Predice una desviación de la ley del inverso del cuadrado de la gravedad entre uno y diez micrones, y eso lo puede refutar un experimento de laboratorio. Pero Cumrun Vafa, uno de sus proponentes, admite según recoge Woit que si tampoco se ve nada a escalas aún menores, lo que habría que corregir sería una conjetura del pantano, no la dimensión. Esa es la puerta trasera del hangar: el modelo que, cuando pierde, cambia de lugar. Un modelo con salida de emergencia nunca llega a estar equivocado; apenas llega a estar pendiente.

Un modelo con salida de emergencia nunca llega a estar equivocado; apenas llega a estar pendiente.

· · ·

04 — La balanza mal tarada

Queda entonces la pregunta de fondo: ¿puede la inteligencia artificial medir la distancia que separa a un modelo de la realidad? La respuesta honesta tiene dos mitades, y la primera es incómoda: nadie mide esa distancia en absoluto. Los modelos se comparan entre sí, con los datos como árbitro, y la herramienta formal es la inferencia bayesiana: cuánta probabilidad le dejan los datos a cada modelo, descontando a los que solo encajan a fuerza de añadir parámetros. La IA ya ayuda ahí. Se anunció que una técnica de aprendizaje automático, los flujos normalizantes, volvía comprobable la teoría de cuerdas; su autor, David Marsh, aclaró después que no se trataba de un agente de IA, sino de una herramienta de inferencia. El titular ganó. La herramienta se quedó con su tamaño real.

La segunda mitad es la que importa. La IA calcula consecuencias mucho más rápido de lo que podemos hacerlo nosotros. Redes neuronales aproximan hoy la geometría de las formas de seis dimensiones sobre las que se enrollan las cuerdas y de ahí extraen las masas de las partículas. En 2024 calcularon las de tres quarks para seis de esas formas, de un paisaje de unos diez elevado a quinientos posibles. Ninguna coincidió con nuestro universo: dos de los quarks salían con la misma masa. Eso ya es descartar ejemplares, aunque los propios autores lo presentaron como prueba de concepto. Cuando un ejemplar muere, el marco responde que el cementerio es enorme y que el ejemplar vivo está en otra parte. Descartar ejemplares no es descartar el marco.

Descartar ejemplares no es descartar el marco.

Lo que ningún cálculo puede decidir es cuánta probabilidad previa merece cada modelo antes de mirar los datos, y ahí vive el pecado original. Un estudio de este año lo muestra, en simulaciones, con una limpieza casi cruel: una red entrenada primero con la cosmología estándar tardaba en distinguir el efecto de la masa de los neutrinos del de la agrupación de la materia, porque ambos se parecen, y se resistía a ver lo nuevo. La herramienta heredaba la creencia de quien la había calibrado. Una balanza con la tara equivocada pesa con precisión impecable lo que no queríamos pesar.

Una balanza con la tara equivocada pesa con precisión impecable lo que no queríamos pesar.

· · ·

05 — El sello del notario

Del lado de las matemáticas, el problema se volvió más agudo porque la verificación se resolvió primero. En lo que va de este año, modelos de IA han refutado una conjetura de Erdős de 1946 sobre distancias unitarias, con un argumento que mezcla álgebra y teoría de números en un terreno que parecía ajeno. Kevin Buzzard cuenta que ya no lee la matemática informal que escribe la máquina. Ante otro hallazgo —un contraejemplo a una pregunta de Grothendieck— comprobó tres cosas en menos de cinco minutos: que el enunciado usa los conceptos de la biblioteca matemática estándar de Lean, que dice que existe un contraejemplo y que la demostración compila. Para el caso de las distancias unitarias, un sistema de OpenAI generó alrededor de un millón doscientas mil líneas de Lean.

Lean es el notario de las matemáticas. Da fe de que el documento cumple las reglas. No le pregunta al documento por qué las cumple.

Lo que certifica el sello
- Que cada paso obedece las reglas.
- Que el enunciado dice lo que acordamos.
- Que el sistema no se contradice aquí.
Lo que el sello no toca
- Por qué cada paso conduce al siguiente.
- Qué significa el enunciado fuera del sistema.
- Dónde nacería la próxima idea.

De ahí nace la queja de que la IA «no escribe para matemáticos». El reproche apunta menos al método que a la forma. Según lo que recoge Quanta, los matemáticos saben que las pruebas son correctas porque algo las verificó; lo que no saben es por qué funcionan. Las pruebas saltan al final, omiten los pasos que enseñarían, arrastran material irrelevante y no se conectan con la literatura. Dan Litt matiza que las quejas sobre legibilidad se exageran, aunque concede que los modelos escriben mal la exposición y citan mal el trabajo previo. Terence Tao responde desde más hondo: el recorrido hacia la solución produce más comprensión que la solución misma, y un problema que resuelve una máquina genera menos seminarios, menos colaboraciones, menos gente nueva dentro del oficio. Pavel Etingof lleva la idea al límite. Un teorema que nadie lee no entra en la cultura matemática.

Un teorema que nadie lee no entra en la cultura matemática.

Y el hangar reaparece donde menos se espera. OpenAI publicó soluciones, completas o parciales, a más de trescientos setenta problemas. Un grupo asesor independiente le recomendó, entre otras cosas, publicar también los intentos fallidos; la empresa siguió algunas recomendaciones y otras no, y una matemática de Harvard señaló que la tasa real de fracasos sigue sin conocerse. Publicar solo los aviones que volvieron es la forma más pulida del sesgo del hangar.

· · ·

06 — Quién pone el norte

La matemática tiene compilador. La física tiene el universo, y el universo compila despacio. Ahí se separan los dos problemas que parecían uno. En matemáticas, la máquina ya certifica la coherencia; falta entender. En física, ni siquiera la coherencia certifica nada sobre el mundo: una teoría puede pasar todos los exámenes internos y seguir en el hangar equivocado. Lo que escasea ya no es la prueba. Lo que escasea es el criterio.

Lo que escasea ya no es la prueba. Lo que escasea es el criterio.

Esa palabra, criterio, es el territorio de lo humano, y para un psicólogo no es un detalle de diseño: es agencia. Decidir qué pregunta merece una máquina, qué resultado cuenta como refutación, cuánta fe previa se le concede a cada modelo, cuándo un programa de investigación ha gastado su crédito. Esas decisiones quedan expuestas a la escalada de compromiso, el mismo mecanismo con el que cualquier persona sigue invirtiendo en lo que ya le costó demasiado. La IA no siente esa inercia, pero puede heredarla de la literatura con la que se entrenó. No hay balanza sin quien la tare.

Hay, sin embargo, un uso de la máquina que ataca el problema de frente y que nadie parece pedir. La inteligencia artificial puede leer el hangar completo. Puede reunir los modelos que murieron, los que se mudaron de escala para sobrevivir y las veces que alguien dijo «habrá que corregir una conjetura» en lugar de «nos equivocamos»; un registro de salidas de emergencia, con el precio al que cada teoría escapó. No sirve para fallar teorías. Sirve para que el cementerio por fin tenga lápidas.

Sirve para que el cementerio por fin tenga lápidas.

Eso es cointeligencia sin eslogan: la máquina entrega la potencia de leer todo, y el criterio humano decide dónde poner el blindaje.

· · ·

Coda: el avión que no ves

¿Qué hangar habitas tú? Cada vez que alguien te muestre un resultado impecable —una fórmula elegante, un titular con una dimensión de más, una demostración que una máquina firmó mientras dormías— busca los agujeros que no aparecen en el dibujo. Pregunta quién ganó. Pregunta quién no volvió. Pregunta qué tendría que pasar para que el autor admitiera que se equivocó.

Y si la respuesta es que nada, ya sabes dónde se blinda.

Blinda donde no hay agujeros.

Para Cointeligencia.org — donde la máquina cuenta los aviones que volvieron y el criterio humano pregunta por los que no.

Fuentes