Todos conocemos la historia de Mary Shelley: el Dr. Víctor Frankenstein, obsesionado con desafiar los límites de la naturaleza, da vida a una criatura que termina escapando de su control. Hoy, Silicon Valley ha adoptado el papel del ambicioso doctor, presentándonos sus modelos de Inteligencia Artificial como nuevas “criaturas” autónomas. Pero el Dr. Ramón López de Mántaras, la mayor autoridad en IA de España, advierte que la realidad es inversa: el peligro no es que la máquina cobre vida, sino que necesitamos creer que la tiene.
Si aceptamos la fantasía de que la IA es un “agente moral”, caemos en una trampa legal perfecta: las corporaciones podrían usar esa supuesta “autonomía” como escudo para evadir su responsabilidad civil. “No es culpa del Dr. Frankenstein, es culpa del monstruo”.
Para desarmar esta narrativa, López de Mántaras nos invita a mirar detrás de la cortina con la autoridad que le dan sus 50 años de experiencia.
¿Quién es Ramón López de Mántaras?
Es mucho más que un crítico; es un constructor. Físico, Doctor en Informática y Profesor de Investigación del CSIC, fundó el Instituto de Investigación en Inteligencia Artificial (IIIA). Desde su tesis doctoral en 1975, ha sido pionero en el campo, recibiendo el Premio Nacional de Investigación y el Robert S. Engelmore Award de la AAAI. Su postura no es ludita, sino científicamente rigurosa: separar la herramienta útil del mito comercial.
1. La “Ilusión de Müller-Lyer”: Por qué tu cerebro te engaña
López de Mántaras utiliza una metáfora brillante para explicar por qué sentimos que ChatGPT es “consciente” aunque sepamos que no lo es: la ilusión óptica de Müller-Lyer.
Son esas dos líneas de idéntica longitud, pero una tiene flechas hacia afuera y la otra hacia adentro. Aunque midas las líneas y tu razón sepa que son iguales, tus ojos siguen viéndolas de diferente tamaño. Es un fenómeno “cognitivamente impenetrable”. Con la IA pasa lo mismo: racionalmente sabes que es un software estadístico, pero al interactuar con él, tu cerebro evolutivo no puede evitar proyectar humanidad, intenciones y emociones. Las empresas explotan esta vulnerabilidad cognitiva para vender “conciencia” donde solo hay cálculo probabilístico.
2. El Problema de la “Larga Cola” (The Long Tail)
Técnicamente, ¿por qué fallan tanto las IAs en el mundo real? El experto introduce el concepto estadístico de la “Larga Cola”. Las IAs actuales (como los coches autónomos) aprenden de lo que ocurre frecuentemente (el centro de la curva de Gauss). Pero el mundo real está lleno de eventos raros e imprevistos que están en los extremos (la cola larga).
-
El caso de los Canguros: Los coches autónomos entrenados en EE.UU. se paralizaban en Australia porque no sabían qué era un canguro saltando.
-
La realidad de los Robotaxis: Empresas como Waymo o Cruise en San Francisco requieren intervención humana remota cada 2 o 3 millas. La IA no “entiende” el mundo; solo memoriza patrones frecuentes. Cuando ocurre algo fuera del guion, se queda congelada o “alucina”.
3. El “De-skilling”: Delegar la escritura es delegar el pensamiento
Quizás el punto más alarmante para el futuro humano es lo que López de Mántaras llama de-skilling (pérdida de habilidades). Cita un estudio de Nature Human Behavior: “Escribir es pensar”. Cuando nos enfrentamos a la hoja en blanco, estructuramos nuestra mente.
-
Si delegamos la redacción a una IA, no solo ahorramos tiempo; estamos renunciando al proceso de razonamiento.
-
La anécdota del email absurdo: Un empleado usa IA para convertir 4 puntos breves en un email florido de 2 páginas. El jefe recibe el email y usa otra IA para resumirlo en los 4 puntos originales. El resultado es un gasto energético absurdo y una atrofia de nuestra capacidad de síntesis y comunicación. “Nos estamos volviendo tontos, igual que perdimos la capacidad de orientarnos sin Google Maps”.
4. La Mentira de la Autonomía: El proletariado digital
Detrás de la supuesta “magia” automatizada, existe una realidad de explotación laboral que Harvard Business Review ha denominado “La gente detrás de la cortina de la IA”. La IA no aprende sola en tiempo real. Para que ChatGPT no sea tóxico o para que un coche reconozca un peatón, hay millones de trabajadores en Kenia, Filipinas o Pakistán etiquetando datos manualmente.
-
Cobran 50 o 60 céntimos de dólar la hora.
-
Trabajan en cibercafés precarios.
-
Son el filtro humano que “limpia” la estupidez de la máquina para que parezca inteligente. Llamar a esto “Inteligencia Artificial” oculta la plusvalía extraída de este ejército humano invisible.
5. La Estrategia Frankenstein: El Escudo Legal
Volvemos al punto central. ¿Por qué insisten Sam Altman (OpenAI) o Elon Musk en que la AGI (Inteligencia Artificial General) está cerca y será consciente? López de Mántaras sospecha que es una estrategia de responsabilidad civil. Si un juez acepta que una IA es consciente, la convierte en un sujeto jurídico imputable. Si esa IA induce a un suicidio (como ya ha ocurrido en Bélgica) o da un diagnóstico médico fatal, la culpa sería del “algoritmo autónomo”, liberando a la empresa creadora. Promover el mito de la conciencia no es solo marketing; es un cortafuegos legal para los verdaderos responsables.
Conclusión: Dónde está el verdadero valor
Para cerrar, el Dr. López de Mántaras nos recuerda que no es un pesimista, sino un realista. La IA tiene éxitos rotundos, pero no están en los chatbots conversacionales. El verdadero triunfo es AlphaFold (Premio Nobel 2024), que resuelve el plegamiento de proteínas para curar enfermedades, o el control de reactores de fusión nuclear para darnos energía limpia.
Ahí es donde debemos mirar: a la IA como una herramienta científica potente, no como un oráculo consciente ni un sustituto de nuestro pensamiento crítico.
“La carga de la prueba está en quien afirma. Si dicen que es consciente, que lo demuestren científicamente. Mientras tanto, no te dejes engañar por el truco de magia.”
___
Video de la entrevista: https://youtu.be/pmsTzFLM8rI
