La IA es software que no se pograma, la IA se entrena

¿Si no entiendes cómo funciona una tecnología, el problema es tuyo?

¿Recuerdas aquella historia que circuló durante años sobre la señora mayor que metió a su perro mojado en el microondas para secarlo, el animal murió y ella demandó al fabricante, ganó el juicio y desde entonces los manuales incluyen el aviso de no introducir mascotas? Es una historia perfecta. El problema es que nunca ocurrió. Se cree que la inventó un profesor de derecho americano en los años setenta como caso hipotético para sus clases, y lleva cinco décadas circulando como si fuera real.

La contamos porque nos gusta su moraleja implícita: si no entiendes cómo funciona una tecnología, el problema es tuyo, no del fabricante. Cualquiera debería saber que un microondas no es un secador de pelo gigante.

Guarda esa idea un momento. Vamos a necesitarla.

Llevo tiempo intentando explicar que la inteligencia artificial no es un programa de ordenador en el sentido que todos conocemos. Un programa tradicional es determinista: le das los mismos datos y siempre obtienes el mismo resultado. Si hay un error, hay una línea de código que lo causó y puedes encontrarla. La IA generativa funciona de otra manera. No se programa, se entrena.

Piensa en un jugador de baloncesto preparando un tiro libre. Meses de práctica, miles de repeticiones, para que cuando llegue el momento de presión su cuerpo responda solo. Sale a la línea convencido, como siempre. Y a veces, por razones que ni él mismo sabría explicar del todo, el balón se va al hierro. La duda aparece en el último instante y arruina el lanzamiento. Sin embargo, aunque la IA no duda nunca, a veces también falla. Eso es exactamente el problema.

Cuando un sistema de inteligencia artificial falla, lo hace con exactamente la misma seguridad y el mismo tono que cuando acierta. No hay vacilación, no hay señal de alerta previa. La industria llama a esto alucinación, que es una forma elegante de decir que la máquina se inventa cosas con total aplomo. Y ni sus propios creadores pueden explicar por qué ocurrió, porque no existe la línea de código que lo causó. Solo existe el resultado.

Wolf River Electric es una empresa de instalación de paneles solares en Minnesota. Un día sus clientes empezaron a cancelar contratos. Al investigar descubrieron que Google, a través de su función de resúmenes generados por IA, estaba afirmando que la compañía había sido demandada por el fiscal general del estado por prácticas engañosas. Esa demanda no existía. La IA había fabricado además cuatro nombres de ejecutivos, una fotografía y tres enlaces a fuentes aparentemente reales que no mencionaban a la empresa en ningún contexto legal. Contratos cancelados por valor de hasta 150.000 dólares.

Wolf River Electric a finales de 2025 demandó a Google. Y aquí vuelve la moraleja del microondas, pero al revés.

Durante décadas, Google se protegió legalmente bajo el mismo argumento de siempre: yo soy el cartero, no el autor. Indexo lo que otros escriben, enlazo a lo que existe, no genero contenido propio. Esa posición funcionó mientras fue verdad. Pero cuando Google incorporó la IA a su buscador para generar sus propios resúmenes, dejó de ser cartero y se convirtió en editor. Y un editor responde por lo que publica, aunque lo haya escrito una máquina que no sabe que está mintiendo.

No he podido encontrar la sentencia en el caso de Wolf River Electric, pero ¿tu cuál crees que debería ser?

¿Quién es el responsable cuando una tecnología falla?

En mayo de 2026, el Tribunal Regional de Múnich lo dejó por escrito en un caso similar contra Google: el fabricante es directamente responsable de las afirmaciones falsas que genera su IA. Sin matices. Sin excusas técnicas.

Lo paradójico es que Google no puede explicar por qué su sistema generó esa información por la que ha sido demandada. Nadie en sus equipos puede señalar dónde ocurrió el error, porque no existe ese lugar. El modelo fue entrenado, no programado. Cuando falla, el fallo no tiene autor visible. Pero los tribunales han decidido, con buen criterio en mi opinión, que eso es un problema del fabricante, no una coartada.

Aquí está la diferencia con el microondas. La señora de la leyenda debería haber sabido que su perro no era una pizza congelada. Pero los clientes de Wolf River Electric no tenían ninguna razón para dudar de lo que Google les mostraba con nombres, fechas y enlaces. La tecnología fue diseñada para parecer fiable. Y esa apariencia de fiabilidad, sin la fiabilidad real detrás, es responsabilidad de quien la construyó y la desplegó.

¿Cuántas multas más tienen que pagar los fabricantes de IA hasta que sus usuarios entiendan que las IA no se programan que las IA se entrenan? ¿Cuántos demandas más tienen que recibir los fabricantes de IA para entender que no pueden comercializar productos que puedan generar perjuicios reales a sus usuarios o a la sociedad en general?

¿Estamos ante una tecnología tan joven e imperfecta que debería estar fuera del alcance del público o quizá debemos aprender a convivir con ella entendiendo su naturaleza? Estamos lanzando al público herramientas que sus propios fabricantes no comprenden del todo, a una velocidad que no deja tiempo para entender sus fallos antes de que esos fallos tengan consecuencias reales. Es la hora de tirar un tiro libre para el que llevas tiempo entrenando. El balón ya está en el aire en dirección hacia la canasta. Y nadie sabe, ni siquiera quien lo lanzó, dónde va a caer.

Sígueme

Conectando tecnología y vida cotidiana de forma sencilla.
Sigue explorando con Curiosidad Artificial