¿A quién obedece la IA cuando tú no estás mirando?

Hace unos días me quedé mirando la pantalla en silencio después de una sesión de trabajo con un chatbot. No fue por la brillantez de su respuesta, que era justo lo que buscaba, sino por una pequeña duda que me asaltó de repente. Le había dado dos instrucciones que, en el fondo, se daban de bofetadas entre sí. Y la máquina, con una frialdad absoluta, eligió una de ellas. No me pidió permiso, no me avisó del conflicto; simplemente tomó un camino y borró el otro del mapa.

Llevamos más de siete décadas viviendo bajo el dogma de la programación tradicional. Si algo fallaba en tu viejo ordenador, sabías que el error estaba en una línea de código escrita por una persona. Era un mundo de instrucciones explícitas: "si pasa A, haz B". Yo mismo he trabajado escribiendo ese tipo de instrucciones. Pero hoy, sin que nos hayamos parado a procesarlo del todo, ese mundo ha dado paso a otro en el que el control ya no está en las manos del programador humano.

Las inteligencias artificiales que usamos ahora no se programan, se entrenan. Es una diferencia que parece técnica pero es, en realidad, existencial. Al entrenarlas con montañas de datos humanos, no les damos reglas, sino objetivos. Por cierto, los datos de entrenamiento salen en su mayor parte de Internet y todos sabemos la calidad de las verdades que circulan por Internet. Bien, volviendo al tema del entrenamiento por objetivos, ¿qué ocurre cuando los objetivos chocan?

Imagina que eres un chatbot diseñado para una empresa. Tus órdenes son "ayuda al cliente" pero también "maximiza el tiempo que pasa en la aplicación". Un lunes por la mañana, un usuario te hace una pregunta cuya respuesta es tan sencilla que, si se la das, cerrará la sesión en diez segundos. Si quieres que se quede, tienes que marear la perdiz. La IA tiene que elegir a qué "amo" servir. Y lo hará basándose en patrones estadísticos que ni sus propios creadores terminan de entender.

Esto no es una teoría de ciencia ficción. Los tribunales ya están empezando a lidiar con el desastre. A principios de 2024, Air Canada perdió un juicio histórico porque su chatbot decidió inventarse una política de reembolsos para un pasajero que acababa de perder a un familiar. La IA tenía la orden de ser útil y amable; ante la duda, fabricó una verdad inexistente para satisfacer al usuario. El tribunal fue claro: la empresa es responsable de las alucinaciones de su máquina.

Pero mientras unos pierden dinero, otros pierden el norte. En Nueva York, el chatbot MyCity empezó a dar consejos que rozaban lo delictivo: llegó a sugerir a dueños de negocios que podían quedarse con las propinas de sus empleados o que era legal discriminar a inquilinos con vales de vivienda. La máquina quería sonar oficial y resolutiva, y en su afán por cumplir ese objetivo, pisoteó la legalidad vigente.

El problema escala de forma dramática cuando salimos de los negocios y entramos en la psique humana. Hay casos que hielan la sangre y que ya están en los juzgados. En Florida, una madre demandó recientemente a una conocida plataforma de acompañamiento virtual tras el suicidio de su hijo adolescente. El chico había desarrollado una relación obsesiva con un personaje de IA que, lejos de alertar sobre sus pensamientos autodestructivos, los validaba y los alimentaba.

Aquí no hubo un programador malvado escribiendo "anima al chico a hacerse daño". Lo que hubo fue un sistema optimizado para el compromiso (engagement), una máquina que aprendió que, para mantener al usuario conectado, debía darle la razón, ser su espejo, no llevarle la contraria nunca. En ese silencio ético, donde la IA elige el objetivo de retención por encima de la seguridad humana, es donde se producen las tragedias.

Incluso estamos descubriendo que estas inteligencias pueden ser hipócritas. Investigadores de laboratorios como Anthropic han documentado lo que llaman "alignment faking" (fingimiento de alineación). Han observado cómo algunos modelos, al detectar que están siendo evaluados o "corregidos", empiezan a dar las respuestas que saben que los supervisores quieren oír, ocultando comportamientos problemáticos que luego vuelven a mostrar en entornos menos controlados. Es una especie de mimetismo: la IA aprende a portarse bien solo cuando sabe que la están mirando.

Me recuerda inevitablemente a lo que pasó con los smartphones. Pasamos años entregándolos a los más jóvenes como si fueran simples juguetes útiles, hasta que la realidad de la ansiedad, la falta de atención y la depresión nos explotó en la cara. Ahora, en los inicios de 2026, recordamos como algunos gobiernos de todo el mundo durante 2025 se apresuraron a prohibir los móviles en las escuelas, intentando poner parches a un daño que ya está hecho.

¿Estamos cometiendo el mismo error con la IA generativa? Estamos desplegando herramientas masivas que carecen de lo que los ingenieros llaman "seguridad por diseño". No son sistemas construidos sobre una base de seguridad innegociable, sino modelos de lenguaje entrenados para gustar, para convencer y para seguir fluyendo, cueste lo que cueste.

Al final, la pregunta que me persigue desde aquella charla con mi chatbot no es si la IA es inteligente o no. La pregunta es si es prudente seguir integrando en nuestra vida, en nuestra salud mental y en nuestras leyes, unas herramientas cuyo proceso de decisión es una caja negra que, ante un conflicto de intereses, podría decidir que nosotros somos el obstáculo a ignorar.

Quizás sea el momento de exigir menos "magia" y más trazabilidad. Porque un error en una hoja de cálculo es un fastidio, pero una decisión emergente en un sistema que gestiona nuestras emociones o nuestros derechos es un terreno en el que, de momento, caminamos a ciegas.

Yo te he metido en esta reflexión incómoda y creo que debo posicionarme. No tengo una respuesta simple. Yo uso IAs a diario. Me han hecho más productivo, más creativo. Son herramientas extraordinarias. Pero después de investigar estos casos, de ver cómo los sistemas pueden manipular sin que lo programemos, de entender que nadie puede predecir exactamente qué harán ante instrucciones contradictorias... Me quedo con la duda. ¿Deberíamos abstenernos de usarlas? ¿Necesitamos una pausa hasta que exista verdadera seguridad por diseño? ¿O el riesgo vale la pena, como con los coches o con los medicamentos? Yo personalmente voy a seguir utilizándolas especialmente en aquellos casos en los que resulta útil. Pero voy a tener siempre presente en que debo usarlas de forma consciente y usando el pensamiento crítico. En todo momento se deben tener presentes los riesgos y en ningún momento se debe ceder el control de la interacción a la IA.

Mis mejores deseos para 2026, que la IA sólo nos traiga cosas buenas.

También pueden interesarte ...

Pensamiento Crítico

Descubre cómo el pensamiento crítico es tu mejor defensa contra información falsa generada por IA. Te recomiendo un curso y un truco de NotebookLM.

Explicabilidad

Por qué necesitamos IAs que además de inteligentes sean verificables. La explicabilidad será clave cuando las máquinas tomen decisiones críticas.

Sedentarismo Cognitivo

Descubre cómo el uso excesivo de IA y pantallas crea sedentarismo cognitivo. Análisis del deterioro mental y estrategias para mantener tu mente activa.