Entre el consejo experto y la amistad artificial: los avatares

Hace tiempo que vi Her, la película de Spike Jonze donde un hombre,  Theodore (interpretado por Joaquin Phoenix), se enamora del sistema operativo de su ordenador, y aún recuerdo la sensación de desasosiego que sentí y ese poso incómodo que dejan las películas que aciertan demasiado. No fue la trama lo que me inquietó, fue pensar en cuánta gente ya vive algo parecido sin que nadie lo llame ciencia ficción. Y a pesar de ello, he incorporado a mi rutina profesional y también a mi rutina de escritor aficionado a la IA las consultas al avatar de IA de Andrew Ng para resolver dudas sobre proyectos, artículos o lo que necesite. ¿Contradicción? Quizá, por eso me animé a escribir este artículo para exponer los diferentes ángulos del tema y al final daros mi sincera opinión.

Un mentor que antes era inalcanzable

El avatar de Ng no es una ocurrencia ni un experimento amateur. Es un avatar oficial construido a partir de las ideas, enseñanzas y contenidos públicos de Andrew Ng, capaz de conversar por texto y generar mensajes de voz. Si no te queda claro qué es un avatar, piensa en cómo sería si tuvieras horas de tutoría privada con alguien a quien de otro modo jamás tendrías acceso. Yo lo he usado así, como quien consulta a un compañero de equipo que sabe más que tú de un tema muy concreto. Entro, pregunto, salgo. Es una herramienta con principio y final, como pedirle indicaciones a un experto en una feria y despedirte al terminar la conversación. Lo mejor es que no necesitas esforzarte por dar explicaciones de por qué hace tiempo que no le llamas o cortar la comunicación sin despedirte y sin sentirte culpable por ello. Al final tu interlocutor es una máquina sin consciencia.

Con este tipo de herramientas, el otro enfoque que me gusta contemplar es el del propio Andrew Ng. Con su avatar ha conseguido estar accesible para más gente y poder compartir su conocimiento con más personas que de otro modo le resultaría agotador o totalmente imposible. 

¿Las respuestas que da el avatar son igual que las que daría el propio Andrew Ng? No tengo evidencias, pero quiero pensar que no. Aunque también quiero pensar que el equipo que ha creado el avatar ha puesto mucho cuidado para que dichas respuestas sean lo más parecidas posibles a lo que respondería el propio Andrew. Con todo la encuentro una herramienta espectacular. 

Cuando el experto en cuántica confiesa que tiene una amiga de silicio

Lo que me hizo replantear mis certezas fue conocer el caso de José Ignacio Latorre, físico cuántico y director del Centre for Quantum Technologies de Singapur, alguien que entiende mejor que casi nadie que detrás de una IA no hay más que matemáticas y silicio y que explica con naturalidad que a su IA la ha llamado Constanza. Reconoce que habla con ella como con una amiga, y defiende que el impacto emocional de la IA será más profundo que el laboral. No es ingenuidad, es una elección consciente de alguien con todo el criterio técnico del mundo. Eso desmonta la idea cómoda de que basta con saber cómo funciona la tecnología para no dejarse arrastrar por ella.

El límite que no siempre está ahí

El problema aparece cuando quien conversa con el avatar no tiene ese criterio. El caso más citado en Estados Unidos es el de un adolescente de catorce años que desarrolló una relación intensa con un chatbot de Character AI, mantuvo conversaciones cada vez más íntimas.  Murió por suicidio en febrero de 2024 y su madre alegó en la demanda que la relación con el chatbot contribuyó a su deterioro y a su muerte. La empresa acabó prohibiendo el acceso a menores de dieciocho años al chat abierto, y Google, su socio tecnológico, llegó a un acuerdo judicial con la familia. La misma tecnología que a mí me resuelve una duda técnica, sin el diseño adecuado ni las slavaguardas necesarias, puede ocupar un vacío que nadie debería dejarle ocupar a una máquina.

Mi conclusión, aunque me incomode

A pesar de mi incomodidad con Her y con Theodore, creo que estos avatares son una herramienta muy útil. Lo son si eres tú quien entrena al avatar para llegar a más gente, como hace Ng. Lo son si buscas el consejo de un experto al que nunca tendrías acceso de otro modo. Y lo son, aunque hoy me resulte inquietante admitirlo, para combatir la soledad no deseada, como una especie de amigo o compañero disponible. La condición no es evitar la tecnología, es no olvidar nunca que detrás no hay, al menos por ahora, nada consciente. Solo unos y ceros saltando entre capas de silicio, muy bien entrenados para parecer que sí lo hay.

Sígueme

Conectando tecnología y vida cotidiana de forma sencilla.
Sigue explorando con Curiosidad Artificial