La IA local también permite hacer grandes cosas de forma gratuita y privada

Llevo tiempo queriendo publicar un artículo en el que en vez de pedir ayuda a Claude, ChatGPT o Gemini, mis ayudantes sean modelos más modestos que se ejecutan integramente en mi ordenador.

Para escribir el artículo de hoy he adaptado un poco mi flujo de trabajo habitual. Uno de los límites de los modelos locales es que suelen disponer de una ventana de contexto más modesta. ¿No sabes qué es una ventana de contexto? Puedes encontrar una explicación en uno de mis artículos más visitados: El síndrome de Dory de la IA. 

Le he entregado a Phi-4 un borrador con las notas y las ideas sobre las que quería hablar y le he pedido que las organizara como un artículo de unas 500 palabras. El resultado lo he revisado, corregido y ampliado como siempre antes de publicarlo. Además le he pedido un prompt para una imagen que ilustre el artículo.

Para los más técnicos os dejo loS detalles del experimento:

• Equipo utilizado: HP OMEN con Intel(R) Core(TM) i7-9750H CPU @ 2.60GHz (2.59 GHz) , 16GB RAM y NVIDIA GeForce GTX 1660 Ti (6GB)

• Software: Windows 11 y LM Studio con Phi-4, de Microsoft, un modelo de 14.000 millones de parámetros en su versión cuantizada Q4_K_M. En términos sencillos, es una versión comprimida que necesita menos memoria para funcionar, a cambio de una pequeña pérdida de precisión. 

• Velocidad: 3,28 tokens/segundo; alrededor de 4,5 minutos en la respuesta completa

• Imagen: Stable Diffusion 1.5 ejecutándose también en local mediante WebUI Forge

¿Y por qué hoy? Por un lado y como he dicho en la primera línea, llevaba tiempo detrás de esa idea. Por otro lado, la conectividad con OpenAI me ha fallado y ese ha sido el empujón definitivo.

Este verano ya he publicado varios artículos sobre la "soberanía" entendida como capacidad de elegir. Hoy todo el artículo se apoya en modelos locales por una razón muy sencilla: puedo decidir qué IA utilizar, dónde ejecutarla y qué ocurre con mis datos. A eso me refiero cuando hablo de soberanía.

Donde está el dinero qué prometió la Inteligencia Artificial

La promesa de la inteligencia artificial (IA) ha sido un tema recurrente en los últimos años: aumenta la productividad y, por ende, los beneficios empresariales. Sin embargo, al desglosar este supuesto modelo simple, nos encontramos con una realidad más compleja.

Incremento de productividad al alcance de la mano

Ya he contado en otras ocasiones que Curiosidad Artificial existe gracias a la IA y que, sin ella, probablemente no habría puesto en marcha este proyecto. La IA me ha dado el superpoder de publicar cada semana un artículo sobre algún aspecto de la tecnología que considero relevante. Sin embargo, ese superpoder no me ha proporcionado ingresos ni beneficios. Al contrario: me exige invertir tiempo y dinero.

Este es el primer aprendizaje que quiero compartir: la IA, por sí sola, te proporciona opciones y capacidades aumentadas, pero nada más. Convertir esas capacidades en ingresos o beneficios sigue siendo tarea tuya.

La fórmula aparentemente sencilla sugiere que si la IA mejora la productividad laboral, las empresas deberían adoptarla rápidamente para incrementar sus ventas y beneficios. Pero todos sabemos que si produzco 10 sin IA e incorporando la IA soy capaz de producir 15, no necesariamente vendo 5 más ni obtengo mejores márgenes. Es decir, la visión optimista del impacto de la IA pasa por alto factores críticos. Cuando integras la IA en tus procesos, no solo estás invirtiendo en tecnología; también requieres una formación significativa para que los empleados se adapten al nuevo sistema. Esta fase de adaptación implica costes tanto económicos como temporales. Además, las ganancias prometidas por mejorar la productividad no son inmediatas; requieren transformaciones organizativas profundas.

Por otro lado, la IA podría reemplazar tareas específicas realizadas por los empleados. Aunque esto pueda resultar en ahorros iniciales al reducir el personal y sus costes asociados, la generación de contenido o soluciones no es siempre predecible. Las tecnologías de IA generativa no garantizan resultados constantes ni homogéneos (es una tecnología no determinista), lo que implica necesidades adicionales de supervisión humana para asegurar calidad y responsabilidad. Y nuevamente la velocidad de evolución gracias a la IA se puede ver frenada por el cuello de botella que puede suponer la necesidad de la supervisión humana. Ya hablé de ello en Tiempos modernos: la IA va más rápido que tú.

Competencia en un entorno dinámico

Los retos se multiplican cuando consideramos el contexto competitivo. Mientras algunas empresas buscan ser más productivas con la IA, otras también están haciendo lo mismo, utilizando tecnologías similares. Esto genera una carrera constante donde ningún participante tiene una ventaja definitiva a largo plazo. Pero te advierto que dos músicos no producen la misma melodía interpretando la misma canción con la misma guitarra, cada uno tiene su conocimiento musical, su destreza con el instrumento y su sensibilidad con la pieza (hablé de ello en ¿Y si tu propósito de año nuevo fuera ser el próximo Leonardo?) 

Además, el ritmo acelerado del desarrollo tecnológico significa que lo que hoy es un reto para la IA, en unos meses podría ser trivial. Esta evolución continua exige que las empresas no solo se mantengan al día con las innovaciones, sino también reconsideren y adapten sus procesos continuamente.

Otro factor a considerar es el surgimiento de nuevos competidores ágiles: pequeñas empresas o emprendedores individuales que, con ayuda de la IA, pueden adaptarse más rápidamente a cambios tecnológicos, desafiando a corporaciones establecidas por su flexibilidad y agilidad. Analicé este punto en un artículo anterior: Llegan los ejércitos de una persona gracias a la IA.

La IA: una revolución a varias velocidades

Tras considerar estas variables y escuchar a expertos de diversos campos, así como aplicar mis propias experiencias, he llegado a una conclusión: las promesas de productividad mejorada gracias a la IA son precisamente eso, promesas. No todos los sectores o empresas experimentarán el mismo impacto; las grandes corporaciones tendrán desafíos distintos a los que enfrentan pymes o autónomos.

Las implementaciones exitosas de IA requieren no solo redefinir procesos empresariales, sino también desarrollar planes de formación que aborden tanto el dominio técnico como la gestión del cambio ocupacional. Esto incluye enseñar a los empleados a desaprender hábitos antiguos y adaptarse a una mentalidad más flexible ante el constante cambio. Los empleados debemos aprender a abrazar la incertidumbre y estar dispuestos a adaptarnos a los nuevos cambios.

Hoy en día, quienes realmente están capitalizando las oportunidades de IA son aquellos que ofrecen formación, divulgación sobre la tecnología, o empresas especializadas en productos relacionados con la IA (empresas del ámbito tecnológico) Aunque debo aclarar que esta condición es necesaria, pero no suficiente. Es decir, no todas las empresas de formación o de tecnología están surfeando la ola igual. Hoy creo que es prematuro considerar un boom económico inmediato para aquellas empresas que intentan integrar directamente la IA en sus procesos productivos.

En resumen, si bien el dinero de la IA está en cierto modo presente hoy en día, principalmente en nichos específicos, su impacto transformador a nivel empresarial será una revolución vertiginosa en el ámbito tecnológico, pero más lenta, compleja y gradual en el ámbito de adopción empresarial. Enfrentarse a ella con estrategias bien planificadas es esencial para quienes desean no solo sobrevivir sino prosperar en este nuevo panorama tecnológico.

Sígueme

Conectando tecnología y vida cotidiana de forma sencilla.
Sigue explorando con Curiosidad Artificial