La IA generativa se utiliza en el día a día laboral principalmente a través de servicios en la nube. Cada solicitud sale de la empresa y se procesa en servidores ajenos. Para las organizaciones con estrictos requisitos de protección de datos o confidencialidad, esto supone un obstáculo recurrente, por ejemplo en borradores de contratos, datos de clientes o contenidos no publicados.
Una alternativa son los modelos locales: modelos de lenguaje o de imagen que se ejecutan directamente en el propio ordenador. Los datos permanecen donde se generan. Dos panorámicas actuales muestran que este camino ya es viable sin necesidad de conocimientos muy especializados, con distintos enfoques.
El modelo local de Apple en hardware Mac
El punto de entrada más obvio es el hardware que ya incorpora un modelo. En los Mac con chip de Apple está disponible un modelo fundacional local, un modelo base preentrenado que sirve como fundamento para distintas aplicaciones. Sin embargo, no es visible como una aplicación de chat independiente, sino que debe abordarse por una vía indirecta. Quien sabe cómo funciona el acceso obtiene así un chatbot que prescinde de conexión a internet y de cuenta en la nube.
La ventaja práctica reside menos en la capacidad de rendimiento que en la situación de partida: el modelo ya está presente en el hardware adecuado y está ajustado específicamente a este. La necesidad de memoria, que de otro modo convierte a los modelos locales en un problema, aquí pesa menos porque el sistema se encarga de la ejecución.
Herramientas más allá de los servicios en la nube conocidos
La segunda perspectiva es más amplia: existe una serie de aplicaciones con las que se pueden ejecutar modelos de IA en el propio ordenador, desde el chatbot hasta la generación de imágenes. Así compiten directamente con ofertas consolidadas en la nube como ChatGPT, Claude o Midjourney, sin necesitar su infraestructura.
La variedad abarca desde programas que ofrecen principalmente modelos de texto para diálogo y trabajo textual hasta herramientas para la generación local de imágenes. Lo que tienen en común es que el modelo se descarga y se ejecuta en la propia máquina. La calidad depende, por tanto, directamente del modelo elegido y del hardware disponible.
Dónde están los límites
Los modelos locales prometen privacidad, pero a cambio exigen recursos. La necesidad de memoria es el cuello de botella mencionado con más frecuencia: los archivos de modelo ocupan espacio y, para una velocidad de respuesta aceptable, se necesita suficiente memoria de trabajo y potencia de cálculo. Los ordenadores de trabajo antiguos o con equipamiento escaso llegan aquí rápidamente a sus límites.
Además, los modelos ejecutables localmente suelen ser más pequeños que las grandes variantes en la nube. Para resúmenes, borradores, reformulaciones o fragmentos de código sencillos, esto suele bastar. En tareas complejas con contexto largo cabe esperar una diferencia de calidad. Por eso es realista un funcionamiento mixto: contenidos sensibles en local, tareas no críticas siguen en la nube.
Clasificación para el uso empresarial
Para la evaluación en el contexto empresarial son relevantes sobre todo tres preguntas:
- ¿Qué datos están afectados? Cuanto más sensibles sean los contenidos, mayor será el beneficio de un procesamiento local, independientemente de lo bien que rinda el modelo.
- ¿Qué hardware está disponible? Donde ya se utilizan dispositivos adecuados, no surgen costes adicionales de infraestructura. De lo contrario, la necesidad de hardware forma parte del cálculo.
- ¿Quién se encarga del funcionamiento? Las instalaciones locales deben actualizarse y mantenerse en cada puesto de trabajo. Esta tarea desaparece con los servicios en la nube.
Lo sensato es un primer intento claramente delimitado: un caso de uso, un equipo, un periodo definido. Solo cuando la calidad y la velocidad convencen en el día a día merece la pena ampliarlo. En paralelo debería establecerse qué categorías de datos podrán procesarse en el futuro exclusivamente en local; de lo contrario, la ventaja en protección de datos se queda en teoría.
Qué significa esto para proyectos web y de software
Para proyectos con mayores requisitos de protección de datos surge así una opción adicional entre renunciar por completo a la IA y recurrir a servicios externos. En la creación de contenidos para sitios web, en variantes de texto o en el trabajo con documentos internos, los modelos locales pueden emplearse allí donde una transferencia a la nube no es defendible. Para las decisiones de arquitectura esto significa sobre todo una cosa: las funciones de IA deberían conectarse de modo que el modelo pueda intercambiarse detrás de la interfaz, en local o en la nube, según la necesidad de protección del caso de uso concreto.