Google ha presentado con EmbeddingGemma 2 un modelo de embedding abierto con 740 millones de parámetros. Los embeddings son representaciones numéricas de contenidos: un modelo traduce texto, imágenes o código en largas series de números, llamados vectores, cuya distancia entre sí refleja la similitud de contenido. Precisamente sobre esto se construyen la búsqueda semántica y las funciones de recomendación, es decir, una búsqueda que opera por significado en lugar de por cadena de caracteres exacta.

Lo especial del anuncio es menos el alcance funcional que el consumo de recursos. Según Google, el modelo solo necesita alrededor de 191 MB de memoria RAM y se ejecuta directamente en el dispositivo final. Además, en mediciones comparativas debería superar en parte a modelos que son el doble de grandes. Estos datos provienen del fabricante y deben leerse, por tanto, como declaración propia.

Varios tipos de datos en un solo espacio vectorial

EmbeddingGemma 2 procesa no solo texto, sino también imágenes, vídeo, audio y código. Para los proyectos esto significa: distintos tipos de contenido pueden hacerse buscables mediante el mismo mecanismo, sin tener que construir una pipeline propia para cada tipo de dato.

Los campos de aplicación típicos en entornos web y CMS son:

  • búsqueda semántica sobre contenidos editoriales, que también encuentra sinónimos y reformulaciones
  • sugerencias de similitud para artículos, productos o documentos relacionados
  • localización de imágenes y archivos multimedia a partir de entradas descriptivas
  • asignación de consultas entrantes a bases de conocimiento existentes

RAG offline como verdadera palanca

En combinación con Gemma 4, Google menciona como escenario aplicaciones RAG offline centradas en la protección de datos. RAG significa Retrieval Augmented Generation: un modelo de lenguaje no responde a una pregunta de memoria, sino que recibe previamente fragmentos de documentos adecuados de una base de conocimiento propia. El modelo de embedding se encarga de la parte de búsqueda y el modelo de lenguaje de la formulación de la respuesta.

Hasta ahora, en este tipo de configuraciones el contenido migra regularmente a servicios externos, ya sea al generar los vectores o al generar la respuesta. Si ambos pasos pueden ejecutarse localmente, este flujo desaparece. Para organizaciones con manuales internos, contratos, datos de personal o documentos de clientes, esto cambia de forma perceptible la situación de partida en la evaluación conforme al derecho de protección de datos, porque no se necesita un encargo de tratamiento con un proveedor de nube para estos pasos de procesamiento.

El lado de los costes y la operación

Las llamadas de embedding son en escenarios de nube una partida recurrente. No surgen solo una vez al indexar, sino con cada cambio en los contenidos y con cada consulta de búsqueda. Un modelo que puede operarse en hardware convencional traslada estos costes variables a infraestructura planificable.

Al mismo tiempo, surge esfuerzo operativo en otro lugar. El modelo debe desplegarse, versionarse y monitorizarse. Un cambio de versión del modelo conlleva por regla general un recálculo de todos los vectores almacenados, porque los vectores de distintos modelos no son comparables entre sí. Quien introduce una base de datos vectorial debería prever este caso de reindexación desde el principio.

Clasificación para proyectos TYPO3 y web

Para proyectos CMS la arquitectura es manejable: al guardar un contenido, los fragmentos de texto se pasan al modelo y los vectores resultantes se almacenan en un índice. Una consulta de búsqueda se traduce por la misma vía en un vector y se compara con el índice. La lista de resultados puede emitirse directamente o pasarse como contexto a un modelo de lenguaje.

En la práctica resulta sensato un procedimiento por etapas:

  1. Elegir un caso de uso claramente delimitado, por ejemplo la búsqueda interna de documentos.
  2. Depurar la base de datos: los contenidos no estructurados o desactualizados ofrecen resultados débiles incluso con un buen modelo.
  3. Construir un conjunto de prueba de consultas de búsqueda reales con resultados esperados para hacer medible la calidad.
  4. Solo después pensar en una capa de respuesta generativa.

Sigue siendo importante gestionar las expectativas. Un modelo compacto no sustituye la estructuración editorial, y los valores de benchmark dicen poco sobre la calidad de los resultados en un dominio especializado concreto. Si los resultados son sólidos solo se muestra con los propios contenidos y el propio vocabulario.

Qué se deriva de ello

La evolución hacia modelos pequeños que funcionan localmente reduce notablemente el umbral de entrada para funciones de IA en proyectos web y de software: las preocupaciones sobre protección de datos y los costes recurrentes de API eran hasta ahora los dos motivos más frecuentes para posponer este tipo de funcionalidades. Para proyectos con contenidos sensibles merece la pena, por tanto, planificar la búsqueda y el acceso al conocimiento como un componente propio, en lugar de vincularlos fijamente a un servicio de nube. Lo decisivo sigue siendo el esfuerzo para la operación, el mantenimiento del índice y el aseguramiento de la calidad: este no desaparece, sino que se traslada a la propia casa.

Fuentes