Lieferando ha suspendido temporalmente el uso de fotos de comida generadas por IA. El detonante fueron imágenes defectuosas en las cartas de menús que provocaron burlas en la opinión pública. También en la empresa matriz Just Eat, el intento de ilustrar platos de forma automatizada no dio el resultado deseado.
Por sí solo, esto es una nota marginal del negocio de reparto. Para todos los que utilizan IA generativa en sitios web, tiendas online o sistemas de gestión de contenidos, es una lección: los contenidos generados se producen rápido, pero no heredan ni el cuidado ni la responsabilidad. Ambos deben garantizarse a nivel organizativo.
Por qué las imágenes de producto son especialmente delicadas
En los textos, el público perdona una formulación desafortunada. En las imágenes que deben mostrar un producto concreto, el baremo es otro. Una foto en una carta de menú es una declaración sobre lo que se puede pedir. Si la representación se desvía de forma reconocible del producto real, no solo surge un problema estético, sino una ruptura de expectativas.
Los modelos generativos producen superficies que parecen plausibles, no hechos verificados. No conocen el plato concreto de un local concreto. Producen una variante estadísticamente probable de él. Justo en este punto surgen los errores que llaman la atención en la imagen exterior: detalles falsos, cantidades incoherentes, representaciones que no existen así.
El mismo patrón se aplica a otros sectores. Quien encarga generar visualizaciones de producto, imágenes de referencia o motivos de ambiente, debería plantearse la pregunta: ¿esta imagen afirma algo sobre un producto real? Si es así, el riesgo aumenta considerablemente.
La escalabilidad multiplica los errores
El segundo factor es la cantidad. Un marketplace con muchos miles de establecimientos asociados no puede curar las imágenes una por una si el proceso debe funcionar de forma automatizada. Eso es precisamente lo que hace atractivos los procedimientos generativos, y precisamente lo que los hace arriesgados.
En pequeños proyectos piloto, una tasa de error de unos pocos por ciento apenas llama la atención. En operación completa sobre grandes inventarios, la misma tasa significa una cifra absoluta de casos atípicos visibles que, en las redes sociales, se condensan en un tema de marca en cuestión de horas.
La consecuencia práctica: el aseguramiento de la calidad debe crecer con el volumen de producción. Quien genera de forma automatizada necesita pasos de verificación automatizados más muestreos realizados por personas, no una cosa u otra.
Qué debe lograr un proceso de aprobación sólido
Un flujo viable para contenidos generados consta de varias etapas que pueden implementarse en la mayoría de los entornos de CMS y tiendas:
- Generación con prompt documentado, versión del modelo y momento. Sin estos metadatos, posteriormente no puede reconstruirse cómo se originó un contenido.
- Verificación previa automática de criterios mínimos técnicos y de contenido, como formato, resolución, conformidad con la marca o motivos prohibidos.
- Aprobación editorial por una persona designada. Los contenidos generados no se publican sin revisión, sino que pasan por el mismo flujo de trabajo que los contenidos editoriales.
- Publicación con etiquetado, siempre que el contenido sea generado por IA y ello pueda ser relevante para las personas usuarias.
- Canal de retorno y vía de emergencia: una posibilidad de notificar objeciones y un interruptor que detenga a corto plazo la difusión automatizada.
El último punto se subestima con regularidad. Cuando una función debe desactivarse, lo que cuenta es cuánto tarda y cuántos sistemas se ven afectados. Un Kill Switch —es decir, un interruptor central para la desactivación inmediata— debería planificarse desde el principio, no improvisarse en caso de crisis.
La responsabilidad sigue siendo del operador
Quien publica contenidos en su sitio web es responsable de ellos, independientemente de si los ha generado una persona o un modelo. Esto se aplica tanto a las descripciones de producto como a las ilustraciones. En los marketplaces y portales se añade que se ven afectados establecimientos asociados que no han creado ellos mismos el contenido, pero que se asocian con él.
De ello se deriva una regla clara para proyectos de plataforma: los contenidos generados automáticamente que afectan a terceros no deberían publicarse sin su conocimiento y, idealmente, no sin su consentimiento. Un opt-in es más lento, pero evita que un error técnico se convierta en un conflicto con los socios.
El etiquetado no es una admisión
La preocupación de que etiquetar contenidos generados parezca un defecto de calidad persiste con fuerza. En la práctica, lo contrario es más probable: los contenidos sin marcar que posteriormente se descubren como generados por IA cuestan mucha más confianza que una identificación objetiva desde el principio.
Técnicamente, el etiquetado puede implementarse de forma limpia en sistemas CMS como TYPO3, como campo en el objeto multimedia o en el elemento de contenido, que puede emitirse en el frontend y evaluarse en el backend. Así puede analizarse en todo momento qué proporción de una presencia digital es generada.
Siguen existiendo ámbitos de aplicación razonables
Retirarse en un punto no significa que los procedimientos generativos sean inadecuados en la web.
Ustedes aprovechan sus fortalezas allí donde no surge ninguna afirmación fáctica sobre un producto real:
- Borradores y variantes en el proceso de diseño, que posteriormente se sustituyen por assets reales
- Fondos abstractos, iconos e ilustraciones sin relación con el producto
- Propuestas de texto para meta descripciones o teasers, que se revisan editorialmente
- Tareas de estructuración como etiquetado, borradores de traducción o resúmenes
La línea divisoria no transcurre entre texto e imagen, sino entre afirmaciones verificables y elementos decorativos de diseño.
Clasificación para proyectos web y de software
Para proyectos en curso, esto significa: las funciones generativas son una decisión de producto con consecuencias en los procesos, no una mera cuestión técnica. Quien las introduce debería especificar la aprobación, la identificación, el registro y la posibilidad de desactivación en el mismo momento que la propia generación. El esfuerzo para ello es manejable, comparado con el esfuerzo de eliminar posteriormente contenidos defectuosos de un gran inventario y de gestionar la comunicación al respecto.