La consulta más frecuente en proyectos en los que se pretende utilizar modelos de IA para desarrollo, redacción o soporte rara vez se refiere a la calidad de los resultados. Se refiere a los datos: ¿qué ocurre con lo que la empresa introduce en el modelo? ¿Quién puede verlo, cuánto tiempo permanece almacenado y en qué circunstancias se evalúa?
En este contexto resulta interesante una noticia reciente. OpenAI quiere poner a disposición de sus clientes empresariales sus modelos más avanzados sin almacenar sus datos — y, al mismo tiempo, poder detectar abusos. Con ello, el proveedor aborda exactamente el punto en el que hasta ahora se detienen muchos procesos de aprobación en empresas medianas.
El conflicto de objetivos detrás del anuncio
La detección de abusos y la minimización de datos apuntan técnicamente en direcciones opuestas. Quien quiere detectar si un servicio se utiliza con fines dañinos necesita, en la implementación clásica, acceso a las entradas y salidas, a menudo durante un periodo prolongado, para reconocer patrones a lo largo de muchas solicitudes. Quien no almacena datos de clientes no dispone de esa base.
Precisamente por eso el enfoque es relevante para las empresas, independientemente de cómo se resuelva técnicamente en detalle. Marca un requisito que ya plantean muchas clientas y clientes: la protección de los propios contenidos no debe depender de que uno confíe en el proveedor, sino que debe estar garantizada por la arquitectura del servicio.
Hasta la fecha no se dispone de detalles fiables sobre los mecanismos técnicos concretos. Para la evaluación en el propio proyecto, esto significa: el anuncio no sustituye una verificación, solo proporciona un motivo para realizarla.
Preguntas que deberían aclararse antes de la selección
Independientemente del proveedor, merece la pena disponer de un catálogo fijo de preguntas antes de integrar un servicio de IA en procesos productivos. Estos puntos han demostrado su utilidad especialmente:
- Duración del almacenamiento: ¿Se almacenan siquiera las entradas y las respuestas y, en caso afirmativo, durante cuánto tiempo? ¿Existe una opción sin almacenamiento garantizada contractualmente?
- Entrenamiento: ¿Se utilizan los datos de clientes para mejorar los modelos? ¿La exclusión es estándar o debe configurarse activamente?
- Acceso por parte de personas: ¿En qué condiciones pueden los empleados del proveedor consultar contenidos, por ejemplo en el marco de revisiones de abuso o casos de soporte?
- Lugares de procesamiento: ¿En qué regiones se ejecuta el procesamiento y qué subcontratistas participan?
- Base contractual: ¿Existe un contrato de encargo de tratamiento que refleje realmente las garantías técnicas — y que no se limite a repetir la afirmación de marketing?
Importante es el orden: primero aclarar la cuestión de los datos, después seleccionar el modelo. En la práctica suele ocurrir al revés, y entonces la aprobación fracasa por puntos que se podrían haber aclarado antes del prototipo.
Lo que usted mismo tiene en sus manos
Parte del riesgo puede reducirse independientemente del proveedor, concretamente mediante la propia arquitectura. Quien integra funciones de IA en un sitio web, un sistema de redacción o una herramienta interna decide qué datos abandonan siquiera su propio ámbito de responsabilidad.
Ha demostrado su utilidad una capa intermedia: en lugar de que las distintas aplicaciones hablen directamente con la interfaz de programación del proveedor, el tráfico pasa por un servicio propio que actúa como intermediario. Allí puede definirse de forma centralizada qué campos se transmiten siquiera, qué contenidos se pseudonimizan o eliminan previamente y qué se registra.
Esto tiene tres ventajas prácticas. Primero, el proveedor sigue siendo intercambiable, porque solo hay que adaptar un único punto. Segundo, puede demostrarse de forma concreta ante los responsables de protección de datos qué datos circulan. Tercero, surge un lugar donde los costes y el uso se hacen visibles, lo que en proyectos de IA adquiere rápidamente relevancia según la experiencia.
Clases de datos en lugar de una decisión global
En lugar de conceder o denegar una aprobación para «IA» en general, tiene sentido distinguir por clases de datos. Los contenidos de carácter público como textos de producto, meta descripciones o borradores de blog no son críticos. Los documentos internos, datos de clientes, borradores de contratos y código fuente con lógica de negocio se sitúan en otro nivel.
Para la primera clase puede empezarse con rapidez y acumular experiencia. Para la segunda rigen requisitos más estrictos en materia de almacenamiento, acceso y lugar de procesamiento — y precisamente ahí son relevantes garantías como la anunciada por OpenAI. Esta separación evita debates de principio y hace que las decisiones sean comprensibles.
Clasificación para proyectos web y de software
Para proyectos concretos, esto significa: la cuestión de los datos pertenece al análisis de requisitos y no a la fase de aceptación. Quien guía las conexiones de IA desde el principio a través de una capa de intermediación propia y distingue por clases de datos, mantiene su capacidad de actuación cuando cambian las ofertas, los precios o las garantías. Y cambiarán — anuncios como este son un estado intermedio, no un estado final.