Quien integra IA en procesos existentes o en una aplicación web se topa pronto con dos preguntas que no se pueden responder solo con fichas técnicas: ¿Qué ocurre con los datos que se introducen en el sistema? ¿Y qué fiabilidad tienen las respuestas que se reciben? La asociación TÜV planea, según sus propias declaraciones, un programa que aborde precisamente esto: una evaluación y certificación de sistemas de IA que valore la seguridad en el manejo de datos sensibles y la calidad de las salidas.
Hasta ahora no se han hecho públicos los detalles sobre el alcance, los criterios y el calendario. Lo interesante es la dirección: hasta ahora, la confianza en los componentes de IA se basa principalmente en las declaraciones de los propios proveedores. Un sello de evaluación externo haría que al menos una parte de estas afirmaciones fuera verificable.
Por qué esto es relevante para los responsables de decisiones
Actualmente falta un criterio común en los procesos de adquisición. Un proveedor describe la calidad de su modelo con valores de benchmark, otro con clientes de referencia, un tercero con certificados que se refieren al centro de datos, no al propio sistema de IA. Los departamentos especializados deben derivar una decisión a partir de estas indicaciones tan dispares, a menudo sin la posibilidad de verificarlas técnicamente.
Un sello de evaluación consolidado no cerraría del todo esta brecha, pero crearía comparabilidad. Sobre todo, desplaza la carga de la prueba: en lugar de "nuestro sistema es seguro", se aplicaría "esto ha sido evaluado según un procedimiento definido". Para empresas con requisitos de cumplimiento normativo, por ejemplo en el ámbito sanitario, en el sector financiero o en la administración pública, esta es una diferencia que cuenta en la aprobación interna.
Dos dimensiones de evaluación, dos tipos de riesgo
Los dos aspectos mencionados en el programa abordan riesgos diferentes y deberían considerarse también por separado en los proyectos.
- Manejo de datos sensibles: Aquí se trata de cuestiones como las vías de transmisión, los plazos de almacenamiento, el uso de las entradas para el entrenamiento posterior del modelo, los derechos de acceso y la separación de inquilinos. Son temas clásicos de seguridad de la información que se pueden evaluar porque pueden vincularse a medidas técnicas y organizativas.
- Fiabilidad de las respuestas: Esta dimensión es más difícil. Los sistemas generativos producen salidas que suenan plausibles pero pueden ser erróneas. Una evaluación puede medir tasas de error en escenarios definidos, pero no puede dar garantía para cada caso de uso futuro.
Esta distinción es importante para que un certificado no se sobreinterprete. Un sistema evaluado sigue siendo un sistema estadístico. Quien lo integra en un proceso sigue necesitando puntos de control allí donde un error resulta costoso.
Qué puede hacer ahora, independientemente de los certificados
Esperar un programa de evaluación no es una estrategia. Los criterios que aplicaría una evaluación externa ya pueden utilizarse hoy como lista de verificación en proyectos propios.
- Clasificación de datos antes de elegir la herramienta. Determine qué categorías de datos pueden siquiera enviarse a un sistema de IA externo. Esta decisión es una cuestión de gobernanza, no técnica.
- Obtener compromisos contractuales. Aclare por escrito si las entradas se utilizan para el entrenamiento, dónde se procesan y cuánto tiempo se conservan. Las afirmaciones de marketing en las páginas de producto no son un compromiso.
- Crear casos de prueba propios. Reúna de 30 a 50 consultas realistas de su área especializada con una respuesta correcta conocida. Con ello se puede medir si un cambio de modelo mejora o empeora su aplicación, independientemente de los benchmarks generales.
- Prever pasos de aprobación. Donde una salida incorrecta tenga consecuencias legales o financieras, debe haber una persona en el proceso. Esto se aplica tanto a textos de ofertas como a informaciones automatizadas a clientes.
- Garantizar la intercambiabilidad. Encapsule el acceso al sistema de IA en una capa propia de su aplicación. Así se puede cambiar de proveedor si cambian los resultados de evaluación, los precios o las condiciones.
Límites de un sello
Los sistemas de IA se actualizan continuamente. Un modelo que se ha evaluado hoy puede comportarse de forma diferente tras la próxima actualización. Por eso los programas de evaluación deben encontrar una respuesta al versionado y a las reevaluaciones, de forma similar a otras certificaciones vinculadas a auditorías de seguimiento. Cómo se resolverá concretamente esto en el programa previsto aún está por ver.
Además, un certificado evalúa un producto, no su integración. Si los datos personales se enmascaran correctamente en un formulario, si los derechos de acceso están bien configurados en su sistema de gestión de contenidos, si se analizan los registros: eso sigue siendo responsabilidad suya y parte de la calidad de su proyecto.
Clasificación para proyectos web y de software
Un criterio de calidad verificable convertiría la selección de componentes de IA de una cuestión de confianza en una cuestión de requisitos, lo que facilita las licitaciones, las aprobaciones internas y la argumentación frente a los delegados de protección de datos. Hasta entonces, una rutina de evaluación propia y documentada con casos de prueba claros y compromisos contractuales sustituye cualquier sello. Quien planifica su conexión de IA desde el principio como una capa intercambiable en la arquitectura podrá reaccionar más adelante ante nuevos resultados de evaluación sin tener que reconstruir la aplicación.