El aseguramiento de la calidad en el desarrollo de software se ha basado hasta ahora predominantemente en muestras: las pruebas verifican casos individuales, las revisiones de código verifican la comprensión de personas individuales.Un informe del entorno de Google DeepMind indica que esta relación podría desplazarse.Con un sistema llamado AlphaProof Code, el código criptográfico central del mensajero Signal fue verificado matemáticamente por primera vez según la empresa, y ello en unas cuatro semanas en lugar de los años habituales.
Qué diferencia la verificación formal de las pruebas
La verificación formal es un procedimiento mediante el cual se demuestra con medios matemáticos que un programa cumple una especificación definida bajo todas las entradas posibles.La diferencia con la prueba clásica es fundamental: una prueba muestra que un error no ocurre en un caso concreto.Una demostración muestra que una determinada clase de errores no puede ocurrir en absoluto.
El precio de ello era hasta ahora alto.Las demostraciones deben formularse en lenguajes especializados y verificarse de forma automática, y el esfuerzo supera a menudo varias veces el esfuerzo de programación propiamente dicho.Por eso la verificación formal se limita tradicionalmente a componentes de código muy pequeños y muy críticos, por ejemplo en la aviación, el diseño de chips o precisamente la criptografía.
Qué ocurrió en el caso de Signal
Según el informe, agentes de IA basados en el modelo Gemini Carbon escribieron más de seis millones de líneas de código de demostración.Solo alrededor del uno por ciento de ellas fue marcado para una revisión humana posterior.El trabajo se concentró en el núcleo criptográfico de Signal, es decir, aquella parte que sustenta el cifrado de la comunicación.
Lo notable es menos la cantidad de código que la relación: la máquina asume la parte laboriosa y formalmente estricta, la persona se concentra en los puntos en los que la demostración es insegura o la especificación es cuestionable.Precisamente esta relación decide si un procedimiento pasa del nicho a la generalidad.
Como próximos campos de aplicación se mencionan infraestructuras críticas, por ejemplo redes eléctricas o dispositivos médicos.Son áreas en las que el mal funcionamiento tiene consecuencias físicas inmediatas y en las que los procedimientos de homologación exigen de todos modos pruebas sólidas.
Qué no muestra el resultado
Una demostración solo es válida siempre respecto a una especificación.Si la especificación está formulada de forma incorrecta o incompleta, la demostración es correcta y el resultado aun así no es lo que se pretendía.La cuestión de qué debe hacer realmente un sistema sigue siendo una tarea humana y técnica, y las potentes herramientas de demostración la hacen más bien más importante que menos importante.
Tampoco puede inferirse de un núcleo criptográfico nada sobre software de aplicación arbitrario.El código criptográfico es matemáticamente descriptible con claridad, manejable en su extensión y estable en sus requisitos.Una aplicación especializada con interfaces, interfaz de usuario, lógica de permisos y reglas de negocio en constante cambio es un objeto completamente distinto.La transferibilidad es una cuestión abierta, no una promesa ya cumplida.
La dirección es, no obstante, relevante
Para la práctica, el mensaje propiamente dicho es otro: los sistemas de IA se emplean cada vez más no solo para generar código, sino para verificar código.Desde el punto de vista del aseguramiento de la calidad, esta es la evolución más interesante.El código generado aumenta primero la cantidad de lo que debe verificarse.Las herramientas que asumen el esfuerzo de verificación actúan en la dirección contraria.
Es previsible que este enfoque se refleje primero allí donde pueden verificarse propiedades claramente delimitadas:
- Componentes relevantes para la seguridad como la autenticación, las rutinas de firma y cifrado o las comprobaciones de acceso
- Lógica central de procesamiento de datos, por ejemplo cálculos en facturación, tarificación o verificación de documentos
- Contratos de interfaces, en los que los formatos de entrada y salida son descriptibles de forma inequívoca
- Lógica de migración, en la que debe demostrarse que el estado antiguo y el nuevo calculan igual
Qué puede prepararse ya en los proyectos
Independientemente de cuándo estén disponibles de forma general tales procedimientos, los proyectos se benefician de trabajos previos que de todos modos son sensatos:
- Formular los requisitos con precisión. Cuanto más claramente se describa qué propiedad debe cumplirse, más fácil será verificarla automáticamente más adelante, y menos margen de interpretación quedará en el día a día.
- Aislar la lógica crítica. Si los cálculos críticos para la seguridad o el negocio se encuentran en módulos claramente delimitados, pueden verificarse de forma específicamente más rigurosa que la superficie que los rodea.
- Tratar la verificabilidad como criterio de arquitectura. Las responsabilidades entrelazadas y los efectos secundarios ocultos dificultan cualquier forma de verificación, ya sea por personas, pruebas o herramientas.
- Reasignar la capacidad de revisión. Si las verificaciones rutinarias se ejecutan cada vez más de forma automatizada, la atención humana restante debería dirigirse allí donde se toman decisiones técnicas.
La confianza se vuelve demostrable
A medio plazo, esto también desplaza la argumentación frente a clientes, auditores y autoridades supervisoras.Hoy la afirmación suele ser: se desarrolló, probó y revisó con esmero.En el futuro podría ser posible, en ámbitos parciales, la afirmación de que una determinada propiedad es demostrablemente válida.Esta es una diferencia cualitativa, especialmente en sectores regulados.
Para los proyectos web y de software esto significa concretamente: el aseguramiento de la calidad sigue siendo necesario, pero su enfoque se desplaza de la búsqueda de errores hacia la descripción limpia de lo que es correcto.
Quien hoy invierte en requisitos precisos, una arquitectura claramente definida y criterios de aceptación comprensibles, sienta las bases para poder utilizar este tipo de procedimientos de verificación en el futuro. Y hasta entonces, esas mismas medidas ya compensan porque alivian de forma notable las revisiones, las pruebas y el mantenimiento.