Investigadores crean técnicas innovadoras de verificación para incrementar la seguridad en la inteligencia artificial y el procesamiento de imágenes

Los resultados no sólo mejoran la eficiencia y escalabilidad de los sistemas de pruebas criptográficas, sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes.

Un equipo de investigadores del Instituto IMDEA Software, la Universidad Carlos III de Madrid (UC3M) y NEC Laboratories Europe ha introducido un novedoso marco que promete mejorar la eficiencia y practicidad de la computación verificable. La investigación, detallada en el artículo «Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing», presentada en el último congreso de seguridad informática y de comunicaciones de la ACM (Association for Computing Machinery), aborda los retos de escalabilidad y modularidad a los que se enfrentan tanto los sistemas de pruebas generales como las soluciones adaptadas a aplicaciones específicas en inteligencia artificial y procesamiento de imágenes.

Contexto

La computación verificable comprende una familia de técnicas criptográficas que permiten obtener una garantía infalsificable de que algún tercero, como una empresa o un servidor en la nube, ha realizado un procesamiento correcto de los datos de un usuario. Demostrar que una imagen o un vídeo han sido editados, que una predicción realizada por inteligencia artificial proviene de un modelo auditado, o que en una decisión sobre solvencia crediticia sólo se han utilizado datos proporcionados por el cliente son algunos ejemplos de lo que permiten estas técnicas. Además, la computación verificable es compatible con la privacidad de los datos, de forma que, por ejemplo, los algoritmos utilizados por el servidor en el cálculo se mantengan confidenciales.

La computación verificable proporciona integridad, equidad y privacidad, propiedades esenciales en aplicaciones que subcontratan tareas de procesamiento de datos. Dentro de las soluciones posibles, existen sistemas de pruebas generales, como los utilizados en algunas “blockchain” que tienen problemas de escalabilidad cuando se trata de cálculos con grandes cantidades de datos. Por otro lado, las soluciones diseñadas de manera específica para estas aplicaciones son más eficientes, pero a menudo incompatibles entre sí, lo que dificulta su ampliación o su integración en cadenas de procesamiento de datos más amplias.

El estudio

Los investigadores han introducido un nuevo marco con el objetivo de salvar esta brecha combinando las ventajas de rendimiento de las soluciones a medida con la versatilidad de los sistemas de pruebas de uso general. Su núcleo es un enfoque modular para la computación verificable de operaciones secuenciales, que se basa en una nueva primitiva criptográfica conocida como VE (del inglés, Verifiable Evaluation Scheme).

Los investigadores muestran la aplicación práctica de su marco en inteligencia artificial proponiendo un novedoso VE adaptado a operaciones de convolución, capaz de manejar múltiples canales de entrada y salida interconectados. «Nuestro protocolo puede integrarse fácilmente en una cadena de procesamiento de datos para permitir la verificación completa de, por ejemplo, las predicciones realizadas por redes neuronales convolucionales (CNN), que son la base de la mayoría de modelos de inteligencia artificial», afirma David Balbás, estudiante de doctorado en IMDEA Software e investigador de este estudio. Además, en el artículo también se presentan nuevos VE para el procesamiento de imágenes, que permiten verificar eficazmente la edición o el retoque, incluyendo operaciones como el recorte, el desenfoque, el cambio de escala y otras más complejas.

El equipo ha realizado un prototipo de aplicación de sus sistemas de comprobación que supone una notable mejoría a las técnicas existentes. «Nuestra evaluación comparativa muestra que nuestras pruebas son cinco veces más rápidas de generar y diez veces más rápidas de comprobar que las mejores soluciones existentes hasta ahora, además de introducir innovaciones teóricas en los algoritmos», explica Damien Robissout, programador de investigación del Instituto IMDEA Software y también coautor del estudio.

Estos resultados no sólo mejoran la eficiencia y la escalabilidad de los sistemas de pruebas criptográficas sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes. «A día de hoy, este enfoque resulta esencial en el ámbito de aplicación que consideramos, porque un avance tecnológico no es tal si no se hace merecedor de la confianza de los usuarios finales», señala otra de las autoras del estudio, Maribel González Vasco, Catedrática de Excelencia del Departamento de Matemáticas de la UC3M.

La aplicación generada en el estudio es de código abierto y su naturaleza modular allana el camino para su ampliación e integración en diversas herramientas dentro de una cadena de procesamiento de datos. De este modo, los investigadores despejan el camino para un despliegue versátil y robusto de la computación verificable en aplicaciones tan diversas como la ética financiera, la protección de datos personales o la regulación de la inteligencia artificial, entre otras.

**Este trabajo forma parte del proyecto PICOCRYPT, que ha recibido financiación del Consejo Europeo de Investigación (ERC por sus siglas en inglés) en el marco del programa de investigación e innovación Horizonte 2020 de la Unión Europea (acuerdo de subvención nº 101001283).

**Referencia bibliográfica:**
Balbás, D. Fiore, D. González-Vasco, M. I. Robissout, D. Soriente, C. (2023). Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing. CCS ’23: Proceedings of the 2023 ACM SIGSAC Conference on Computer and Communications. Pages 1437–1451.
https://doi.org/10.1145/3576915.3623160