En la capital española, la Comunidad de Madrid está llevando a cabo un proyecto pionero en el desarrollo de técnicas de verificación para mejorar la seguridad en el uso de la Inteligencia Artificial (IA) y el procesamiento de imágenes.

El estudio, liderado por el Instituto Madrileño de Estudios Avanzados (IMDEA) Software, en colaboración con la Universidad Carlos III de Madrid y NEC Laboratories Europe, ha dado lugar a la creación de una herramienta que permite mejorar la verificación computacional para detectar contenidos editados.

Este sistema consiste en una serie de técnicas criptográficas que garantizan de forma irrefutable que un tercero, como una empresa o un servidor en la nube, ha procesado correctamente los datos de un usuario.

De este modo, es posible comprobar si una imagen o un vídeo han sido modificados, validar que una predicción realizada por IA proviene de un modelo auditado, o asegurar que en una decisión sobre solvencia crediticia solo se ha empleado la información proporcionada por el cliente.

Todo esto se realiza respetando la privacidad para garantizar la confidencialidad de los datos.

Los investigadores han introducido un protocolo que puede ser fácilmente integrado en una cadena de procesamiento de datos para permitir una verificación completa de las predicciones realizadas por redes neuronales, que son la base de la mayoría de modelos de IA. El equipo ha desarrollado un prototipo de aplicación de sus sistemas de verificación que supone una mejora significativa respecto a las técnicas actuales, especialmente en cuanto a su velocidad.

Estos resultados, obtenidos en el marco del proyecto PICOCRYPT con financiación del Consejo Europeo de Investigación, no solo mejoran la eficiencia y la escalabilidad de los sistemas de pruebas criptográficas, sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad en el procesamiento de datos.