La Comunidad de Madrid desarrolla técnicas innovadoras de verificación para aumentar la seguridad en el uso de Inteligencia Artificial (IA) y el procesamiento de imágenes.
El estudio, liderado por el Instituto Madrileño de Estudios Avanzados (IMDEA) Software, en colaboración con la Universidad Carlos III de Madrid y NEC Laboratories Europe, ha dado lugar a la creación de una herramienta que permite mejorar la verificación computacional para detectar contenidos editados.
Este sistema consiste en una serie de técnicas criptográficas que garantizan de forma irrefutable que un tercero, como una empresa o un servidor en la nube, ha procesado correctamente los datos de un usuario.
De este modo, es posible comprobar si una imagen o un vídeo han sido modificados, validar que una predicción realizada por IA proviene de un modelo auditado, o asegurar que en una decisión sobre solvencia crediticia solo se ha empleado la información proporcionada por el cliente.
Todo esto se realiza respetando la privacidad para garantizar la confidencialidad de los datos.
Los investigadores han introducido un protocolo que puede ser fácilmente integrado en una cadena de procesamiento de datos para permitir una verificación completa de las predicciones realizadas por redes neuronales
Los investigadores han introducido un protocolo que puede ser fácilmente integrado en una cadena de procesamiento de datos para permitir una verificación completa de las predicciones realizadas por redes neuronales, que son la base de la mayoría de modelos de IA.
El equipo ha desarrollado un prototipo de aplicación de sus sistemas de verificación que supone una mejora significativa respecto a las técnicas actuales, especialmente en cuanto a su velocidad.
