Intel y el Instituto Tecnológico de Georgia (Georgia Tech) anunciaron hoy que fueron seleccionados para dirigir un equipo del programa Garantizando la Robustez de la Inteligencia Artificial contra el Engaño (GARD, por sus siglas en inglés) para la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA, por sus siglas en inglés).
Intel es el principal contratista en esta labor conjunta que tiene un costo multimillonario (dólares americanos) y una duración de cuatro años para mejorar las defensas de ciberseguridad contra los ataques de engaño en los modelos de Machine Learning.
Aun cuando son poco frecuentes, los ataques adversos intentan engañar, alterar o corromper la interpretación de datos del algoritmo de machine learning. Como los modelos de inteligencia artificial (IA) y machine learning son incorporados cada vez más en los sistemas semiautónomos y autónomos, es fundamental mejorar continuamente la estabilidad, seguridad y protección de interacciones inesperadas o engañosas. Por ejemplo, las clasificaciones e interpretaciones erróneas de la inteligencia artificial en cuanto a pixeles podrían dar lugar a una mala interpretación de las imágenes y escenarios de identificación incorrectos, o las modificaciones sutiles a los objetos del mundo real podrían confundir a los sistemas de percepción de la IA. El programa GARD ayudará a que las tecnologías de inteligencia artificial y machine learning estén mejor equipadas para defenderse contra posibles ataques futuros.
Los esfuerzos de defensa actuales están diseñados para proteger contra ataques adversos específicos y predefinidos, pero siguen siendo vulnerables a los ataques cuando son puestos a prueba fuera de sus parámetros de diseño específicos. GARD pretende plantear la defensa del machine learning de forma diferente: desarrollando defensas amplias que aborden los numerosos ataques posibles en escenarios, tales que podrían hacer que un modelo de Machine Learning clasifique o interprete mal los datos. Debido a su amplia huella arquitectónica y liderazgo en seguridad, Intel se encuentra en una posición única para ayudar a impulsar innovaciones en la tecnología de inteligencia artificial y machine learning con una participación significativa en el resultado.
La meta del programa GARD es establecer fundamentos teóricos del sistema de machine learning que no solo identifiquen las vulnerabilidades del sistema y caractericen las propiedades para mejorar la robustez del sistema, sino que también promuevan la creación de defensas efectivas. A través de estos elementos del programa, GARD tiene el objetivo de crear tecnologías de machine learning resistentes al engaño con estrictos criterios para evaluar su eficacia.
En la primera etapa del programa GARD, Intel y Georgia Tech están mejorando las tecnologías de detección de objetos a través de la coherencia espacial, temporal y semántica, tanto para imágenes fijas como para videos. Intel está comprometida a impulsar la innovación de la IA y el machine learning y considera que trabajar con investigadores de seguridad calificados de todo el mundo es una parte crucial para abordar las vulnerabilidades de seguridad potenciales para la industria en general y nuestros clientes.
Deja un comentario