Adobe dice que está preocupado por las imágenes falsas que invaden el mundo, es por eso que se ha compartido una nueva investigación en colaboración con científicos de UC Berkeley que utiliza el aprendizaje automático para detectar automáticamente cuando se han manipulado las imágenes de caras.
El año pasado, sus ingenieros crearon una herramienta de inteligencia artificial que detecta los medios editados creados mediante el empalme, la clonación y la eliminación de objetos.
La compañía dice que no tiene planes inmediatos para convertir este último trabajo en un producto comercial, pero un portavoz le dijo a The Verge que era solo uno de los muchos «esfuerzos de Adobe para detectar mejor las manipulaciones de imagen, video, audio y documentos».
«Si bien estamos orgullosos del impacto que Photoshop y otras herramientas creativas de Adobe han tenido en el mundo, también reconocemos las implicaciones éticas de nuestra tecnología», dijo la compañía en una publicación de blog. «El contenido falso es un asunto serio y cada vez más urgente».
La investigación está diseñada específicamente para detectar ediciones realizadas con la herramienta licuar de Photoshop, que se usa comúnmente para ajustar la forma de las caras y alterar las expresiones faciales. «Los efectos de la característica pueden ser delicados, lo que lo convirtió en un caso de prueba intrigante para detectar alteraciones tanto drásticas como sutiles en las caras», dijo Adobe.
Para crear el software, los ingenieros entrenaron una red neuronal en una base de datos de caras emparejadas, que contenían imágenes antes y después de haber sido editadas con licuar.
El algoritmo resultante es impresionantemente efectivo. Cuando se les pidió que detectaran una muestra de rostros editados, los voluntarios humanos obtuvieron la respuesta correcta el 53 por ciento de las veces, mientras que el algoritmo fue correcto en el 99 por ciento de las veces. La herramienta incluso puede sugerir cómo restaurar una foto a su aspecto original, sin editar, aunque estos resultados a menudo se mezclan.
«La idea de un botón mágico deshacer para revertir las ediciones de la imagen aún está lejos de la realidad», dijo el investigador de Adobe, Richard Zhang, quien ayudó a realizar el trabajo, en una publicación del blog de la compañía. «Pero vivimos en un mundo donde cada vez es más difícil confiar en la información digital que consumimos, y espero seguir explorando esta área de investigación».
Los investigadores dijeron que el trabajo fue el primero de su tipo diseñado para detectar este tipo de ediciones faciales, y constituye un «paso importante» hacia la creación de herramientas que puedan identificar cambios complejos que incluyen «manipulaciones corporales y ediciones fotométricas como el suavizado de la piel».
Si bien la investigación es prometedora, herramientas como esta no están hechas para detener los efectos dañinos de los medios manipulados. Eso dependerá totalmente de los humanos.
Deja un comentario