Investigadores desarrollan una app para detectar "deep fakes" en videos

El auge del desarrollo y la proliferación de aplicaciones con tecnología deep fake es un hecho. Si bien el principal objetivo y consecuencia es el entretenimiento en base a parodias o imitaciones con una precisión asombrosa, también es cierto que estas apps gratuitas pueden ocasionar problemas graves si se usan con mala intención.

En tiempos de constante fomento a la desinformación y gran dificultad para detectar fuentes verídicas de los contenidos en internet, el debate sobre la regulación del uso de la inteligencia artificial y sus derivados es necesario para tomar acciones concretas y cuidar a los usuarios de posibles engaños.

En este contexto, investigadores de la Universidad de Buffalo (Nueva York, Estados Unidos), trabajan en una herramienta para detectar si se está usando deep fake en fotos o videos controversiales. A raíz de una prueba reciente, la aplicación demostró una eficacia del 94% en la detección de esta tecnología mediante un análisis de reflejos de luz en los rostros que aparecen en fotos y videos. El sistema detecta desviaciones de luz en los ojos, señal que indicaría que se está usando una cara falsa.

“Los dos ojos deben tener patrones reflectantes muy similares porque ven lo mismo. Es algo que normalmente no notamos cuando miramos una cara“, argumentó el autor principal de la investigación, Siwei Lyu.

Si bien la eficacia de la aplicación es bastante alta, también presenta ciertas limitaciones. Entre ellas puede mencionarse que sólo funciona si puede analizar los dos ojos, por lo que en imágenes o videos en que las personas aparecen de perfil o se dificulta la visión del rostro no se podría detectar si es o no deep fake. Además, es muy dependiente de la luz que se refleje en los globos oculares, la cual es analizada por el sistema píxel por píxel.