La técnica definitiva para detectar un deepfake

Ante la proliferación de deepfakes en tiempo real, una empresa ha determinado dos métodos sencillos para saber si tu interlocutor es realmente quien dice ser. Simplemente pídale que agite su mano frente a su cara o que se pare de perfil.

también te interesará

[EN VIDÉO] Los algoritmos y su toma de decisiones Los algoritmos están reemplazando cada vez más a los seres humanos en la toma de decisiones o el desempeño de tareas. Tienen en cuenta una serie de parámetros pero surge la cuestión de la transparencia de los algoritmos: ¿pueden explicar su decisión?

La calidad de los deepfakes evoluciona a una velocidad vertiginosa y los resultados son cada vez más convincentes. En marzo, un falso presidente Zelensky anunció la capitulación de Ucrania. Este tipo de video se prepara de antemano con horas de procesamiento. Sin embargo, ahora hay algoritmos que funcionan en tiempo real y te permiten cambiar de cabeza durante una videollamada.

A fines de junio, el FBI informó que algunos delincuentes están utilizando esta tecnología para entrevistarse para puestos de teletrabajo. De este modo obtienen acceso a la información protegida de la empresa sin revelar nunca su verdadera identidad. Especialistas en inteligencia artificial de la empresa Metaphysic han investigado el asunto y han descubierto dos métodos sencillos para saber si un corresponsal está utilizando software deepfake durante una llamada.

Girar la cabeza o mover la mano frente a la cara es suficiente para romper la ilusión.

La primera es pedirle que agite su mano frente a su cara. El software debe intentar superponer la imagen real de la mano en la imagen de la cara que generó. Si bien el algoritmo intenta compensar, esto crea latencia y artefactos visuales, como dedos que desaparecen… Sin embargo, según Metaphysic, los avances en el campo de la IA deberían permitir compensar este tipo de problema en el futuro. .

El segundo método, y el más fiable según los especialistas, es jugar sobre el ángulo de la cara. En mayo, un deepfake en tiempo real logró engañar a un sistema de «detector de vida», una IA utilizada en particular por los bancos para los sistemas de identificación biométrica. Ella se asegura de que la persona sea realmente un ser humano y no una falsificación. Pero en este caso específico, el sistema no le había pedido a la persona que girara la cabeza.

Los algoritmos de Deepfake están diseñados para funcionar desde el frente. Todo lo que tienes que hacer es pedirle a tu interlocutor que gire la cabeza hacia un lado para ver aparecer los errores y el perfil de la persona detrás del deepfake. Pero cuidado, en algunos casos el software puede mostrar imágenes plausibles hasta un ángulo de 80 grados. Esto requiere que la persona gire la cabeza en un ángulo de 90 grados con respecto a la cámara.

Errores difíciles de corregir en ausencia de fotos de perfil

La tecnología podría evolucionar para tratar de corregir esta deficiencia, pero siempre le faltarán los datos para un resultado perfecto. Para las celebridades, generalmente hay muchas instantáneas y videos desde todos los ángulos, por lo que es completamente concebible que las falsificaciones profundas en tiempo real puedan eliminar los errores usando sus rostros. Sin embargo, aparte de las personas conocidas, pocas personas tienen fotos de perfil tomadas. Incluso con un video de alta definición compartido en las redes sociales, es poco probable que la IA pueda encontrar suficiente material para crear un deepfake perfecto, especialmente con diferentes expresiones faciales.

Tal vez la próxima estafa sean entrevistas de trabajo falsas en las que un empleador falso te pide que vuelvas la cabeza para demostrar que eres real, mientras guardas tu foto de perfil para reutilizarla más tarde en un deepfake…

¿Te interesa lo que acabas de leer?

Deja un comentario