también te interesará
[EN VIDÉO] Una inteligencia artificial que ajusta el ángulo de toma de la foto Manipulación interactiva basada en puntos del colector generativo de imágenes. © Proyecto DragAN
Las inteligencias artificiales no solo saben generar imágenes a partir de una descripción. También pueden editar imágenes existentes, por ejemplo, para insertar a alguien en otra foto. Esto permite realizar deepfakes extremadamente realistas y difíciles de detectar.
Investigadores del Instituto Tecnológico de Massachusetts (MIT) en los Estados Unidos han desarrollado una técnica llamada PhotoGuard para inmunizar las imágenes contra la manipulación por parte de las IA. Altera una cantidad de píxeles de una manera que permanece invisible a simple vista. Afecta a la representación latente de la imagen utilizada por los modelos de gran difusión, en otras palabras, una conversación matemática que permite que la IA entienda la imagen.
Demostración de PhotoGuard. Las caras de una foto de origen (superpuestas en negro para indicarle a la IA que las conserve) se utilizan para generar una nueva imagen, que muestra la diferencia antes y después de inmunizar a la fuente. © Hadi Salman
Los píxeles se manipulan de tal manera que produzcan la misma representación latente que otra imagen, por ejemplo, completamente gris. Entonces, la IA ya no puede producir una imagen realista al retener elementos de la imagen de origen, porque ya no la entiende correctamente. Sin embargo, la protección se puede eludir agregando ruido a la imagen, o incluso invirtiéndola o recortándola. Los investigadores esperan que las empresas que desarrollan los modelos de entrega puedan integrar un sistema de inmunización directamente en sus IA.