Deep Fakes en Guerra

Según un informe del Brookings Institution, algún día podría suceder en la guerra. Los autores del informe afirman que los deep fakes serán utilizados por adversarios extranjeros para campañas de desinformación y propaganda, y proponen varias políticas para abordar esta amenaza. Hoy voy a resumir...

Introducción al Informe

Este informe habla sobre el uso de deep fakes tras la invasión de Ucrania por parte de Rusia. Poco después de la invasión, alguien presumiblemente del gobierno ruso publicó un deep fake del presidente ucraniano, Vladimir Zielinski, instando a los ucranianos a rendirse. A partir de esto, los autores del informe advierten que los adversarios tienen acceso a tecnologías de deep fake que permiten imitar líderes, políticos o soldados de manera casi perfecta.

Funcionamiento de los Deep Fakes

Los deep fakes son posibles gracias a avances recientes en aprendizaje automático, lo que ha permitido a los programas de computadora generar imágenes falsas y compararlas con imágenes reales en un proceso llamado Generative Adversarial Network (GAN). Estos avances hacen que los deep fakes sean cada vez más difíciles de detectar para una persona promedio. Universidades militares desarrollaron deep fakes para generar mensajes falsos de terroristas islámicos, lo que demuestra la rápida evolución de esta tecnología.

Usos Potenciales en Conflictos Internacionales

Los deep fakes podrían ser utilizados para legitimar guerras, falsificar órdenes y causar confusión social, entre otros usos. Los autores del informe señalan que es necesario establecer estándares para el uso de deep fakes y proponen un proceso de equidad para evaluar su utilización tanto ofensiva como defensiva. Advierten que el aumento de conciencia sobre los deep fakes generará escepticismo en la información en línea, lo que podría desencadenar conflictos internacionales.

Recomendaciones de Políticas

En términos de política defensiva, los autores sugieren la autenticación y verificación de contenido digital, en lugar de confiar en tecnologías de detección de deep fakes que son eludidas por los desarrolladores. Para políticas ofensivas, se desaconseja el uso de deep fakes con fines de propaganda y operaciones de inteligencia, dada la posible desacreditación gubernamental. Se plantea la necesidad de estándares internacionales sobre deep fakes para evitar conflictos desencadenados por su mal uso.

Conclusión y Solución Propuesta

Ante la creciente amenaza que representan los deep fakes, se propone implementar tecnologías de autentificación de información en línea basadas en NFTs (tokens no fungibles) y blockchain. Esto permitiría verificar la autenticidad de la información en línea sin recurrir a políticas de censura estrictas. La adopción de esta tecnología podría prevenir futuros conflictos internacionales causados por la desinformación y propagación de deep fakes.