Con los deepfakes cada vez más sofisticados, es más difícil que nunca distinguir entre lo que es real y lo que no. Hoy, le informaremos sobre algunos signos reveladores que lo ayudarán a detectar videos falsos profundos. Con estas herramientas en la mano, esperamos que no se convierta en una víctima involuntaria de noticias falsas y teorías de conspiración. También le daremos una idea sobre la tecnología deepfake, cómo funciona y cómo la utilizan los propagandistas y los teóricos de la conspiración para difundir desinformación e influir en los internautas para que crean falsedades.
Detecte videos falsos profundos para evitar desinformación y teorías de conspiración
Actualmente, los deepfakes son utilizados en gran medida por aficionados para transformar rostros de celebridades en videos para adultos, y por elementos políticos desagradables para difundir noticias falsas. Sin embargo, los expertos están preocupados por usos aún más peligrosos de la tecnología en un futuro no muy lejano. Entonces, aquí enumeramos algunas de las formas de ayudarlo a detectar videos falsos profundos para evitar que se convierta en víctima de desinformación maliciosa.
¿Qué son los vídeos falsos profundos?
Una combinación de los términos “aprendizaje profundo” y “falso”, los deepfakes se refieren a medios manipulados que usan inteligencia artificial o técnicas de aprendizaje profundo para crear audio o videos que distorsionan la realidad. La tecnología utiliza redes neuronales artificiales para crear videos hiperrealistas que parecen mostrar a personas diciendo o haciendo algo que no hacían en la vida real. Los ejemplos más virulentos incluyen videos transformados con la ayuda del aprendizaje automático para poner palabras en boca de los políticos. Esto se utiliza para crear confusión sobre sus políticas e influir en las elecciones.
Otro uso tóxico de las falsificaciones profundas es transformar los rostros de las celebridades en videos para adultos en violaciones masivas de la privacidad y la dignidad. Deepfakes se ha convertido en un problema masivo en los últimos años y solo empeora con la disponibilidad de hardware más rápido y software más incisivo. La tecnología ha ganado notoriedad en los últimos tiempos por su uso extensivo en videos pornográficos, noticias falsas y engaños elaborados.
Sin embargo, no todos los usos de los deepfakes son sombríos, como lo demuestra el siguiente video que fue creado por el académico del MIT, Alexander Amini, para hacer reír a sus estudiantes. Aparentemente, muestra al ex presidente de los EE. UU., Barack Obama, invitando a los estudiantes a unirse a la conferencia de Amini sobre aprendizaje profundo en la universidad. Sin embargo, es un deepfake de principio a fin, como reveló claramente el investigador en su canal de YouTube.
¿Cómo funcionan las falsificaciones profundas?
Deepfakes se basa en una red neuronal artificial llamada ‘autocodificador’, que se utiliza para aprender codificaciones de datos eficientes sin supervisión. Por lo general, se usa para el reconocimiento facial, así como para encontrar el significado semántico de las palabras, etc. En el caso de los videos falsos, la tecnología primero usa un codificador para entrenar una red neuronal en muchas horas de imágenes de video reales del individuo objetivo. . Luego, un decodificador reconstruye una nueva imagen utilizando información clave sobre sus rasgos faciales y postura corporal. Esto ayuda al algoritmo a superponer las características faciales y físicas del objetivo en la persona del video original.
Una tecnología bien conocida en este sentido es una clase especializada de algoritmos de aprendizaje profundo llamada red adversarial generativa. GAN a menudo se agrega al decodificador para obtener resultados más precisos. Una GAN entrena al decodificador y al discriminador de manera que el primero crea nuevas imágenes a partir del material de origen, mientras que el segundo determina si la imagen recién creada coincide o no con el metraje real. Esto hace que el generador cree imágenes que imitan la realidad extremadamente bien, porque el algoritmo contradictorio detecta cualquier defecto.
Esto hace que los deepfakes sean extremadamente difíciles de combatir, ya que están en constante evolución. Cada vez que aparece un defecto, se puede corregir automáticamente mediante el aprendizaje automático. Como no requiere ningún aporte humano, GAN se ha convertido en la mejor opción para la mayoría de los creadores de deepfakes. Sin embargo, la tecnología es complicada y requiere mucho más tiempo y datos para crear composiciones realistas. Además, si bien las GAN son buenas para sintetizar imágenes, tienen dificultades para preservar la consistencia temporal, lo que significa que necesitan la intervención humana para mantener la alineación de las imágenes de un cuadro al siguiente.
¿Qué son los videos falsos superficiales?
Un video falso superficial es una versión manipulada de un video real existente, creado para proyectar una realidad distorsionada. Esto a menudo incluye la edición selectiva, la manipulación de la velocidad de los discursos o conversaciones de las personas e incluso cambiar la tonalidad para que suene como si alguien estuviera enojado, intoxicado o burlándose de un tema serio, cuando nada de eso es cierto.
Un caso reciente notable incluye el notorio video modificado de la presidenta de la Cámara de Representantes de EE. UU., Nancy Pelosi, cuyo video falso y superficial ralentizó su discurso para que pareciera ebria. Estos videos son diferentes de los deepfakes en la medida en que son videos reales manipulados con herramientas tradicionales de edición de video en lugar de algoritmos de IA.
Deepfakes: Historia y Aplicaciones
Las técnicas de manipulación de fotografías se inventaron originalmente a finales del siglo XIX. La tecnología mejoró constantemente a lo largo del siglo XX antes de que la explosión de la IA y las tecnologías de aprendizaje automático la convirtieran en un problema masivo para los internautas de todo el mundo. Las técnicas de manipulación de video infundidas con IA han sido ampliamente estudiadas por investigadores desde la década de 1990, y muchos de los métodos han sido adoptados desde entonces por cineastas de todo el mundo.
Uno de los ejemplos más conocidos de deepfakes utilizados en la industria del entretenimiento convencional fue la resurrección del difunto actor Paul Walker para Rápido y Furioso 7 en 2015. Sin embargo, mientras que docenas de expertos tardaron varias semanas en crear una recreación creíble de Walker, ahora la mayoría de los aficionados con muy pocos conocimientos de codificación tardan solo unas horas (o, a veces, incluso menos) en crear nuevos videos falsos usando nuevas técnicas y algoritmos. El fenómeno entró en la conciencia pública por primera vez en 2017 cuando un usuario de Reddit usó deepfakes para crear y publicar videos porno falsos de celebridades.
Peligros de los videos falsos
Los videos falsos son un peligro para los usuarios desprevenidos que pueden ser bombardeados con imágenes de un supuesto evento desestabilizador, como una guerra o un ataque terrorista que nunca sucedió. Puede causar resentimiento y descontento en la sociedad, lo que lleva a un aumento de los ataques por motivos políticos basados en las identidades raciales, religiosas y étnicas de las personas. La tecnología también podría usarse para difundir FUD (miedo, incertidumbre y duda) sobre desastres naturales, causando un pánico generalizado. Los expertos también predicen que, si no se controlan, estos videos pueden provocar profundas crisis políticas e incluso alterar las relaciones internacionales.
Otro problema importante que ya ha asumido proporciones pandémicas es la amenaza contra las mujeres desprevenidas. Conocidos a menudo como pornografía no consensuada, los videos para adultos falsificados supuestamente representaron más del 90% de todos los deepfakes en Internet en 2019. Si bien comenzó con videos transformados que mostraban a celebridades como Gal Gadot y Alexandra Daddario, desde entonces se ha expandido para apuntar a mujeres comunes como parte de campañas falsas de pornografía de venganza.
¿Cómo detectar videos falsos profundos?
Detectar videos falsos profundos es un trabajo que incluso los expertos a menudo encuentran difícil sin las herramientas adecuadas. Sin embargo, los investigadores del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) han presentado varias sugerencias que pueden ayudar a la gente común a diferenciar entre videos reales y videos falsos. Según ellos, uno debe prestar mucha atención a la cara al intentar verificar si un video de un sujeto humano es real o falso. Eso se debe a que las manipulaciones deepfake de alta gama son casi siempre transformaciones faciales.
los Las áreas de la cara a las que se debe prestar más atención son las mejillas y la frente. ¿La piel parece demasiado suave o demasiado arrugada? ¿Es la edad de la piel similar a la edad del cabello y los ojos? “DeepFakes a menudo son incongruentes en algunas dimensiones”, dicen los investigadores. Del mismo modo, los ojos y las cejas también pueden ser signos reveladores para los detectores de falsificación profunda experimentados. Esto se debe a que, según los investigadores, las sombras en los videos deepfake no siempre aparecen en los lugares que esperarías. “DeepFakes a menudo no representa completamente la física natural de una escena”ellos dicen.
Otra característica que es un claro indicativo es el vello facial. Deepfakes puede agregar o eliminar bigote, patillas o barba, pero a menudo no logran que las transformaciones del vello facial se vean completamente naturales. Lo mismo ocurre con los lunares faciales que a menudo no se ven lo suficientemente naturales en las falsificaciones profundas. El tamaño y el color de los labios también podrían dar una pista sobre la validez de un video. La frecuencia y la velocidad del parpadeo también podrían decir mucho sobre si un video es real o falso. El parpadeo anormalmente frecuente o poco frecuente podría indicar la falsedad profunda de un video.
Según los investigadores del MIT, los deepfakes de alta calidad no son fáciles de detectar, pero “Con la práctica, las personas pueden desarrollar la intuición para identificar qué es falso y qué es real”. Los investigadores también crearon una página web completa donde la gente puede subir videos y tratar de adivinar si son reales o falsos. Puede probar sus habilidades de detección de deepfakes en MIT Detectar falsificaciones sitio web.
Deepfakes: Prevención y Acción Legislativa
Varios países de todo el mundo ya están tratando de abordar el peligro claro y presente que representan los deepfakes infundidos con IA. Si bien China prohibió los videos falsos profundos en 2019, el estado de California, EE. UU., también introdujo una legislación similar a principios del mismo año para ilegalizar los videos falsificados políticos, prohibiendo la creación o distribución de videos, imágenes o audio manipulados de políticos dentro de los 60 días de una elección. . Desde entonces, otros estados de EE. UU., incluidos Texas y Virginia, también han criminalizado la pornografía falsa. En diciembre de 2019, el presidente Trump firmó la primera ley federal del país para combatir las falsificaciones profundas como parte de la Ley de Autorización de Defensa Nacional de 2020.
Mientras tanto, en India no existen leyes específicas sobre los medios falsos. De hecho, las leyes relacionadas con los algoritmos de inteligencia artificial son, en el mejor de los casos, incompletas. Uno de los usos más notables de las falsificaciones profundas en el país se vio durante las elecciones de Delhi de 2020, cuando la Célula de TI del BJP publicó un video de campaña oficial que pretendía mostrar a su principal candidato a ministro, Manoj Tiwari, apelando a los votantes en hindi, haryanvi e inglés. . El problema es que solo el video en hindi era real, mientras que los otros dos eran clips falsos fabricados con el video original para llegar a una muestra representativa más grande de votantes.
Evite la propagación de desinformación al detectar videos falsos profundos
Alguna vez reservada para las producciones multimillonarias de Hollywood y las agencias y organizaciones patrocinadas por el estado, las falsificaciones profundas se han democratizado cada vez más en los últimos tiempos. Esto permite a los internautas habituales crear deepfakes utilizando aplicaciones y sitios web falsos. Con el aumento astronómico de las falsificaciones profundas en los últimos años, poder detectarlas es más importante que nunca.
Esperamos que la información aquí haya ayudado a darle una idea más holística de la tecnología, las amenazas que plantea y las señales a tener en cuenta para detectar mejor los videos falsos profundos en el futuro. Entonces, ¿alguna vez ha sido víctima de deepfakes de grupos de acción política desagradables o teóricos de la conspiración? Háganos saber en los comentarios a continuación.
