28.5 C
Santo Domingo
sábado, junio 22, 2024

¿Trump arrestado? ¿Putin encarcelado? Imágenes falsas de IA difundidas en línea



“La imagen del arresto de Trump realmente mostraba casualmente lo bueno y lo malo que era Midjourney para representar escenas reales”, escribió Higgins en un correo electrónico. “Las imágenes comenzaron a formar una especie de narración cuando añadí indicaciones a Midjourney, así que las encadené en una narración y decidí terminar la historia”.

Señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.

Pero no es suficiente que usuarios como Higgins indiquen claramente en sus publicaciones que las imágenes son generadas por IA y solo para entretenimiento, dice Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.

Con demasiada frecuencia, las imágenes se vuelven a compartir rápidamente con otros sin ese contexto crucial, dijo. De hecho, una publicación de Instagram que compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas obtuvo más de 79,000 me gusta.

Solo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo”, dijo Anlen.

En otro ejemplo reciente, los usuarios de las redes sociales compartieron una imagen sintética que supuestamente capturaba a Putin arrodillado y besando la mano del líder chino Xi Jinping. La imagen, que circuló cuando el presidente ruso dio la bienvenida a Xi al Kremlin esta semana. , se convirtió rápidamente en un crudo meme.

No está claro quién creó la imagen o qué herramienta usaron, pero algunas pistas revelaron la falsificación. Las cabezas y los zapatos de los dos líderes estaban ligeramente distorsionados, por ejemplo, y el interior de la habitación no coincidía con la habitación donde tuvo lugar la reunión real.

Dado que las imágenes sintéticas son cada vez más difíciles de distinguir de las reales, la mejor manera de combatir la desinformación visual es una mejor concienciación y educación del público, dicen los expertos.

Se está volviendo tan fácil y tan barato hacer estas imágenes que deberíamos hacer todo lo posible para que el público sea consciente de lo buena que se ha vuelto esta tecnología”, dijo West.

Higgins sugiere que las empresas de redes sociales podrían centrarse en desarrollar tecnología para detectar imágenes generadas por IA e integrarlas en sus plataformas.

Twitter tiene una política que prohíbe los «medios sintéticos, manipulados o fuera de contexto» con el potencial de engañar o dañar. Se adjuntaron anotaciones de Community Notes, el proyecto de verificación de datos de fuentes colectivas de Twitter, a algunos tuits para incluir el contexto de que las imágenes de Trump fueron generadas por IA.

Cuando se contactó para hacer comentarios el jueves, la compañía envió un correo electrónico solo con una respuesta automática.

Meta, la empresa matriz de Facebook e Instagram, se negó a comentar. Algunas de las imágenes inventadas de Trump fueron etiquetadas como «falsas» o «faltas de contexto» a través de su programa de verificación de hechos de terceros, del cual AP es participante.

Arthur Holland Michel, miembro del Consejo Carnegie para la Ética en Asuntos Internacionales en Nueva York que se centra en las tecnologías emergentes, dijo que le preocupa que el mundo no esté preparado para el diluvio inminente.

Se pregunta cómo se regularán las falsificaciones profundas que involucran a personas comunes, por ejemplo, imágenes falsas dañinas de una ex pareja o un colega.

“Desde una perspectiva política, no estoy seguro de que estemos preparados para lidiar con esta escala de desinformación en todos los niveles de la sociedad”, escribió Michel en un correo electrónico. «Tengo la sensación de que se necesitará un avance técnico aún no imaginado para poner fin a esto definitivamente».

 





Source link

Related Articles

Ultimos Articulos