El Papa Francisco pidió la verdad. Internet respondió con deepfakes.

El Papa Francisco, que murió el lunes a los 88 años, fue un cronista improbable del ajuste de cuentas del mundo con información falsa en línea.

emily frlekin

Francisco describió los daños sociales de la desinformación en 2018 y rastreó el origen de las noticias falsas hasta las tácticas de serpientes del Jardín del Edén que llevaron al pecado original.

No existe la desinformación inofensiva; por el contrario, confiar en la falsedad puede tener consecuencias nefastas, escribió el 24 de enero de 2018.  para el Día Mundial de las Comunicaciones Sociales . Incluso una distorsión aparentemente leve de la verdad puede tener efectos peligrosos.

Francisco aplaudió la búsqueda periodística de la verdad y llamó a enseñar a la gente a discernir, evaluar y comprender nuestros deseos e inclinaciones más profundas para no perder de vista lo que es bueno y ceder a cada tentación.

No se dijo su papel protagónico en contenido fabricado y manipulado durante la última década, desde las elecciones presidenciales de 2016 que popularizaron el término noticias falsas hasta la imagen del abrigo papal que lanzó 1 millón de artículos de opinión sobre la inteligencia artificial generativa.

El 21 de octubre de 2016, menos de tres semanas antes de las elecciones presidenciales de Estados Unidos, apareció un sitio web llamado WTOE 5 News.  publicó el titular El Papa Francisco conmociona al mundo respalda a Donald Trump en su declaración presidencial.

El cuento tenía rastros que sugerían periodismo acreditado (un nombre y un sitio web que se parecía a un medio local, una declaración del Vaticano, la firma de un periodista), pero  nada de eso era real . El sitio publicó contenido satírico que reveló en su página Acerca de. El contexto falso se perdió hace mucho tiempo cuando la historia y el titular viajaron por la web.

La historia de respaldo falso tuvo la mayor participación de cualquier historia electoral real o falsa en Facebook en los últimos tres meses de las elecciones de noviembre de 2016.  BuzzFeed News informó .

Libro del Papa sobre noticias falsas frente a la Basílica de San Pedro en Roma el miércoles 24 de enero de 2018. (Foto AP/Andrew Medichini)

Un año antes, un sitio web llamado National Report  difundir una historia falsa  que Francisco respaldó la candidatura demócrata del senador Bernie Sanders a la presidencia. El ciclo de noticias falsas se repitió con sitios web incompletos y publicaciones virales en las redes sociales que distorsionaron la visión de Francisco.  opiniones sobre armas proclamando dijo a come lo que quieras para Semana Santa y matarlo con engaños de muerte  años antes  él murió.

En marzo de 2023  El momento que incita a la desinformación papal  fue visual: fotos de Francis saliendo con un abrigo acolchado blanco estilo Balenciaga con una gorra blanca a juego. Sólo los espectadores estudiosos notarían el signo revelador de manipulación de inteligencia artificial en las manos destrozadas de la imagen. Fue realizado con una herramienta de IA generativa Midjourney y  publicado en Reddit antes de que engañara a mucha gente.

Muchos de los primeros en adoptar herramientas de inteligencia artificial generativa visual eligieron a Francisco como su musa y pusieron al octogenario en situaciones poco probables pero que parecían reales (conducir una motocicleta para asistir a Burning Man) The New York Times  reportado . El atractivo de Francisco fue su reconocimiento generalizado después de una década como Papa y su accesibilidad combinada con la llegada de programas de inteligencia artificial fáciles de usar y disponibles.

Se esperaba que los periodistas cubrieran en 2024 una elección de IA dominada por sofisticados videos deepfake que podrían influir en los votantes en una elección reñida. No resultó el camino  temíamos porque las noticias electorales falsas se basaban en su mayoría en los mismos viejos trucos. Pero eso no disminuye el poder de la foto falsa del Papa para abrirnos los ojos a lo que podría ser.

La llegada de noticias falsas en 2016 marcó una nueva era en la integridad de la información en Internet, lo que llevó a Facebook (ahora Meta) a solicitar la ayuda de verificadores de datos independientes para ayudar a identificar y frenar el alcance del contenido falso. el programa  en el que PolitiFact participó de principio a fin  maduró a medida que los enlaces falsos a sitios web explotaron en publicaciones de texto falsas, fotos y videos que luego se convirtieron en contenido manipulado por IA.

Meta puso fin al programa de verificación de datos de terceros en 2025 y lo reemplazó con un sistema de notas de la comunidad que se basa en envíos voluntarios de usuarios siguiendo el modelo del programa desarrollado por X. TikTok está haciendo su  propia versión  aunque también utiliza verificadores de datos profesionales.

En su mensaje de 2018, Francisco describió la responsabilidad de los periodistas como informantes del mundo para promover informes precisos y confiables. Llamó a todos a promover un periodismo de paz.

Más que nunca, el futuro de la integridad de la información depende de que la gente común busque la verdad y proporcione información correctiva en el ámbito público.

Tómelo del mensaje de Francisco:

Los mejores antídotos contra las falsedades no son las estrategias sino las personas: personas que no sean codiciosas sino dispuestas a escuchar; personas que se esfuercen en entablar un diálogo sincero para que la verdad pueda surgir; personas que se sienten atraídas por la bondad y se responsabilizan de cómo utilizan el lenguaje.

Esta verificación de hechos fue originalmente publicado por PolitiFact que es parte del Instituto Poynter.