La gente utilizó la IA para hacer docenas de homenajes falsos de celebridades a Charlie Kirk. Millones les creyeron

Tres días después del asesinato público de Charlie Kirk apareció un vídeo en YouTube anunciando el debut del último sencillo de la cantautora Adele, un gran tributo al legado de la activista conservadora.

¡Descansa en paz Charlie Kirk! Una voz que sonaba algo así como la de Adele cantó por encima de un  video  mostrando a Kirk con su pequeña hija. Los ángeles cantan tu nombre. Tu historia está escrita en las estrellas, un fuego que no menguará.

Según las publicaciones de YouTube, los homenajes a las celebridades fueron abundantes. Provienen de Ed Sheeran, Eminem, Taylor Swift, Celine Dion, Lady Gaga, Rihanna, Post Malone, Dax, Lil Wayne, Jelly Roll, Selena Gomez, Justin Bieber e Imagine Dragons.

Pero ninguno de ellos era real. Todos fueron generados mediante inteligencia artificial. Y a menudo presentaban imágenes en miniatura falsas que mostraban a los artistas llorando o con expresiones de tristeza.

PolitiFact analizó 24 vídeos de YouTube que afirmaban mostrar canciones tributo dedicadas a Kirk. Combinados, estos vídeos obtuvieron más de 4,6 millones de visualizaciones y algunos se compartieron en otras plataformas.

Se atribuyeron a Ed Sheeran dos canciones tributo a Charlie Kirk. Pero fueron hechos con IA. (Captura de pantalla/YouTube)

Uno se subió el día del asesinato de Kirk y ilustra la velocidad con la que los creadores pueden generar canciones relacionadas con un evento importante.

Casi todos los videos contenían exenciones de responsabilidad que decían que contenían contenido alterado o sintético, pero muchos espectadores dejaron comentarios que demostraban que creían que estas canciones eran reales.

Gracias Justin escribió un comentarista que pensó que estaba respondiendo a Bieber.

No esperaba esto de Bieber, escribió otro.

Comentarios sobre un vídeo de YouTube titulado Justin Bieber – Te extrañaremos Charlie Kirk (Un tributo a Charlie Kirk). La canción fue hecha con IA. (Captura de pantalla/YouTube)

Los tributos musicales suenan como si hubieran llevado a una banda completa a una semana en un estudio, dijo Bryan Pardo, profesor de informática de la Universidad Northwestern y director del Laboratorio de Audio Interactivo. Esa es parte de la razón por la que la gente les cree.

La mayoría de la gente no se da cuenta de hasta dónde ha llegado el contenido generado por IA, afirmó.

tammi menendez

Los expertos dijeron que las herramientas de inteligencia artificial pueden imitar aceptablemente las voces de los artistas, especialmente cuando un oyente no ha pasado mucho tiempo escuchando a estos artistas. Pero hay formas de identificar anomalías sonoras típicas del uso de la IA.

Las herramientas pueden generar canciones rápidamente basándose en indicaciones simples, incluso aquellas similares al estilo de un artista.

Los generadores de música con IA, como Suno y Udio, se entrenan utilizando un amplio conjunto de canciones existentes. Con un breve mensaje de usuario, crean nueva música de forma rápida y económica.

PolitiFact lo probó.

Crea una canción sobre el duelo por la muerte repentina de una figura inspiradora de la política al estilo de Taylor Swift que escribimos en las indicaciones para las cuentas gratuitas de Suno y Udio. Las herramientas rechazaron las solicitudes alegando que no tienen permiso para generar la imagen de un artista.

Intentamos nuevamente usar un lenguaje más genérico: hacer una canción sobre el duelo por la muerte repentina de una figura inspiradora en la política al estilo de un cantante pop de 35 años con un grupo demográfico joven principalmente femenino.

Ambas herramientas produjeron canciones en unos instantes: dos canciones diferentes por mensaje.

(Captura de pantalla/audio)

Esto no hace felices a los músicos. Principales compañías musicales, incluidas Sony Music Entertainment, Universal Music Group y Warner Records a través de la Recording Industry Association of America.  demandado  Ambas plataformas de IA en junio de 2024 las acusaron de utilizar música con derechos de autor para entrenar sus herramientas de IA.

Suno dijo en un expediente judicial que el modelo fue entrenado utilizando decenas de millones de grabaciones, pero argumentó que el proceso constituye un uso legítimo.

Artistas como Imagine Dragons, Katy Perry, Nicki Minaj y Stevie Wonder.  argumentó en una carta de 2024 que  Entrenar robots de inteligencia artificial en el trabajo de los artistas degradará el valor de nuestro trabajo y evitará que recibamos una compensación justa por él.

Debemos protegernos contra el uso depredador de la IA para robar voces y retratos de artistas profesionales, violar los derechos de los creadores y destruir el ecosistema musical que decía la carta.

Esas herramientas utilizan tecnología similar a la utilizada por ChatGPT, dijo Tom Collins, profesor asociado de tecnología de ingeniería musical de la Universidad de Miami. Estos modelos se entrenan en conjuntos de datos masivos con el objetivo de producir un lenguaje similar al humano.

Las letras de las voces y la instrumentación pueden revelar pistas generativas de IA

Alguno  AI   artistas  han ganado seguidores y al menos un artista de IA ha  consiguió un contrato discográfico .

A través de comentarios en video como los de las canciones tributo, los fanáticos a veces muestran que no se dan cuenta de que están escuchando música creada por IA.

Estos modelos definitivamente están en una etapa en la que, si no conoces las capacidades líricas de un artista o la calidad de su voz al cantar, basándose en que conoces varias horas de escucha en una etapa anterior o reciente de tu vida, creo que puedes dejarte engañar con relativa facilidad, dijo Collins.

Entonces, ¿cuáles son algunas señales que la gente puede escuchar?

El profesor de informática e ingeniería de la Universidad Siwei Lyu de Buffalo dijo que reproducir la música en bucle durante algunas rondas puede revelar algunas anomalías. Las voces, por ejemplo, pueden sonar demasiado suaves o robóticas, contener patrones de respiración inusuales, consonantes manchadas o un vibrato irrealmente regular, dijo. Lyu analizó las canciones sin descargos de responsabilidad de la IA y encontró elementos sintéticos en el audio, incluidos cambios repentinos en la calidad y claridad vocal.

Por ejemplo, un tributo a Kirk.  canción  Atribuido falsamente a Dax y Lil Wayne comienza con una calidad vocal baja antes de cambiar a un sonido más fuerte y claro, dijo Lyu. También detectó cambios en la claridad de la voz en las marcas de tiempo 0:46 y 0:56.

Lyu y Collins dijeron que la mezcla de voces e instrumentación puede no ser tan nítida como en la versión de estudio de una pista real.

Collins comparó la creación de música con IA con la generación de imágenes: si has generado una imagen de una persona, tal vez esa persona tenga seis dedos o dos dedos que están como derretidos. Ese tipo de fusión o esa confusión, el equivalente en audio, son como notas individuales que en realidad no parecen ser una nota de guitarra o una nota de piano, sino algo intermedio.

Las letras generadas por IA suelen ser genéricas y pueden tener cambios abruptos en la calidad, dijo Lyu. Los esquemas de rima pueden ser demasiado regulares, el lenguaje puede ser cliché y la música también puede carecer de los matices emocionales que normalmente se encuentran en las actuaciones reales.

Collins dijo que las letras generadas por IA suelen ser formuladas y simplistas, ya que su objetivo es cumplir las instrucciones del mensaje. Una pregunta sobre el duelo podría producir letras que contengan las palabras velas y cielo.

El análisis de GPTZero encontró un 98% de posibilidades de que las letras de un dueto tributo supuestamente realizado por Adele y Ed Sheeran fueran generadas por IA. (Captura de pantalla/GPTZero)

Collins dijo que espera que estas herramientas se vuelvan más sofisticadas y produzcan música que sea menos fácilmente identificable como IA. Si avanzamos un par de años más, me imagino que la aproximación al mimetismo sería mucho mejor y sería incluso más difícil para mí decírselo a Collins.

Política de YouTube a partir de  2023  exige que los creadores revelen cuándo han creado contenido alterado o sintético que sea realista, incluido el uso de herramientas de inteligencia artificial. Si los creadores no revelan esa información, se les podría eliminar su contenido, suspenderlos del Programa de socios de YouTube o enfrentar otras sanciones.

En muchas de las canciones tributo esa revelación no se muestra de manera destacada; está enterrado debajo de la descripción del video y no se verá en el escritorio a menos que el espectador haga más clic.

Existe una responsabilidad en las plataformas de transmisión que realmente no están cumpliendo con la verificación, dijo Collins.

Esta verificación de hechos fue originalmente publicado por PolitiFact que es parte del Instituto Poynter. Vea las fuentes para esta verificación de hechos. aquí .

heather deforest crosby