Detectar las agujas dañinas en el pajar: cómo los verificadores de datos seleccionan qué verificar

En julio, la organización de verificación de datos con sede en Londres Hecho completo usado herramientas de inteligencia artificial para escanear el debate público en los medios y en línea. Identificaron un promedio de 240437 contenidos que circulan cada día y que serían posibles para Full Fact o para una de una docena de otras organizaciones de verificación de datos que utilizan sus herramientas para verificar los datos. 

eva chambers

Por supuesto, no todas las afirmaciones falsas tienen la misma importancia. Nuevamente, utilizando herramientas de inteligencia artificial, Full Fact pudo eliminar más del 99% de aquellos que no eran relevantes ni importantes para que la organización los verificara: opiniones, predicciones, afirmaciones repetidas o sobre un tema tan abstracto que tenía pocas posibilidades de tener un impacto. 

Dado que la tecnología había reducido el grupo de selección a varias docenas de afirmaciones que podrían ser buenas para verificar, los verificadores de datos aún tenían que decidir qué afirmaciones verificar teniendo en cuenta el impacto potencial de la prominencia de la afirmación y otros factores. Full Fact, el verificador de datos independiente más grande del Reino Unido, escribe un máximo de 10 verificaciones de datos detalladas y completas por día. 

Mayoría organizaciones de verificación de hechos siguen un proceso muy similar: utilizar una combinación de búsqueda digital y conocimiento humano para examinar innumerables afirmaciones y centrarse en aquellas que consideren más importantes. 

Para ello hemos desarrollado un modelo riguroso basado en daños para seleccionar reclamaciones importantes a comprobar. En un ensayo que llevamos a cabo el año pasado, sacamos conclusiones útiles sobre las posibles consecuencias de afirmaciones falsas específicas para los individuos y la sociedad utilizando una combinación de evidencia establecida en verificaciones de hechos de buena calidad e investigaciones preexistentes.

Según un estudio independiente de nuestro ensayo Realizado por investigadores de doctorado de la Universidad de Wisconsin-Madison, el modelo constituye la base de una forma para que los verificadores de datos seleccionen las afirmaciones más importantes con el mayor potencial de daño.

Afirmaciones de “sesgo” y el problema del falso equilibrio 

El 7 de enero, el jefe de Meta, Mark Zuckerberg entró en la pelea en torno a la verificación de datos afirmando que los verificadores de datos estadounidenses estaban demasiado sesgados políticamente debido a las afirmaciones que deciden verificar. Detuvo el uso de verificadores de datos independientes por parte de Meta en los Estados Unidos e insinuó planes para hacer lo mismo en todo el mundo.

Por supuesto, el mundo es un caos, lo que resulta inconveniente para los verificadores de hechos. Los políticos no dicen mentiras en cantidades netamente simétricas. Algunos hacen declaraciones comprobables más contundentes que otros. Algunos simplemente hablan más. Y algunas afirmaciones importan más que otras. Mientras tanto, los entornos políticos en todo el mundo también varían enormemente. Algunos países tienen efectivamente un partido, otros tienen dos y muchos son multipartidistas de una manera que hace inverosímil la idea de un simple equilibrio 50/50.  

spencer gooding

El Código de principios de la Red Internacional de Verificación de Datos rige cómo operan sus verificadores de datos miembros para reflejar esta realidad. Los verificadores de hechos se comprometen a no lograr un equilibrio artificialmente perfecto, sino a no concentrarse indebidamente en ningún lado y deben explicar cada año cómo realizan esta tarea más difícil.

Cómo funciona esto en el mundo real: perjudica el alcance de la audiencia y el escrutinio de los poderosos 

Antes de la anual Conferencia GlobalFact en junio en Brasil 70 de las principales organizaciones de verificación de datos del mundo respondieron a una encuesta que enviamos identificando en sus respuestas los factores que tienen en cuenta a la hora de elegir qué comprobar cada día.

bess katramados

Las respuestas mostraron los tres factores clave: daño; el alcance del reclamo; y el poder de quienes lo hicieron. El factor citado con más frecuencia fue que la afirmación puede tener potencial para causar un daño específico; ahora o pronto fue reportado como un factor por el 93% de los encuestados. El segundo informe reportado por el 83% de las organizaciones es si la afirmación tiene un gran alcance de audiencia y, por lo tanto, la verificación de datos podría promover habilidades de verificación de datos. Muy cerca, el 81% informó si el reclamo procedía de alguien influyente. Los verificadores de hechos tienden a verificar el partido o los partidos en el poder más que los de la minoría o la oposición. 

Otras respuestas mostraron que los verificadores de datos tienen en cuenta consideraciones prácticas y la posibilidad de que las afirmaciones contribuyan a causar daños en el futuro. Más de un tercio (71%) de los encuestados considera si la reclamación es factible de comprobar. Más de la mitad (54%) dice que tienen en cuenta la posibilidad de que el reclamo cause daño en el futuro. Y poco menos de la mitad (47%) tiene en cuenta las solicitudes de los lectores. 

El aspecto político de la reclamación es el factor principal peor clasificado: sólo el 26% de los encuestados lo considera en su elección.  

Un ensayo encuentra que un modelo predictivo ayuda a los verificadores de datos a centrarse en afirmaciones perjudiciales

Predecir el clima es difícil. Predecir los efectos de la información sobre el comportamiento es más difícil, como lo han demostrado décadas de investigación académica. 

Cuando se les pide que identifiquen afirmaciones falsas específicas como potencialmente dañinas o no, la mayoría de las personas los verificadores de datos incluidos sobrestiman el potencial de que muchas afirmaciones causen o contribuyan a consecuencias sustanciales. un nuevo libro revisado por pares Noticias falsas: ¿Cuál es el daño? por Peter Cunliffe-Jones argumenta. 

Y sin embargo, como el libro y numerosos otros estudios muestran Las consecuencias en el mundo real de la información falsa suelen ser graves. Este potencial de efectos específicos se ha demostrado una y otra vez desde daños generalizados a la salud individual y pública, violencia de los vigilantes, guerras y conflictos y distorsiones de la democracia hasta efectos negativos en la economía, el sistema de justicia y la salud mental de las personas. 

Pero ¿qué pasa con la escala?

Aún así, la gran cantidad de información errónea disponible en el mundo sigue siendo desalentadora. Parte de la respuesta reside, por supuesto, en el diseño y la regulación de los medios y las plataformas en línea. Parte radica en la alfabetización mediática. En términos de identificar para el público qué es verdadero o falso a escala en este momento, tenemos dos rutas principales.

Uno son los sistemas Community Notes utilizados por las plataformas operadas por X en todo el mundo y por TikTok y Meta en los Estados Unidos. Estas empresas dicen que el sistema puede abordar la factibilidad del contenido evaluado a una escala que va más allá de lo que pueden hacer los verificadores de datos profesionales basándose en el consenso de la audiencia. Por más útil que esto pueda ser, el modelo no está diseñado en torno al potencial de las reclamaciones para causar daño. 

april dubois

Por lo tanto, la otra ruta es el uso de la IA para cotejar las verificaciones de hechos con contenido nuevo y existente que difunda afirmaciones iguales o muy similares. Las plataformas utilizan este proceso desde hace mucho tiempo. De acuerdo a a un informe de la UE Meta utilizó IA de coincidencia de afirmaciones para etiquetar 27 millones de publicaciones adicionales durante un período de seis meses en 2024. No es una ciencia perfecta, pero las grandes plataformas en línea con los recursos y la experiencia en IA deberían seguir invirtiendo en cómo agregar este contexto vital a más de las afirmaciones más importantes realizadas.

El número de personas involucradas en este campo es enorme. Las notas de la comunidad pueden ayudar a las plataformas a abordar los hechos con mayor frecuencia. Los verificadores de hechos buscan centrarse en verificar la información potencialmente dañina que ven en línea en los medios y en el debate público más amplio; proporcionando al público información vital para mantenerlos seguros. Las plataformas pueden respaldar este trabajo trabajando con ellas y amplificando inteligentemente ese trabajo para garantizar que cada verificación de datos escrita funcione lo más duro posible para brindar a las personas el contexto que necesitan para comprender el mundo que las rodea.