¿Su alcalde usa ChatGPT? Aquí le mostramos cómo conocer la FOIA y descubrirlo.

El año pasado, Nate Sanford presentó una historia tonta para el semanario alternativo Inlander de Spokane sobre un senador estatal discute en Twitter con un robot de spam porno con inteligencia artificial . El bot finalmente fue suspendido después de que el alcalde de Spokane denunciara la cuenta.

Pero un empleado de la ciudad le mencionó a Sanford, ahora reportero de KNKX y Cascade PBS, que habían estado probando herramientas de inteligencia artificial en el trabajo. Ese comentario casual despertó la curiosidad de Sanford sobre cómo los gobiernos locales estaban usando realmente la inteligencia artificial generativa y condujo a una serie de investigaciones que reveló cómo los chatbots son incorporándose silenciosamente a la maquinaria del gobierno local .

Sanford utilizó extensos registros públicos de ChatGPT y registros de Microsoft Copilot de empleados de la ciudad para mostrar, entre otras cosas, que el borrador de la política de inteligencia artificial de la ciudad de Bellingham se redactó con la ayuda de ChatGPT.

Me emociono cuando veo un uso intrigante de la FOIA para desmitificar al gobierno local. Y liderando el trabajo de IA de Poynter Puedes imaginar cómo me asusté cuando vi las investigaciones de Sanford.

Así es como empiezan :

emma myers pareja

Cuando la Nación Lummi solicitó fondos para contratar a un coordinador de víctimas de delitos el año pasado, el alcalde de Bellingham, Kim Lund, envió una carta alentando al Departamento de Comercio de Washington a otorgar a la nación una subvención estatal.

La Nación Lummi tiene una sólida historia de liderazgo comunitario y un profundo compromiso con el bienestar de sus miembros, decía la carta. La incorporación de un Coordinador mejorará la capacidad de la Nación Lummi para abordar la violencia y apoyar a las víctimas de una manera significativa y culturalmente apropiada.

Pero la alcaldesa no escribió esas palabras. ChatGPT lo hizo.

Los registros muestran que la asistente de Lund introdujo la solicitud de propuestas del Departamento de Comercio en el chatbot de inteligencia artificial y le pidió que le escribiera la carta. Incluya algunos datos sobre la violencia en las comunidades nativas de los Estados Unidos o del estado de Washington en particular, agregó en su mensaje.

Las historias resaltan la necesidad de alfabetización en IA a medida que la tecnología se integra más profundamente en nuestras vidas, incluso en formas que quizás nunca veamos. Así que contacté a Sanford en una conversación por correo electrónico para descubrir por qué y cómo utilizó la Ley de Libertad de Información para obtener registros de ChatGPT y qué dicen sobre hacia dónde nos dirigimos.

Alex Mahadevan: Entonces, ¿por qué pensaste en la FOIA para los registros de chatbot? ¿Recibiste una propina? ¿Solo curiosidad?

Nate Sanford: Después de la historia del spambot porno, investigué un poco en línea para ver si era posible utilizar solicitudes de registros para obtener más información sobre el uso de la IA del gobierno local. Encontré una publicación de alguien en MuckRock que había intentado solicitar registros de IA a su departamento de policía local. Me inspiré para intentar algo similar para ver qué pasaba con los líderes del gobierno de la ciudad de Washington.

Terminé presentando solicitudes de registros en busca de registros de chatbots de casi una docena de ciudades de Washington. Básicamente estaba probando el sistema para ver si era posible.

Mahadevan: ¿Cuál fue la reacción del custodio? ¿Le costó mucho ir y venir para conseguir lo que quería?

sanford: Variaba según la ciudad. Muchos han requerido bastantes idas y venidas. Estaba claro que la mayoría de las jurisdicciones nunca antes habían abordado este tipo de solicitudes.

marlene knaus lukas lauda

Recibí una llamada de un oficial de registros que quería saber más sobre lo que estaba buscando y cómo podían ayudarme. Dijeron que era la primera vez que atendían una solicitud de ese tipo y que no estaban muy seguros de cómo procesarla. He recibido preguntas similares de varios funcionarios de registros.

Mahadevan: ¿Le sorprendió que cumplieran? ¿Le sorprende que incluso conservaran los registros? 

sanford: Realmente no estaba seguro de qué esperar.

La historia que publiqué acabó centrándose en dos ciudades de Washington: Bellingham y Everett. Terminamos centrándonos en esas ciudades porque eran las más rápidas y respondían mejor a mi solicitud de registros. No son necesariamente atípicos en el uso de la IA.

Bellingham y Everett merecen mucho crédito por actuar de buena fe y hacer todo lo posible para brindar una respuesta integral a mi (que requiere mucho tiempo) solicitud de registros. Algunas ciudades no han sido tan cooperativas ni transparentes. Soy consciente de que este tipo de solicitud es amplia y supone un gran impulso para los funcionarios de registros y los encuestados. Pero también creo que es importante para la transparencia. Los ciudadanos tienen derecho a saber cómo sus representantes utilizan estas herramientas.

Mahadevan: ¿Le sorprendió el uso generalizado de ChatGPT que encontró?

sanford: Sabía que la tecnología estaba muy extendida en el sector privado. Esperaba que también estuviera presente en el gobierno, pero realmente no esperaba que estuviera tan extendido. No había escuchado ninguna comunicación pública de los gobiernos sobre cómo lo usarían o si lo usarían.

Mahadevan: ¿Cuáles son algunos consejos que le daría a otro periodista local que quiera hacer lo mismo?

sanford: La primera vez que intenté presentar estas solicitudes de registros, intenté solicitar registros de chat de todos los chatbots de IA que el personal de la ciudad había utilizado. Los oficiales de registros me dijeron que eso era demasiado vago y expansivo. Para simplificar, terminé limitando las solicitudes a ChatGPT, el chatbot más popular del mundo.

Solicitar registros de ChatGPT fue fructífero, pero en el futuro creo que solicitar registros de chat de Copilot será aún más valioso. Microsoft puso su chatbot a disposición de clientes gubernamentales a principios de este año y muchas jurisdicciones ahora están instruyendo al personal a usar Copilot únicamente. Recomiendo que los periodistas busquen registros de Copilot y ChatGPT. (Dependiendo de cuánto tiempo tenga, también podría valer la pena presentar solicitudes adicionales de registros a Claude Grok, etc.)

karla homolka hoy

Cuando comencé a presentar solicitudes, algunos empleados de la ciudad respondieron simplemente tomando capturas de pantalla de cada conversación de ChatGPT que habían tenido, a veces en su teléfono móvil. Esto fue increíblemente caótico y difícil de resolver. También significaba que no podía ver la fecha en que se enviaron los mensajes ni el orden en el que debían estar.

Para facilitar las cosas, comencé a pedirles a los funcionarios de registros que enviaran instrucciones al personal de la ciudad sobre cómo exportar sus historiales de ChatGPT a una carpeta comprimida. El formato de archivo .ZIP es ideal porque te brinda:

Las marcas de fecha están en tiempo Unix, por lo que deberá utilizar un convertidor en línea gratuito para descifrarlas.

Si la solicitud tarda un poco, recomiendo absolutamente llamar a los oficiales de registros para explicarles lo que está buscando y preguntarles cómo pueden ayudar a facilitar su trabajo. Las ciudades que han respondido mejor a mi solicitud hasta ahora (Bellingham y Everett) respondieron enviando un correo electrónico literalmente a todos los empleados de la ciudad pidiéndoles que entregaran su historial de ChatGPT. Les llevó unos cinco meses cerrar la solicitud.

El volumen de registros devueltos en respuesta a mis solicitudes fue . Recomendaría que los periodistas encuentren un sistema de gestión de archivos que les funcione desde el principio para no perder la pista de los documentos. Organicé las cosas tomando una captura de pantalla de cada mensaje interesante que encontré y guardándolas en un grupo de carpetas del escritorio organizadas por ciudad/tema. La mayoría de los registros de chat regresaron como archivos HTML que le permiten buscar palabras clave.

Mahadevan: ¿Cómo fueron tus solicitudes?

sanford: Aquí tienes una plantilla. Recomendaría reducir un poco el alcance si busca algo específico y espera obtener una respuesta más rápida.

De conformidad con la Ley de Registros Públicos de Washington, solicito los siguientes registros:

Historiales de chat de todas las sesiones de ChatGPT realizadas por empleados de la ciudad en dispositivos propiedad de la ciudad o utilizados en funciones relacionadas con el trabajo en los siguientes departamentos: Ayuntamiento Oficina del Alcalde Policía Fiscal de la ciudad Obras Públicas Tecnología de la información TKTKTK y TKTKT.

El plazo para esta solicitud es el 6 de enero de 2023 hasta la fecha en que se procesa esta solicitud. Los documentos solicitados se pondrán a disposición del público en general y esta solicitud no se realiza con fines comerciales. Por favor, haga que los registros estén disponibles en cuotas a medida que estén listos para publicarse.

Si le resulta útil, comparta con los encuestados las siguientes instrucciones para exportar historiales de ChatGPT:

Mahadevan: ¿Algún registro de chat interesante que no haya aparecido en la historia?

hijos del dr pol

sanford: ¡Había tantos!

Creo que el borrador original que entregué tenía casi 10.000 palabras. Agradezco a mis editores por ayudarme a recortarlo.

Hubo muchas pequeñas tonterías. También hubo muchos ejemplos realmente interesantes que arrojaron luz sobre cómo piensan los líderes de las ciudades sobre diversas cuestiones políticas. Fue esclarecedor ver qué temas aparecían con mayor frecuencia. (Washington tiene una enorme crisis de vivienda y hubo numerosos ejemplos de funcionarios que pidieron consejo a ChatGPT sobre cómo aumentar la asequibilidad de la vivienda).

Muchos de los chats tenían información personal confidencial que era realmente interesante pero no necesariamente lo suficientemente interesante como para que la publicáramos.

rayna tyson

Hay algunos registros de chat que conservamos porque plantean cuestiones legales y requieren más informes antes de que podamos publicarlos.

Mahadevan: ¿Qué tipo de recepción ha recibido por parte de la comunidad?

sanford: ¡La acogida ha sido realmente positiva! Está claro que la mayoría de la gente no tenía idea de que los líderes de sus gobiernos locales estaban usando la IA de esta manera. La historia provocó editoriales de periódicos en ambos Bellingham y Everett pidiendo a los líderes de las ciudades que aborden la IA con más cautela.

La IA generativa es una tecnología tan nueva que no existe un consenso real sobre cuáles deberían ser las normas. ¿Importa que el asistente del alcalde haya usado ChatGPT para escribir una carta a un congresista? ¿O que el personal de comunicaciones lo utilizó para responder correos electrónicos de los electores? Hemos escuchado a muchos lectores que están molestos por eso, pero también a personas que dicen que no les importa. Creo que ambas perspectivas son válidas. Es realmente interesante ver a la gente debatir sobre dónde debería estar la línea.

Está claro que los gobiernos locales han estado experimentando con esta tecnología durante algún tiempo, pero no ha habido mucho debate público al respecto. Me alegra ver que la historia ha provocado un debate realmente sólido.

También he escuchado a muchos reporteros en redacciones de todo el país que planean copiar la solicitud de registros en sus respectivas jurisdicciones.

Mahadevan: ¿Tiene algún otro seguimiento planeado?

sanford: Tengo varios seguimientos planeados. Sigo recibiendo periódicamente nuevos pagos de otras jurisdicciones de Washington. Hay algunos registros de chat específicos que hemos obtenido y que requieren más informes antes de que podamos publicarlos.

Mahadevan: ¿Utiliza usted personalmente la IA generativa para algo?

sanford: Técnicamente no es IA generativa, pero uso Otter.ai todos los días para transcribir entrevistas. Es increíblemente útil.

Experimenté con ChatGPT para generar ideas para titulares, pero ninguna de sus sugerencias me impresionó mucho. Lo encontré útil para algunas preguntas relacionadas con la computadora o la codificación, pero no me siento cómodo usándolo para escribir.

Creo que probablemente hay formas en que la IA generativa puede ser útil para las redacciones, pero sigo siendo bastante cauteloso al respecto. Me preocupa la exactitud, la confianza del público y el plagio.