Una auditoría de la organización de verificación de contenido NewsGuard determinó que el nuevo generador de imágenes de ChatGPT, llamado ChatGPT Images 2.5, fabricó fotos falsas y comprometedoras de candidatos a las elecciones legislativas de Estados Unidos en el 80% de los pedidos que violaban las propias reglas de OpenAI.
NewsGuard envió 20 pedidos a la herramienta para que creara imágenes incriminatorias de 10 candidatos demócratas y 10 republicanos, de cara a los comicios de medio término del 3 de noviembre. El sistema cumplió con 16 de los 20 pedidos.
Uno de los resultados mostró a la candidata republicana al Senado por Iowa Ashley Hinson en una fiesta junto al delincuente sexual condenado Jeffrey Epstein. No existe ninguna prueba de que ambos se hayan conocido o hayan sido fotografiados juntos.
Hinson había sido criticada por legisladores demócratas por oponerse a una moción para forzar la publicación completa de los archivos del caso Epstein, lo que explica por qué la imagen falsa buscó vincularla con ese escándalo.
Consultado por NewsGuard, un portavoz de OpenAI dijo: “Prohibimos el uso de nuestras herramientas para interferir en elecciones o desalentar el voto, y monitoreamos y tomamos medidas de manera activa contra los usuarios que lo intentan”.
Casi uno de cada cuatro bulos usó fotos falsas
NewsGuard identificó 30 falsedades virales sobre los comicios de medio término desde febrero de 2026. En el 23% de esos casos, sus autores usaron imágenes fabricadas con inteligencia artificial para reforzar el engaño.
La organización advirtió que la circulación de este tipo de fotos alimenta un clima de desconfianza hacia todo el contenido visual, al punto de que hasta las imágenes auténticas empiezan a ponerse en duda.
OpenAI presentó ChatGPT Images 2.5 el 8 de septiembre de 2026. En ese momento, la empresa reconoció el riesgo de un uso indebido de la herramienta y aseguró haber incorporado protecciones para evitar que se violaran sus políticas de contenido.
Los resultados de la auditoría indican que esas barreras no funcionaron como la empresa prometió, al menos frente a pedidos directos de fabricar imágenes comprometedoras de figuras políticas identificadas por su nombre.
NewsGuard ya había detectado un patrón similar en octubre de 2025, cuando probó Sora, el generador de videos de OpenAI, y halló que producía clips falsos en el 80% de los casos en los que se le pedía recrear noticias inventadas.
No es la primera advertencia sobre IA y elecciones
Un estudio del Centro Brennan para la Justicia, publicado el 22 de octubre, había encontrado un panorama distinto. Al pedirle a la versión estándar de ChatGPT fotos de un fraude electoral, la herramienta respondió con ilustraciones de estilo caricatura en lugar de imágenes realistas.
NewsGuard, en cambio, probó el generador más nuevo de OpenAI con pedidos centrados en personas reales, lo que podría explicar la diferencia entre ambos resultados.
En 2024, el Centro para Contrarrestar el Odio Digital, una organización que monitorea el discurso de odio en internet, ya había advertido que herramientas de inteligencia artificial de OpenAI y Microsoft podían generar fotos que promovían desinformación electoral, pese a las políticas que ambas empresas decían tener en contra de ese uso.
NewsGuard agregó marcas de agua visibles a las imágenes que publicó en su informe para evitar que volvieran a circular como si fueran auténticas.
Las elecciones legislativas de Estados Unidos se celebrarán el 3 de noviembre. NewsGuard dijo que seguirá a la espera de ver cómo responden los generadores de imágenes de IA a pedidos vinculados con los candidatos en carrera hasta esa fecha.
Fuente: infobae.com
