Noticias negativas en noticieros de reputación, audios con confesiones de delitos e incluso videos de padrinos políticos que murieron y volvieron del más allá solo para declarar su voto: todo falso.
En las elecciones municipales de este año, las primeras tras la popularización de la inteligencia artificial generativa, herramientas de este tipo alimentaron campañas de desinformación en todo Brasil, incluso en municipios pequeños y medianos.
El contenido, a menudo difundido por cuentas anónimas, utiliza voces e imágenes generadas artificialmente tanto para promover candidaturas como para atacar a adversarios, como revela la encuesta exclusiva de Aos Fatos en colaboración con ICL Noticias y el Centro Latinoamericano de Investigación Periodística (Clip), basada en decisiones del Tribunal Electoral.
- Desde el inicio del año hasta la primera vuelta, el día 6, la Corte Electoral publicó sentencias sobre al menos 159 casos de uso de IA en propaganda electoral
- Los videos publicados en Instagram fueron los que generaron más demandas cuestionando el uso de IA: 132 demandas pidieron la remoción de los videos, 79 de los cuales fueron compartidos en la plataforma de Meta
- Le siguieron WhatsApp, con 52 videos, y Facebook con 18, ambas también plataformas de Meta
- TikTok (3) y Telegram (1) completan la lista – el contenido puede haber sido publicado en más de una plataforma a la vez, por lo que la suma es mayor que el número total de casos
- Ninguna demanda ha impugnado publicaciones en Kwai
La encuesta se realizó en el Diario de Justicia Electrónica de todos los Tribunales Regionales Electorales del país, utilizando palabras clave. Los datos analizan las peticiones presentadas en las demandas iniciales, sin tener en cuenta si el uso de la IA ha sido reconocido o no por los tribunales.
La mayoría de las demandas (30) alegan que se utilizó inteligencia artificial para alterar el sonido de los videos, creando una narración sintética no señalizada, por ejemplo.
También hay 20 demandas por fotos supuestamente creadas artificialmente, así como ocho demandas por audio. En el caso de los audios sintéticos, la principal plataforma de difusión fue WhatsApp.
El noreste a la cabeza
La encuesta muestra que la región Nordeste concentra más de la mitad de los casos (81), a pesar de tener menos de un tercio de los municipios del país. El estado con más casos fue Ceará, con 19, seguido de Pernambuco y Bahía, ambos con 18.
El fiscal Emmanuel Girão, coordinador del Centro de Apoyo Operativo Electoral del MPCE (Ministerio Público de Ceará), atribuye el gran número de casos a la tradición del estado en derecho electoral, que puede resultar en una mayor judicialización.
Al analizar los casos encontrados por la encuesta, Girão clasificó la situación como de baja gravedad. «Ese nivel de inteligencia artificial [más sofisticado] no ha llegado aquí», analiza el fiscal.
La evaluación se basa en el hecho de que la mayoría de las demandas en el estado cuestionan el uso de la IA en la generación de parodias o la omisión de información sobre el uso de la tecnología – un requisito de la resolución 23.732/2024, del TSE (Tribunal Superior Electoral).
La excepción fue un deepfake registrado en São Gonçalo do Amarante, un municipio con una población de 123.000 habitantes. Un video que circulaba por WhatsApp simulaba un informativo local de TV Verdes Mares, filial de Globo, para asociar al alcalde de la ciudad con un crimen cometido contra un concejal.
El montaje utilizaba imágenes reales, pero alteraba el diálogo entre una presentadora y un reportero para informar sobre la invasión del domicilio del candidato a concejal Ednaldo Martins (PDT) e insinuar que el asalto tenía una motivación política. Los mensajes falsos acusaban al actual alcalde de la ciudad y candidato a la reelección, Marcelo Teles (PT), de estar implicado en el caso.
La defensa de Teles presentó una demanda contra el video en un intento de identificar al autor de la pieza, pero el caso fue desestimado por motivos procesales, sin que se analizara el fondo del asunto.
Al analizar los casos en Ceará, Girão señala que muchas demandas de IA se han visto obstaculizadas por las dificultades de los abogados de las pequeñas ciudades para reunir y preservar pruebas.
El fiscal también evalúa que, en la primera vuelta de las elecciones, «no hubo tantas fake news» en Ceará como en elecciones anteriores. Las principales preocupaciones del MPCE y del TSE en el estado este año tienen que ver con la amenaza de que el crimen organizado interfiera en la contienda.
Anonimato
El uso de perfiles apócrifos para difundir ataques y desinformación generada por IA fue recurrente en los casos analizados. Aunque los tribunales disponen de mecanismos para tratar de identificar a los administradores de estas páginas, la situación aumenta el reto de responsabilizar a los autores de las publicaciones ilegales.
En Boca da Mata (AL), municipio de poco más de 20.000 habitantes situado a una hora de Maceió, la defensa del alcalde de la localidad, Bruno Feijó (PP), consiguió tumbar un perfil anónimo que difundía deepfakes en Instagram, pero aún no ha podido identificar al responsable de la campaña.
Una de las piezas sintetizaba la imagen y la voz del alcalde de la ciudad y de su tío, el exalcalde Gustavo Feijó, simulando falsas confesiones de delitos. Otro montaje alteraba el diálogo de una película del oeste.
El abogado explica que la calidad de los videos es limitada, pero los montajes tienen «cierto grado de sofisticación» y son capaces de confundir a los votantes menos familiarizados con la tecnología.
En julio, el tribunal concedió una medida cautelar que ordenaba a Meta suspender el perfil de Instagram y facilitar los datos de registro de la persona responsable de la cuenta. La decisión consideraba que, además de que la legislación electoral prohíbe los deepfakes, los vídeos se publicaban en un perfil anónimo, situación que eliminaría el derecho a la libertad de expresión.
Según Veloso, la plataforma facilitó el número de teléfono con el que se registró la cuenta, pero la defensa aún no ha podido identificar al administrador del perfil. «Estamos estudiando la mejor forma de actuar. Posiblemente presentaremos una acción penal por difamación para que el juez ordene al operador [de telefonía móvil] que facilite los datos de registro».
Veloso considera que la justicia electoral cuenta con mecanismos eficaces para responder en casos como éste, pero cree que el sistema de lucha contra este tipo de desinformación podría mejorar si hubiera más transparencia y control por parte de las grandes tecnológicas para evitar la proliferación de perfiles falsos utilizados para prácticas ilícitas.
Intervención desde otro plano
En al menos dos ciudades, los candidatos utilizaron IA para «resucitar» a padrinos políticos muertos, lo que llevó a sus competidores a acudir a la Corte Electoral. «Fue algo realmente inaudito para mí como abogado. Nunca imaginamos que la candidata traería a colación la memoria de su padre mediante el uso de deepfakes», dice Iracema Souza, abogada especializada en derecho público y responsable de una demanda sobre el tema en Bahía.
El caso tuvo lugar en Andorinha (BA), una localidad de unos 15.000 habitantes. En un acto celebrado el 4 de agosto, la entonces precandidata a la alcaldía, Lurdineia Almeida Guimarães (PT), mostró en una pantalla gigante un audio que simulaba la voz de su padre, el exalcalde José Rodrigues Guimarães Filho, fallecido en enero de 2022.
«Que todos los ciudadanos andoriñenses te abracen fuerte, mi querida hija, y tal vez sientas mi abrazo. A mis otros hijos, sigan apoyando a su hermana. Todos ustedes llenan mi corazón de orgullo», dice la voz generada por IA en apoyo a la candidatura de la candidata del PT, que no fue elegida.
La escena también fue difundida en Instagram.
En el mensaje, el ex alcalde, conocido como Zé Branco, menciona el nombre del candidato a vicepresidente en la candidatura de su hija – información que, según el abogado, no podría haber tenido en vida, ya que la candidatura no había sido definida.
El video fue llevado a los tribunales por la oficina municipal del MDB. El Ministerio Público se mostró favorable a la acción, al considerar que se había hecho un uso indebido de la IA. Una medida cautelar ordenó la retirada del post, pero en el juicio sobre mérito el caso fue desestimado porque el tribunal no reconoció la legitimidad de la parte para presentar la demanda.
La resolución del TSE que prohíbe los deepfakes prohíbe explícitamente no sólo la simulación de la imagen o la voz de personas vivas, sino también de fallecidas o ficticias. Aos Fatos se puso en contacto con Lurdineia Guimarães a través de Facebook, pero no obtuvo respuesta.
En Uberlândia (MG), la justicia ordenó la retirada de un deepfake publicado por el candidato a la alcaldía Leonídio Bouças (PSDB) en el que aparecía su candidato a la vicepresidencia, Gustavo Galassi (Republicanos), abrazando a su abuelo fallecido, el ex alcalde de Uberlândia Virgílio Galassi.
Una investigación periodística que busca desentrañar la desinformación política en el “súper año electoral” del 2024 en América Latina. Liderada por el Centro Latinoamericano de Investigación Periodística (CLIP) en alianza con Intercept Brasil, ICL y Aos Fatos (Brasil), El Faro (El Salvador), Lab ciudadano (Honduras), Animal Político y Mexicanos Contra la Corrupción (México), La Prensa y Foco Panamá (Panamá), IDL Reporteros y Ojo Público (Perú), Diario Libre (República Dominicana), El Observador (Uruguay), Cazadores de Fake News, Efecto Cocuyo, ProBox, C-Informa y Medianálisis (Venezuela)
