Sin obligación de informar a las autoridades sobre los procedimientos de moderación adoptados y el número de empleados involucrados en el trabajo, las empresas responsables de las redes sociales más populares en Brasil mantienen un secretismo absoluto sobre el tema.

La falta de transparencia es un factor más de riesgo en los despidos en plataformas – realizados meses antes de las elecciones municipales, y que fueron los primeros en el país tras la popularización de las herramientas de inteligencia artificial generativa.

En el caso de los despidos de TikTok en marzo, por ejemplo, ni siquiera los empleados de la red sabían a ciencia cierta el tamaño del recorte. “RRHH nunca ha sido muy transparente sobre el tamaño exacto de las operaciones en São Paulo”, dijo uno de los moderadores despedidos a Aos Fatos bajo condición de anonimato.

El Proyecto de Ley sobre Fake News (Proyecto de Ley 2.630/2020), que la Cámara de Diputados no consiguió votar a tiempo para la disputa electoral de este año, pretendía obligar a las empresas a publicar informes periódicos de transparencia, de forma similar a lo que ocurre actualmente en la Unión Europea. El informe -que será rediscutido por un grupo de trabajo formado por diputados tras más de un año en suspenso- preveía informes semestrales con:

• el número de usuarios activos en la plataforma;
• el número de quejas recibidas;
• información sobre el uso de la automatización;
• el tamaño de los equipos, entre otros datos.

Sin una ley que promueva la transparencia, los expertos en derecho digital se quejan de que la falta de datos sobre la moderación en Brasil impide evaluar si la inversión de las empresas en seguridad es compatible con los riesgos – que son mayores durante los períodos electorales.

“Meta dice tener 40.000 moderadores, pero no revela su distribución geográfica ni sus idiomas, por lo que no sabemos el porcentaje de moderación que se realiza en Brasil”, critica Thiago Tavares, presidente de Safernet, una ONG que lucha contra las violaciones de derechos en las redes.

“No tenemos los datos, y las empresas se protegen diciendo que es información muy sensible”, explica Yasmin Curzi, profesora e investigadora del Centro de Tecnología y Sociedad de la FGV.

Sin embargo, lo más delicado en torno a los datos es la reputación de las propias empresas. En el caso de Telegram, ni siquiera está claro si la plataforma cuenta actualmente con un equipo de moderación formado por personas que dominen el portugués.

La misma duda pesaba el año pasado sobre X (antes Twitter), cuando el informe que la empresa publicó en Europa afirmaba que había 41 moderadores nativos. Incluso si todos ellos estuvieran dedicados al mercado brasileño, el número sería pequeño teniendo en cuenta que la empresa tiene 22 millones de cuentas sólo en Brasil, según datos recopilados por DataReportal.

En su informe presentado en Europa, Meta dijo que contaba con 58 moderadores que dominaban el portugués, pero mantuvo el equipo brasileño en el misterio al señalar que “para los idiomas ampliamente hablados fuera de la Unión Europea, hay revisores de contenido adicionales”, sin decir cuántos.

Las cifras de YouTube son difíciles de interpretar, ya que Google afirma en el informe que no reflejan el número de moderadores contratados para analizar un solo idioma, sino “cuántos empleados han revisado al menos diez vídeos” en un idioma determinado.

Los 464 moderadores portugueses de los que informa la plataforma, por tanto, pueden incluir empleados que comparten la jornada con otros idiomas. La forma en que se presentan los datos tampoco descarta que se analicen contenidos en portugués con la ayuda de herramientas de traducción.

El secretismo que rodea a la moderación de contenidos afecta la rutina de aquellos contratados para la tarea, según empleados de la empresa escuchados por Aos Fatos -que mantenemos anónimos porque sus contratos de trabajo tienen cláusulas de confidencialidad.

“La mayoría de los moderadores viven en la paranoia”, dice un empleado de la unidad de Teleperformance en Bogotá, una de las empresas subcontratadas por Meta.

Todos los días, él y los demás brasileños que trabajan para grandes tecnológicas en Colombia tienen que llegar diez minutos antes del comienzo de su turno para que les dé tiempo a pasar por las puertas giratorias, los detectores de metales y que les registren sus pertenencias. El único objeto permitido en la sala de moderación es una botella de agua.

Babylon

Uno de los empleados subcontratados de Meta afirma que no todas las líneas de moderación de la empresa en Colombia cuentan con brasileños en plantilla, y cita como ejemplo los anuncios, que son analizados por “colombianos que hablan portugués y cobran bastante menos”.

Con menos fluidez en el idioma, dice, estos moderadores serían menos capaces de identificar problemas en los contenidos de pago. “Creo que es una estrategia de Meta, porque reduce la posibilidad de que se eliminen posts con mucha promoción”, afirma.

Los anuncios fraudulentos -que deberían ser retirados por la moderación- son una fuente importante de ingresos para la compañía, ya que representaron el 11% de los ingresos de Meta por anuncios “políticos y sociales” en los últimos tres meses de 2023, como mostró Aos Fatos.

Identificar contenido desinformativo o incitación al odio en las redes, sin embargo, no sólo depende de la capacidad del moderador para entender el lenguaje de las publicaciones: el revisor también necesita comprender el contexto.

“He tenido que explicar el significado de “Pix”, “FGTS”, “CPF” y otros términos brasileños que necesitamos entender para revisar contenidos”, dice un proveedor de servicios de YouTube en Lisboa, que afirma que la mayoría de sus compañeros de trabajo son portugueses.

“La falta de comprensión sobre el contexto en el que se produjo un determinado contenido puede llevar a la proliferación de contenidos inapropiados o a la restricción excesiva del discurso legítimo”, advierte un estudio elaborado por Safernet.

Aunque las plataformas ofrecen sus servicios en casi todo el mundo, la moderación tiende a priorizar el inglés, dejando en un segundo plano la seguridad en países que hablan otras lenguas. La falla ya ha sido denunciada por un antiguo empleado de Meta y por investigaciones periodísticas.

Si la falta de diversidad de empleados ya era un problema, la situación va a empeorar con la sustitución de humanos por herramientas de inteligencia artificial. Según los expertos, ésta ha sido una de las razones de los despidos en el sector en los últimos años. Otro problema, señala Curzi, es que aunque garantice escala y rapidez a la moderación, la tecnología aún no es capaz de entender los matices y contextos del discurso.

Para intentar sortear la falta de datos, Safernet sugiere que el Ministerio de Trabajo cree un código en el catálogo de ocupaciones para designar la profesión de moderador de contenidos, que hoy no existe.

En teoría, la medida permitiría controlar, a través de las estadísticas de empleo, si los equipos aumentan o disminuyen.

La especificación de la profesión, sin embargo, difícilmente acabaría con la falta de datos nacionales, ya que la mayoría de los equipos de seguridad que cuidan de las redes brasileñas están radicados en otros países.

«Mi equipo fue uno de los últimos de Facebook en Brasil», explica un trabajador que vio la salida de la actual moderación de Meta del país en abril de 2020 y que ahora trabaja para otra plataforma.

• Hoy, la empresa fundada por Mark Zuckerberg mantiene contratos con outsourcings que emplean moderadores brasileños al menos en Bogotá, Lisboa, Barcelona y Atenas;
• En el caso de YouTube, Aos Fatos ha sabido que existen proyectos de moderación en Lisboa, donde también hay algunos analistas de Google Ads, pero no ha podido identificar otras empresas que presten este tipo de servicios para Alphabet — sin embargo, garantiza tener equipos operando en Brasil;
• Kwai y TikTok tienen moderadores tanto en Brasil como en el extranjero;
• Mientras que Kwai tiene moderadores en China con un enfoque en las operaciones brasileñas, TikTok también opera en Uruguay, Colombia, Perú y la India.

En 2022, el estudio de Safernet identificó ofertas de empleo para la contratación de moderadores de habla portuguesa en 39 ciudades de 22 países de todo el mundo. Para los investigadores, esta «globalización» del servicio aumenta el riesgo de que los analistas no entiendan el contenido, ya que pueden estar en países “con tradiciones y nociones completamente diferentes”.

Para las plataformas, sin embargo, la localización de los equipos está motivada sobre todo por el ahorro de costes. “Las empresas son transnacionales y pueden estar donde quieran, y la falta de regulación en Brasil les permite actuar así”, afirma Curzi.

Otro lado

Aos Fatos preguntó a todas las empresas mencionadas en este informe cuántos moderadores con fluidez en portugués emplean actualmente para el mercado brasileño y, de ellos, cuántos nacieron en el país. Ninguna empresa reportó datos segmentados para el país según lo solicitado.

YouTube afirmó que cuenta con “equipos dedicados al mercado brasileño para garantizar que nuestros esfuerzos de moderación de contenido reflejen el idioma y el contexto local” y que estos equipos “ayudan a desarrollar políticas, brindan experiencia cultural y lingüística y respaldan la red global de más de 20.000 revisores de contenido”. mundial.” Según la empresa, “este enfoque nos permite garantizar que la moderación del contenido sea coherente en todos los idiomas y regiones”.

TikTok, a su vez, afirmó que cuenta con un Centro de Transparencia y que publica trimestralmente Informes de Cumplimiento de las Normas Comunitarias, “haciendo transparentes nuestros esfuerzos de moderación”. En uno de estos enlaces podéis ver un gráfico que informa que el 4,5% de los moderadores humanos de la empresa trabajan con el portugués como lengua principal. La plataforma también dice que, en todo el mundo, emplea a más de 40.000 profesionales en el área de Confianza y Seguridad, incluidos “moderadores brasileños que entienden el contexto local”.

Kwai no informó el número de moderadores en Brasil ni en el mundo, pero dijo que, con foco en las elecciones municipales, aumentó su equipo de moderación en un 15% este año.

Meta no respondió.