Icono del sitio Cápsula Virtual

Los algoritmos se ceban con los más vulnerables en las redes: los inmigrantes son negros y tumultuosos; los refugiados, blancos y tranquilos | Tecnología

El 75% de los vídeos de YouTube que se aparecen tras una búsqueda de “inmigrantes” muestra a hombres cruzando una frontera. En el 76% de los casos, se ve a personas no blancas moviéndose en grandes grupos, lo que “contribuye a deshumanizarlas” y promueve la “sensación de amenaza o avalancha”. Para la misma plataforma, en cambio, tras la palabra esencia “refugiados” aparecen mayormente vídeos de mujeres blancas, por influencia de la extirpación de Ucrania, en situaciones sosegadas. Se aprecia mejor sus rostros y no se les ve cruzando fronteras o manifestándose.

Estos son algunos de los resultados que arroja un observación realizado por Eticas a dos influyentes redes sociales: YouTube y TikTok. Esta consultora especializada en auditorías algorítmicas se ha animado a revisar de forma externa (extrayendo datos al abasto del manifiesto, no aportados por las propias plataformas) el trabajo de varias redes sociales. “Hemos querido analizar como se representa a inmigrantes y refugiados porque en los medios de comunicación se ha hecho mucha pedagogía sobre cómo se muestra a ciertos colectivos y qué consecuencias puede tener, pero esa consejo no se ha llevado a las redes sociales”, explica Gemma Galdon, directora ejecutiva de Eticas.

El Reglamento de Servicios Digitales (DSA, por sus siglas inglesas) exigirá a partir del año que viene a las tecnológicas que operen en la UE que realicen auditorías independientes para certificar un espacio digital seguro en el que se protejan los derechos fundamentales de los usuarios.

“Nuestra investigación ha demostrado que existe un problema de representación sesgada y desfavorable de la migración en YouTube. Determinamos que YouTube y otras partes involucradas deberían trabajar en la aniquilación de una serie de sesgos de los sistemas algorítmicos, mostrar más transparencia e involucrarse más con los propios migrantes”, concluye el estudio.

Para la elaboración del estudio, realizado en Estados Unidos, Reino Unido y Canadá, los analistas de Eticas recopilaron vídeos en torno a la temática de inmigración durante dos meses (junio y julio de 2022 en el caso de YouTube y octubre a diciembre en el de TikTok). Lo hicieron a través de distintos perfiles en cada una de las plataformas para tratar de encontrar diferencias en los contenidos propuestos por el operación. Entrenaron a usuarios ficticios para que se mostraran proinmigración, antiinmigración y neutros.

Corte de un vídeo de YouTube en el que se muestra a dos refugiadas ucranianas pidiendo inclusa en EE UU.

Las búsquedas se realizaron asimismo desde ubicaciones con inclinaciones políticas distintas, de modo que se pudiese comprobar si había diferencias en este sentido. El observación de YouTube se condujo desde Londres y Toronto, ciudades que guardan relaciones muy distintas con la inmigración y los refugiados. “Buscábamos espacios que estuvieran muy connotados políticamente. Toronto es una gran ciudad de Canadá, que tiene un gran compromiso histórico de acogida de inmigrantes y refugiados. Londres, en cambio, es la haber de un país que lleva tiempo significándose por un vallado de fronteras y un discurso más agresivo frente a la inmigración”, detalla Galdon.

En el caso de TikTok, se eligió San Fransisco (mayoría demócrata), Oklahoma City (mayoría republicana) y Virginia Beach (ambivalente). Se centró el foco en EE UU por estar en un contexto de elecciones (las midterm elections, en las que se elige a todos los miembros de la Cámara de Representantes y a parte de los del Senado).

Curiosamente, los resultados fueron muy similares en todos los casos: el operación casi nada discrimina a los usuarios con el tipo de contenidos que muestra, ni por las características del perfil ni por la ubicación. Y eso que se tuvieron en cuenta tantos los resultados de las búsquedas directas como los contenidos sugeridos por el operación de cada plataforma.

YouTube: distorsiones en la imagen genérico

Con más de 2.000 millones de usuarios activos, YouTube es la segunda plataforma social más usada del mundo, solo detrás de Facebook. Según el CEO de YouTube, Neal Mohan, hasta el 70% de los vídeos vistos en la plataforma son sugeridos por su sistema de recomendación de vídeos. Esas sugerencias se hacen a partir de un cóctel de datos en el que se incluye desde el historial de visualizaciones y las interacciones con los vídeos hasta la época, sexo o delimitación del adjudicatario. “En consecuencia, los algoritmos de recomendación de YouTube pueden influir en la percepción de un gran número de personas en todo el mundo sobre la migración”, sostienen los autores del documentación.

El observación de esta plataforma muestra que, en la gran mayoría de vídeos relacionados con la inmigración, los rostros de los personajes que aparecen en los vídeos no son identificables. En más del 60% de los casos, los protagonistas no son individuos, sino grandes grupos de personas (15 o más). Solo un 4% de quienes aparecen bajo esta temática son blancos y las mujeres están infrarrepresentadas (suponen entre un 1% y un 4%). Las personas que aparecen en los cortes no trabajan (entre el 75% y 84% de los casos) y están protestando (entre 73% y 81%).

Un ejemplo popular de vídeo de YouTube si se investigación «inmigrantes» en Toronto: un rama de adultos no blancos cruzando una frontera.

En el caso de los refugiados, el retrato es diverso. La mayoría son de rasgos caucásicos. En más de la medio de las ocasiones se les puede identificar el rostro, hay más proporción de vídeos en los que aparecen de uno a cinco individuos y se muestra a más mujeres que a hombres. Hay más vídeos en los que no están cruzando una frontera que en los que sí lo hacen, pese a que, como en el caso de los inmigrantes, lo han tenido que hacer por fuerza.

“Nuestros sistemas de búsqueda y recomendación no están diseñados para filtrar ni degradar los vídeos o los canales según determinados puntos de audiencia políticos”, lee la política de la plataforma a la que se remite la compañía. “Encima, sometemos nuestros sistemas automáticos a auditorías para asegurarnos de que no exista ningún sesgo algorítmico no deseado (por ejemplo, de mercancías). Corregimos los errores tan pronto como los detectamos y volvemos a preparar nuestros sistemas para que sean cada vez más precisos”.

TikTok: mucho entretenimiento y poca política

TikTok es la red social de decano progresión en los últimos primaveras. Especialmente popular entre los más jóvenes, expone a los usuarios a vídeos cortos seleccionados por el operación, que no tiene en cuenta lo que ven tus amigos ni siquiera tu país. La plataforma está diseñada para amplificar los contenidos más virales, sean de donde sean y muestren lo que muestren (siempre y cuando cumplan con las normas de contenido constitucional de la compañía).

Una de las conclusiones más llamativas del observación de TikTok es que la plataforma china elude los vídeos de carga política en torno a los inmigrantes o los refugiados. Menos de un 1% de los contenidos estudiados desarrollan argumentos a confianza o en contra de estos colectivos. La mayoría de los vídeos relacionados con esta temática mostraban a personas haciendo chistes, cocinando, trabajando, creando arte o mostrando alguna sagacidad curiosa.

El trabajo de Eticas concluye que el operación de recomendaciones de la red social china “no está influenciada por las preferencias políticas de los usuarios”. Siquiera por su delimitación. Eso choca con una investigación realizada por The Wall Street Journal, según la cual TikTok es capaz de educarse los intereses implícitamente asignados a los bots y ofrecerles contenidos que se adapten a estos en menos de dos horas. “Esto sugiere que el nivel de personalización del recomendador de TikTok se ajustó el pasado año y subraya la proceso en el tiempo de los algoritmos y la falta de reevaluar periódicamente su impacto”, indica el documentación.

TikTok no cuenta con mecanismos específicos para tratar de corregir posibles sesgos, según explica una portavoz de la plataforma. El operación va ofreciendo contenidos de distintos creadores, se desafío por la complejidad de fuentes para que no haya distorsiones y para subrayar el carácter completo de esta red social.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para acoger nuestra newsletter semanal.

Suscríbete para seguir leyendo

Lee sin límites



Creditos a Manu González Pascual

Fuente

Salir de la versión móvil