Inicio NOTICIAS Cómo Meta cometió un error en la moderación de la propaganda durante...

Cómo Meta cometió un error en la moderación de la propaganda durante la invasión rusa de Ucrania

65
0

Días después del atentado con bomba del 9 de marzo en un hospital maternoinfantil en la ciudad ucraniana de Mariupol, los comentarios que afirmaban que el ataque nunca ocurrió comenzaron a inundar las filas de trabajadores que moderaban el contenido de Facebook e Instagram en nombre del propietario de las aplicaciones, Meta Platforms. El bombardeo mató al menos a tres personas, incluido un niño, dijo públicamente el presidente de Ucrania, Volodymyr Zelenskiy.

Las imágenes de mujeres ensangrentadas y embarazadas que huían entre los escombros, con las manos acunando sus vientres, provocaron una indignación inmediata en todo el mundo. Entre las mujeres más reconocidas se encontraba Mariana Vishegirskaya, una influencer ucraniana de la moda y la belleza. Las fotos de ella bajando las escaleras de un hospital con un pijama de lunares circularon ampliamente después del ataque, capturadas por Associated
Fotógrafo de prensa.

Las expresiones de apoyo en línea para la futura madre se convirtieron rápidamente en ataques a su cuenta de Instagram, según dos contratistas que moderan directamente el contenido del conflicto en Facebook e Instagram. Hablaron con Reuters bajo condición de anonimato, citando acuerdos de confidencialidad que les prohibían hablar públicamente de su trabajo. El caso que involucra a la influencer de belleza es solo un ejemplo de cómo las políticas de contenido y los mecanismos de aplicación de Meta han permitido la propaganda pro-rusa durante la invasión de Ucrania, dijeron los moderadores a Reuters.

La burocracia rusa se apoderó de las imágenes, colocándolas una al lado de la otra contra sus brillantes fotos de Instagram en un esfuerzo por persuadir a los espectadores de que el ataque había sido falso. En la televisión estatal y las redes sociales, y en la cámara del Consejo de Seguridad de la ONU, Moscú alegó, falsamente, que Vishegirskaya se había maquillado y se había puesto varios atuendos en un engaño elaborado y orquestado por las fuerzas ucranianas.

Enjambres de comentarios acusando a la influencer de duplicidad y de ser actriz aparecieron debajo de viejas publicaciones de Instagram de ella posando con tubos de maquillaje, dijeron los moderadores. En el punto álgido de la arremetida, los comentarios que contenían acusaciones falsas sobre la mujer representaban la mayor parte del material en la cola de contenido de un moderador, que normalmente habría
contenía una mezcla de publicaciones sospechosas de violar la miríada de políticas de Meta, recordó la persona. “Las publicaciones eran viles” y parecían estar orquestadas, dijo el moderador a Reuters.

Pero muchos estaban dentro de las reglas de la empresa, dijo la persona, porque no mencionaron directamente el ataque. “No pude hacer nada al respecto”, el moderador
dicho. Reuters no pudo contactar a Vishegirskaya. Meta se negó a comentar sobre su manejo de la actividad que involucra a Vishegirskaya, pero dijo en un comunicado a Reuters que varios equipos están abordando el problema.

“Tenemos equipos de expertos separados y socios externos que revisan la información errónea y el comportamiento no auténtico y hemos estado aplicando nuestras políticas para contrarrestar esa actividad con fuerza.
durante la guerra «, dijo el comunicado. El jefe de política de Meta, Nick Clegg, dijo por separado a los periodistas el miércoles que la compañía estaba considerando nuevos pasos para abordar la información errónea y los engaños de las páginas del gobierno ruso, sin dar más detalles.

El Ministerio de Desarrollo Digital, Comunicaciones y Medios de Comunicación de Rusia y el Kremlin no respondieron a las solicitudes de comentarios. Los representantes de Ucrania no respondieron a una solicitud de
¿Cómo? ‘O’ Qué.

Espíritu de la política

Basados ​​en un centro de moderación de varios cientos de personas que revisan contenido de Europa del Este, los dos contratistas son soldados de a pie en la batalla de Meta para controlar el contenido del conflicto. Se encuentran entre las decenas de miles de trabajadores mal pagados en empresas de subcontratación en todo el mundo que Meta contrata para hacer cumplir sus reglas.

Leer:  Cómo elegir el aire acondicionado adecuado para sus necesidades

El gigante tecnológico ha tratado de posicionarse como un administrador responsable del discurso en línea durante la invasión, que Rusia llama una “operación especial” para desarmar y “desnazificar” a su vecino. Apenas unos días después de la guerra, Meta impuso restricciones a los medios estatales rusos y eliminó una pequeña red de cuentas falsas coordinadas que, según dijo, estaban tratando de socavar la confianza en el
gobierno ucraniano.

Más tarde dijo que había eliminado otra red con sede en Rusia que informaba falsamente a personas por infracciones como incitación al odio o intimidación, mientras rechazaba los intentos de redes previamente desactivadas de volver a la plataforma. Mientras tanto, la compañía intentó crear un espacio para que los usuarios de la región expresaran su enojo por la invasión de Rusia y emitieran llamados a las armas de formas que Meta normalmente no permitiría.

En Ucrania y otros 11 países de Europa del Este y el Cáucaso, creó una serie de exenciones temporales del «espíritu de la política» a sus reglas que prohíben el discurso de odio, las amenazas violentas y más; los cambios tenían la intención de honrar los principios generales de esas políticas en lugar de su redacción literal, según las instrucciones Meta a los moderadores vistas por Reuters.

Por ejemplo, permitió “discursos deshumanizantes contra los soldados rusos” y llamamientos a la muerte del presidente ruso Vladimir Putin y su aliado, el presidente bielorruso Alexander Lukashenko, a menos que esos llamamientos se consideraran creíbles o contuvieran objetivos adicionales, según las instrucciones vistas por Reuters.

Los cambios se convirtieron en un punto álgido para Meta mientras enfrentaba presiones tanto dentro de la empresa como desde Moscú, que abrió un caso penal contra la empresa después de un informe de Reuters del 10 de marzo.
hizo públicas las excepciones. Rusia también prohibió Facebook e Instagram dentro de sus fronteras, con un breve meta acusando de «actividad extremista».

Meta retiró elementos de las excepciones después del informe de Reuters. Primero los limitó solo a Ucrania y luego canceló uno por completo, según documentos revisados ​​por Reuters, declaraciones públicas de Meta y entrevistas con dos miembros del personal de Meta, los dos moderadores en Europa y un tercer moderador que maneja contenido en inglés en otra región que había visto
los avisos

Los documentos ofrecen una perspectiva poco común sobre cómo Meta interpreta sus políticas, llamadas estándares comunitarios. La compañía dice que su sistema es neutral y está basado en reglas. Los críticos dicen que a menudo es reactivo, impulsado tanto por consideraciones comerciales y ciclos de noticias como por principios. Es una queja que ha perseguido a Meta en otros conflictos globales, incluidos Myanmar, Siria y Etiopía. Los investigadores de redes sociales dicen que el enfoque le permite a la compañía eludir la responsabilidad de cómo sus políticas afectan a los 3.600 millones de usuarios de sus servicios.

La guía cambiante sobre Ucrania ha generado confusión y frustración para los moderadores, quienes dicen que tienen un promedio de 90 segundos para decidir si una publicación determinada viola la política, como informó por primera vez el New York Times. Reuters confirmó de forma independiente tales frustraciones con tres moderadores. Luego de que Reuters informara las exenciones el 10 de marzo, Meta
El jefe de política Nick Clegg dijo en un comunicado al día siguiente que Meta permitiría tal discurso solo en Ucrania.

Dos días después, Clegg les dijo a los empleados que la compañía estaba revirtiendo por completo la exención que había permitido a los usuarios pedir la muerte de Putin y Lukashenko, según una publicación interna de la compañía del 13 de marzo vista por Reuters. A fines de marzo, la compañía extendió las exenciones restantes solo para Ucrania hasta el 30 de abril, según muestran los documentos.

Leer:  Frankfurt gana 2-1 al West Ham, Leipzig vence al Rangers en semifinales de la Europa League

Reuters es el primero en informar sobre esta extensión, que permite a los ucranianos continuar participando en ciertos tipos de discursos violentos y deshumanizantes que normalmente estarían prohibidos. Dentro de la empresa, escribiendo en una plataforma social interna, algunos empleados de Meta expresaron su frustración porque Facebook estaba permitiendo que los ucranianos hicieran declaraciones que se habrían considerado fuera de los límites para que los usuarios publicaran sobre conflictos anteriores en el Medio Oriente y otras partes del mundo, según a copias de los mensajes vistos por Reuters.

“Parece que esta política dice que el discurso de odio y la violencia están bien si se dirigen a las personas ‘correctas’”, escribió un empleado, uno de los 900 comentarios en una publicación sobre los cambios. Mientras tanto, Meta no brindó orientación a los moderadores para mejorar su capacidad de deshabilitar las publicaciones que promueven narrativas falsas sobre la invasión de Rusia, como la negación de que se hayan producido muertes de civiles, dijeron las personas a Reuters.

La compañía se negó a comentar sobre su orientación a los moderadores.

Negación de tragedias violentas

En teoría, Meta tenía una regla que debería haber permitido a los moderadores dirigirse a las multitudes de comentaristas que dirigían críticas infundadas contra Vishegirskaya, la influencer de belleza embarazada. Ella
sobrevivió al bombardeo del hospital de Mariupol y dio a luz a su bebé, informó Associated Press.

La política de acoso de Meta prohíbe a los usuarios “publicar contenido sobre una tragedia violenta o víctimas de tragedias violentas que incluya afirmaciones de que no ocurrió una tragedia violenta”, según los Estándares comunitarios publicados en su sitio web.

Citó esa regla cuando eliminó publicaciones de la embajada rusa en Londres que habían impulsado afirmaciones falsas sobre el atentado con bomba de Mariupol después del ataque del 9 de marzo. Pero debido a que la regla está definida de manera estricta, dijeron dos de los moderadores, solo podría usarse con moderación para combatir la campaña de odio en línea contra la influenciadora de la belleza que siguió.

Las publicaciones que alegaban explícitamente que el bombardeo fue un montaje eran elegibles para su eliminación, pero comentarios como «eres una actriz tan buena» se consideraron demasiado vagos y tuvieron que mantenerse, incluso
cuando el subtexto estaba claro, decían. La orientación de Meta que permite a los comentaristas considerar el contexto y hacer cumplir el espíritu de esa política podría haber ayudado, agregaron.

Meta se negó a comentar si la regla se aplicaba a los comentarios en la cuenta de Vishegirskaya. Al mismo tiempo, incluso las publicaciones explícitas resultaron elusivas para los sistemas de ejecución de Meta. Una semana después del atentado, versiones de las publicaciones de la embajada rusa aún circulaban en al menos ocho cuentas oficiales rusas en Facebook, incluidas sus embajadas en Dinamarca, México.
y Japón, según una organización de vigilancia israelí, FakeReporter.

Una mostraba una etiqueta roja «falsa» colocada sobre las fotos de Mariupol de Associated Press, con un texto que afirmaba que el ataque a Vishegirskaya era un engaño y señalaba a los lectores «más de 500
comentarios de usuarios reales” en su cuenta de Instagram condenándola por participar en la supuesta artimaña. Meta eliminó esas publicaciones el 16 de marzo, horas después de que Reuters
preguntó a la compañía sobre ellos, confirmó un portavoz. Meta se negó a comentar por qué las publicaciones habían evadido sus propios sistemas de detección.

Al día siguiente, el 17 de marzo, Meta designó a Vishegirskaya como una “persona pública involuntaria”, lo que significaba que los moderadores finalmente podrían comenzar a eliminar los comentarios bajo la política de intimidación y acoso de la compañía, dijeron a Reuters. Pero el cambio, dijeron, llegó demasiado tarde. El flujo de publicaciones relacionadas con la mujer ya se había reducido a un goteo.

Artículo anteriorMotorola G22 lanzado en India a partir de Rs 10,999
Artículo siguienteExiliado por las bombas rusas, un equipo de fútbol ucraniano abraza su viaje