Los trabajadores que moderan la web, una explotación invisible
Loïc Bonin
Viento Sur, 1-5-2021
El documental The Cleaners (2018), que recorre la trayectoria y el trabajo de los limpiadores de las web de los que Sarah Roberts fue asesora científica, se abre con un plano oscuro. Vemos manos que pulsan mecánicamente un teclado y voces que repiten frenéticamente borrar, ignorar, sobre un fondo de ruidosos chasquidos que recuerdan el traqueteo de las maquinas en una fábrica de metal.
Esta inmersión en el poco conocido mundo de la moderación de contenidos comerciales en Internet permitió dar a conocer una profesión y unos trabajadores en gran medida invisibles para el público en general. Como señala Antonio Casilli en el prefacio del libro de Sarah Roberts, Derrière les écrans. Les nettoyeurs du Web à l’ombre des réseaux sociaux, este libro representa un «momento importante para el debate público francés» (p. 9).
Sarah Roberts dedicó su tesis en la Universidad de Wisconsin a diseccionar la profesión de moderador de contenidos, que define como «profesionales pagados para revisar los contenidos publicados en las plataformas de redes sociales en nombre de las empresas que solicitan la participación de los usuarios» (p. 19). Actualmente investigadora y profesora de ciencias de la información en la UCLA, firmó en 2019 este libro Behind the screens publicado en Yale University Press traducido un año después al francés.
A partir de la introducción, se entrelazan dos historias, la de su participación en el desarrollo de Internet desde 1994 y la de una investigación de ocho años sobre las personas que moderan los contenidos [en la web]. En los inicios de Internet, Sarah Roberts era la directora de informática del mayor laboratorio de la Universidad de Wisconsin y tuvo su propia experiencia en la moderación de contenidos en un espacio inicialmente autorregulado por los miembros de la comunidad. Internet estaba todavía en sus inicios. La segunda historia, la de las y los moderadores de contenidos, se desarrolla en un contexto totalmente diferente. La web se ha devenido «un espacio de control, vigilancia, intervención y circulación donde la información se ha convertido en una mercancía» (p. 24).
El contenido es una mercancía por derecho propio, y su circulación está organizada a escala industrial. En cierto sentido, Sarah Roberts realiza una biografía social de la mercancía «datos digitales» o «contenidos de Internet» abriendo «el capó de la máquina» (p. 21) de diferentes plataformas. Se trata de analizar a escala humana unas lógicas económicas globales que se nos escapan en gran medida. No es el objeto técnico el que se sitúa en el centro del estudio, sino la división del trabajo que se esconde detrás de la publicación de los puestos y, al mismo tiempo, participa en el desvelamiento de la infraestructura necesaria para el buen funcionamiento de Internet.
Al describir y analizar este laboratorio secreto de producción, Sarah Roberts se centra en la actividad de filtrado, que en realidad abarca una serie de prácticas muy variadas. La moderación de contenidos puede tener lugar antes de la publicación de un post en una plataforma, pero también después de dos series de operaciones de clasificación realizadas por algoritmos -que son «cualquier cosa menos autónomos y [que] siguen requiriendo la intervención de los moderadores» (p. 15)- y las denuncias realizadas por los usuarios. La actividad de estos moderadores consiste en filtrar lo que se comparte de acuerdo tanto con los marcos legales como con las políticas comerciales establecidas por las empresas que los emplean. Es dentro de este conjunto de limitaciones que estos trabajadores evolucionan y se encargan tanto de que las publicaciones en las plataformas no escapen al marco legal como de responder a intereses privados que consisten en seleccionar contenidos para moldear los gustos del público, sugerir compras, dar una imagen positiva a una marca, seleccionar noticias.
El trabajo detrás de la pantalla
Para su funcionamiento, Internet requiere, por un lado, una infraestructura material formada por cables de red, recursos mineros, producción y comercialización de dispositivos digitales, etc.; y, por otro, «mano de obra directa» y «mano de obra indirecta» [1], por utilizar la expresión de Christian Fuchs. Los trabajadores directos son los que producen bienes y servicios que se comercializan como mercancías, por ejemplo el software. Los trabajadores del conocimiento indirectos son los que reproducen y mantienen la viabilidad de las plataformas que gestionan los contenidos.
El trabajo de reproducción del capital que realizan los moderadores de la plataforma «vincula los dos polos [trabajadores directos e indirectos] porque para que los trabajadores emitan un juicio basado en reglas, normas sociales o gustos, es necesario contar con un capital cultural social y lingüístico que suele estar asociado a la producción directa de mercancías de conocimiento» (p. 83). La actividad de moderación es, por tanto, necesaria para el ciclo de producción de estos sitios web, la intervención humana y el trabajo inmaterial juegan un papel esencial, aunque invisible para los usuarios y activamente invisibilizado por las plataformas, «en la cadena de producción de los sitios que dependen de los contenidos generados por los usuarios y, por tanto, de un filtrado de esos contenidos» (p. 87).
Aunque es posible que las plataformas utilicen algoritmos que filtren las palabras prohibidas, filtros de piel para detectar la desnudez o programas informáticos que detecten los contenidos protegidos por derechos de autor, la intervención humana es necesaria al menos por dos razones. En primer lugar, porque los algoritmos no pueden filtrar todas las publicaciones realizadas en las plataformas. En segundo lugar, porque la valoración de lo que es problemático en cuanto al contenido varía según los contextos nacionales. En efecto, los moderadores de contenidos deben validar o invalidar un post según «la naturaleza del contenido, su intención, sus efectos imprevistos y su significado» (p. 56).
Para ello, movilizan una serie de funciones cognitivas y culturales para juzgar la idoneidad del contenido» (p. 57). Es este conjunto de especificidades el que tiende a generar una doble división dentro de la industria de la moderación «tanto a nivel organizativo como geográfico» (p. 62). Para entender este mundo fragmentado, Sarah Roberts propone una taxonomía de tipos de trabajo en la moderación de contenidos en línea. Distingue cuatro tipos de localización -en la empresa, en una agencia, a través de un centro de llamadas, a través de una plataforma de microtrabajo- de los que propone un análisis empírico en los tres capítulos siguientes.
Trabajar entre el mercado y la web desde Silicon Valley a Filipinas
Este análisis comienza en Silicon Valley. Sarah Roberts entrevista a tres trabajadores de una empresa llamada MegaTech. Aunque trabajan in situ, en la empresa, tienen un estatus diferente al de los demás empleados de la marca. Estos tres trabajadores, licenciados en prestigiosas universidades estadounidenses, están contratados por un periodo limitado de un año, renovable una vez tras una pausa de tres meses, tienen un estatus de subcontratistas, su remuneración se calcula por horas y no por salario, y no tienen seguro médico.
En MegaTech, los vídeos marcados como inapropiados por los usuarios se remiten a los moderadores. Aquí comienza el «filtrado en la fábrica» (p. 113). Los moderadores se sientan frente a sus ordenadores y reciben diez vídeos para analizar, y tienen que decidir si deben ser eliminados o si pueden permanecer en la plataforma. Es «en esta cadena de montaje digital» (p. 117) donde los trabajadores operan y realizan «tareas repetitivas, aprendidas de memoria». Su jornada laboral consiste en el examen repetido de entre 1.500 y 20.000 vídeos al día. Está marcada por el visionado de imágenes impactantes y violentas.
La cadena de filtrado, confrontada regularmente con imágenes de carácter sexual, pornográfico o violento, se convierte al mismo tiempo en una fuente importante de estrés laboral y de violencia duradera. Si bien a veces es posible que los trabajadores discutan estos temas con sus colegas, muy pocos optan por discutirlos con sus seres queridos, por lo que la moderación de los contenidos suele conducir al aislamiento y, a veces, a la ruptura con los seres queridos.
Estas condiciones de trabajo no son desconocidas para la empresa MegaTech, que alerta a sus futuros empleados en el momento de la entrevista de trabajo sobre sus condiciones de trabajo (sin que ellos mismos sepan realmente de qué se trata) y que crea un equipo de moderación compuesto únicamente por subcontratistas durante un periodo limitado de tiempo, cuya productividad tiende a disminuir después de más de un año a este ritmo y expuestos a este tipo de imágenes. Esta aplicación responde ciertamente a intereses económicos, pero también a «una estrategia calculada y deliberada para alcanzar los objetivos deseados» (p. 144).
A continuación, un análisis de OnlineExperts, una agencia cuyos ingresos provienen de la gestión de comunidades y de la gestión de la imagen de las marcas que pagan por sus servicios. OnlineExperts publica contenidos en nombre de otras empresas en sus propios sitios, gestiona los comentarios para que la página no vea reducida su cuenta y dirige los comentarios «haciéndose pasar a menudo por clientes» (p. 161). Para llevar a cabo estas misiones, Ricky, el responsable de OnlineExperts, recurre principalmente a «prejubilados por cuenta propia» que trabajan desde casa y sólo disponen de espacios de trabajo virtuales compartidos.
Este tipo de contratación cumple un triple objetivo. En primer lugar, esta movilización a distancia de la mano de obra reduce a (casi) cero los costes estructurales asociados a la creación de una empresa. OnlineExperts no tiene oficina, ni ordenador, ni equipo, sino simplemente un sitio de Google y algunas herramientas de moderación.
En segundo lugar, el trabajo autónomo a distancia permite a la empresa evitar «cumplir con la legislación local» (p. 166) y adaptar la cantidad de mano de obra en función de los pedidos. Por último, es el perfil social de los prejubilados o de las personas de más de cuarenta años el que interesa a los expertos en línea. De hecho, considera que estos perfiles son más capaces de «contextualizar los grandes acontecimientos históricos» que los estudiantes o los jóvenes trabajadores. Ricky habla de la necesidad de «autenticidad sociocultural y lingüística» (p. 167).
Los moderadores de contenidos, ya sean empleados en Silicon Valley o en Online Experts, desempeñan un papel de «apoderados», de «intermediarios» entre las publicaciones y «ese complejo conjunto de valores y sistemas culturales que privilegian estas plataformas». El hecho de centrarse en la labor de los moderadores nos permite considerar Internet como un espacio estructurado por un conjunto de técnicas, protocolos y luchas de intereses. Esto último puede llevar, por ejemplo, a los expertos en línea a restringir la «libertad de expresión» en nombre de objetivos económicos, a sentarse «sobre la veracidad y la autenticidad de los contenidos» (p. 173).
El resto de la investigación de Roberts está dedicado a los moderadores de contenidos en Manila, Filipinas. El establecimiento de plataformas de microtrabajo o call centers en Filipinas responde a una doble lógica. Las grandes empresas occidentales han establecido sus «sucursales y han externalizado sus actividades allí, aprovechando una abundante mano de obra barata que, tras más de un siglo de dominación militar y cultural estadounidense, había adquirido un sólido conocimiento de las normas de las prácticas y la cultura norteamericanas» (p. 200), por lo que la «proximidad lingüística y cultural» es uno de los criterios necesarios para este empleo.
Estas estrategias corporativas se basan en la conversión de antiguas redes coloniales que ahora «persisten mediante mecanismos y procesos que las reifican a través de canales económicos más que políticos y militares» (pp. 213-214). Las empresas occidentales, especialmente las estadounidenses, que dependen de estas antiguas rutas comerciales de Oriente explotan una mano de obra barata que, sin embargo, es un componente esencial de la materialidad de las infraestructuras de la red. El dominio que sufren los moderadores de contenidos en esta configuración es aún más sorprendente. Por ejemplo, a los trabajadores de la misma plataforma se les ha impuesto una drástica reevaluación del tiempo de evaluación, ya que cada moderador tiene que evaluar un post no en 32 segundos sino en 10.
Trabajadores de todas las plataformas, ¿unidos?
El final del libro está dedicado a un debate científico y político sobre el futuro de la moderación comercial. Sarah Roberts no ofrece propiamente una sociología de los moderadores de contenidos. No está claro, por ejemplo, si este trabajo, necesario para reproducir y mantener la viabilidad de las plataformas, es realizado mayoritariamente por hombres o por mujeres, siendo estas últimas minoritarias en las entrevistas desarrolladas por el autor. En este punto, falta material estadístico sobre las características sociales y económicas de estos trabajadores para visualizar adecuadamente las divisiones y diferencias que atraviesan la profesión.
En realidad, Sarah Roberts ofrece un estudio de las divisiones del trabajo que subyacen al funcionamiento de Internet. Nos recuerda que toda mercancía, incluso en forma digital, es una combinación de dos elementos: materia y trabajo. Detrás de las pantallas, de cada contenido de Internet, hay organismos que trabajan y se gastan en el sentido fisiológico del término. Un trabajo repetitivo y arduo, realizado bajo un estatus precario durante el cual los trabajadores se enfrentan al visionado de imágenes impactantes. El autor también señala que «no tenemos acceso a ningún estudio longitudinal o a corto plazo sobre los efectos que la moderación de contenidos comerciales tiene en los trabajadores» (p. 228).
Todo su trabajo también nos permite pensar en el papel de estos trabajadores como situado en un punto medio entre la pantalla y el mercado. En este intersticio, los moderadores se ven abocados a clasificar las publicaciones o a valorar algunas de ellas en función de normas, limitaciones y dispositivos formulados por empresas que responden a intereses privados. En este sentido, «el contenido es un bien preciado para las plataformas» (p. 228), y cabría añadir que demasiado preciado como para dejárselo solo a las plataformas. En este sentido, Sarah Roberts señala la imposibilidad de que la industria de las redes sociales «se autorregule en beneficio de los moderadores de contenidos en los que confía, sabiendo que hasta hace poco ni siquiera reconocía haberlos empleado» (p. 231), ni de que se autorregule para ofrecer más transparencia al público sobre las condiciones y motivos de la moderación. La organización de los trabajadores «para exigir mejores condiciones de trabajo, y los intentos son lentos para materializar.
Las disparidades geográficas, la reciente creación de sus puestos de trabajo y las diferencias lingüísticas y socioeconómicas de los trabajadores son, en efecto, graves obstáculos para la movilización colectiva. Sarah Roberts ofrece «una lista de cuestiones teóricas» que considera «la culminación de la investigación». Esta es quizás una de las principales críticas al libro, que no ofrece perspectivas políticas sobre la cuestión de la moderación. La «vuelta a la biblioteca», que toma de Shannon Mattern [2], parece poco convincente. Por otro lado, se pueden plantear alianzas entre los usuarios y los moderadores de contenidos para exigir transparencia en la moderación y condiciones de trabajo dignas. Por último, las cuestiones de boicot a determinadas plataformas o la adopción de medidas políticas directas contra estos gigantes de la web también deberían considerarse cuestiones políticas en estas futuras luchas.
Notas
1/ Fuchs Christian, «Class knowledge and new media», Media, Culture & Society, vol. 32, nº 1, 2010, pp. 141-150, citado en la página 83.
2/ Mattern Shannon, «in/formación pública», Places Journal, 15/11/2016.
