Una suposición popular del mundo digital es que se construye y administra democráticamente, en gran parte debido a su naturaleza participativa masiva. Sin embargo, una invención de la sociedad moderna está destinada a replicar las asimetrías, los sesgos y los conflictos del mundo físico. Esto es particularmente cierto en el caso de los sistemas que subyacen a la construcción de infraestructuras y dispositivos digitales.
En Algorithms of Oppression, Safiya Umoja exploró cómo la discriminación de datos condujo a algoritmos sesgados que discriminaban a las mujeres de color y privilegiaban la blancura. En Armas de destrucción matemática, la matemática Cathy O’Neil exploró cómo el uso de herramientas de macrodatos en campos como la policía y los seguros perpetúa la desigualdad y los prejuicios.
Lo que muestran estos casos es que el espacio digital no es inherentemente democrático. Y lo que ahora está emergiendo es que los procesos ocultos en el back-end que desarrollan estos sistemas también están contaminados por la desigualdad y el sesgo. A fines de enero de este año, la revista Time publicó una exposición sobre OpenAI, una empresa de investigación de inteligencia artificial (IA) responsable del conocido chatbot de IA ChatGPT y el generador de arte DALLE-E. La exposición detalló una fuerza de 200 moderadores de contenido mal pagados y explotados en Kenia que se utilizaron para etiquetar textos dañinos para el software ChatGPT. Esta noticia afirma una verdad, que la división global del trabajo ha sido cooptada por las fuerzas de la revolución digital y, una vez más, ha dejado al continente africano como un sitio para la explotación laboral en beneficio de los intereses del capital del Norte.
Àlex Garcia)
Se necesita un pueblo para criar un chatbot
GPT3 es un generador de lenguaje completamente natural que se ha utilizado para muchas funciones, incluida la potencia del chatbot Philosopher AI y la enseñanza de mandarín a través de GPT-3 Grandmother. Al obtener datos lingüísticos de la web mundial, OpenAI creó GPT3, el predecesor de ChatGPT.
Como la nueva plaza pública ampliamente desregulada, Internet, como era de esperar, duplica las mismas características tóxicas del mundo físico: después de todo, son las personas las que lo habitan y regurgitan sus opiniones, creencias y prejuicios en salas de chat, foros abiertos, Twitter y otras plataformas similares. Usando los datos de idioma que se encuentran en todos los rincones de la web, el chatbot de IA solía arrojar respuestas obscenas, odiosas, sexistas y racistas a las indicaciones.
Llega Sama, una empresa de IA que firmó tres contratos por un valor de 200 000 dólares con OpenAI durante tres años para etiquetar descripciones textuales de incitación al odio, abuso sexual y violencia en 2021. Sama, una empresa de San Francisco con una sede en Kenia, también emplea a locales como trabajadores de Uganda e India para etiquetar datos para Meta, Google y otros gigantes tecnológicos de Silicon Valley.
El proceso de etiquetado introdujo una herramienta que se integraría en el bot de IA, ayudándolo a clasificar y filtrar textos dañinos para minimizar la producción de contenido dañino. Este fue un paso importante en la funcionalidad y el éxito del chatbot de próxima generación de OpenAI, ChatGPT, que llegó a ganar 100 millones de usuarios en su segundo mes en línea.
Sin duda, una innovación revolucionaria reconocida por el portavoz de OpenAI como una herramienta «necesaria» para combatir el discurso de odio en los sistemas de IA, parece que su utilidad no se extendió a una compensación adecuada por el trabajo detrás de su funcionalidad. Según la investigación de Time, a los trabajadores de Sama se les pagaban salarios que oscilaban entre $1,32 y $2 por hora “dependiendo de la antigüedad y el desempeño”.
Según un informe de la BBC de 2018 sobre Sama, aproximadamente el 75% de los empleados de la corporación son del asentamiento informal de Kibra en Nairobi. Conocido como uno de los barrios marginales más grandes del este de África, Kibra tiene una tasa de desempleo del 50% y condiciones de vida atroces caracterizadas por la falta de agua potable e instalaciones sanitarias. Con más del 10% de la población de la ciudad desempleada, la necesidad de trabajo, cualquier trabajo, en Nairobi es alta.
Los empleados de Sama estaban obligados por contrato a etiquetar 70 muestras de texto en turnos de nueve horas. Muchos divulgaron etiquetar rutinariamente entre 150 y 250 textos por turno. Debido a la naturaleza explícita del texto filtrado, los empleados entrevistados sufrieron cicatrices mentales, tortura y pesadillas.
Sama terminó su contrato con OpenAI, lo que resultó en docenas de descensos de categoría y pérdidas de empleos. Desde entonces, Sama ha anunciado que terminaría todo su trabajo relacionado con contenido confidencial para marzo de 2023. Las consecuencias han sido similares a las del cierre del contrato de OpenAI que Sama tenía con Meta.
La División Global del Trabajo y el Trabajo Silencioso del Continente
Esta subcontratación de mano de obra para eludir los altos gastos salariales no es nueva en la revolución digital. Apenas el año pasado, Meta fue demandada en Kenia por reprimir sindicatos y contratar a la misma empresa, Sama, que sometió a los trabajadores a condiciones de trabajo inhumanas. Y la fiebre del cobalto del Congo ha empujado a los niños trabajadores al sector minero en masa durante años.
En respuesta al artículo de Time, Sama respondió afirmando pagar «entre Sh26.600 y Sh40.000 ($210 a $323) por mes». Si esto es cierto, equivaldría a un promedio de $12 por día, mientras que la tarifa comparativa en los EE.UU sería de alrededor de $ 30 a $ 40 por hora. El gasto salarial para Sama y sus clientes se reduce significativamente a través de esta forma de subcontratación externa. Las recompensas son altas y los riesgos son exponencialmente bajos para los trajes de Silicon Valley y Silicon Harbor.
Lo que expone ChatGPT es la persistencia de una división global del trabajo establecida. Al hacerlo, también contradice afirmaciones audaces sobre cómo la revolución digital está remodelando la fuerza laboral global. Por supuesto, el espacio digital ofrece oportunidades para la mejora de las habilidades y la redistribución de la riqueza, en particular a través de la economía global.
Sin embargo, el espacio para que estos sistemas se repliquen radica en el trabajo invisible que apuntala la infraestructura digital. Cuando su chatbot funciona correctamente, no se piensa en qué tipo de trabajo habilitó esa funcionalidad. Ni siquiera se piensa en cómo podría verse un bot no funcional. Del mismo modo, cuando la batería de su teléfono inteligente funciona sin problemas, no tiene que preocuparse por su composición interna, y mucho menos de dónde provienen esos materiales. En una era en la que una crisis global u otra está a un paso de distancia, es raro encontrar un área de la sociedad que no esté bajo el escrutinio de la mirada normativa. Cuando las formas de trabajo se organizan para existir fuera del panóptico, la razón suele ser permitir que se produzcan abusos.
Retos y oportunidades
En mi perspectiva, toda esta situación no significa que África deba ser relegada a su estatus percibido de sujeto en lugar de agente en el escenario internacional. En todo caso, debemos reconocer la gran cantidad de oportunidades que la revolución digital tiene disponibles para todas y cada una de las naciones.
Las leyes laborales deben, en primer lugar, ser fortalecidas y ajustadas a los tiempos. Si hay algo en lo que las corporaciones multinacionales son buenas, es en identificar las grietas perfectas en el sistema que pueden convertirse en suelo para sus raíces siempre expansivas. Las leyes anacrónicas no sirven más que para poner este fundamento.
En segundo lugar, la auditoría nacional de las actividades de las corporaciones multinacionales también debe realizarse con diligencia y teniendo en cuenta los mejores intereses de los trabajadores locales. Si se considera que la inversión es un beneficio importante para la cooperación empresarial internacional, deben invertir en, no explotar, a los trabajadores que fortalecen y agregan valor a sus operaciones.
Sin embargo, el mayor desafío para cualquiera de estas opciones es quizás la modernización del derecho comercial internacional para abarcar la economía digital. La liberalización del comercio de bienes y servicios digitales se ha globalizado, limitando las barreras al comercio digital. También ha permitido un flujo de datos fácil y de bajo costo en todo el mundo, fomentando la subcontratación de la producción y el comercio de estos bienes y expandiendo las cadenas de suministro globales.
El cambio hacia un orden comercial internacional más liberal ha oscurecido el papel del estado en la regulación, el control y la configuración de los flujos de datos globales. Todo ello mientras los marcos regulatorios que rigen estos flujos y la posterior integración de nuevos mercados laborales en el mapa global de dichos flujos de datos siguen sin desarrollarse. En este espacio de política incipiente, se debe reforzar la capacidad de los estados para proteger a los trabajadores contra la tiranía inherente de los acuerdos comerciales que privilegian el derecho del capital a migrar sin restricciones.
¿Cómo puede África protegerse de la tiranía digital emergente? Una forma podría ser revivir su antigua inclinación por la formación de alianzas continentales. Tomando prestado el pensamiento de Howard French después de la Cumbre EE.UU-África, donde imploró a los africanos que hablaran con una sola voz, o al menos con menos voces, nunca ha habido un momento más urgente para unir el poder africano colectivo.
Si bien presentar un frente unido, especialmente durante las negociaciones comerciales, puede ser la forma más segura de evitar reproducir los grandes desequilibrios de los sistemas laborales y comerciales actuales, esto será puesto a prueba y probablemente socavado por los intentos habituales de balcanizar el continente a lo largo de los neo-estadounidenses habituales líneas coloniales de regionalismo, linguas coloniales e incentivos de ayuda. Trascender estas trampas puede sonar utópico, pero hacerlo podría otorgarle a África un gran avance en el uso del orden internacional basado en reglas para aumentar sus ganancias durante la revolución digital.
Al final del día, el cambio de un ámbito (físico) de vida a otro (digital) no es la panacea para los sistemas centenarios de división y opresión. Las nuevas tecnologías desarrollan sus propios ejes de explotación que se incorporan sistemáticamente a las relaciones sociales, geográficas y económicas. Siempre se requiere vigilancia.
*Suzie Shefeni es una investigadora independiente con sede en Windhoek, Namibia. Es miembro de Women of Color Advancing Peace, Security and Conflict Transformation (WCAPS).
Artículo publicado originalmente en Argumentos Africanos
Foto de portada:
