Menos de 2 dólares à hora: os quenianos que ensinaram o ChatGPT a não ser tóxico

Quando abres o ChatGPT e fazes uma pergunta, a resposta chega limpa, educada, sem violência nem obscenidade. Essa limpeza tem uma origem humana. Segundo uma investigação da revista TIME, parte do trabalho de tornar o ChatGPT menos tóxico foi feita por trabalhadores subcontratados no Quénia, com salários que, segundo a mesma reportagem, ficavam abaixo dos dois dólares por hora [5].

Este artigo reúne o que as fontes publicadas dizem sobre o caso, separa os factos reportados das alegações e deixa claro onde as versões divergem.

A investigação da TIME

Em 18 de Janeiro de 2023, a TIME publicou uma reportagem exclusiva do jornalista Billy Perrigo com um título sem rodeios: a OpenAI usou trabalhadores quenianos a menos de dois dólares por hora para tornar o ChatGPT menos tóxico [4][5]. A revista diz ter analisado centenas de páginas de documentos para a investigação [7].

O ponto de partida da reportagem é uma ideia simples: o sucesso do ChatGPT não é apenas uma história de génio de Silicon Valley. Para o tornar menos tóxico, a OpenAI recorreu a trabalhadores externos no Quénia [5].

Quem fez o quê

A OpenAI não contratou directamente esses trabalhadores. Segundo a BBC News Brasil, que cita a reportagem de Perrigo, a empresa, que tem a Microsoft entre os seus principais investidores, terceirizou o trabalho de enriquecimento de dados a uma companhia chamada Sama, e esta contratou trabalhadores no Quénia para a tarefa [2].

A Folha de S. Paulo acrescenta que a Sama se apresenta como uma empresa que actua na área da inteligência artificial ética [7]. A empresa chamava-se Samasource até 2021 [1].

A OpenAI confirmou, num comunicado citado pela TIME, que funcionários da Sama no Quénia contribuíram para uma ferramenta que estava a construir para detectar conteúdo tóxico, e que essa ferramenta acabou por ser integrada no ChatGPT. A empresa explicou ainda que este trabalho contribuiu para os esforços de remover dados tóxicos dos conjuntos de treino de ferramentas como o ChatGPT [4][5].

O porta-voz da OpenAI justificou a necessidade: classificar e filtrar texto e imagens nocivos é, nas suas palavras, um passo necessário para minimizar a quantidade de conteúdo violento e sexual incluído nos dados de treino e para criar ferramentas capazes de detectar conteúdo nocivo [4][5]. A missão declarada da empresa, citada no mesmo comunicado, é garantir que a inteligência artificial geral beneficie toda a humanidade [4][5].

O trabalho em concreto

O que consistia, na prática, esse trabalho? A descrição mais detalhada vem de uma petição apresentada à Assembleia Nacional do Quénia, noticiada pelo Truthout. Segundo a petição, os trabalhadores deviam ver e categorizar material com violência sexual e gráfica, incluindo bestialidade, necrofilia, violência sexual incestuosa, abuso sexual de menores, automutilação, suicídio, tortura e violação, para que o ChatGPT aprendesse a reconhecer esse conteúdo antes de interagir com os utilizadores [1].

A petição descreve ainda que os trabalhadores receberam contratos temporários da Sama que não descreviam suficientemente a natureza das funções [1]. É uma alegação feita numa petição, e não uma conclusão de um tribunal.

Os números: quanto ganhavam e quanto se cobrava

Os valores são o centro da polémica, e aqui as versões não coincidem.

Segundo a TIME, os trabalhadores de rotulagem de dados contratados pela Sama em nome da OpenAI recebiam, em salário líquido, entre cerca de 1,32 e 2 dólares por hora, conforme a antiguidade e o desempenho [4]. A Folha, citando a mesma revista, indica que a Sama recebia cerca de 12,50 dólares por hora de serviço contratado e pagava aos quenianos entre 1,32 e 2 dólares por hora [7].

A Sama deu outra versão à TIME. Segundo a Folha, a empresa afirmou ter pago entre 1,46 e 3,74 dólares por hora, já considerados os descontos. A reportagem sublinha que a Sama não respondeu quais funções da hierarquia recebiam mais de 2 dólares por hora [7].

A empresa disse também que os 600 mil dólares correspondentes a três contratos, de igual valor, com a OpenAI incluíam gastos com infra-estrutura, benefícios e a remuneração de gestores e consultores de qualidade que vistoriavam o trabalho [7].

Há ainda quem fale de valores mais baixos. O artigo de Alex Kantrowitz sobre um trabalhador de Nairobi apresenta-se com a frase de que, por menos de um dólar por hora, trabalhadores em Nairobi treinaram os modelos GPT da OpenAI [3]. Essa é a formulação do artigo; o texto da TIME fala de 1,32 a 2 dólares.

O custo humano

A parte mais grave da história não é o salário. Segundo a petição noticiada pelo Truthout, os trabalhadores não receberam apoio psicológico suficiente e desenvolveram problemas graves de saúde mental, incluindo perturbação de stress pós-traumático, paranóia, depressão e ansiedade [1]. São alegações apresentadas à Assembleia Nacional, que os peticionários querem ver investigadas.

O caso ganhou rosto no artigo de Alex Kantrowitz, intitulado "He Helped Train ChatGPT. It Traumatized Him", sobre um trabalhador de Nairobi que ajudou a treinar o ChatGPT e ficou traumatizado [3]. A cobertura foi replicada por vários meios, entre eles o MSN, o Yahoo e o The US Sun, segundo a lista de artigos associada ao incidente [6].

A base de incidentes de IA da OCDE (OECD.AI) regista o caso com a seguinte descrição: trabalhadores quenianos contratados para rotular conteúdo explícito e perturbador para treinar o ChatGPT sofreram danos psicológicos graves, incluindo trauma, ansiedade e depressão. O registo acrescenta que o trabalho era essencial para tornar a IA mais segura e que expôs os trabalhadores a material gráfico, o que evidencia o custo humano de desenvolver sistemas de moderação de conteúdo com IA [6]. A OCDE avisa que a informação ali apresentada não deve ser tomada como posição oficial da organização ou dos seus membros [6].

Quem é responsável?

A resposta depende de a quem se pergunta.

Segundo a BBC News Brasil, um porta-voz da OpenAI disse, num comunicado, que a empresa terceirizada era responsável pela gestão dos salários e das condições de trabalho dos taggers contratados para trabalhar no ChatGPT [2].

Do outro lado, uma activista citada pela BBC, cuja organização dá assistência a um antigo funcionário da Sama que trabalhou como moderador do Facebook no Quénia, defende que estes trabalhos têm um custo para a saúde mental de quem os faz e que as empresas devem fornecer tratamento psiquiátrico adequado e um salário mais justo. Segundo ela, as grandes tecnológicas têm muitos recursos financeiros para prestar essa assistência, mas não o fazem porque colocam o lucro acima da segurança dos trabalhadores [2]. É a posição da activista, não uma conclusão verificada pela reportagem.

Esse antigo moderador processou a Sama e a Meta, dona do Facebook, em 2022, pelos danos psicológicos que diz ter sofrido. Segundo a BBC, o caso ainda tramitava na Justiça de Nairóbi na altura da publicação [2]. Convém notar que esse processo diz respeito a moderação de conteúdo para o Facebook, e não ao treino do ChatGPT.

A Partnership on AI, uma coligação de organizações de IA a que a própria OpenAI pertence, afirma que um conjunto crescente de investigação revela as condições precárias que estes profissionais de enriquecimento de dados enfrentam, apesar do papel fundamental que desempenham [5].

A resposta política: uma petição no parlamento

Os trabalhadores e os seus apoiantes levaram a questão à Assembleia Nacional do Quénia. Segundo o Truthout, os peticionários pedem que se investigue as condições de trabalho em empresas como a Sama, a quem grandes empresas, como a Google, a Meta e a OpenAI, subcontratam trabalho de moderação de conteúdo e de IA [1].

Mercy Sumbi, activista de direitos digitais e advogada, explicou o objectivo: em nome dos jovens quenianos cujas vidas ficaram arruinadas por terem feito o trabalho sujo de treinar o algoritmo do ChatGPT, foi apresentada uma petição para investigar como a OpenAI e a Sama escaparam a tal exploração e para regular com urgência o trabalho tecnológico [1]. A frase é dela, e a descrição de "exploração" é a posição dos peticionários.

O que isto significa para quem usa IA

As fontes consultadas não oferecem uma lista de medidas práticas de protecção para o utilizador comum, e este artigo não vai inventar uma. O que mostram é uma estrutura: uma empresa de IA, uma empresa subcontratada e trabalhadores que fazem a parte mais dura do processo, numa zona da indústria que a própria TIME descreve como pouco conhecida, mas essencial para tornar os sistemas de IA seguros para o público [5].

Há, ainda assim, uma conclusão sólida que decorre dos factos reportados. A segurança de um sistema como o ChatGPT não surgiu apenas de código: segundo a própria OpenAI, exigiu classificar e filtrar conteúdo nocivo [4][5], e esse trabalho foi feito, em parte, por pessoas, no Quénia [2]. Quando uma empresa fala da segurança dos seus produtos, a pergunta de quem fez esse trabalho, em que condições e com que salário, é legítima, e as fontes mostram que ainda está em disputa.

O desfecho das alegações da petição e do processo contra a Sama e a Meta não consta das fontes que consultámos, pelo que não o podemos afirmar.