A Investigação de tempo expôs o lado mais obscuro da indústria de chatbots de IA, destacando como pelo menos uma startup tem usado práticas questionáveis para melhorar sua tecnologia.
Publicado na quarta-feira, o relatório da Time se concentra na OpenAI apoiada pela Microsoft e seu chatbot ChatGPT, uma tecnologia que ganhou muita atenção recentemente por sua notável capacidade de produzir texto conversacional altamente natural.
Vídeos recomendados
A investigação da Time descobriu que, para treinar a tecnologia de IA, a OpenAI usou os serviços de uma equipe no Quênia para se debruçar sobre o texto que incluíram assuntos perturbadores, como abuso sexual infantil, bestialidade, assassinato, suicídio, tortura, automutilação e incesto. E por seus esforços para rotular o conteúdo repugnante, muitos membros da equipe receberam menos de US$ 2 por hora.
Relacionado
- O Google Bard agora pode falar, mas pode abafar o ChatGPT?
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O crescimento recorde do ChatGPT acabou de ser destronado por um novo aplicativo viral
O trabalho, iniciado em novembro de 2021, era necessário, pois o antecessor do ChatGPT, GPT-3, embora impressionante, tendia a vomitar conteúdo ofensivo, pois seu conjunto de dados de treinamento foi compilado raspando centenas de bilhões de palavras de todos os cantos do rede.
A equipe sediada no Quênia, operada pela Sama, firma de São Francisco, rotularia o conteúdo ofensivo para ajudar treinar o chatbot da OpenAI, melhorando assim seu conjunto de dados e reduzindo as chances de qualquer saída.
A Time disse que todos os quatro funcionários da Sama que entrevistou descreveram terem sido mentalmente marcados por seu trabalho. A Sama oferecia sessões de aconselhamento, mas os funcionários diziam que eram ineficazes e raramente ocorriam devido à as demandas do trabalho, embora um porta-voz da Sama tenha dito à Time que os terapeutas estavam acessíveis a qualquer tempo.
Um trabalhador disse à Time que ler o material chocante às vezes parecia uma “tortura”, acrescentando que eles se sentiam “perturbados” no final da semana.
Em fevereiro de 2022, as coisas ficaram ainda mais sombrias para Sama quando a OpenAI lançou um projeto separado, não relacionado ao ChatGPT, que exigia que sua equipe do Quênia coletasse imagens de natureza sexual e violenta. A OpenAI disse à Time que o trabalho era necessário para tornar suas ferramentas de IA mais seguras.
Poucas semanas após o início deste projeto baseado em imagens, a natureza alarmante das tarefas levou a Sama a cancelar todos os seus contratos com OpenAI, embora a Time sugira que também pode ter sido motivada pelas consequências de relações públicas de um relatório sobre um assunto semelhante que publicou sobre Facebook mais ou menos ao mesmo tempo.
A Open AI disse à Time que houve “uma falha de comunicação” sobre a natureza das imagens que pediu a Sama para coletar, insistindo que não pediu as imagens mais extremas e não viu nenhuma que tivesse sido enviado.
Mas o término dos contratos afetou a subsistência dos trabalhadores, com alguns membros da equipe no Quênia perdendo seus empregos, enquanto outros foram transferidos para projetos com salários mais baixos.
investigação do tempo oferece uma visão desconfortável, mas importante, do tipo de trabalho que está sendo feito nos chatbots com tecnologia de IA que recentemente deixaram a indústria de tecnologia tão empolgada.
Embora transformadora e potencialmente benéfica, a tecnologia claramente tem um custo humano e levanta uma série de questões éticas sobre como as empresas atuam. desenvolvendo suas novas tecnologias e, de forma mais ampla, sobre como os países mais ricos continuam a distribuir tarefas menos desejáveis para as nações mais pobres por um custo financeiro menor. desembolso.
As startups por trás da tecnologia passarão por um escrutínio mais focado nos próximos meses e anos e, portanto, fariam bem em revisar e melhorar suas práticas na primeira oportunidade.
A Digital Trends entrou em contato com a OpenAI para comentar o relatório da Time e atualizaremos este artigo quando recebermos uma resposta.
Recomendações dos editores
- As melhores ferramentas de edição de vídeo AI
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- A nova empresa de IA de Elon Musk visa "entender o universo"
- O tráfego do site ChatGPT caiu pela primeira vez
- Avanços da IA podem vir do cérebro das abelhas, dizem cientistas
Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.
