Google lançado Bardo, seu rival ChatGPT, apesar das preocupações internas de que era um “mentiroso patológico” e produzia resultados “críveis”, afirmou um novo relatório. O trabalhador diz que essas preocupações foram aparentemente ignoradas em uma tentativa frenética de converse com ChatGPT e evitar a ameaça que isso poderia representar para O negócio de busca do Google.
As revelações vêm de um Relatório Bloomberg que mergulhou fundo Google Bardo e as questões levantadas pelos funcionários que trabalharam no projeto. É um relato revelador sobre como o chatbot aparentemente saiu dos trilhos e sobre as dúvidas que esses incidentes suscitaram entre os trabalhadores preocupados.
Por exemplo, a Bloomberg cita um funcionário anônimo que pediu instruções a Bard sobre como pousar um avião e depois ficou horrorizado ao ver que a descrição de Bard levaria a um acidente. Um funcionário diferente disse que as dicas de mergulho de Bard “provavelmente resultariam em ferimentos graves ou morte”.
Relacionado
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O que é um prompt DAN para ChatGPT?
- O Google Bard agora pode falar, mas será que pode abafar o ChatGPT?
Essas questões foram aparentemente levantadas pouco antes do lançamento do Bard, mas o Google pressionou a data de lançamento, tal era o seu desejo de acompanhar o ritmo do lançamento. caminho traçado pelo ChatGPT. Mas fê-lo ao mesmo tempo que desrespeitou os seus próprios compromissos éticos, resultando não só em conselhos perigosos, mas também na potencial propagação de desinformação.
Vídeos recomendados
Correndo para o lançamento
Em 2021, a Google comprometeu-se a duplicar a sua equipa de funcionários que estudam as consequências éticas da inteligência artificial (IA) e a investir mais fortemente na determinação de potenciais danos. No entanto, essa equipa está agora “desempoderada e desmoralizada”, afirma o relatório da Bloomberg. Pior ainda, os membros da equipe foram instruídos a “não atrapalhar ou tentar eliminar qualquer uma das ferramentas generativas de IA em desenvolvimento”, questionando o compromisso do Google com a ética da IA.
Isso foi visto em ação pouco antes do lançamento de Bard. Em fevereiro, um funcionário do Google enviou uma mensagem a um grupo interno dizendo: “Bard é pior que inútil: por favor, não lance”, com vários outros funcionários concordando. No mês seguinte, Jen Gennai, líder de governança de IA do Google, rejeitou uma avaliação de risco que dizia que Bard poderia causar danos e não estava pronto para o lançamento, avançando com o primeiro lançamento público do chatbot.
O relatório da Bloomberg pinta o retrato de uma empresa desconfiada das preocupações éticas que considera que poderiam prejudicar a rentabilidade dos seus próprios produtos. Por exemplo, um trabalhador pediu para trabalhar na justiça na aprendizagem automática, mas foi repetidamente desencorajado, ao ponto de afetar a sua avaliação de desempenho. Os gerentes reclamaram que as preocupações éticas estavam obstruindo seu “trabalho real”, afirmou o funcionário.
É uma postura preocupante, especialmente porque já vimos muitos exemplos de Má conduta do chatbot de IA que produziu informações ofensivas, enganosas ou totalmente falsas. Se o relatório da Bloomberg estiver correto sobre a abordagem aparentemente hostil do Google às questões éticas, este poderá ser apenas o começo quando se trata de problemas causados pela IA.
Recomendações dos Editores
- Os principais autores exigem pagamento de empresas de IA pelo uso de seu trabalho
- GPT-4: como usar o chatbot AI que envergonha o ChatGPT
- Wix usa ChatGPT para ajudá-lo a construir rapidamente um site inteiro
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- O tráfego do site ChatGPT caiu pela primeira vez
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
