ONU descobre que assistentes de voz não estão ajudando a corrigir estereótipos sexistas de gênero

O assistente de voz de sua escolha provavelmente tem uma voz feminina. Embora você possa não pensar muito nisso, a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) acredita que os assistentes alimentados por IA podem reforçar os estereótipos negativos de género, ao mesmo tempo que não consegue rejeitar adequadamente a linguagem violenta e abusiva, levando a alguns resultados potencialmente prejudiciais.

Em um artigo intitulado “Eu coraria se pudesse”, pesquisadores da UNESCO exploraram alguns dos preconceitos implícitos que ocorrem na pesquisa em inteligência artificial. Os autores do artigo sugerem que, ao dar aos assistentes de voz nomes tradicionalmente femininos e atribuí-los vozes femininas por padrão, as empresas reforçaram involuntariamente ideias negativas e regressivas sobre mulheres. Isso os posiciona como subservientes e em uma função em que se espera que façam o que lhes é pedido.

Além disso, o artigo analisou como os assistentes de voz respondem quando confrontados com linguagem abusiva. O que eles descobriram foi a IA. desvia tais comentários em vez de tomar qualquer tipo de ação para desencorajá-los. Se um usuário ameaça um assistente de voz, geralmente isso produz uma piada boba ou uma mensagem desdenhosa. Os investigadores da UNESCO acreditam que as empresas tecnológicas deveriam criar salvaguardas nestes sistemas que ajudariam a diminuir a linguagem abusiva dirigida às vozes femininas. Os investigadores acreditam que, ao não o fazerem, as empresas correm o risco de normalizar comportamentos, como fazer ameaças violentas contra as mulheres.

Parte deste problema, segundo a UNESCO, é que a maioria das empresas de tecnologia tem equipas de engenharia compostas em grande parte e esmagadoramente por homens. Porque provavelmente não têm experiência direta em lidar com este tipo de linguagem que lhes é dirigida nem foram vítimas do tipo de linguagem estereótipos negativos e papéis de gênero antiquados com os quais as mulheres lidam, elas não estão necessariamente pensando nessas coisas ao projetar a IA. sistemas.

“Empresas como a Apple e a Amazon, compostas por equipes de engenharia predominantemente masculinas, construíram a IA. sistemas que causam sua assistentes digitais feminizadas para saudar o abuso verbal com o flerte do tipo pegue-me se puder”, escrevem os pesquisadores em seu relatório. “Como a fala da maioria dos assistentes de voz é feminina, isso envia um sinal de que as mulheres são… dóceis e ajudantes ansiosos para agradar, disponíveis com o toque de um botão ou com um comando de voz contundente como ‘ei’ ou 'OK'. O assistente não detém nenhum poder de agência além do que o comandante lhe pede. Ele honra comandos e responde a perguntas independentemente de seu tom ou hostilidade.”

A UNESCO acredita que a melhor solução para o problema é criar um voz neutra em termos de gênero aquela IA assistentes podem usar. A organização também sugere a construção de respostas e sistemas que fechem e desencorajem linguagem e insultos agressivos e violentos. Os pesquisadores acreditam que as empresas de tecnologia também deveriam parar de posicionar os assistentes de voz como seres humanos subservientes, na tentativa de evitar a extensão de estereótipos prejudiciais.

Recomendações dos Editores

• Especialistas alertam que assistentes de IA estão prejudicando o desenvolvimento social das crianças
• Resumo de animais de estimação brincando com Google e Alexa
• Os novos itens compatíveis com Hubspace da Home Depot incluem plugue inteligente
• É viável apostar tudo em um ecossistema de casa inteligente?
• Página inicial do Google (Nest Audio) vs. Amazon Eco

Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.