Google Bard es un desastre ético, dicen los propios trabajadores de Google

Google lanzó Bardo, su rival ChatGPT, a pesar de las preocupaciones internas de que era un "mentiroso patológico" y producía resultados "vergonzosos", afirma un nuevo informe. Los trabajadores dicen que estas preocupaciones aparentemente fueron ignoradas en un intento frenético de ponerse al día con ChatGPT y evitar la amenaza que podría representar para El negocio de búsqueda de Google.

Las revelaciones provienen de un Informe Bloomberg que se sumergió profundamente en bardo de google y las cuestiones planteadas por los empleados que han trabajado en el proyecto. Es un relato revelador de las formas en que el chatbot aparentemente se ha descarrilado y los recelos que estos incidentes han generado entre los trabajadores preocupados.

Por ejemplo, Bloomberg cita a un empleado anónimo que le pidió a Bard instrucciones sobre cómo aterrizar un avión y luego se horrorizó al ver que la descripción de Bard provocaría un accidente. Otro trabajador dijo que los consejos de buceo de Bard "probablemente provocarían lesiones graves o la muerte".

Según parece, estos problemas surgieron poco antes del lanzamiento de Bard, pero Google siguió adelante con la fecha de lanzamiento, tal era su deseo de seguir el ritmo del camino abierto por ChatGPT. Pero lo ha hecho sin tener en cuenta sus propios compromisos éticos, lo que ha resultado no sólo en consejos peligrosos, sino también en la posible difusión de información errónea.

Apresurándose para lanzar

En 2021, Google se comprometió a duplicar su equipo de empleados que estudian las consecuencias éticas de la inteligencia artificial (IA) e invertir más en determinar los daños potenciales. Sin embargo, ese equipo ahora está “sin poder y desmoralizado”, afirma el informe de Bloomberg. Peor aún, a los miembros del equipo se les ha dicho que “no se interpongan en el camino ni intenten eliminar ninguna de las herramientas de IA generativa en desarrollo”, lo que pone en duda el compromiso de Google con la ética de la IA.

Esto se vio en acción justo antes del lanzamiento de Bard. En febrero, un trabajador de Google envió un mensaje a un grupo interno para decir: "Bard es peor que inútil: por favor no lo inicie", y muchos otros empleados coincidieron. El mes siguiente, Jen Gennai, líder de gobernanza de IA de Google, anuló una evaluación de riesgos que decía que Bard podría causar daño y no estaba listo para su lanzamiento, siguiendo adelante con el primer lanzamiento público del chatbot.

El informe de Bloomberg presenta una imagen de una empresa que desconfía de las preocupaciones éticas que cree que podrían obstaculizar la rentabilidad de sus propios productos. Por ejemplo, un trabajador pidió trabajar en la equidad en el aprendizaje automático, pero lo desanimaron repetidamente, hasta el punto de que afectó su evaluación de desempeño. Los gerentes se quejaron de que preocupaciones éticas estaban obstruyendo su “trabajo real”, afirmó el empleado.

Es una postura preocupante, sobre todo porque ya hemos visto muchos ejemplos de Mala conducta del chatbot de IA que haya producido información ofensiva, engañosa o francamente falsa. Si el informe de Bloomberg tiene razón sobre el enfoque aparentemente hostil de Google hacia las preocupaciones éticas, esto podría ser sólo el comienzo en lo que respecta a los problemas causados ​​por la IA.

Recomendaciones de los editores

• Los principales autores exigen un pago a las empresas de inteligencia artificial por utilizar su trabajo
• GPT-4: cómo utilizar el chatbot de IA que avergüenza a ChatGPT
• Wix usa ChatGPT para ayudarte a crear rápidamente un sitio web completo
• OpenAI, fabricante de ChatGPT, se enfrenta a una investigación de la FTC sobre las leyes de protección al consumidor
• El tráfico del sitio web ChatGPT ha caído por primera vez

Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.