Google lancé Barde, son rival ChatGPT, malgré les inquiétudes internes selon lesquelles il était un « menteur pathologique » et produisait des résultats « dignes de confiance », selon un nouveau rapport. Le travailleur affirme que ces inquiétudes ont apparemment été ignorées dans une tentative frénétique de rattraper ChatGPT et éviter la menace que cela pourrait représenter pour L'activité de recherche de Google.
Les révélations viennent d'un Rapport Bloomberg qui a plongé profondément dans Google Barde et les problèmes soulevés par les employés qui ont travaillé sur le projet. Il s’agit d’un récit révélateur de la façon dont le chatbot a apparemment déraillé et des doutes que ces incidents ont suscités parmi les travailleurs concernés.
Par exemple, Bloomberg cite un employé anonyme qui a demandé à Bard des instructions sur la façon de faire atterrir un avion, puis a été horrifié de voir que la description de Bard entraînerait un accident. Un autre travailleur a déclaré que les conseils de Bard en matière de plongée sous-marine « entraîneraient probablement des blessures graves, voire la mort ».
En rapport
- ChatGPT: les dernières actualités, controverses et astuces à connaître
- Qu'est-ce qu'une invite DAN pour ChatGPT?
- Google Bard peut désormais parler, mais peut-il étouffer ChatGPT?
Ces problèmes ont apparemment été soulevés peu de temps avant le lancement de Bard, mais Google a néanmoins avancé sur la date de mise en ligne, tel était son désir de suivre le rythme du lancement. chemin tracé par ChatGPT. Mais il l’a fait au mépris de ses propres engagements éthiques, ce qui entraîne non seulement des conseils dangereux, mais aussi la propagation potentielle de fausses informations.
Vidéos recommandées
Se précipiter pour lancer
En 2021, Google s’est engagé à doubler son équipe d’employés étudiant les conséquences éthiques de l’intelligence artificielle (IA) et à investir davantage dans la détermination des dommages potentiels. Pourtant, cette équipe est désormais « impuissante et démoralisée », affirme le rapport Bloomberg. Pire encore, il a été demandé aux membres de l’équipe « de ne pas gêner ou d’essayer de tuer les outils d’IA générative en cours de développement », ce qui remet en question l’engagement de Google en faveur de l’éthique de l’IA.
Cela a été vu en action juste avant le lancement de Bard. En février, un employé de Google a envoyé un message à un groupe interne pour dire: « Bard est pire qu'inutile: s'il vous plaît, ne lancez pas », avec de nombreux autres employés qui ont accepté. Le mois suivant, Jen Gennai, responsable de la gouvernance de l'IA chez Google, a annulé une évaluation des risques selon laquelle Bard pouvait causer des dommages et n'était pas prêt à être lancé, nous avons donc lancé la première version publique du chatbot.
Le rapport de Bloomberg dresse le portrait d’une entreprise méfiante à l’égard des préoccupations éthiques qui, selon elle, pourraient nuire à la rentabilité de ses propres produits. Par exemple, un travailleur a demandé à travailler sur l’équité dans l’apprentissage automatique, mais a été découragé à plusieurs reprises, au point que cela a affecté son évaluation de ses performances. Les managers se plaignaient du fait que les préoccupations éthiques faisaient obstacle à leur « vrai travail », a déclaré l’employé.
C’est une position inquiétante, d’autant plus que nous avons déjà vu de nombreux exemples de Inconduite des chatbots IA qui a produit des informations offensantes, trompeuses ou carrément fausses. Si le rapport Bloomberg a raison quant à l’approche apparemment hostile de Google à l’égard des préoccupations éthiques, cela pourrait bien n’être qu’un début en ce qui concerne les problèmes causés par l’IA.
Recommandations des rédacteurs
- Les meilleurs auteurs exigent une rémunération des entreprises d’IA pour l’utilisation de leurs travaux
- GPT-4: comment utiliser le chatbot IA qui fait honte à ChatGPT
- Wix utilise ChatGPT pour vous aider à créer rapidement un site Web complet
- Le créateur de ChatGPT, OpenAI, fait face à une enquête de la FTC sur les lois sur la protection des consommateurs
- Le trafic du site ChatGPT a chuté pour la première fois
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
