Le pionnier de l'intelligence artificielle, Geoffrey Hinton, en a surpris plus d'un lundi en révélant qu'il quittait son emploi chez Google, où il a travaillé pendant la dernière décennie sur des projets d'IA.
Souvent appelé « le parrain de l’IA » pour son travail révolutionnaire qui sous-tend de nombreux systèmes d’IA actuels, Hinton, d’origine britannique, aujourd’hui âgé de 75 ans, a déclaré au New York Times qu'il a de sérieuses inquiétudes quant à la vitesse à laquelle des sociétés comme Open AI avec ses ChatGPT outil, et Google avec Barde, travaillent au développement de leurs produits, d'autant que cela pourrait se faire au détriment de la sécurité.
Vidéos recommandées
Hinton est tellement inquiet qu’il a même déclaré qu’une partie de lui regrettait ses efforts passés dans le domaine de l’IA, a rapporté le Times.
En rapport
- GPT-4: comment utiliser le chatbot IA qui fait honte à ChatGPT
- Les meilleurs outils de montage vidéo IA
- Le créateur de ChatGPT, OpenAI, fait face à une enquête de la FTC sur les lois sur la protection des consommateurs
Comme le souligne le rapport, les outils d’IA générative tendent déjà à remplacer les travailleurs humains, et la technologie peut également être utilisée pour créer et diffuser de la désinformation.
En effet, l’une des inquiétudes de Hinton est qu’Internet, dont les données sont utilisées pour former des outils d’IA générative, soit inondé. avec de fausses informations qui pourraient amener des chatbots comme ChatGPT et Bard à cracher des contrevérités sans fin d'une manière qui semble croyable.
Alors que les entreprises à l’origine de cette technologie publient leurs outils basés sur l’IA pour un usage public sans connaître pleinement leurs potentiel, Hinton craint qu’il soit « difficile de voir comment empêcher les mauvais acteurs de l’utiliser à mauvais escient ». des choses."
Hinton a déclaré qu'il sera difficile de réglementer la technologie, car les entreprises et les gouvernements peuvent travailler sur la technologie à peu près en secret, ajoutant qu'une façon de résoudre le problème est d'essayer d'amener les principaux scientifiques à travailler ensemble sur les moyens de contrôler le technologie.
L’expert en IA a déclaré lundi dans un tweet qu’il avait décidé de quitter Google afin de pouvoir « parler des dangers de l’IA ». sans tenir compte de l’impact de cela sur Google », ce qui suggère que nous entendrons beaucoup plus parler de lui à mesure que la technologie continue d’évoluer. développer.
Exprimant des inquiétudes encore plus grandes le mois dernier lorsqu'on lui a demandé une interview à CBS Concernant la probabilité que l’IA « anéantisse l’humanité », Hinton a déclaré: « Ce n’est pas inconcevable. »
Suite à l’annonce du départ de Hinton, Jeff Dean, scientifique en chef de Google, a déclaré dans un communiqué: « Nous restons engagés en faveur d’une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.
Hinton n’est pas le seul expert à exprimer ses inquiétudes face à la nouvelle vague de technologie d’IA qui a pris d’assaut le monde.
Peut-être de manière surprenante, le patron d'OpenAI, Sam Altman, a récemment admis avoir « un peu peur » des effets potentiels de la technologie de l’IA.
Et en mars, une lettre signé par des leaders technologiques et des universitaires a affirmé que la technologie pose « des risques profonds pour la société et l’humanité ».
Publiée par le Future of Life Institute et dont les signataires figuraient Elon Musk, la lettre appelait à un délai de six mois. pause dans les travaux de développement pour laisser le temps à la création et à la mise en œuvre de protocoles de sécurité pour les technologies avancées outils.
Il ajoute que si elle est gérée de la bonne manière, l’humanité pourra « jouir d’un avenir florissant grâce à l’IA ».
Recommandations des rédacteurs
- Les meilleurs auteurs exigent une rémunération des entreprises d’IA pour l’utilisation de leurs travaux
- Wix utilise ChatGPT pour vous aider à créer rapidement un site Web complet
- Google Bard peut désormais parler, mais peut-il étouffer ChatGPT?
- La nouvelle société d’IA d’Elon Musk vise à « comprendre l’univers »
- Le trafic du site ChatGPT a chuté pour la première fois
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
