Si les personnes qui sont à la pointe de la technologie de l'intelligence artificielle commentent le effets potentiellement catastrophiques des systèmes d'IA hautement intelligents, alors il est probablement sage de s'asseoir et de prendre avis.
Il y a quelques mois à peine, Geoffrey Hinton, un homme considéré comme l'un des "parrains" de l'IA pour son travail de pionnier dans le domaine, a déclaré que le rythme de développement rapide de la technologie signifiait que ce n'était "pas inconcevable" que l'IA superintelligente - considérée comme supérieure à l'esprit humain - pourrait finir par anéantir l'humanité.
Vidéos recommandées
Et Sam Altman, PDG d'OpenAI, l'entreprise derrière le chatbot viral ChatGPT, avait admis avoir "un peu peur" des effets potentiels des systèmes avancés d'IA sur la société.
En rapport
- Le fabricant de ChatGPT OpenAI fait face à une enquête de la FTC sur les lois de protection des consommateurs
- Le trafic du site ChatGPT a chuté pour la première fois
- J'ai appris à ChatGPT à m'apprendre les jeux de société, et maintenant je n'y retournerai plus
Altman est tellement préoccupé que mercredi, sa société a annoncé la création d'une nouvelle unité appelée Superalignement visant à garantir que l'IA super intelligente ne finisse pas par provoquer le chaos ou quelque chose de loin pire.
"La superintelligence sera la technologie la plus percutante que l'humanité ait jamais inventée et pourrait nous aider à résoudre bon nombre des problèmes les plus importants au monde", OpenAI a dit dans un article présentant la nouvelle initiative. "Mais le vaste pouvoir de la superintelligence pourrait également être très dangereux et pourrait conduire à la perte de pouvoir de l'humanité ou même à l'extinction humaine."
OpenAI a déclaré que bien que l'IA superintelligente puisse sembler lointaine, elle pense qu'elle pourrait être développée d'ici 2030. Et il admet volontiers qu'à l'heure actuelle, aucun système n'existe "pour diriger ou contrôler une IA potentiellement super intelligente, et l'empêcher de devenir voyou".
Pour faire face à la situation, OpenAI veut construire un "chercheur d'alignement automatisé à peu près au niveau humain" qui effectuerait des contrôles de sécurité sur un IA superintelligente, ajoutant que la gestion de ces risques nécessitera également de nouvelles institutions pour la gouvernance et la résolution du problème de la superintelligence alignement.
Pour que le superalignement ait un effet, OpenAI doit réunir une équipe d'élite composée de chercheurs et d'ingénieurs en apprentissage automatique.
L'entreprise semble très franche sur ses efforts, les décrivant comme un "objectif incroyablement ambitieux" tout en admettant que il n'est "pas garanti de réussir". Mais il ajoute qu'il est "optimiste qu'un effort ciblé et concerté puisse résoudre ce problème problème."
Les nouveaux outils d'IA comme ChatGPT d'OpenAI et Bard de Google, parmi tant d'autres, sont si révolutionnaires que les experts en sont certains que même à ce niveau pré-superintelligence, le lieu de travail et la société au sens large sont confrontés à des changements fondamentaux dans le proche terme.
C'est pourquoi les gouvernements du monde entier se bousculent pour rattraper leur retard, se précipitant pour imposer des réglementations sur l'industrie de l'IA en développement rapide dans le but de garantir que la technologie est déployée de manière sûre et responsable manière. Cependant, à moins qu'un organisme unique ne soit formé, chaque pays aura ses propres opinions sur la meilleure façon d'utiliser la technologie, ce qui signifie que ces réglementations pourraient varier considérablement et conduire à des résultats sensiblement différents. Et ce sont ces différentes approches qui rendront l'objectif de Superalignment d'autant plus difficile à atteindre.
Recommandations des éditeurs
- Google Bard peut désormais parler, mais peut-il noyer ChatGPT?
- La nouvelle société d'intelligence artificielle d'Elon Musk vise à "comprendre l'univers"
- OpenAI révèle l'emplacement de son premier avant-poste international
- Des avocats de New York condamnés à une amende pour avoir utilisé de faux cas ChatGPT dans un dossier juridique
- Ce navigateur Web intègre ChatGPT d'une nouvelle manière fascinante
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde trépidant de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
