Pourquoi l'intelligence artificielle neuro-symbolique est l'IA Du futur

Imaginez un plateau. Sur le plateau se trouve un assortiment de formes: Des cubes, d'autres des sphères. Les formes sont fabriquées à partir d’une variété de matériaux différents et représentent un assortiment de tailles. Au total, il y a peut-être huit objets. Ma question: « En regardant les objets, y a-t-il un nombre égal de grosses choses et de sphères métalliques ?

Ce n’est pas une question piège. Le fait que cela semble être le cas est une preuve positive de la simplicité de la chose. C’est le genre de question à laquelle un enfant d’âge préscolaire pourrait probablement répondre facilement. Mais c’est pratiquement impossible avec les réseaux neuronaux de pointe actuels. Cela doit changer. Et cela doit se produire en réinventant l’intelligence artificielle telle que nous la connaissons.

Ce n’est pas mon opinion; c'est l'avis de

David Cox, directeur du MIT-IBM Watson A.I. Laboratoire à Cambridge, MA. Dans une vie antérieure, Cox était professeur à l’Université Harvard, où son équipe a utilisé les connaissances des neurosciences pour aider à construire de meilleurs systèmes informatiques d’apprentissage automatique inspirés du cerveau. Dans son rôle actuel chez IBM, il supervise un partenariat unique entre le MIT et IBM qui fait progresser l'IA. recherche, y compris Watson A.I. d'IBM. plate-forme. Watson, pour ceux qui ne le savent pas, était l'IA. qui a battu deux des meilleurs joueurs de jeux télévisés dans l'histoire à un quiz télévisé Péril. Watson se révèle également être un système principalement d'apprentissage automatique, formé à l'aide de masses de données plutôt que de règles dérivées de l'homme.

Ainsi, lorsque Cox dit que le monde doit repenser l’IA. à l’aube d’une nouvelle décennie, cela semble plutôt étrange. Après tout, les années 2010 ont sans doute été la décennie la plus réussie dans le domaine de l’IA. historique: une période au cours de laquelle des percées se produisent apparemment chaque semaine, et sans aucune trace glaciale d'un I.A. hiver aperçu. C'est exactement pourquoi il pense qu'A.I. doit cependant changer. Et sa suggestion pour ce changement, un terme actuellement obscur appelé « IA neuro-symbolique », pourrait bien devenir l’une de ces expressions que nous connaissons intimement d’ici la fin des années 2020.

L’ascension et la chute de l’IA symbolique

L'IA neuro-symbolique n’est pas, à proprement parler, une manière totalement nouvelle de faire fonctionner l’IA. Il s’agit d’une combinaison de deux approches existantes pour construire des machines pensantes; ceux qui étaient autrefois opposés les uns aux autres comme des ennemis mortels.

La partie « symbolique » du nom fait référence à la première approche traditionnelle de création d’intelligence artificielle. Des années 1950 aux années 1980, l’IA symbolique. régnait en maître. À une A.I. symbolique chercheur, l’intelligence repose sur la capacité de l’humain à comprendre le monde qui l’entoure en se formant des représentations symboliques internes. Ils créent ensuite des règles pour traiter ces concepts, et ces règles peuvent être formalisées de manière à capturer les connaissances quotidiennes.

Si le cerveau est analogue à un ordinateur, cela signifie que chaque situation que nous rencontrons dépend de notre capacité à gérer un ordinateur. programme informatique interne qui explique, étape par étape, comment réaliser une opération, entièrement basée sur logique. Pour autant que ce soit le cas, l’IA symbolique. les chercheurs pensent que ces mêmes règles concernant le l'organisation du monde pourrait être découverte puis codifiée, sous forme d'algorithme, pour un ordinateur réaliser.

L'IA symbolique donné lieu à des démonstrations assez impressionnantes. Par exemple, en 1964, l’informaticien Bertram Raphael a développé un système appelé SIR, signifiant «Récupération d'informations sémantiques.» SIR était un système de raisonnement informatique apparemment capable d’apprendre les relations entre les objets d’une manière qui ressemblait à une véritable intelligence. Si vous lui disiez, par exemple: « John est un garçon; un garçon est une personne; une personne a deux mains; une main a cinq doigts », alors SIR répondrait à la question « Combien de doigts John a-t-il? avec le bon numéro 10.

Systèmes informatiques basés sur l’IA symbolique ont atteint l’apogée de leur puissance (et leur déclin) dans les années 1980. C'était la décennie du soi-disant « système expert » qui tentait d'utiliser des systèmes basés sur des règles pour résoudre des problèmes du monde réel, tels que aider les chimistes organiques à identifier des molécules organiques inconnues ou aider les médecins à recommander la bonne dose d'antibiotiques pour infections.

Le concept sous-jacent à ces systèmes experts était solide. Mais ils ont eu des problèmes. Les systèmes étaient coûteux, nécessitaient une mise à jour constante et, pire encore, pouvaient devenir moins précis à mesure que de nouvelles règles étaient incorporées.

Le monde des réseaux de neurones

La partie « neuro » de l’IA neuro-symbolique fait référence à réseaux de neurones d'apprentissage profond. Les réseaux neuronaux sont le type de calcul inspiré du cerveau qui a piloté de nombreux développements de l'IA. avancées constatées au cours de la dernière décennie. I.A. qui peut conduire des voitures? Réseaux neuronaux. I.A. qui peut traduire du texte dans des dizaines de langues différentes? Réseaux neuronaux. I.A. Qu'est-ce qui aide le haut-parleur intelligent de votre maison à comprendre votre voix? Les réseaux neuronaux sont la technologie à remercier.

Les réseaux de neurones fonctionnent différemment de l’IA symbolique. parce qu’ils sont basés sur des données plutôt que sur des règles. Expliquer quelque chose à une IA symbolique. système signifie lui fournir explicitement toutes les informations dont il a besoin pour pouvoir procéder à une identification correcte. Par analogie, imaginez que vous envoyiez quelqu'un chercher votre mère à la gare routière, mais que vous deviez la décrire en lui fournissant un ensemble de règles qui permettraient à votre ami de la distinguer de la foule. Pour entraîner un réseau de neurones à le faire, il vous suffit de lui montrer des milliers de photos de l'objet en question. Une fois qu’il sera suffisamment intelligent, non seulement il sera capable de reconnaître cet objet; il peut constituer ses propres objets similaires qui ont n'a jamais réellement existé dans le monde réel.

"Bien sûr, l'apprentissage profond a permis des progrès incroyables", a déclaré David Cox à Digital Trends. « Dans le même temps, des fissures inquiétantes commencent à apparaître dans le mur. »

L’une de ces soi-disant fissures repose exactement sur ce qui a rendu les réseaux neuronaux d’aujourd’hui si puissants: les données. Tout comme un humain, un réseau de neurones apprend à partir d’exemples. Mais alors qu’un humain n’a besoin que de voir un ou deux exemples d’entraînement d’un objet pour s’en souvenir correctement, une IA il en faudra beaucoup, beaucoup plus. La précision dépend de la disponibilité de grandes quantités de données annotées avec lesquelles il peut apprendre chaque nouvelle tâche.

Feux de circulation en feu

Cela les rend moins efficaces pour résoudre les problèmes statistiquement rares du « cygne noir ». Un événement cygne noir, popularisé par Nassim Nicolas Taleb, est un cas particulier statistiquement rare. "Beaucoup de nos solutions d'apprentissage en profondeur aujourd'hui - aussi étonnantes soient-elles - sont en quelque sorte des solutions 80-20", a poursuivi Cox. « Ils obtiendront des résultats corrects dans 80 % des cas, mais si ces cas mineurs sont importants, ils auront tendance à échouer. Si vous voyez un objet qui n’appartient normalement pas à un certain endroit, ou un objet dont l’orientation est légèrement étrange, même des systèmes étonnants tomberont.

Avant de rejoindre IBM, Cox a cofondé une société, Automates perceptifs, qui a développé des logiciels pour les voitures autonomes. L’équipe disposait d’une chaîne Slack dans laquelle elle publiait des images amusantes sur lesquelles elle était tombée par hasard au cours de la collecte de données. L'une d'elles, prise à un carrefour, montrait un feu tricolore en feu. "C'est l'un de ces cas que vous ne verrez peut-être jamais de votre vie", a déclaré Cox. "Je ne sais pas si Waymo et Tesla ont des images de feux de circulation en feu dans les ensembles de données qu'ils utilisent pour entraîner leurs réseaux neuronaux, mais je suis prêt à parier… s’ils en ont, ils n’en auront qu’un très peu."

C’est une chose qu’une affaire d’angle soit quelque chose d’insignifiant parce qu’elle se produit rarement et n’a pas beaucoup d’importance quand elle se produit. Recevoir une mauvaise recommandation de restaurant n’est peut-être pas idéal, mais cela ne suffira probablement pas à gâcher votre journée. Tant que les 99 recommandations précédentes formulées par le système sont bonnes, il n’y a pas de véritable cause de frustration. Une voiture autonome qui ne répond pas correctement à une intersection à cause d’un feu de circulation allumé ou d’une calèche pourrait faire bien plus que gâcher votre journée. Il est peut-être peu probable que cela se produise, mais si cela se produit, nous voulons savoir que le système est conçu pour y faire face.

"Si vous avez la capacité de raisonner et d'extrapoler au-delà de ce que nous avons vu auparavant, nous pouvons faire face à ces scénarios", a expliqué Cox. « Nous savons que les humains peuvent faire cela. Si je vois un feu de circulation en feu, je peux apporter beaucoup de connaissances. Je sais, par exemple, que la lumière ne me dira pas si je dois m'arrêter ou partir. Je sais que je dois être prudent parce que [les conducteurs autour de moi seront confus.] Je sais que les conducteurs venant dans l'autre sens peuvent se comporter différemment parce que leur phare fonctionne peut-être. Je peux élaborer un plan d’action qui m’amènera là où je dois aller. Dans ce genre de contextes critiques pour la sécurité et la mission, je ne pense pas que l’apprentissage profond nous soit encore parfaitement utile. C’est pourquoi nous avons besoin de solutions supplémentaires.

Idées complémentaires

L’idée d’une IA neuro-symbolique est de rassembler ces approches pour combiner à la fois apprentissage et logique. Les réseaux de neurones contribueront à rendre l’IA symbolique systèmes plus intelligents en divisant le monde en symboles, plutôt que de compter sur des programmeurs humains pour le faire à leur place. Pendant ce temps, l’IA symbolique. les algorithmes aideront à intégrer le raisonnement de bon sens et la connaissance du domaine dans l’apprentissage en profondeur. Les résultats pourraient conduire à des avancées significatives dans le domaine de l’IA. des systèmes s'attaquant à des tâches complexes, allant des voitures autonomes au traitement du langage naturel. Et tout cela en nécessitant beaucoup moins de données pour la formation.

"Les réseaux de neurones et les idées symboliques sont vraiment merveilleusement complémentaires", a déclaré Cox. « Parce que les réseaux de neurones vous donnent les réponses pour passer du désordre du monde réel à une représentation symbolique du monde, en trouvant toutes les corrélations au sein des images. Une fois que vous avez cette représentation symbolique, vous pouvez faire des choses assez magiques en termes de raisonnement.

Par exemple, dans l’exemple de forme avec lequel j’ai commencé cet article, un système neuro-symbolique utiliserait les capacités de reconnaissance de formes d’un réseau neuronal pour identifier des objets. Ensuite, cela s’appuierait sur l’IA symbolique. appliquer la logique et le raisonnement sémantique pour découvrir de nouvelles relations. De tels systèmes ont son efficacité a déjà été prouvée.

Ce ne sont pas seulement les cas particuliers où cela serait utile. Il est de plus en plus important que l’IA. les systèmes sont explicables lorsque cela est nécessaire. Un réseau neuronal peut accomplir exceptionnellement bien certaines tâches, mais une grande partie de son raisonnement interne est « en boîte noire », rendu impénétrable pour ceux qui veulent savoir comment il a pris sa décision. Encore une fois, cela n’a pas tellement d’importance s’il s’agit d’un robot qui recommande la mauvaise piste sur Spotify. Mais si on vous a refusé un prêt bancaire, si votre candidature à un emploi a été rejetée ou si quelqu'un a été blessé lors d'un accident, incident impliquant une voiture autonome, vous feriez mieux de pouvoir expliquer pourquoi certaines recommandations ont été fait. C’est là que l’IA neuro-symbolique pourrait entrer.

I.A. recherche: la prochaine génération

Il y a quelques décennies, les mondes de l’IA symbolique. et les réseaux neuronaux étaient en contradiction les uns avec les autres. Les personnalités renommées qui ont défendu ces approches ne croyaient pas seulement que leur approche était la bonne; ils pensaient que cela signifiait que l’autre approche était fausse. Ils n’avaient pas nécessairement tort de le faire. En compétition pour résoudre les mêmes problèmes, et avec un financement limité, les deux écoles d'A.I. paraissaient fondamentalement opposés les uns aux autres. Aujourd’hui, il semble que le contraire puisse s’avérer vrai.

"C'est vraiment fascinant de voir la jeune génération", a déclaré Cox. « [Beaucoup de membres de mon équipe sont] des personnes relativement jeunes: fraîches, enthousiastes, sortant assez récemment de leur doctorat. Ils n’ont tout simplement rien de cette histoire. Ils ne s’en soucient tout simplement pas [des deux approches opposées] – et ne pas s’en soucier est vraiment puissant car cela vous ouvre et vous débarrasse de ces préjugés. Ils sont heureux d’explorer les intersections… Ils veulent juste faire quelque chose de cool avec l’IA.

Si tout se passe comme prévu, nous bénéficierons tous des résultats.

Recommandations des rédacteurs

• Une IA analogique? Ça paraît fou, mais ça pourrait être l'avenir
• Lisez les « écritures synthétiques » étrangement belles d’un IA. qui pense que c'est Dieu
• Architecture algorithmique: Faut-il laisser l’IA concevoir des bâtiments pour nous?
• Mannequin du langage: comment GPT-3 inaugure discrètement l'IA. révolution
• Women with Byte: le plan de Vivienne Ming pour résoudre les « problèmes humains compliqués » grâce à l’IA