Hvorfor nevro-symbolisk kunstig intelligens er A.I. Av Fremtiden

Se for deg et brett. På brettet er et utvalg av former: Noen kuber, andre kuler. Formene er laget av en rekke forskjellige materialer og representerer et utvalg av størrelser. Totalt er det kanskje åtte gjenstander. Spørsmålet mitt: "Når du ser på gjenstandene, er det like mange store ting og metallkuler?"

Det er ikke et lurespørsmål. Det at det høres ut som om det er det, er et positivt bevis på hvor enkelt det faktisk er. Det er den typen spørsmål som en førskolebarn mest sannsynlig kan svare på med letthet. Men det er nesten umulig for dagens toppmoderne nevrale nettverk. Dette må endres. Og det må skje ved å gjenoppfinne kunstig intelligens slik vi kjenner den.

Det er ikke min mening; det er meningen til David Cox, direktør for MIT-IBM Watson A.I. Lab i Cambridge, MA. I et tidligere liv var Cox professor ved Harvard University, hvor teamet hans brukte innsikt fra nevrovitenskap for å hjelpe til med å bygge bedre hjerneinspirerte maskinlæringsdatasystemer. I sin nåværende rolle i IBM fører han tilsyn med et unikt partnerskap mellom MIT og IBM som fremmer A.I. forskning, inkludert IBMs Watson A.I. plattform. Watson, for de som ikke vet, var A.I. som berømt beseiret to av de beste game show-spillerne

i historie på TV-quizshow Fare. Watson er tilfeldigvis også et primært maskinlæringssystem, trent ved hjelp av massevis av data i motsetning til regler avledet av mennesker.

Så når Cox sier at verden må tenke nytt om A.I. når det går inn i et nytt tiår, høres det litt rart ut. Tross alt har 2010-tallet uten tvil vært det mest suksessrike tiåret i A.I. historie: En periode der gjennombrudd skjer tilsynelatende ukentlig, og uten frosty antydninger til en A.I. vinter i sikte. Det er nettopp derfor han mener A.I. må imidlertid endres. Og forslaget hans for den endringen, et foreløpig obskurt begrep kalt "nevro-symbolsk A.I.," kan godt bli en av de setningene vi er godt kjent med når 2020-tallet går mot slutten.

Fremveksten og fallet til symbolsk A.I.

Nevro-symbolsk A.I. er strengt tatt ikke en helt ny måte å gjøre A.I. Det er en kombinasjon av to eksisterende tilnærminger til å bygge tenkemaskiner; de som en gang ble stilt mot hver som dødelige fiender.

Den "symbolske" delen av navnet refererer til den første mainstream-tilnærmingen til å skape kunstig intelligens. Fra 1950- til 1980-tallet ble symbolsk A.I. regjerte øverste. Til en symbolsk A.I. forsker, er intelligens basert på menneskers evne til å forstå verden rundt dem ved å danne interne symbolske representasjoner. De lager så regler for å håndtere disse begrepene, og disse reglene kan formaliseres på en måte som fanger opp hverdagskunnskapen.

Hvis hjernen er analog med en datamaskin, betyr dette at hver situasjon vi møter er avhengig av at vi kjører en internt dataprogram som forklarer, trinn for trinn, hvordan man utfører en operasjon, helt basert på logikk. Forutsatt at dette er tilfelle, symbolsk A.I. forskere mener at de samme reglene om organisasjonen av verden kunne oppdages og deretter kodifiseres, i form av en algoritme, for en datamaskin å bære ut.

Symbolsk A.I. resulterte i noen ganske imponerende demonstrasjoner. For eksempel utviklet dataforskeren Bertram Raphael i 1964 et system kalt SIR, som står for "Semantisk informasjonsinnhenting." SIR var et beregningssystem som tilsynelatende var i stand til å lære relasjoner mellom objekter på en måte som lignet ekte intelligens. Hvis du for eksempel skulle fortelle det at «John er en gutt; en gutt er en person; en person har to hender; en hånd har fem fingre," så ville SIR svare på spørsmålet "Hvor mange fingre har John?" med riktig nummer 10.

Datasystemer basert på symbolsk A.I. nådde høyden av sine krefter (og deres tilbakegang) på 1980-tallet. Dette var tiåret med det såkalte "ekspertsystemet" som forsøkte å bruke regelbaserte systemer for å løse problemer i den virkelige verden, som f.eks. hjelpe organiske kjemikere med å identifisere ukjente organiske molekyler eller hjelpe leger med å anbefale riktig dose antibiotika for infeksjoner.

Det underliggende konseptet til disse ekspertsystemene var solid. Men de hadde problemer. Systemene var dyre, krevde konstant oppdatering, og, verst av alt, kunne de faktisk bli mindre nøyaktige jo flere regler ble innlemmet.

Verden av nevrale nettverk

«Neuro»-delen av nevro-symbolsk A.I. refererer til dyp læring nevrale nettverk. Nevrale nett er den hjerneinspirerte typen beregninger som har drevet mange av A.I. gjennombrudd sett det siste tiåret. A.I. som kan kjøre biler? Nevrale nett. A.I. som kan oversette tekst til dusinvis av forskjellige språk? Nevrale nett. A.I. som hjelper smarthøyttaleren i hjemmet å forstå stemmen din? Nevrale nett er teknologien å takke.

Nevrale nettverk fungerer annerledes enn symbolsk A.I. fordi de er datadrevne, i stedet for regelbaserte. Å forklare noe til en symbolsk A.I. Systemet betyr at den eksplisitt gir den hver bit av informasjon den trenger for å kunne foreta en korrekt identifikasjon. Som en analogi, forestill deg å sende noen for å hente moren din fra busstasjonen, men å måtte beskrive henne ved å gi et sett med regler som lar vennen din plukke henne ut fra mengden. For å trene et nevralt nettverk til å gjøre det, viser du det ganske enkelt tusenvis av bilder av det aktuelle objektet. Når den først blir smart nok, vil den ikke bare kunne gjenkjenne objektet; den kan lage sine egne lignende objekter som har faktisk aldri eksistert i den virkelige verden.

"Sikkert, dyp læring har muliggjort fantastiske fremskritt," sa David Cox til Digital Trends. "Samtidig er det bekymringsfulle sprekker i veggen som begynner å vise seg."

En av disse såkalte sprekkene er avhengig av akkurat det som har gjort dagens nevrale nettverk så kraftige: data. Akkurat som et menneske, lærer et nevralt nettverk basert på eksempler. Men mens et menneske kanskje bare trenger å se ett eller to treningseksempler på et objekt for å huske det riktig, kan en A.I. vil kreve mange, mange flere. Nøyaktighet avhenger av å ha store mengder annoterte data som den kan lære hver ny oppgave med.

Brennende trafikklys

Det gjør dem mindre gode på statistisk sjeldne "svart svane"-problemer. En svart svanebegivenhet, popularisert av Nassim Nicholas Taleb, er en hjørnesak som er statistisk sjelden. "Mange av våre dyplæringsløsninger i dag - så fantastiske som de er - er på en måte 80-20 løsninger," fortsatte Cox. "De vil få 80 % av sakene riktig, men hvis disse hjørnesakene betyr noe, vil de ha en tendens til å falle ned. Hvis du ser et objekt som normalt ikke hører hjemme [på et bestemt sted], eller et objekt i en orientering som er litt rart, vil til og med fantastiske systemer falle ned."

Før han begynte i IBM, var Cox med å grunnlegge et selskap, Perceptive Automata, som utviklet programvare for selvkjørende biler. Teamet hadde en Slack-kanal der de la ut morsomme bilder de hadde snublet over i løpet av datainnsamlingen. En av dem, tatt i et veikryss, viste et trafikklys som sto i brann. "Det er en av de tilfellene du kanskje aldri ser i løpet av livet," sa Cox. «Jeg vet ikke om Waymo og Tesla har bilder av trafikklys i brann i datasettene de bruker trene sine nevrale nettverk, men jeg er villig til å satse … hvis de har noen, vil de bare ha en veldig få."

En ting er at en hjørnesak er noe som er ubetydelig fordi det sjelden skjer og ikke betyr så mye når det gjør det. Å få en dårlig restaurantanbefaling er kanskje ikke ideelt, men det vil sannsynligvis ikke være nok til å ødelegge dagen din. Så lenge de tidligere 99 anbefalingene systemet ga er gode, er det ingen reell grunn til frustrasjon. En selvkjørende bil som ikke reagerer riktig i et veikryss på grunn av et brennende trafikklys eller en hestevogn kan gjøre mye mer enn å ødelegge dagen din. Det kan være usannsynlig at det skjer, men hvis det skjer, vil vi vite at systemet er designet for å kunne takle det.

"Hvis du har evnen til å resonnere og ekstrapolere utover det vi har sett før, kan vi håndtere disse scenariene," forklarte Cox. "Vi vet at mennesker kan gjøre det. Hvis jeg ser et trafikklys brenne, kan jeg ta med meg mye kunnskap. Jeg vet for eksempel at lyset ikke kommer til å fortelle meg om jeg skal stoppe eller gå. Jeg vet at jeg må være forsiktig fordi [sjåfører rundt meg vil bli forvirret.] Jeg vet at sjåfører som kommer den andre veien kan oppføre seg annerledes fordi lyset deres kan virke. Jeg kan begrunne en handlingsplan som tar meg dit jeg må. I slike sikkerhetskritiske, oppdragskritiske omgivelser, er det et sted jeg ikke tror at dyp læring tjener oss helt bra ennå. Derfor trenger vi flere løsninger."

Utfyllende ideer

Ideen om nevro-symbolsk A.I. er å samle disse tilnærmingene for å kombinere både læring og logikk. Nevrale nettverk vil bidra til å lage symbolsk A.I. systemer smartere ved å bryte verden inn i symboler, i stedet for å stole på at menneskelige programmerere gjør det for dem. I mellomtiden, symbolsk A.I. Algoritmer vil bidra til å inkludere sunn fornuft resonnement og domenekunnskap i dyp læring. Resultatene kan føre til betydelige fremskritt innen A.I. systemer som takler komplekse oppgaver, knyttet til alt fra selvkjørende biler til naturlig språkbehandling. Og alt samtidig som det krever mye mindre data for trening.

"Nevrale nettverk og symbolske ideer er virkelig fantastisk komplementære til hverandre," sa Cox. "Fordi nevrale nettverk gir deg svarene for å komme fra rotete i den virkelige verden til en symbolsk representasjon av verden, og finne alle sammenhengene i bilder. Når du først har fått den symbolske representasjonen, kan du gjøre noen ganske magiske ting når det gjelder resonnement.»

For eksempel, i formeksemplet jeg startet denne artikkelen med, ville et nevro-symbolsk system bruke et nevralt nettverks mønstergjenkjenningsevner for å identifisere objekter. Da ville den stole på symbolsk A.I. å anvende logikk og semantisk resonnement for å avdekke nye relasjoner. Slike systemer har allerede vist seg å fungere effektivt.

Det er ikke bare hjørnesaker hvor dette vil være nyttig heller. I økende grad er det viktig at A.I. systemer kan forklares når det er nødvendig. Et nevralt nettverk kan utføre visse oppgaver eksepsjonelt bra, men mye av dets indre resonnement er "black box", som er gjort uutgrunnelig for de som ønsker å vite hvordan det tok sin avgjørelse. Igjen, dette betyr ikke så mye om det er en bot som anbefaler feil spor på Spotify. Men hvis du har fått avslag på et banklån, avvist fra en jobbsøknad, eller noen har blitt skadet i en hendelse som involverer en autonom bil, bør du kunne forklare hvorfor visse anbefalinger har vært laget. Det er der nevro-symbolske A.I. kunne komme inn.

A.I. forskning: neste generasjon

For noen tiår siden ble verdener av symbolsk A.I. og nevrale nettverk var i strid med hverandre. De anerkjente figurene som forkjempet tilnærmingene mente ikke bare at deres tilnærming var riktig; de mente at dette betydde at den andre tilnærmingen var feil. De var ikke nødvendigvis feil å gjøre det. Begge skolene i A.I. konkurrerer om å løse de samme problemene, og med begrenset finansiering. virket fundamentalt motsatte av hverandre. I dag ser det ut til at det motsatte kan vise seg å være sant.

"Det er veldig fascinerende å se den yngre generasjonen," sa Cox. «[Mange av menneskene i teamet mitt er] relativt yngre mennesker: friske, spente, ganske nylig ute av doktorgraden. De har bare ikke noe av den historien. De bryr seg rett og slett ikke [om at de to tilnærmingene blir satt opp mot hverandre] - og det å ikke bry seg er veldig sterkt fordi det åpner deg og blir kvitt disse fordommene. De er glade for å utforske veikryss... De vil bare gjøre noe kult med A.I.»

Skulle alt gå etter planen, vil vi alle dra nytte av resultatene.

Redaktørenes anbefalinger

• Analog A.I.? Det høres sprøtt ut, men det kan være fremtiden
• Les den uhyggelig vakre 'syntetiske skriften' til en A.I. som tror det er Gud
• Algoritmisk arkitektur: Bør vi la A.I. designe bygninger for oss?
• Språksupermodell: Hvordan GPT-3 stille innleder A.I. revolusjon
• Kvinner med byte: Vivienne Mings plan for å løse "rotete menneskelige problemer" med A.I.