Varför neuro-symbolisk artificiell intelligens är A.I. Av framtiden

Bild en bricka. På brickan finns ett sortiment av former: Vissa kuber, andra sfärer. Formerna är gjorda av en mängd olika material och representerar ett urval av storlekar. Totalt finns det kanske åtta föremål. Min fråga: "När man tittar på föremålen, finns det lika många stora saker och metallsfärer?"

Det är ingen trickfråga. Att det låter som om det är det är ett positivt bevis på hur enkelt det faktiskt är. Det är den typen av fråga som en förskolebarn med största sannolikhet skulle kunna besvara med lätthet. Men det är nästan omöjligt för dagens toppmoderna neurala nätverk. Detta måste förändras. Och det måste ske genom att återuppfinna artificiell intelligens som vi känner den.

Det är inte min åsikt; det är åsikten David Cox, direktör för MIT-IBM Watson A.I. Lab i Cambridge, MA. I ett tidigare liv var Cox professor vid Harvard University, där hans team använde insikter från neurovetenskap för att hjälpa till att bygga bättre hjärninspirerade datorsystem för maskininlärning. I sin nuvarande roll på IBM övervakar han ett unikt partnerskap mellan MIT och IBM som främjar A.I. forskning, inklusive IBM: s Watson A.I. plattform. Watson, för dem som inte vet, var A.I. som berömt besegrade två av de bästa spelshowspelarna

i historia på tv-frågesport Jeopardy. Watson råkar också vara ett primärt maskininlärningssystem, tränat med hjälp av massor av data i motsats till mänskliga regler.

Så när Cox säger att världen behöver tänka om A.I. när det går in i ett nytt decennium låter det lite konstigt. 2010-talet har trots allt varit det mest framgångsrika tioåret inom A.I. historia: En period där genombrott sker till synes varje vecka, och utan någon frostig antydan till en A.I. vinter i sikte. Det är just därför han tror att A.I. måste dock ändras. Och hans förslag på den förändringen, en för närvarande obskyr term som kallas "neuro-symbolisk A.I.," skulle mycket väl kunna bli en av de fraser vi är väl bekanta med när 2020-talet går mot sitt slut.

Uppgången och fallet för symboliska A.I.

Neurosymbolisk A.I. är strängt taget inte ett helt nytt sätt att göra A.I. Det är en kombination av två befintliga metoder för att bygga tankemaskiner; de som en gång ställdes mot var och en som dödsfiender.

Den "symboliska" delen av namnet hänvisar till det första vanliga sättet att skapa artificiell intelligens. Från 1950-talet till 1980-talet, symboliska A.I. regerade högst. Till en symbolisk A.I. forskare, är intelligens baserad på människors förmåga att förstå världen omkring dem genom att forma interna symboliska representationer. De skapar sedan regler för att hantera dessa begrepp, och dessa regler kan formaliseras på ett sätt som fångar vardaglig kunskap.

Om hjärnan är analog med en dator betyder det att varje situation vi möter är beroende av att vi kör en internt datorprogram som förklarar, steg för steg, hur man genomför en operation, helt utifrån logik. Förutsatt att så är fallet, symboliska A.I. forskare tror att samma regler om organisation av världen kunde upptäckas och sedan kodifieras, i form av en algoritm, för en dator att bära ut.

Symbolisk A.I. resulterade i några ganska imponerande demonstrationer. Till exempel utvecklade datavetaren Bertram Raphael 1964 ett system som heter SIR, som står för "Semantisk informationssökning.” SIR var ett beräkningsresonemangssystem som till synes kunde lära sig relationer mellan objekt på ett sätt som liknade verklig intelligens. Om du till exempel skulle säga att "John är en pojke; en pojke är en person; en person har två händer; en hand har fem fingrar", då skulle SIR svara på frågan "Hur många fingrar har John?" med rätt nummer 10.

Datorsystem baserade på symbolisk A.I. nådde höjden av sina befogenheter (och deras nedgång) på 1980-talet. Detta var årtiondet för det så kallade "expertsystemet" som försökte använda regelbaserade system för att lösa verkliga problem, som t.ex. hjälpa organiska kemister att identifiera okända organiska molekyler eller hjälpa läkare att rekommendera rätt dos antibiotika för infektioner.

Det underliggande konceptet för dessa expertsystem var solidt. Men de hade problem. Systemen var dyra, krävde ständig uppdatering och, värst av allt, kunde de faktiskt bli mindre exakta ju fler regler införlivades.

En värld av neurala nätverk

Den "neuro" delen av neuro-symboliska A.I. refererar till deep learning neurala nätverk. Neurala nät är den hjärninspirerade typen av beräkning som har drivit många av A.I. genombrott sett under det senaste decenniet. A.I. som kan köra bilar? Neurala nät. A.I. som kan översätta text till dussintals olika språk? Neurala nät. A.I. som hjälper den smarta högtalaren i ditt hem att förstå din röst? Neurala nät är tekniken att tacka.

Neurala nätverk fungerar annorlunda än symboliska A.I. eftersom de är datadrivna, snarare än regelbaserade. Att förklara något för en symbolisk A.I. system innebär att det uttryckligen förses med all information som det behöver för att kunna göra en korrekt identifiering. Som en analogi, föreställ dig att du skickar någon för att hämta din mamma från busstationen, men måste beskriva henne genom att tillhandahålla en uppsättning regler som låter din vän välja ut henne från mängden. För att träna ett neuralt nätverk att göra det, visar du det helt enkelt tusentals bilder av objektet i fråga. När den väl blir tillräckligt smart kommer den inte bara att kunna känna igen det objektet; det kan göra upp sina egna liknande föremål som har har aldrig funnits i den verkliga världen.

"Deep learning har verkligen möjliggjort fantastiska framsteg," sa David Cox till Digital Trends. "Samtidigt finns det oroliga sprickor i väggen som börjar synas."

En av dessa så kallade sprickor bygger på exakt det som har gjort dagens neurala nätverk så kraftfulla: data. Precis som en människa lär sig ett neuralt nätverk utifrån exempel. Men medan en människa kanske bara behöver se ett eller två träningsexempel på ett objekt för att komma ihåg det korrekt, kan en A.I. kommer att kräva många, många fler. Noggrannheten beror på att den har stora mängder kommenterad data som den kan lära sig varje ny uppgift med.

Brinnande trafikljus

Det gör dem mindre bra på statistiskt sällsynta problem med "svart svan". En svart svan händelse, populariserad av Nassim Nicholas Taleb, är ett hörnfall som är statistiskt sällsynt. "Många av våra djupinlärningslösningar idag - hur fantastiska de än är - är typ 80-20 lösningar", fortsatte Cox. "De kommer att få 80 % av fallen rätt, men om dessa hörnfall är viktiga kommer de att falla ner. Om du ser ett föremål som normalt inte hör hemma [på en viss plats], eller ett föremål i en orientering som är lite konstig, kommer även fantastiska system att falla ner."

Innan han började med IBM var Cox med och grundade ett företag, Perceptive Automata, som utvecklade mjukvara för självkörande bilar. Teamet hade en Slack-kanal där de lade upp roliga bilder som de hade snubblat över under datainsamlingens gång. En av dem, tagen i en korsning, visade ett trafikljus som brann. "Det är ett av de fall som du kanske aldrig ser under din livstid," sa Cox. "Jag vet inte om Waymo och Tesla har bilder av trafikljus som brinner i de datamängder som de använder träna sina neurala nätverk, men jag är villig att slå vad om … om de har några, kommer de bara att ha en mycket få."

Det är en sak för ett hörnfall att vara något som är obetydligt eftersom det sällan händer och inte spelar så stor roll när det gör det. Att få en dålig restaurangrekommendation kanske inte är idealiskt, men det kommer förmodligen inte att räcka för att ens förstöra din dag. Så länge de tidigare 99 rekommendationerna som systemet gjorde är bra, finns det ingen verklig anledning till frustration. En självkörande bil som inte reagerar ordentligt i en korsning på grund av ett brinnande trafikljus eller en hästskjuts kan göra mycket mer än att förstöra din dag. Det kanske är osannolikt att det händer, men om det gör det vill vi veta att systemet är designat för att kunna hantera det.

"Om du har förmågan att resonera och extrapolera utöver vad vi har sett tidigare, kan vi hantera dessa scenarier," förklarade Cox. "Vi vet att människor kan göra det. Om jag ser ett trafikljus som brinner kan jag ta med mig mycket kunskap. Jag vet till exempel att ljuset inte kommer att säga till mig om jag ska sluta eller gå. Jag vet att jag måste vara försiktig eftersom [förare runt mig kommer att bli förvirrade.] Jag vet att förare som kommer åt andra hållet kanske beter sig annorlunda eftersom deras ljus kanske fungerar. Jag kan resonera en handlingsplan som tar mig dit jag behöver gå. I den typen av säkerhetskritiska, verksamhetskritiska miljöer, det är någonstans jag inte tror att djupinlärning tjänar oss helt bra ännu. Det är därför vi behöver ytterligare lösningar."

Kompletterande idéer

Idén om neuro-symbolisk A.I. är att sammanföra dessa tillvägagångssätt för att kombinera både lärande och logik. Neurala nätverk hjälper till att göra symbolisk A.I. system smartare genom att dela upp världen i symboler, snarare än att förlita sig på mänskliga programmerare för att göra det åt dem. Under tiden, symboliska A.I. Algoritmer kommer att hjälpa till att införliva sunt förnuftsresonemang och domänkunskap i djupt lärande. Resultaten kan leda till betydande framsteg inom A.I. system som tar itu med komplexa uppgifter, relaterade till allt från självkörande bilar till naturlig språkbehandling. Och allt samtidigt som det krävs mycket mindre data för träning.

"Neurala nätverk och symboliska idéer är verkligen underbart komplementära till varandra," sa Cox. "Eftersom neurala nätverk ger dig svaren för att ta dig från den verkliga världens stök till en symbolisk representation av världen och hitta alla korrelationer i bilder. När du väl har fått den symboliska representationen kan du göra några ganska magiska saker när det gäller resonemang.”

Till exempel, i formexemplet som jag började med den här artikeln, skulle ett neurosymboliskt system använda ett neuralt nätverks mönsterigenkänningsmöjligheter för att identifiera objekt. Då skulle det förlita sig på symbolisk A.I. att tillämpa logik och semantiska resonemang för att avslöja nya relationer. Sådana system har redan visat sig fungera effektivt.

Det är inte bara hörnfall där detta skulle vara användbart heller. Det blir allt viktigare att A.I. system kan förklaras vid behov. Ett neuralt nätverk kan utföra vissa uppgifter exceptionellt bra, men mycket av dess inre resonemang är "svarta ramar", som görs outgrundliga för dem som vill veta hur det fattade sitt beslut. Återigen, detta spelar inte så stor roll om det är en bot som rekommenderar fel spår på Spotify. Men om du har nekats ett banklån, avslagits från en jobbansökan eller någon har skadats i en incident som involverar en autonom bil, skulle du bättre kunna förklara varför vissa rekommendationer har varit gjord. Det är där neuro-symboliska A.I. kunde komma in.

A.I. forskning: nästa generation

För några decennier sedan, världarna av symbolisk A.I. och neurala nätverk stod i strid med varandra. De berömda figurerna som förespråkade tillvägagångssätten trodde inte bara att deras tillvägagångssätt var rätt; de trodde att detta betydde att det andra tillvägagångssättet var fel. De var inte nödvändigtvis felaktiga för att göra det. Tävlar om att lösa samma problem, och med begränsad finansiering att gå runt, båda skolorna i A.I. verkade fundamentalt motsatta varandra. Idag verkar det som att motsatsen skulle kunna visa sig vara sant.

"Det är verkligen fascinerande att se den yngre generationen," sa Cox. "[Många av personerna i mitt team är] relativt yngre människor: fräscha, upphetsade, ganska nyligen av sin doktorsexamen. De har helt enkelt inte någon av den historien. De bryr sig helt enkelt inte [om att de två tillvägagångssätten ställs mot varandra] - och att inte bry sig är verkligen kraftfullt eftersom det öppnar upp dig och gör dig av med dessa fördomar. De utforskar gärna korsningar... De vill bara göra något coolt med A.I.”

Om allt går enligt plan kommer vi alla att dra nytta av resultatet.

Redaktörens rekommendationer

• Analog A.I.? Det låter galet, men det kanske är framtiden
• Läs den kusligt vackra "syntetiska skriften" av en A.I. som tror att det är Gud
• Algoritmisk arkitektur: Ska vi låta A.I. designa byggnader åt oss?
• Språksupermodell: Hur GPT-3 tyst inleder A.I. rotation
• Kvinnor med byte: Vivienne Mings plan för att lösa "stökiga mänskliga problem" med A.I.