Hvorfor neuro-symbolisk kunstig intelligens er A.I. Af Fremtiden

Billede en bakke. På bakken er et udvalg af former: Nogle terninger, andre kugler. Formerne er lavet af en række forskellige materialer og repræsenterer et udvalg af størrelser. I alt er der måske otte genstande. Mit spørgsmål: "Når man ser på genstandene, er der lige mange store ting og metalkugler?"

Det er ikke et trick spørgsmål. Det faktum, at det lyder, som om det er, er et positivt bevis på, hvor enkelt det faktisk er. Det er den slags spørgsmål, som en førskolebørn højst sandsynligt kunne besvare med lethed. Men det er næsten umuligt for nutidens state-of-the-art neurale netværk. Dette skal ændres. Og det skal ske ved at genopfinde kunstig intelligens, som vi kender den.

Det er ikke min mening; det er opfattelsen af David Cox, direktør for MIT-IBM Watson A.I. Lab i Cambridge, MA. I et tidligere liv var Cox professor ved Harvard University, hvor hans team brugte indsigt fra neurovidenskab til at hjælpe med at bygge bedre hjerne-inspirerede computerlæringssystemer. I sin nuværende rolle hos IBM fører han tilsyn med et unikt partnerskab mellem MIT og IBM, der fremmer A.I. forskning, herunder IBMs Watson A.I. platform. Watson, for dem, der ikke ved det, var A.I. som berømt besejrede to af de bedste gameshow-spillere

i historie ved tv-quizshow Fare. Watson er tilfældigvis også et primært maskinlæringssystem, trænet ved hjælp af masser af data i modsætning til regler, der er afledt af mennesker.

Så når Cox siger, at verden er nødt til at gentænke A.I. da det går ind i et nyt årti, lyder det noget mærkeligt. Når alt kommer til alt, har 2010'erne uden tvivl været det mest succesrige ti-år i A.I. historie: En periode, hvor gennembrud sker tilsyneladende ugentligt, og uden frostklar antydning af en A.I. vinter indsigt. Det er netop derfor, han mener, at A.I. skal dog ændres. Og hans forslag til den ændring, et aktuelt obskurt udtryk kaldet "neuro-symbolsk A.I.," kunne meget vel blive en af ​​de sætninger, vi er fortrolige med, når 2020'erne slutter.

Opkomsten og faldet af symbolsk A.I.

Neuro-symbolsk A.I. er strengt taget ikke en helt ny måde at lave A.I. Det er en kombination af to eksisterende tilgange til at bygge tænkemaskiner; dem, der engang blev stillet op imod hver af dem som dødelige fjender.

Den "symbolske" del af navnet refererer til den første mainstream tilgang til at skabe kunstig intelligens. Fra 1950'erne til 1980'erne blev symbolsk A.I. regerede øverste. Til en symbolsk A.I. forsker, er intelligens baseret på menneskers evne til at forstå verden omkring dem ved at danne interne symbolske repræsentationer. De skaber så regler for håndtering af disse begreber, og disse regler kan formaliseres på en måde, der fanger hverdagens viden.

Hvis hjernen er analog med en computer, betyder det, at enhver situation, vi støder på, afhænger af, at vi kører en internt computerprogram, som trin for trin forklarer, hvordan man udfører en operation, udelukkende baseret på logik. Forudsat at dette er tilfældet, vil symbolsk A.I. forskere mener, at de samme regler om organisation af verden kunne opdages og derefter kodificeres, i form af en algoritme, til en computer at udføre.

Symbolsk A.I. resulterede i nogle ret imponerende demonstrationer. For eksempel udviklede datalogen Bertram Raphael i 1964 et system kaldet SIR, der står for "Semantisk informationssøgning." SIR var et computerbaseret ræsonnementssystem, der tilsyneladende var i stand til at lære relationer mellem objekter på en måde, der lignede ægte intelligens. Hvis du for eksempel skulle fortælle det, at "John er en dreng; en dreng er en person; en person har to hænder; en hånd har fem fingre," så ville SIR svare på spørgsmålet "Hvor mange fingre har John?" med det rigtige tal 10.

Computersystemer baseret på symbolsk A.I. ramte højdepunktet af deres beføjelser (og deres tilbagegang) i 1980'erne. Dette var årtiet for det såkaldte "ekspertsystem", som forsøgte at bruge regelbaserede systemer til at løse problemer i den virkelige verden, som f.eks. hjælpe organiske kemikere med at identificere ukendte organiske molekyler eller hjælpe læger med at anbefale den rigtige dosis antibiotika til infektioner.

Det underliggende koncept for disse ekspertsystemer var solidt. Men de havde problemer. Systemerne var dyre, krævede konstant opdatering, og værst af alt kunne de faktisk blive mindre nøjagtige, jo flere regler der blev indarbejdet.

Verden af ​​neurale netværk

"Neuro"-delen af ​​neuro-symbolsk A.I. hentyder til deep learning neurale netværk. Neurale net er den hjerneinspirerede form for beregning, som har drevet mange af A.I. gennembrud set i løbet af det seneste årti. A.I. der kan køre biler? Neurale net. A.I. som kan oversætte tekst til snesevis af forskellige sprog? Neurale net. A.I. som hjælper den smarte højttaler i dit hjem med at forstå din stemme? Neurale net er teknologien at takke.

Neurale netværk fungerer anderledes end symbolsk A.I. fordi de er datadrevne i stedet for regelbaserede. At forklare noget til en symbolsk A.I. system betyder eksplicit at give det alle de oplysninger, det behøver for at kunne foretage en korrekt identifikation. Som en analogi, forestil dig, at du sender nogen til at hente din mor fra busstationen, men at du skal beskrive hende ved at give et sæt regler, der vil lade din ven vælge hende fra mængden. For at træne et neuralt netværk til at gøre det, viser du det simpelthen tusindvis af billeder af det pågældende objekt. Når det først bliver smart nok, vil det ikke kun være i stand til at genkende det objekt; det kan lave sine egne lignende objekter, der har aldrig faktisk eksisteret i den virkelige verden.

"Deep learning har helt sikkert muliggjort fantastiske fremskridt," sagde David Cox til Digital Trends. "Samtidig er der bekymrende revner i væggen, der begynder at vise sig."

En af disse såkaldte cracks er afhængig af præcis det, der har gjort nutidens neurale netværk så kraftfulde: data. Ligesom et menneske lærer et neuralt netværk baseret på eksempler. Men mens et menneske måske kun behøver at se et eller to træningseksempler på en genstand for at huske den korrekt, er en A.I. vil kræve mange, mange flere. Nøjagtighed afhænger af at have store mængder annoterede data, som den kan lære hver ny opgave med.

Brændende trafiklys

Det gør dem mindre gode til statistisk sjældne "sort svane"-problemer. En sort svanebegivenhed, populariseret af Nassim Nicholas Taleb, er et hjørne tilfælde, der er statistisk sjældent. "Mange af vores deep learning-løsninger i dag - så fantastiske som de er - er en slags 80-20 løsninger," fortsatte Cox. "De får 80 % af sagerne rigtige, men hvis disse hjørnesager betyder noget, har de en tendens til at falde ned. Hvis du ser en genstand, der normalt ikke hører hjemme [et bestemt sted], eller en genstand i en orientering, der er lidt mærkelig, vil selv fantastiske systemer falde ned."

Før han kom til IBM, var Cox med til at stifte et firma, Perceptive Automata, der udviklede software til selvkørende biler. Holdet havde en Slack-kanal, hvor de postede sjove billeder, som de var stødt på under dataindsamlingen. En af dem, taget i et kryds, viste et lyskryds i brand. "Det er et af de tilfælde, som du måske aldrig ser i dit liv," sagde Cox. "Jeg ved ikke, om Waymo og Tesla har billeder af trafiklys i brand i de datasæt, de bruger til træne deres neurale netværk, men jeg er villig til at vædde … hvis de har nogen, vil de kun have en meget få."

Én ting er, at en hjørnesag er noget, der er ubetydeligt, fordi det sjældent sker og ikke betyder så meget, når det sker. Det er måske ikke ideelt at få en dårlig restaurantanbefaling, men det vil sandsynligvis ikke være nok til selv at ødelægge din dag. Så længe de tidligere 99 anbefalinger, systemet lavede, er gode, er der ingen reel grund til frustration. En selvkørende bil, der ikke reagerer korrekt i et vejkryds på grund af et brændende lyskryds eller en hestevogn, kan gøre meget mere end at ødelægge din dag. Det er måske usandsynligt, at det sker, men hvis det sker, vil vi gerne vide, at systemet er designet til at kunne klare det.

"Hvis du har evnen til at ræsonnere og ekstrapolere ud over, hvad vi har set før, kan vi håndtere disse scenarier," forklarede Cox. "Vi ved, at mennesker kan gøre det. Hvis jeg ser et lyskryds tænde, kan jeg bringe en masse viden til mig. Jeg ved for eksempel, at lyset ikke kommer til at fortælle mig, om jeg skal stoppe eller gå. Jeg ved, at jeg skal være forsigtig, fordi [chauffører omkring mig vil være forvirrede.] Jeg ved, at chauffører, der kommer den anden vej, kan opføre sig anderledes, fordi deres lys måske virker. Jeg kan begrunde en handlingsplan, der vil tage mig derhen, hvor jeg skal hen. I den slags sikkerhedskritiske, missionskritiske omgivelser, er det et sted, hvor jeg ikke tror, ​​at deep learning tjener os helt godt endnu. Derfor har vi brug for yderligere løsninger."

Komplementære ideer

Ideen om neuro-symbolsk A.I. er at samle disse tilgange for at kombinere både læring og logik. Neurale netværk vil hjælpe med at gøre symbolsk A.I. systemer smartere ved at opdele verden i symboler i stedet for at stole på, at menneskelige programmører gør det for dem. I mellemtiden har symbolsk A.I. Algoritmer vil hjælpe med at inkorporere sund fornuft ræsonnement og domæneviden i dyb læring. Resultaterne kan føre til betydelige fremskridt inden for A.I. systemer, der tackler komplekse opgaver, der relaterer til alt fra selvkørende biler til naturlig sprogbehandling. Og alt imens det kræver meget mindre data til træning.

"Neurale netværk og symbolske ideer er virkelig vidunderligt komplementære til hinanden," sagde Cox. "Fordi neurale netværk giver dig svarene til at komme fra rodet i den virkelige verden til en symbolsk repræsentation af verden og finde alle sammenhænge i billeder. Når du først har fået den symbolske repræsentation, kan du gøre nogle ret magiske ting med hensyn til ræsonnement."

For eksempel, i formeksemplet, jeg startede denne artikel med, ville et neuro-symbolsk system bruge et neuralt netværks mønstergenkendelsesfunktioner til at identificere objekter. Så ville den stole på symbolsk A.I. at anvende logik og semantisk ræsonnement til at afdække nye relationer. Sådanne systemer har allerede vist sig at fungere effektivt.

Det er heller ikke kun hjørnesager, hvor dette ville være nyttigt. Det er i stigende grad vigtigt, at A.I. systemer kan forklares, når det kræves. Et neuralt netværk kan udføre visse opgaver usædvanligt godt, men meget af dets indre ræsonnement er "sort boks", der er gjort uudgrundeligt for dem, der ønsker at vide, hvordan det traf sin beslutning. Igen, det betyder ikke så meget, hvis det er en bot, der anbefaler det forkerte spor på Spotify. Men hvis du er blevet afvist et banklån, afvist fra en jobansøgning, eller nogen er kommet til skade i en hændelse, der involverer en autonom bil, må du hellere være i stand til at forklare, hvorfor visse anbefalinger har været lavet. Det er her neuro-symbolske A.I. kunne komme ind.

A.I. forskning: den næste generation

For et par årtier siden blev verdener af symbolsk A.I. og neurale netværk var i modstrid med hinanden. De berømte skikkelser, der forfægtede tilgangene, mente ikke kun, at deres tilgang var rigtig; de mente, at det betød, at den anden tilgang var forkert. De var ikke nødvendigvis forkerte til at gøre det. Begge skoler i A.I. virkede fundamentalt modsat hinanden. I dag ser det ud til, at det modsatte kan vise sig at være sandt.

"Det er virkelig fascinerende at se den yngre generation," sagde Cox. “[Mange af folkene i mit team er] relativt yngre mennesker: friske, spændte, ret nyligt ude af deres Ph.D. De har bare ikke noget af den historie. De er bare ligeglade [om, at de to tilgange stilles op mod hinanden] - og det at være ligeglad er virkelig kraftfuldt, fordi det åbner dig og slipper af med disse fordomme. De er glade for at udforske vejkryds... De vil bare gerne lave noget fedt med A.I."

Skulle alt gå efter planen, vil vi alle nyde godt af resultaterne.

Redaktørens anbefalinger

• Analog A.I.? Det lyder skørt, men det er måske fremtiden
• Læs det uhyggeligt smukke 'syntetiske skrift' af en A.I. der tror, ​​det er Gud
• Algoritmisk arkitektur: Skal vi lade A.I. designe bygninger for os?
• Sprogsupermodel: Hvordan GPT-3 stille og roligt indvarsler A.I. revolution
• Kvinder med byte: Vivienne Mings plan om at løse 'rodet menneskelige problemer' med A.I.