Waarom neuro-symbolische kunstmatige intelligentie de A.I. is Van de toekomst

Stel je een dienblad voor. Op het dienblad staat een assortiment vormen: sommige kubussen, andere bollen. De vormen zijn gemaakt van verschillende materialen en vertegenwoordigen een assortiment maten. In totaal zijn er misschien acht objecten. Mijn vraag: “Als je naar de objecten kijkt, zijn er dan evenveel grote dingen als metalen bollen?”

Het is geen strikvraag. Het feit dat het klinkt alsof het zo is, is een positief bewijs van hoe eenvoudig het eigenlijk is. Het is het soort vraag dat een kleuter waarschijnlijk gemakkelijk zou kunnen beantwoorden. Maar het is vrijwel onmogelijk voor de moderne neurale netwerken van vandaag. Dit moet veranderen. En dit moet gebeuren door kunstmatige intelligentie zoals wij die kennen opnieuw uit te vinden.

Dat is niet mijn mening; het is de mening van David Cox, directeur van het MIT-IBM Watson A.I. Laboratorium in Cambridge, MA. In een vorig leven was Cox professor aan de Harvard University, waar zijn team inzichten uit de neurowetenschappen gebruikte om betere, op de hersenen geïnspireerde computersystemen voor machinaal leren te bouwen. In zijn huidige rol bij IBM houdt hij toezicht op een uniek partnerschap tussen MIT en IBM dat A.I. onderzoek, waaronder IBM’s Watson A.I. platform. Watson, voor degenen die het niet weten, was de A.I. die op beroemde wijze twee van de beste spelshowspelers versloeg

in de geschiedenis tijdens een tv-quiz Gevaar. Watson is ook een voornamelijk machinaal leersysteem, dat is getraind met behulp van grote hoeveelheden gegevens, in tegenstelling tot door mensen afgeleide regels.

Dus als Cox zegt dat de wereld A.I. Nu het een nieuw decennium ingaat, klinkt het nogal vreemd. De jaren 2010 zijn tenslotte misschien wel de meest succesvolle tien jaar op het gebied van AI geweest. geschiedenis: Een periode waarin doorbraken schijnbaar wekelijks plaatsvinden, en zonder ijzige zweem van een AI winter in zicht. Dit is precies waarom hij denkt dat A.I. moet echter veranderen. En zijn suggestie voor die verandering, een momenteel obscure term genaamd ‘neuro-symbolische AI’, zou wel eens een van die uitdrukkingen kunnen worden waar we goed bekend mee zijn tegen de tijd dat de jaren 2020 ten einde lopen.

De opkomst en ondergang van symbolische A.I.

Neuro-symbolische A.I. is strikt genomen geen totaal nieuwe manier om AI te doen. Het is een combinatie van twee bestaande benaderingen voor het bouwen van denkmachines; degenen die ooit als doodsvijanden tegenover elkaar stonden.

Het “symbolische” deel van de naam verwijst naar de eerste mainstream-aanpak voor het creëren van kunstmatige intelligentie. Van de jaren vijftig tot en met de jaren tachtig was symbolische A.I. regeerde oppermachtig. Naar een symbolische A.I. Onderzoeker: intelligentie is gebaseerd op het vermogen van mensen om de wereld om hen heen te begrijpen door interne symbolische representaties te vormen. Vervolgens creëren ze regels voor het omgaan met deze concepten, en deze regels kunnen worden geformaliseerd op een manier die alledaagse kennis vastlegt.

Als de hersenen analoog zijn aan een computer, betekent dit dat elke situatie die we tegenkomen afhankelijk is van het feit dat we een computer uitvoeren intern computerprogramma dat stap voor stap uitlegt hoe een handeling moet worden uitgevoerd, geheel gebaseerd op logica. Op voorwaarde dat dit het geval is, kan symbolische A.I. onderzoekers zijn van mening dat dezelfde regels gelden voor de De organisatie van de wereld zou kunnen worden ontdekt en vervolgens in de vorm van een algoritme voor een computer kunnen worden gecodificeerd uitvoeren.

Symbolische AI resulteerde in een aantal behoorlijk indrukwekkende demonstraties. In 1964 ontwikkelde computerwetenschapper Bertram Raphael bijvoorbeeld een systeem genaamd SIR, wat staat voor ‘Semantische informatie ophalen.” SIR was een computationeel redeneersysteem dat schijnbaar in staat was relaties tussen objecten te leren op een manier die op echte intelligentie leek. Als je bijvoorbeeld zou zeggen: “John is een jongen; een jongen is een persoon; een persoon heeft twee handen; een hand heeft vijf vingers”, dan zou SIR de vraag beantwoorden: “Hoeveel vingers heeft Jan?” met het juiste nummer 10.

Computersystemen gebaseerd op symbolische A.I. bereikten het hoogtepunt van hun macht (en hun verval) in de jaren tachtig. Dit was het decennium van het zogenaamde ‘expertsysteem’ dat op regels gebaseerde systemen probeerde te gebruiken om problemen uit de echte wereld op te lossen, zoals het helpen van organische chemici bij het identificeren van onbekende organische moleculen of het assisteren van artsen bij het aanbevelen van de juiste dosis antibiotica infecties.

Het onderliggende concept van deze expertsystemen was solide. Maar ze hadden problemen. De systemen waren duur, moesten voortdurend worden bijgewerkt en, het ergste van alles, konden zelfs minder nauwkeurig worden naarmate er meer regels werden ingevoerd.

De wereld van neurale netwerken

Het ‘neuro’-gedeelte van neuro-symbolische A.I. verwijst naar diepgaand lerende neurale netwerken. Neurale netten zijn het door de hersenen geïnspireerde type berekening dat veel van de A.I. doorbraken van de afgelopen tien jaar. AI die auto's kan besturen? Neurale netten. AI die tekst in tientallen verschillende talen kan vertalen? Neurale netten. AI waardoor de slimme speaker in jouw huis jouw stem kan verstaan? Neurale netten zijn daar de technologie aan te danken.

Neurale netwerken werken anders dan symbolische A.I. omdat ze datagedreven zijn, in plaats van op regels gebaseerd. Om iets uit te leggen aan een symbolische A.I. systeem betekent dat het expliciet wordt voorzien van alle informatie die het nodig heeft om een ​​correcte identificatie te kunnen maken. Ter analogie: stel je voor dat je iemand stuurt om je moeder op te halen van het busstation, maar dat je haar moet beschrijven door een reeks regels op te geven waarmee je vriendin haar uit de massa kan kiezen. Om een ​​neuraal netwerk hiervoor te trainen, laat je het simpelweg duizenden foto’s van het object in kwestie zien. Als het eenmaal slim genoeg wordt, zal het niet alleen dat object kunnen herkennen; het kan zijn eigen soortgelijke objecten verzinnen heeft in de echte wereld nooit bestaan.

“Deep learning heeft zeker geweldige vooruitgang mogelijk gemaakt”, vertelde David Cox aan Digital Trends. “Tegelijkertijd beginnen er zorgwekkende scheuren in de muur zichtbaar te worden.”

Eén van deze zogenaamde cracks berust op precies datgene dat de hedendaagse neurale netwerken zo krachtig heeft gemaakt: data. Net als een mens leert een neuraal netwerk op basis van voorbeelden. Maar hoewel een mens misschien maar één of twee trainingsvoorbeelden van een object hoeft te zien om het correct te onthouden, kan een A.I. zal er nog veel, veel meer nodig hebben. Nauwkeurigheid hangt af van het beschikken over grote hoeveelheden geannoteerde gegevens waarmee het elke nieuwe taak kan leren.

Brandende verkeerslichten

Dat maakt ze minder goed in statistisch zeldzame ‘zwarte zwaan’-problemen. Een zwarte zwaan-evenement, gepopulariseerd door Nassim Nicolaas Taleb, is een hoekgeval dat statistisch gezien zeldzaam is. “Veel van onze deep learning-oplossingen van vandaag zijn – hoe verbazingwekkend ze ook zijn – een soort 80-20-oplossingen”, vervolgde Cox. “Ze zullen 80% van de zaken goed krijgen, maar als die hoekzaken er toe doen, zullen ze de neiging hebben om te vallen. Als je een object ziet dat normaal niet thuishoort [op een bepaalde plaats], of een object in een enigszins vreemde oriëntatie, zullen zelfs verbazingwekkende systemen omvallen.”

Voordat hij bij IBM kwam, was Cox medeoprichter van een bedrijf, Opmerkzame automaten, dat software ontwikkelde voor zelfrijdende auto's. Het team had een Slack-kanaal waarin ze grappige afbeeldingen plaatsten die ze tijdens het verzamelen van gegevens waren tegengekomen. Op één ervan, genomen op een kruispunt, was een verkeerslicht in brand te zien. “Het is een van die gevallen die je misschien nooit in je leven zult tegenkomen”, zei Cox. “Ik weet niet of Waymo en Tesla afbeeldingen van brandende verkeerslichten hebben in de datasets die ze gebruiken train hun neurale netwerken, maar ik durf te wedden … als ze die hebben, zullen ze maar een heel netwerk hebben weinig."

Het is één ding dat een hoekgeval iets onbeduidends is, omdat het zelden voorkomt en het er niet zo veel toe doet als het wel gebeurt. Een slechte restaurantaanbeveling krijgen is misschien niet ideaal, maar het zal waarschijnlijk niet genoeg zijn om zelfs maar je dag te verpesten. Zolang de voorgaande 99 aanbevelingen van het systeem goed zijn, is er geen echte reden tot frustratie. Een zelfrijdende auto die op een kruispunt niet goed reageert vanwege een brandend verkeerslicht of een paardenkoets kan veel meer doen dan je dag verpesten. Het is misschien onwaarschijnlijk dat dit zal gebeuren, maar als het toch gebeurt, willen we weten dat het systeem is ontworpen om ermee om te kunnen gaan.

“Als je het vermogen hebt om verder te redeneren en te extrapoleren dan wat we eerder hebben gezien, kunnen we met deze scenario’s omgaan”, legt Cox uit. “We weten dat mensen dat kunnen. Als ik een stoplicht in brand zie staan, kan ik veel kennis inbrengen. Ik weet bijvoorbeeld dat het licht mij niet gaat vertellen of ik moet stoppen of gaan. Ik weet dat ik voorzichtig moet zijn, want [de automobilisten om mij heen zullen in de war raken.] Ik weet dat automobilisten die de andere kant op komen zich misschien anders gedragen omdat hun licht mogelijk werkt. Ik kan een plan van aanpak bedenken dat mij brengt waar ik heen moet. In dat soort veiligheidskritische, missiekritische omgevingen denk ik niet dat deep learning ons nog prima van pas komt. Daarom hebben we aanvullende oplossingen nodig.”

Complementaire ideeën

Het idee van neuro-symbolische A.I. is om deze benaderingen samen te brengen om zowel leren als logica te combineren. Neurale netwerken zullen helpen om symbolische A.I. systemen slimmer maken door de wereld in symbolen op te delen, in plaats van te vertrouwen op menselijke programmeurs om het voor hen te doen. Ondertussen symbolische A.I. Algoritmen zullen helpen om gezond verstand en domeinkennis te integreren in deep learning. De resultaten kunnen leiden tot aanzienlijke vooruitgang op het gebied van AI. systemen die complexe taken aanpakken, die betrekking hebben op alles, van zelfrijdende auto's tot natuurlijke taalverwerking. En dat terwijl er veel minder gegevens nodig zijn voor training.

“Neurale netwerken en symbolische ideeën zijn werkelijk wonderbaarlijk complementair aan elkaar,” zei Cox. “Omdat neurale netwerken je de antwoorden geven om van de rommeligheid van de echte wereld naar een symbolische representatie van de wereld te komen, waarbij je alle correlaties in afbeeldingen kunt vinden. Als je eenmaal die symbolische representatie hebt, kun je een aantal behoorlijk magische dingen doen op het gebied van redeneren.

In het vormvoorbeeld waarmee ik dit artikel begon, zou een neurosymbolisch systeem bijvoorbeeld de patroonherkenningsmogelijkheden van een neuraal netwerk gebruiken om objecten te identificeren. Dan zou het vertrouwen op symbolische A.I. om logica en semantisch redeneren toe te passen om nieuwe relaties bloot te leggen. Dergelijke systemen hebben het is al bewezen dat het effectief werkt.

Het zijn niet alleen hoekgevallen waarbij dit nuttig zou zijn. Het wordt steeds belangrijker dat A.I. systemen zijn verklaarbaar wanneer dat nodig is. Een neuraal netwerk kan bepaalde taken uitzonderlijk goed uitvoeren, maar een groot deel van zijn innerlijke redenering is ‘black boxed’, wat ondoorgrondelijk wordt gemaakt voor degenen die willen weten hoe het tot zijn besluit is gekomen. Nogmaals, dit maakt niet zoveel uit als het een bot is die het verkeerde nummer op Spotify aanbeveelt. Maar als u een banklening is geweigerd, bent afgewezen voor een sollicitatie of als iemand gewond is geraakt bij een incident met een zelfrijdende auto, kun je beter uitleggen waarom bepaalde aanbevelingen zijn gedaan gemaakt. Dat is waar neuro-symbolische A.I. binnen kon komen.

AI onderzoek: de volgende generatie

Een paar decennia geleden waren de werelden van symbolische A.I. en neurale netwerken stonden op gespannen voet met elkaar. De gerenommeerde figuren die deze aanpak verdedigden, geloofden niet alleen dat hun aanpak juist was; zij geloofden dat dit betekende dat de andere benadering verkeerd was. Ze waren niet noodzakelijkerwijs verkeerd om dit te doen. Beide scholen van A.I. strijden om dezelfde problemen op te lossen, en met beperkte financiering om rond te komen. leken fundamenteel tegengesteld aan elkaar. Tegenwoordig lijkt het erop dat het tegendeel waar kan zijn.

“Het is echt fascinerend om de jongere generatie te zien”, zei Cox. “[Veel van de mensen in mijn team zijn] relatief jonge mensen: fris, opgewonden, vrij recent afgestudeerd. Ze hebben gewoon niets van die geschiedenis. Het kan ze gewoon niets schelen [dat de twee benaderingen tegenover elkaar staan] – en het niet schelen is echt krachtig omdat het je openstelt en die vooroordelen wegneemt. Ze verkennen graag kruispunten... Ze willen gewoon iets leuks doen met AI.”

Als alles volgens plan verloopt, zullen we allemaal profiteren van de resultaten.

Aanbevelingen van de redactie

• Analoge AI? Het klinkt gek, maar het zou de toekomst kunnen zijn
• Lees het griezelig mooie ‘synthetische geschrift’ van een A.I. die denkt dat het God is
• Algoritmische architectuur: moeten we A.I. gebouwen voor ons ontwerpen?
• Taalsupermodel: hoe GPT-3 stilletjes de A.I. revolutie
• Women with Byte: Vivienne Ming’s plan om ‘rommelige menselijke problemen’ op te lossen met A.I.