Proč je neuro-symbolická umělá inteligence AI Budoucnosti

Představte si zásobník. Na podnosu je sortiment tvarů: Některé kostky, jiné koule. Tvary jsou vyrobeny z různých materiálů a představují sortiment velikostí. Celkem jde snad o osm objektů. Moje otázka: "Když se podíváte na předměty, je tam stejný počet velkých věcí a kovových koulí?"

Není to triková otázka. Skutečnost, že to zní, jako by to bylo, je pozitivním důkazem toho, jak jednoduché to ve skutečnosti je. To je druh otázky, na kterou by předškolák mohl s největší pravděpodobností snadno odpovědět. Ale pro dnešní moderní neuronové sítě je to téměř nemožné. To je potřeba změnit. A to se musí stát znovuobjevením umělé inteligence, jak ji známe.

To není můj názor; je to názor David Cox, ředitel MIT-IBM Watson A.I. Laboratoř v Cambridge, MA. V minulém životě byl Cox profesorem na Harvardské univerzitě, kde jeho tým využil poznatky z neurovědy k vytvoření lepších počítačových systémů pro strojové učení inspirované mozkem. Ve své současné roli v IBM dohlíží na unikátní partnerství mezi MIT a IBM, které posouvá A.I. výzkum, včetně IBM Watson A.I. plošina. Watson, pro ty, kteří nevědí, byl A.I. který slavně porazil dva z nejlepších hráčů herní show

v historii v televizním kvízu Ohrožení. Watson je také primárně systém strojového učení, trénovaný pomocí masy dat na rozdíl od pravidel odvozených od lidí.

Takže když Cox říká, že svět potřebuje přehodnotit A.I. jak to míří do nové dekády, zní to nějak zvláštně. Koneckonců, léta 2010 byla pravděpodobně nejúspěšnějším desetiletým rokem v A.I. historie: Období, ve kterém dochází k průlomům zdánlivě každý týden a bez mrazivého náznaku A.I. zima porozumění. To je přesně důvod, proč si myslí, že A.I. je však třeba změnit. A jeho návrh na tuto změnu, v současnosti obskurní termín nazvaný „neuro-symbolická AI“, by se mohl stát jednou z těch frází, se kterými jsme důvěrně obeznámeni v době, kdy 2020 skončí.

Vzestup a pád symbolického A.I.

Neuro-symbolická A.I. není, přísně vzato, zcela nový způsob, jak dělat A.I. Je to kombinace dvou existujících přístupů ke stavbě myslících strojů; kteří byli kdysi proti sobě postaveni jako smrtelní nepřátelé.

„Symbolická“ část názvu odkazuje na první mainstreamový přístup k vytváření umělé inteligence. Od 50. do 80. let 20. století symbolický A.I. vládl svrchovaně. K symbolickému A.I. výzkumník, inteligence je založena na schopnosti lidí porozumět světu kolem sebe vytvářením vnitřních symbolických reprezentací. Poté vytvářejí pravidla pro zacházení s těmito pojmy a tato pravidla lze formalizovat způsobem, který zachycuje každodenní znalosti.

Pokud je mozek analogický k počítači, znamená to, že každá situace, se kterou se setkáme, závisí na tom, že běžíme interní počítačový program, který krok za krokem vysvětluje, jak provést operaci, založenou výhradně na logika. Za předpokladu, že tomu tak je, symbolický A.I. výzkumníci věří, že stejná pravidla o organizace světa by mohla být objevena a následně kodifikována ve formě algoritmu pro počítač provést.

Symbolický A.I. vyústilo v některé docela působivé demonstrace. Například v roce 1964 počítačový vědec Bertram Raphael vyvinul systém nazvaný SIR, což znamená „Sémantické získávání informací.“ SIR byl výpočetní systém uvažování, který byl zdánlivě schopen naučit se vztahy mezi objekty způsobem, který připomínal skutečnou inteligenci. Kdybyste řekli, že například: „John je chlapec; chlapec je osoba; člověk má dvě ruce; ruka má pět prstů,“ pak by SIR odpověděl na otázku „Kolik prstů má John?“ se správným číslem 10.

Počítačové systémy založené na symbolické A.I. dosáhly vrcholu svých sil (a jejich úpadku) v 80. letech. Bylo to desetiletí takzvaného „expertního systému“, který se pokoušel používat systémy založené na pravidlech k řešení problémů reálného světa, jako např. pomáhá organickým chemikům identifikovat neznámé organické molekuly nebo pomáhá lékařům při doporučování správné dávky antibiotik infekce.

Základní koncept těchto expertních systémů byl pevný. Ale měli problémy. Systémy byly drahé, vyžadovaly neustálou aktualizaci, a co je nejhorší, mohly být ve skutečnosti méně přesné, čím více pravidel bylo začleněno.

Svět neuronových sítí

„Neuro“ část neuro-symbolické A.I. odkazuje na hluboké učení neuronových sítí. Neuronové sítě jsou mozkem inspirovaným typem výpočtů, které vedly k mnoha AI. průlomy zaznamenané za poslední desetiletí. A.I. který umí řídit auta? Neuronové sítě. A.I. který dokáže přeložit text do desítek různých jazyků? Neuronové sítě. A.I. co pomáhá chytrému reproduktoru ve vaší domácnosti porozumět vašemu hlasu? Neuronové sítě jsou technologií, které je třeba poděkovat.

Neuronové sítě fungují jinak než symbolické A.I. protože jsou založeny spíše na datech než na pravidlech. Vysvětlit něco symbolickému A.I. systém znamená, že mu explicitně poskytneme každý bit informací, který potřebuje ke správné identifikaci. Jako analogii si představte, že někoho posíláte, aby vyzvedl vaši mámu z autobusového nádraží, ale musíte ji popsat tím, že poskytnete sadu pravidel, která umožní vaší kamarádce vybrat ji z davu. Chcete-li na to vycvičit neuronovou síť, jednoduše jí ukážete tisíce obrázků daného objektu. Jakmile bude dostatečně chytrý, nejenže bude schopen tento objekt rozpoznat; může vytvářet své vlastní podobné předměty, které mají ve skutečném světě nikdy neexistoval.

„Hluboké učení jistě umožnilo úžasný pokrok,“ řekl David Cox pro Digital Trends. "Zároveň se ve zdi objevují znepokojivé trhliny, které se začínají projevovat."

Jedna z těchto takzvaných trhlin se opírá přesně o to, co učinilo dnešní neuronové sítě tak silné: data. Stejně jako člověk se neuronová síť učí na základě příkladů. Ale zatímco člověk může potřebovat vidět pouze jeden nebo dva tréninkové příklady předmětu, aby si jej správně zapamatoval, A.I. bude vyžadovat mnoho, mnoho dalších. Přesnost závisí na tom, že má velké množství anotovaných dat, se kterými se může naučit každý nový úkol.

Hořící semafory

To je činí méně dobrými ve statisticky vzácných problémech s „černou labutí“. Událost černé labutě, popularizovaná o Nassim Nicholas Taleb, je rohový případ, který je statisticky vzácný. „Mnohá ​​z našich dnešních řešení pro hluboké učení – jakkoli jsou úžasná – jsou řešením 80-20,“ pokračoval Cox. „Udělají 80 % případů správně, ale pokud na těch rohových případech záleží, budou mít tendenci padat dolů. Pokud uvidíte předmět, který normálně nepatří [na určité místo], nebo předmět s poněkud zvláštní orientací, spadnou i úžasné systémy.“

Než Cox nastoupil do IBM, spoluzaložil společnost, Vnímavé automaty, která vyvinula software pro samořiditelná auta. Tým měl kanál Slack, do kterého publikoval vtipné obrázky, na které náhodou narazil v průběhu sběru dat. Jeden z nich, pořízený na křižovatce, ukazoval hořící semafor. "Je to jeden z těch případů, které možná nikdy v životě neuvidíte," řekl Cox. „Nevím, jestli Waymo a Tesla mají v souborech dat, které používají, obrázky hořících semaforů trénovat své neuronové sítě, ale jsem ochoten se vsadit… pokud nějaké mají, budou mít jen velmi málo."

Jedna věc je, že rohový případ je něco, co je bezvýznamné, protože se to stává zřídka a na tom nezáleží až tak moc, když se to stane. Doporučení špatné restaurace nemusí být ideální, ale pravděpodobně to nebude stačit na to, aby vám zkazilo den. Dokud je předchozích 99 doporučení systému dobrých, neexistuje žádný skutečný důvod k frustraci. Samořídící auto, které na křižovatce nereaguje správně kvůli hořícímu semaforu nebo koňskému povozu, může udělat mnohem víc, než jen zkazit váš den. Může být nepravděpodobné, že se to stane, ale pokud ano, chceme vědět, že systém je navržen tak, aby se s tím dokázal vyrovnat.

"Pokud máte schopnost uvažovat a extrapolovat nad rámec toho, co jsme viděli dříve, můžeme se s těmito scénáři vypořádat," vysvětlil Cox. "Víme, že to lidé dokážou." Když uvidím hořet semafor, mohu přinést spoustu znalostí. Vím například, že světlo mi neřekne, jestli mám zastavit nebo jít. Vím, že musím být opatrný, protože [řidiči kolem mě budou zmatení.] Vím, že řidiči, kteří jedou na druhou stranu, se mohou chovat jinak, protože jejich světlo může fungovat. Umím vymyslet akční plán, který mě zavede tam, kam potřebuji. V takových prostředích, která jsou kritická pro bezpečnost a poslání, to je místo, kde si nemyslím, že nám hluboké učení zatím slouží dokonale. Proto potřebujeme další řešení."

Doplňkové nápady

Myšlenka neuro-symbolické A.I. je spojit tyto přístupy a spojit jak učení, tak logiku. Neuronové sítě pomohou vytvořit symbolickou A.I. systémy jsou chytřejší tím, že rozdělují svět na symboly, místo aby se spoléhali na lidské programátory, že to udělají za ně. Mezitím symbolický A.I. Algoritmy pomohou začlenit zdravý rozum a znalost domény do hlubokého učení. Výsledky by mohly vést k výraznému pokroku v A.I. systémy řešící složité úkoly týkající se všeho od samořídících aut až po zpracování přirozeného jazyka. A to vše při potřebě mnohem méně dat pro trénink.

"Neurální sítě a symbolické myšlenky se opravdu úžasně doplňují," řekl Cox. „Protože neuronové sítě vám dávají odpovědi, jak se dostat od nepořádku skutečného světa k symbolické reprezentaci světa, najít všechny korelace v obrazech. Jakmile získáte tuto symbolickou reprezentaci, můžete dělat některé docela magické věci, pokud jde o uvažování."

Například v příkladu tvaru, kterým jsem začal tento článek, by neuro-symbolický systém využíval schopnosti neuronové sítě rozpoznávat vzory k identifikaci objektů. Pak by se spoléhalo na symbolické A.I. použít logiku a sémantické uvažování k odhalení nových vztahů. Takové systémy mají již bylo prokázáno, že fungují efektivně.

Nejsou to jen rohové případy, kde by to bylo užitečné. Stále více je důležité, aby A.I. systémy jsou v případě potřeby vysvětlitelné. Neuronová síť může provádět určité úkoly výjimečně dobře, ale velká část jejího vnitřního uvažování je „začerněná“, což je pro ty, kdo chtějí vědět, jak se rozhodla, nevyzpytatelné. Opět na tom tolik nezáleží, pokud je to robot, který doporučuje špatnou stopu na Spotify. Ale pokud vám byla zamítnuta bankovní půjčka, zamítnuta žádost o zaměstnání nebo byl někdo zraněn incidentu s autonomním autem, měli byste být schopni vysvětlit, proč byla určitá doporučení použita vyrobeno. To je místo, kde neuro-symbolická A.I. mohl vstoupit.

A.I. výzkum: příští generace

Před pár desítkami let světy symbolických A.I. a neuronové sítě byly ve vzájemném rozporu. Renomované osobnosti, které prosazovaly přístupy, nejen věřily, že jejich přístup byl správný; věřili, že to znamená, že druhý přístup byl špatný. Nebyli nutně nesprávní, když to udělali. Obě školy A.I. soutěží o vyřešení stejných problémů as omezenými finančními prostředky. se jevily zásadně proti sobě. Dnes se zdá, že opak by mohl být pravdou.

"Je opravdu fascinující vidět mladší generaci," řekl Cox. „[Mnoho lidí v mém týmu jsou] relativně mladší lidé: čerství, nadšení, poměrně nedávno získali Ph. Ds. Prostě nic z té historie nemají. Prostě je to nezajímá [o tom, že ty dva přístupy jsou postaveny proti sobě] – a nestarat se je opravdu mocné, protože vás to otevře a zbaví těch předsudků. Rádi zkoumají křižovatky... Chtějí jen udělat něco skvělého s A.I.“

Pokud vše půjde podle plánu, budeme mít z výsledků prospěch všichni.

Doporučení redakce

• Analogové A.I.? Zní to šíleně, ale může to být budoucnost
• Přečtěte si děsivě krásné ‚syntetické písmo‘ A.I. který si myslí, že je to Bůh
• Algoritmická architektura: Měli bychom nechat A.I. navrhovat budovy pro nás?
• Jazyková supermodelka: Jak GPT-3 tiše zahajuje A.I. revoluce
• Ženy s Bytem: Plán Vivienne Mingové vyřešit „nepořádné lidské problémy“ s A.I.