Facebook vybudoval A.I. To záměrně zapomíná na věci

"Ahoj, HAL." Čteš mě, HAL?" řekl astronaut Dave Bowman a zoufale se snažil udržet své emoce na uzdě.

Nastala pauza a pak počítač monotónně bez emocí odpověděl. "Potvrzuji, Dave." Četl jsem tě."

"Otevři dveře kabiny, HAL."

Další dlouhá pauza. Byl HAL, všemocný A.I. který ovládal Discovery One kosmická loď, opravdu ho ignoruje? To je jistě nemožné, pomyslel si Bowman. Každou chvíli by HAL vyrazil do akce a poslechl –

"Je mi to líto, Dave," pokračoval HAL. "Obávám se, že to nedokážu."

"Co je za problém?" zeptal se Dave.

"No vidíš, Dave." Zapomněl jsem, jak je otevřít."

Dobře, přesně tak to nebylo 2001: Vesmírná odysea, ale vtipy se v podstatě píší samy. Koneckonců, pokud jde o umělou inteligenci, zdá se, že dobrá paměť je jednou z nezbytných vlastností, které výzkumníci chtějí do svých systémů vložit. Nikdo nechce A.I. že se to modeluje podle druhu každodenní, nevýrazné inteligence, která zapomíná na věci. Tak proč tedy je

Facebook budování zapomnětlivé A.I.? A proč, stejně jako starý vtip o číšníkovi a mouše v zákazníkově polévce, budeme brzy všichni chtít?

Na co myslíme, když přemýšlíme o zapomínání

Odpověď, jak se ukazuje, je, že my dělat chtít něco, co je spíše jako každodenní, nevýrazná inteligence, která tu a tam něco zapomene. Lidé zapomínají na důležité věci, jako jsou výročí a peněženky a zavření garáže, než odjedeme na dovolenou. To je suboptimální zapomínání. Ale také zapomínáme na části informací, protože je nepotřebujeme uchovávat a zastavovat je jako kus detritus zachycený v lapači jídla ve dřezu dříve, než může projít krátkodobě a dlouhodobě Paměť.

V slavný experiment, byli lidé požádáni, aby správně rozeznali americký cent ze sbírky obrázků zobrazujících nesprávné haléře. Ačkoli účastníci pravděpodobně viděli a používali haléře každý den, ukázali se v tomto úkolu překvapivě špatně. Jak vědci napsali: „Výsledky byly v souladu s myšlenkou, že vizuální detaily objektu, dokonce i velmi známý předmět, jsou obvykle dostupné z paměti pouze do té míry, do jaké jsou užitečné v každodenním životě život."

I když to není tak jednoduché, jako říct, že mozek se může zaplnit jako úložiště na pevném disku, určitě existují krátkodobé vzpomínky, které se zdánlivě rozpadají, když už nejsou potřeba, zatímco jiné se zavrtávají do našeho mozku a žijí tam bez nájmu. Příklad? Zamyslete se nad tím, kde jste si minulé svátky sbalili vánoční výzdobu. Dále v duchu jděte z recepce do svého pokoje v posledním hotelu, ve kterém jste byli, hotel, ve kterém je nepravděpodobné, že byste tam někdy zůstali. Žádná z těchto informací není pro vaši pohodu životně důležitá. Nicméně jedna informace je potřebná a druhá ne. Váš mozek nějak ví, kterou z nich vyhodit do koše.

To je myšlenka nového A.I Facebooku. projekt s názvem Expire-Span. Tak jako umělá inteligence modely jsou stále více aplikovány na dlouhé datové sady, jako jsou články a knihy, výpočetní náklady spojené s těmito modely rostou, protože se snaží zapamatovat si více informací. Problém je stále palčivější, protože lidé shromažďují stále více bohatých multimediálních dat o svých životech.

„Jak roste množství obsahu, který máme, hlavní otázkou je úložiště,“ Angela Fan, vědecký pracovník společnosti Facebook AI Research Paris, řekl Digital Trends. „Telefon má například omezené množství paměti. To je ještě větší problém v nositelných zařízeních a dalších aplikacích typu na zařízení, kde mohou znamenat soukromí důvody že lidé striktně chtějí obsah uložený na jejich zařízení a ne na serveru nebo cloudu, což klade důraz na úložiště výzvy.”

Aktuální A.I. Modelky přistupují ke vzpomínkám něco jako Frank Sinatra – to znamená, že si pamatují všechno nebo vůbec nic. Buď ukládají všechny informace vytvořené v každém časovém kroku, nebo je všechny po předem stanovené době zapomenou. Sainbayar Sukhbaatar, další Facebook A.I. vědec, přirovnává to k dokonalému zapamatování všeho, co se stalo za poslední týden, ale absolutně nic nad rámec toho.

Zabudování zapomnění do A.I.

Výzkumníci zabudovali „zapomínání“ do A.I. modely dříve. Dlouhá Krátkodobá Paměť Modely (LSTM) například přidaly mechanismus zapomínání k rekurentním neuronovým sítím (RNN), jedné ze základních technologií, které řídí strojové učení. "RNN mají vnitřní paměť, která se skládá z jednoho vektoru, takže jeho zapomenutí znamená přepsání novými informacemi," řekl Sukhbaatar pro Digital Trends.

Naproti tomu Expire-Span přidává do externí paměti mechanismus zapomínání, který může obsahovat tisíce vektorů. Jsou pozorovány nové informace, ale Expire-Span – jehož název připomíná druh expiračních štítků na lahvích mléka – má schopnost určit, jak dlouho by tyto informace měly zůstat v paměti. Pokud informace nejsou pro budoucnost považovány za klíčové, lze je postupně zpracovat úpadku, než bude nakonec vymýcen z A.I. paměť modelu, aby byl prostor pro užitečnější informace.

Aby to bylo možné, model musí být schopen předvídat, co je a co není pro konkrétního relevantní úkolu, před přiřazením správného data vypršení platnosti, po kterém informace z A.I. Systém. Tím, že vyhodí nepodstatné informace, A.I. je schopen zpracovávat informace ve větším měřítku.

Stejně jako u většiny výzkumů umělé inteligence Facebooku, gigant sociálních sítí neoznámil, že Expire-Span bude v blízké budoucnosti zapečen do některého z jeho klíčových produktů. Ale jak se Facebook zabývá stále více uživatelskými daty (nemluvě o jejich šušká se přestěhovat do chytrých brýlí), není těžké pochopit, jak by se tato technologie mohla uplatnit. Když budoucí A.I. nástroje jsou schopny pracovat na vysoké úrovni výkonu i přes obrovské hromady dat, důvodem může být Expire-Span.

Nedělejte chybu a nepředpokládejte, že vytvoření zapomnětlivého A.I. znamená další krok k vytvoření A.I. lidštější však. Přesné důvody, proč lidé na věci zapomínají, jsou stále předmětem mnoha výzkumů výzkumníků. Stejně jako u neuronových sítí inspirovaných mozkem, které dominují moderní AI, je algoritmus zapomnění na Facebooku vytvořen na základě teorie zapomnění; nejde o pokus replikovat to s nějakou biologickou věrností.

"Mozek je velmi složitý systém, který není plně pochopen, a existuje mnoho různých typů paměti, které tvoří lidskou paměť," řekl Sukhbaatar. „Expire-Span, stejně jako všechny ostatní A.I. mechanismy, mohou být inspirovaný lidským mozkem, ale nakonec nejsou věrnými odrazy toho, jak mozek skutečně funguje. Zejména paměť je sama o sobě velmi aktivní oblastí výzkumu. Analogie lidské paměti, kterou popisujeme, je přidána pouze za účelem srozumitelnosti, i když rozhodně inspiruje naši práci.“

A nezapomeň na to!

Doporučení redakce

• Nový Facebook pro rozpoznávání obrázků A.I. je trénován na 1 miliardě fotek na Instagramu
• Nové A.I na Facebooku posouvá rozpoznávání obrazu na zcela novou úroveň
• Jak A.I. dokáže porazit malware, který ještě ani neexistuje