Facebook byggde en A.I. Som avsiktligt glömmer saker

"Hej, HAL. Läser du mig, HAL?” sa astronauten Dave Bowman och försökte desperat hålla sina känslor i schack.

Det blev en paus och sedan, i en känslolös monoton, svarade datorn. "Ja, Dave. Jag läser dig."

"Öppna dörrarna till podfacket, HAL."

Ännu en lång paus. Var HAL, den allsmäktige A.I. som kontrollerade Discovery One rymdfarkost, verkligen ignorera honom? Helt omöjligt, tänkte Bowman. När som helst nu skulle HAL komma till handling och lyda —

"Jag är ledsen, Dave," fortsatte HAL. "Jag är rädd att jag inte kan göra det."

"Vad är problemet?" frågade Dave.

"Ja, du förstår, Dave. Jag har glömt hur man öppnar dem."

OK, det var inte exakt så det gick in 2001: A Space Odyssey, men skämten skriver i princip sig själva. När allt kommer omkring, när det kommer till artificiell intelligens, verkar ett bra minne vara en av de förutsättningsegenskaper som forskare är angelägna om att ingjuta i sina system. Ingen vill ha en A.I. som mönster sig efter den typ av vardaglig, omärklig intelligens som glömmer saker. Så varför är det då

Facebook bygga en glömsk A.I.? Och varför, som det gamla skämtet om servitören och flugan i en kunds soppa, kommer vi snart alla att vilja ha en?

Vad vi tänker på när vi tänker på att glömma

Svaret, som det visar sig, är att vi do vill ha något som mer liknar den vardagliga, omärkliga intelligensen som glömmer saker här och där. Människor glömmer viktiga saker som årsdagar och plånböcker och att stänga garaget innan vi åker på semester. Det är suboptimalt glömma. Men vi glömmer också bitar av information eftersom vi inte behöver behålla den, stoppar den som en bit av detritus fångas i ett diskbänks avlopps matuppsamlare innan det kan passera på kort sikt och på lång sikt minne.

I en berömt experiment, ombads människor att korrekt känna igen ett amerikanskt öre från en samling bilder som visar felaktiga öre. Även om deltagarna sannolikt såg och använde slantar varje dag, visade de sig förvånansvärt dåliga på uppgiften. Som forskarna skrev: "På balansen stämde resultaten överens med tanken att de visuella detaljerna hos ett objekt, även ett mycket välbekant föremål, är vanligtvis tillgängliga från minnet endast i den mån de är användbara i vardagen liv."

Även om det inte är så enkelt som att säga att hjärnan kan fyllas upp som hårddisklagring, finns det verkligen kortsiktiga minnen som ser ut att förfalla när de inte längre behövs, medan andra gräver sig in i våra hjärnor och bor där hyresfritt. Ett exempel? Tänk på var du packade undan julpyntet förra helgerna. Gå sedan mentalt från receptionen till ditt rum på det senaste hotellet du bodde på, ett som du sannolikt inte kommer att bo på igen. Ingen av informationen är avgörande för ditt välbefinnande. Ändå behövs den ena informationen och den andra inte. På något sätt vet din hjärna vilken den ska slänga i papperskorgen.

Detta är idén bakom Facebooks nya A.I. projekt, kallat Expire-Span. Som artificiell intelligens modeller tillämpas alltmer på datauppsättningar i långa format som artiklar och böcker, beräkningskostnaderna förknippade med dessa modeller ökar när de försöker memorera mer information. Problemet blir ännu mer pressande eftersom människor samlar in mer och mer rik multimediadata om sina liv.

"När mängden innehåll vi har växer, är den stora frågan lagring," Angela Fan, en forskare vid Facebook AI Research Paris, berättade för Digital Trends. ”En telefon har till exempel en begränsad mängd minne. Detta är ett ännu större problem i wearables och andra appar av enhetstyp, där integritetsskäl kan innebära att människor strikt vill ha innehåll lagrat på deras enhet och inte på en server eller ett moln, vilket accentuerar lagring utmaningar."

Nuvarande A.I. modeller tar något av ett Frank Sinatra-förhållningssätt till minnen - det vill säga att de kommer ihåg allt eller ingenting alls. Antingen lagrar de all information som skapas vid varje tidssteg, eller så glömmer de allt efter en förutbestämd tid. Sainbayar Sukhbaatar, en annan Facebook A.I. forskare, liknar det med att perfekt komma ihåg allt som hände den senaste veckan, men absolut ingenting utöver det.

Bygger in glömska i A.I.

Forskare har byggt in "glömma" i A.I. modeller innan. Långt korttidsminne (LSTM)-modeller, till exempel, lade till en glömningsmekanism till återkommande neurala nätverk (RNN), en av kärnteknologierna som driver maskininlärning. "RNN: er har ett internt minne som består av en vektor, så att glömma det betyder att skriva över det med ny information," sa Sukhbaatar till Digital Trends.

Däremot lägger Expire-Span till en glömningsmekanism till externt minne som kan innehålla tusentals vektorer. Ny information observeras, men Expire-Span - vars namn påminner om den typ av utgångsetiketter som finns på flaskor med mjölk - har förmågan att bestämma hur länge den informationen ska stanna i minnet. Om informationen inte bedöms vara avgörande för framtiden kan den informationen göras gradvis förfalla, innan det slutligen utrotas från A.I. modellens minne för att göra plats för mer användbart information.

För att göra detta måste modellen kunna förutsäga vad som är och inte är relevant för en viss uppgift, innan du tilldelar korrekt utgångsdatum, varefter informationen försvinner från A.I. systemet. Genom att dumpa irrelevant information kan Facebooks A.I. kan bearbeta information i större skala.

Som med mycket av Facebooks forskning om artificiell intelligens har den sociala nätverksjätten inte meddelat att Expire-Span kommer att byggas in i någon av dess kärnprodukter inom den omedelbara framtiden. Men eftersom Facebook hanterar mer och mer användardata (för att inte tala om dess ryktas flytta in i smarta glasögon), är det inte svårt att se hur denna teknik kan tillämpas. När framtida A.I. verktyg som kan prestera på höga prestandanivåer trots att de hanterar enorma mängder data, kan Expire-Span vara anledningen.

Gör inte misstaget att anta att man gör en glömsk A.I. markerar ytterligare ett steg mot att göra A.I. mer mänsklig dock. De exakta anledningarna till att människor glömmer saker är fortfarande föremål för många undersökningar från forskare. Liksom med de hjärninspirerade neurala nätverk som dominerar modern A.I., är Facebooks glömska algoritm modellerad på teorin om glömska; inte ett försök att replikera det med någon biotrohet.

"Hjärnan är ett mycket komplext system som inte är helt förstått, och det finns många olika typer av minne som bildar mänskligt minne," sa Sukhbaatar. "Expire-Span, precis som alla andra A.I. mekanismer, kan vara inspirerad av den mänskliga hjärnan, men är i slutändan inte trogna reflektioner av hur hjärnan faktiskt fungerar. Särskilt minne är ett mycket aktivt forskningsområde i och för sig. Den mänskliga minnesanalogin vi beskriver läggs endast till för tydlighetens syfte, även om den definitivt inspirerar vårt arbete."

Och glöm det inte!

Redaktörens rekommendationer

• Facebooks nya bildigenkänning A.I. tränas på 1 miljard Instagram-bilder
• Facebooks nya A.I. tar bildigenkänning till en helt ny nivå
• Hur A.I. kan besegra skadlig programvara som inte ens existerar ännu