Facebook rakensi A.I: n Se tahallaan unohtaa asiat

"Hei, HAL. Luetko sinä minua, HAL?" sanoi astronautti Dave Bowman yrittäen epätoivoisesti pitää tunteensa kurissa.

Oli tauko, ja sitten tietokone vastasi tunteettoman yksitoikkoisena. "Myönteinen, Dave. Luin sinua."

"Avaa kotelon ovet, HAL."

Toinen pitkä tauko. Oli HAL, kaikkivoipa A.I. joka kontrolloi Discovery One avaruusalus, todella välittämättä hänestä? Varmasti mahdotonta, Bowman ajatteli. Millä hetkellä hyvänsä HAL ryhtyisi toimiin ja tottelee -

"Olen pahoillani, Dave", HAL jatkoi. "Pelkään, etten voi tehdä sitä."

"Mikä on ongelma?" Dave kysyi.

"No, näethän, Dave. Olen unohtanut kuinka ne avataan."

OK, asiat eivät menneet aivan niin 2001: Avaruusodysseia, mutta vitsit kirjoittavat periaatteessa itsestään. Loppujen lopuksi, mitä tulee tekoälyyn, hyvä muisti näyttää olevan yksi niistä edellytyksistä, joita tutkijat haluavat lisätä järjestelmiinsä. Kukaan ei halua A.I: tä. joka muotoilee itsensä sellaisen jokapäiväisen, merkityksettömän älyn mukaan, joka unohtaa asiat. Joten miksi sitten on

Facebook unohdettavan A.I: n rakentaminen? Ja miksi, kuten vanha vitsi tarjoilijasta ja kärpäsestä asiakkaan keitossa, me kaikki pian haluamme sellaisen?

Mitä ajattelemme, kun ajattelemme unohtamista

Vastaus, kuten käy ilmi, on, että me tehdä haluavat jotain, joka muistuttaa enemmän jokapäiväistä, huomaamatonta älykkyyttä, joka unohtaa asioita siellä täällä. Ihmiset unohtavat tärkeät asiat, kuten vuosipäivät ja lompakot ja autotallin sulkemisen ennen lomalle lähtöä. Se on epäoptimaalista unohtamista. Mutta unohdamme myös osia tiedoista, koska meidän ei tarvitse säilyttää sitä ja pysäyttää se kuin pala altaan viemäriin jäänyt roska, ennen kuin se voi kulkeutua läpi lyhytaikaisesti ja pitkällä aikavälillä muisti.

Jonkin sisällä kuuluisa kokeilu, ihmisiä pyydettiin tunnistamaan oikein Yhdysvaltain pennin kuvien kokoelmasta, jossa näkyy vääriä penniä. Vaikka osallistujat todennäköisesti näkivät ja käyttivät penniä joka päivä, he osoittautuivat yllättävän huonoiksi tehtävässä. Kuten tutkijat kirjoittivat: "Tulokset vastasivat ajatusta, että esineen visuaaliset yksityiskohdat, jopa hyvin tutut esineet ovat tyypillisesti saatavilla muistista vain siinä määrin, kuin niistä on hyötyä jokapäiväisessä käytössä elämä."

Vaikka se ei ole niin yksinkertaista kuin sanoa, että aivot voivat täyttyä kiintolevyn tallennustilan tavoin, lyhytaikaisia ​​on varmasti muistot, jotka näyttävät murenevan, kun niitä ei enää tarvita, kun taas toiset tunkeutuvat aivoihimme ja elävät siellä vuokraton. Esimerkki? Mieti, minne pakkasit joulukoristeet viime lomana. Seuraavaksi kävele henkisesti vastaanotosta huoneeseesi viimeksi yöpymässäsi hotellissa, johon et todennäköisesti enää majoittuisi. Kumpikaan tieto ei ole elintärkeää hyvinvoinnin kannalta. Silti yhtä tietoa tarvitaan ja toista ei. Jotenkin aivosi tietävät, kumpi heittää roskakoriin.

Tämä on Facebookin uuden A.I: n idea. Expire-Span. Kuten tekoäly malleja käytetään yhä enemmän pitkiin tietokokonaisuuksiin, kuten artikkeleihin ja kirjoihin, ja näihin malleihin liittyvät laskentakustannukset kasvavat, kun ne yrittävät muistaa enemmän tietoa. Ongelmasta on tulossa entistäkin kiireellisempi, kun ihmiset keräävät yhä enemmän monipuolista multimediatietoa elämästään.

"Sisällön määrän kasvaessa suurin kysymys on tallennustila," Angela fani, Facebook AI Research Parisin tutkija kertoi Digital Trendsille. ”Esimerkiksi puhelimessa on rajallinen määrä muistia. Tämä on vielä suurempi ongelma puettavissa laitteissa ja muissa laitteessa olevissa sovelluksissa, joissa yksityisyyteen liittyvät syyt voivat tarkoittaa että ihmiset haluavat ehdottomasti sisällön tallennettavan heidän laitteilleen eivätkä palvelimelle tai pilveen, mikä korostaa tallennustilaa haasteita.”

Nykyinen A.I. mallit ottavat jonkinlaisen Frank Sinatra -lähestymistavan muistoihin – toisin sanoen, että he muistavat kaiken tai ei mitään. Joko he tallentavat kaikki luodut tiedot jokaisessa aikavaiheessa tai unohtavat ne kaikki ennalta määrätyn ajan kuluttua. Sainbayar Sukhbaatar, toinen Facebook A.I. tutkija, vertaa sitä täydellisesti kaiken viime viikon aikana tapahtuneen muistamiseen, mutta ei sen enempää.

Unohtamisen rakentaminen A.I: ksi

Tutkijat ovat rakentaneet "unohtamisen" A.I. mallit ennen. Pitkä lyhytaikainen muisti (LSTM) -mallit esimerkiksi lisäsivät unohdusmekanismin toistuviin hermoverkkoihin (RNN), joka on yksi koneoppimista ohjaavista ydinteknologioista. "RNN: illä on sisäinen muisti, joka koostuu yhdestä vektorista, joten sen unohtaminen tarkoittaa sen päällekirjoittamista uudella tiedolla", Sukhbaatar kertoi Digital Trendsille.

Sitä vastoin Expire-Span lisää unohtamismekanismin ulkoiseen muistiin, joka voi sisältää tuhansia vektoreita. Uusia tietoja havaitaan, mutta Expire-Span - jonka nimi muistuttaa maitopullojen vanhenemismerkintöjä - pystyy määrittämään, kuinka kauan tiedot säilyvät muistissa. Jos tietoa ei pidetä tulevaisuuden kannalta ratkaisevan tärkeänä, sitä tietoa voidaan tehdä vähitellen rappeutuminen, ennen kuin se lopulta hävitetään A.I. mallin muistia tehdäksesi tilaa hyödyllisemmälle tiedot.

Tätä varten mallin on kyettävä ennustamaan, mikä on ja mikä ei ole olennaista tietylle tiedolle tehtävä, ennen oikean vanhenemispäivän määrittämistä, jonka jälkeen tiedot katoavat A.I. järjestelmä. Jättämällä epäolennaisia ​​tietoja, Facebookin A.I. pystyy käsittelemään tietoa suuremmassa mittakaavassa.

Kuten suurin osa Facebookin tekoälytutkimuksesta, sosiaalisen verkostoitumisen jättiläinen ei ole ilmoittanut, että Expire-Span sisällytettäisiin lähitulevaisuudessa mihinkään sen ydintuotteeseen. Mutta kun Facebook käsittelee yhä enemmän käyttäjätietoja (puhumattakaan siitä huhutaan siirtyä älylaseihin), ei ole vaikea nähdä, miten tätä tekniikkaa voitaisiin soveltaa. Kun tuleva A.I. työkalut pystyvät toimimaan korkealla suorituskyvyllä huolimatta valtavasta datakasasta, Expire-Span voi olla syynä.

Älä tee sitä virhettä olettamalla, että tekemällä unohtava A.I. merkitsee uutta askelta kohti A.I. kuitenkin inhimillisempi. Tarkat syyt siihen, miksi ihmiset unohtavat asioita, ovat edelleen tutkijoiden monien tutkimusten kohteena. Kuten aivojen inspiroimat hermoverkot, jotka hallitsevat modernia A.I: tä, Facebookin unohtava algoritmi on mallinnettu unohtamisen teorialle; ei yritystä jäljitellä sitä millään biouskollisuudella.

"Aivot ovat erittäin monimutkainen järjestelmä, jota ei täysin ymmärretä, ja on olemassa monia erilaisia ​​​​muistityyppejä, jotka muodostavat ihmisen muistin", Sukhbaatar sanoi. "Expire-Span, kuten kaikki muutkin A.I. mekanismit voivat olla inspiroitunut ihmisen aivot, mutta ne eivät lopulta ole uskollisia heijastuksia siitä, kuinka aivot todella toimivat. Varsinkin muisti on sinänsä erittäin aktiivinen tutkimusalue. Kuvaamamme ihmismuistin analogia on lisätty vain selvyyden vuoksi, vaikka se ehdottomasti inspiroi työtämme.

Ja älä unohda sitä!

Toimittajien suositukset

• Facebookin uusi kuvantunnistus A.I. on koulutettu miljardiin Instagram-kuvaan
• Facebookin uusi A.I. vie kuvantunnistuksen aivan uudelle tasolle
• Kuinka A.I. voi voittaa haittaohjelmat, joita ei vielä edes ole olemassa