Hvordan USPS bruker Nvidia GPUer til å spore e-post med A.I.

United States Postal Service USPS
USPS

United States Postal Service, eller USPS, er avhengig av kunstig intelligens drevet av Nvidias EGX-systemer for å spore mer enn 100 millioner e-poster om dagen som går gjennom nettverket. Verdens travleste posttjenestesystem er avhengig av GPU-akselerert A.I. systemer for å hjelpe til med å løse utfordringene med å finne tapte eller manglende pakker og post. I hovedsak henvendte USPS seg til A.I. for å hjelpe den med å finne en "nål i en høystakk."

For å løse den utfordringen skapte USPS-ingeniører en avansert A.I. system av servere som kan skanne og finne e-post. De laget algoritmer for systemet som ble trent 13 Nvidia DGX systemer plassert ved USPS datasentre. Nvidias DGX A100-systemer, for referanse, pakker inn fem petaflops med datakraft og koster i underkant av $200 000. Den er basert på den samme Ampere-arkitekturen som finnes på Nvidias forbruker GeForce RTX 3000 serie GPUer.

Anbefalte videoer

Algoritmene blir deretter distribuert og brukt på et nettverk bestående av 195 distribuerte Apollo-servere laget av Hewlett Packard Enterprise, med hver server utstyrt med fire Nvidia V100 GPUer. Resultatet er et system kalt Edge Computing Infrastructure Program, eller ECIP, som sporer varer for posten service.

I slekt

  • GPT-4: hvordan bruke AI-chatboten som gjør ChatGPT til skamme
  • AMD kan knuse Nvidia med sine bærbare GPU-er - men den er stille på skrivebordsfronten
  • Nvidias superdatamaskin kan bringe en ny æra av ChatGPT

Kombinert med optisk tegngjenkjenning kan disse systemene finne manglende post som går gjennom USPS-nettverket. Tidligere ville det ta dager å spore opp pakker, men A.I.-drevne teknologier reduserer jakten på tapte pakker til bare timer.

"Det pleide å ta åtte eller ti personer flere dager å spore opp gjenstander, nå tar det en eller to personer et par timer," sa Todd Schimmel, lederen som overvåker USPS-systemer i en Nvidia blogginnlegg.

Bruken av grafikkakselerert databehandling var perfekt for denne A.I. oppgave, da det ville tatt et nettverk på 800 CPUer mer enn to uker å fullføre for å gjøre det samme som fire Nvidia V100 Tensor Core GPUer kunne oppnå i løpet av 20 minutter på HPE Apollo 6500 server.

Hver av Apollo edge-serverne behandler 20 terabyte med bilder daglig fra mer enn 1000 e-postbehandlingsmaskiner, uttalte Nvidia. USPS-kontrakten ble tildelt i september 2019, sa Schimmel, og maskinvareinstallasjonen ble fullført innen august 2020.

"Appen som sjekker for e-poster alene krever koordinering av arbeidet til mer enn et halvt dusin dyplæringsmodeller, som hver sjekker for spesifikke funksjoner," sa Nvidia. "Og operatørene forventer å forbedre appen med flere modeller som muliggjør flere funksjoner i fremtiden."

I tillegg til e-postsporing, jobber USPS med forskjellige brukstilfeller for A.I. på kanten, alt fra bedriftsanalyse til økonomi og markedsføring. Det er for tiden planlagt 30 søknader for ECIP, og postvesenet håper å implementere noen av ideene sine i år. En slik idé ville ha A.I. analyser om en pakke har riktig porto for størrelse, vekt og destinasjon, og en annen ECIP-app kan for eksempel tyde en skadet strekkode.

Redaktørenes anbefalinger

  • Toppforfattere krever betaling fra AI-firmaer for å bruke arbeidet deres
  • Wix bruker ChatGPT for å hjelpe deg raskt å bygge et helt nettsted
  • De 10 beste ChatGPT-pluginene du kan bruke akkurat nå
  • Nvidia bringer ChatGPT-stil AI til videospill, og jeg er allerede bekymret
  • Googles ChatGPT-rival ble nettopp lansert i søk. Slik prøver du det

Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.