En ny rapport hevder å vite hvor mye ChatGPT koster å kjøre per dag, inkludert hvor mye hver spørring omtrent koster. De populær tekst-til-tale chatbot kan ha satt i gang en AI-revolusjon i november 2022, men har vist seg ekstremt kostbart å vedlikeholde.
Den nye rapporten kommer fra Dylan Patel, sjefanalytiker ved analysefirmaet SemiAnalysis, som sier at det koster omtrent $700 000 per dag, eller 36 cent per forespørsel, for å holde chatboten i gang.
Anbefalte videoer
Det er faktisk så dyrt at Microsoft kanskje utvikler sine egne proprietære AI-brikker for å hjelpe til med vedlikeholdet av OpenAIs drift av ChatGPT, ifølge Windows sentral.
I tillegg til å raskt treffe 100 millioner aktive brukere i januar, en bragd som tidligere tok tekniske merkevarer år å oppnå, har ChatGPT slitt med høy trafikk og kapasitetsproblemer som bremser ned og krasjer serverne. Selskapet forsøkte å bøte på dette ved å innføre en betalt ChatGPT Plus tier, som koster $20 per måned, men det er ingen ord om hvor mange brukere som abonnerer på det betalte alternativet.
OpenAI bruker for tiden Nvidia GPU-er for å vedlikeholde ikke bare sine egne ChatGPT-prosesser, men også de til merkevarene de samarbeider med. Bransjeanalytikere forventer at selskapet sannsynligvis vil kreve ytterligere 30 000 GPUer fra Nvidia for å opprettholde sin kommersielle ytelse for resten av 2023 alene.
Med Microsoft som en av sine primære samarbeidspartnere og investorer, OpenAI ser kanskje på teknologimerket for å hjelpe til med å utvikle maskinvare for å få ned driftskostnadene for ChatGPT. Ifølge Windows Central har Microsoft allerede denne AI-brikken i arbeid. Kodenavnet Athena blir for tiden testet internt med merkevarens egne team. Brikken forventes å bli introdusert neste år for Microsofts Azure AI-tjenester.
Det er ingen ord om hvordan eller når brikken vil sildre ned til OpenAI og ChatGPT, men antakelsen er at den vil. Tilkoblingen kommer fra det faktum at ChatGPT støttes av Azure-tjenester. AI-brikken erstatter kanskje ikke Nvidia GPUer fullt ut, men kan bidra til å redusere etterspørselen etter maskinvaren, og dermed redusere kostnadene ved å kjøre ChatGPT, la Windows Central til.
Redaktørenes anbefalinger
- Google Bard kan nå snakke, men kan det overdøve ChatGPT?
- ChatGPT: de siste nyhetene, kontroversene og tipsene du trenger å vite
- ChatGPTs Bing-surfingsfunksjon er deaktivert på grunn av tilgangsfeil i betalingsmuren
- 81 % mener ChatGPT er en sikkerhetsrisiko, viser undersøkelsen
- Apples ChatGPT-rival kan automatisk skrive kode for deg
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
