Novo izvješće tvrdi da zna koliko ChatGPT košta pokretanje po danu, uključujući koliko otprilike košta svaki upit. The popularni chatbot za pretvaranje teksta u govor mogao je pokrenuti AI revoluciju u studenom 2022., ali se pokazao iznimno skupim za održavanje.
Novo izvješće dolazi od Dylana Patela, glavnog analitičara u istraživačka tvrtka SemiAnalysis, koji kaže da košta otprilike 700.000 dolara po danu, ili 36 centi po upitu, kako bi chatbot stajao i radio.
Preporučeni videozapisi
Zapravo je toliko skupo da bi Microsoft mogao razvijati vlastite vlasničke AI čipove kako bi pomogao u održavanju OpenAI-jevog rada ChatGPT-a, prema Windows Central.
Osim brzog dostizanja 100 milijuna aktivnih korisnika u siječnju, što je podvig za koji su tehnološkim brendovima prije trebale godine da postignu, ChatGPT se borio s veliki promet i problemi s kapacitetom koji usporavaju i ruše njegove poslužitelje. Tvrtka je to pokušala popraviti uvođenjem plaćenog ChatGPT Plus razini, koja košta 20 USD mjesečno, no nema podataka o tome koliko se korisnika pretplatilo na plaćenu opciju.
OpenAI trenutno koristi Nvidia GPU-ove za održavanje ne samo vlastitih ChatGPT procesa, već i onih brendova s kojima surađuje. Industrijski analitičari očekuju da će tvrtka vjerojatno trebati dodatnih 30.000 GPU-a od Nvidije kako bi održala svoje komercijalne performanse samo do kraja 2023. godine.
S Microsoftom kao jednim od svojih primarni suradnici i investitori, OpenAI možda traži tehnološku marku za pomoć u razvoju hardvera za smanjenje troškova operacija za ChatGPT. Prema Windows Centralu, Microsoft već radi na ovom AI čipu. Kodnog naziva Athena, trenutno se interno testira s vlastitim timovima marke. Očekuje se da će čip biti predstavljen sljedeće godine za Microsoftove Azure AI usluge.
Nema riječi o tome kako ili kada će čip preći na OpenAI i ChatGPT, ali pretpostavka je da hoće. Veza dolazi iz činjenice da ChatGPT podržavaju Azure usluge. AI čip možda neće u potpunosti zamijeniti Nvidia GPU-ove, ali bi mogao pomoći u smanjenju potražnje za hardverom, čime se smanjuju troškovi pokretanja ChatGPT-a, dodaje Windows Central.
Preporuke urednika
- Google Bard sada može govoriti, ali može li ugušiti ChatGPT?
- ChatGPT: najnovije vijesti, kontroverze i savjeti koje trebate znati
- ChatGPT-ova Bing značajka pregledavanja onemogućena je zbog greške u pristupu sustavu plaćanja
- 81% misli da je ChatGPT sigurnosni rizik, pokazalo je istraživanje
- Appleov rival ChatGPT može automatski napisati kod za vas
Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.
