Nová správa tvrdí, že vie, koľko stojí spustenie ChatGPT za deň, vrátane toho, koľko približne stojí každý dopyt. The populárny chatbot na prevod textu na reč mohlo v novembri 2022 spustiť revolúciu AI, ale ukázalo sa, že údržba je mimoriadne nákladná.
Nová správa pochádza od Dylana Patela, hlavného analytika spoločnosti výskumná firma SemiAnalysis, ktorý hovorí, že to stojí približne 700 000 dolárov za deň alebo 36 centov za dopyt, aby chatbot mohol fungovať.
Odporúčané videá
V skutočnosti je to také drahé, že Microsoft môže vyvíjať svoje vlastné čipy AI, ktoré by pomohli pri údržbe prevádzky ChatGPT v rámci OpenAI. Windows Central.
Okrem rýchleho zasiahnutia 100 miliónov aktívnych používateľov v januári, čo je výkon, ktorý predtým technologickým značkám trvalo roky dosiahnuť, ChatGPT zápasil s vysoká návštevnosť a problémy s kapacitou spomaľujú a zrútia jej servery. Spoločnosť sa to pokúsila napraviť zavedením platenia ChatGPT Plus úroveň, ktorá stojí 20 dolárov mesačne, nie je však známe, koľko používateľov si predplatilo platenú možnosť.
OpenAI v súčasnosti používa GPU Nvidia na udržiavanie nielen vlastných procesov ChatGPT, ale aj procesov značiek, s ktorými je partnerom. Priemyselní analytici očakávajú, že spoločnosť bude pravdepodobne potrebovať ďalších 30 000 GPU od Nvidie, aby si udržala svoju komerčnú výkonnosť len do konca roku 2023.
S Microsoftom ako jedným z nich primárnych spolupracovníkov a investorov, OpenAI možno hľadá technologickú značku, aby pomohla pri vývoji hardvéru na zníženie prevádzkových nákladov pre ChatGPT. Podľa Windows Central má Microsoft už tento AI čip v práci. Pod kódovým označením Athena sa momentálne testuje interne s vlastnými tímami značky. Očakáva sa, že čip bude predstavený budúci rok pre služby Microsoft Azure AI.
Nie je známe, ako alebo kedy sa čip dostane do OpenAI a ChatGPT, ale predpokladá sa, že áno. Spojenie pochádza zo skutočnosti, že ChatGPT je podporovaný službami Azure. Čip AI nemusí úplne nahradiť GPU Nvidia, ale môže pomôcť znížiť dopyt po hardvéri, čím sa znížia náklady na prevádzku ChatGPT, dodal Windows Central.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- ChatGPT: najnovšie správy, kontroverzie a tipy, ktoré potrebujete vedieť
- Funkcia prehliadania Bing služby ChatGPT je deaktivovaná kvôli chybe v prístupe k paywallu
- 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
- Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
