Nová zpráva tvrdí, že ví, kolik stojí spuštění ChatGPT za den, včetně toho, kolik přibližně stojí každý dotaz. The populární chatbot pro převod textu na řeč mohlo v listopadu 2022 spustit revoluci AI, ale ukázalo se, že je extrémně nákladné na údržbu.
Nová zpráva pochází od Dylana Patela, hlavního analytika společnosti výzkumná firma SemiAnalysis, který říká, že to stojí přibližně 700 000 $ za den, neboli 36 centů za dotaz, udržet chatbota v chodu.
Doporučená videa
Ve skutečnosti je to tak drahé, že by Microsoft mohl vyvíjet vlastní proprietární čipy AI, které by pomáhaly při údržbě provozu ChatGPT v OpenAI. Windows Central.
Kromě toho, že v lednu rychle zasáhl 100 milionů aktivních uživatelů, což je výkon, jehož dosažení dříve trvalo technologickým značkám roky, se ChatGPT potýká s vysoký provoz a problémy s kapacitou zpomalují a padají jeho servery. Společnost se to pokusila napravit zavedením placeného ChatGPT Plus úroveň, která stojí 20 $ měsíčně, není však uvedeno, kolik uživatelů si placenou možnost předplatí.
OpenAI v současnosti využívá GPU Nvidia nejen k udržování vlastních procesů ChatGPT, ale také procesů značek, se kterými spolupracuje. Průmysloví analytici očekávají, že společnost bude pravděpodobně potřebovat dalších 30 000 GPU od Nvidie, aby si udržela svůj komerční výkon jen po zbytek roku 2023.
S Microsoftem jako jedním z nich primárními spolupracovníky a investoryOpenAI se možná poohlíží po technické značce, aby pomohla při vývoji hardwaru, který by snížil náklady na provoz ChatGPT. Podle Windows Central má Microsoft již tento AI čip v práci. S kódovým označením Athena je v současné době testován interně s vlastními týmy značky. Očekává se, že čip bude představen příští rok pro služby Microsoft Azure AI.
Není ani slovo o tom, jak nebo kdy se čip dostane do OpenAI a ChatGPT, ale předpokládá se, že ano. Připojení vychází ze skutečnosti, že ChatGPT je podporován službami Azure. Čip AI nemusí plně nahradit GPU Nvidia, ale může pomoci snížit poptávku po hardwaru, a tím snížit náklady na provoz ChatGPT, dodal Windows Central.
Doporučení redakce
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- ChatGPT: nejnovější zprávy, kontroverze a tipy, které potřebujete vědět
- Funkce procházení Bing ChatGPT je deaktivována kvůli chybě v přístupu k paywallu
- 81 % si myslí, že ChatGPT je bezpečnostní riziko, zjistil průzkum
- Konkurent společnosti Apple ChatGPT za vás může automaticky napsat kód
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
