Nowy raport twierdzi, że wie, ile kosztuje uruchomienie ChatGPT dziennie, w tym przybliżony koszt każdego zapytania. The popularny chatbot zamiany tekstu na mowę mógł rozpocząć rewolucję AI w listopadzie 2022 r., ale okazał się niezwykle kosztowny w utrzymaniu.
Nowy raport pochodzi od Dylana Patela, głównego analityka w The firma badawcza SemiAnaliza, który twierdzi, że utrzymanie chatbota kosztuje około 700 000 USD dziennie, czyli 36 centów za zapytanie.
Polecane filmy
W rzeczywistości jest to tak drogie, że Microsoft może opracowywać własne, zastrzeżone chipy AI, aby pomóc w utrzymaniu działania OpenAI w ChatGPT, zgodnie z Centrum Windowsa.
Oprócz szybkiego osiągnięcia 100 milionów aktywnych użytkowników w styczniu, co poprzednio markom technologicznym zajęło wiele lat, ChatGPT boryka się z problemami Duży ruch oraz problemy z wydajnością spowalniające i powodujące awarie serwerów. Firma próbowała temu zaradzić, wprowadzając płatny ChatGPT Plus tier, który kosztuje 20 USD miesięcznie, jednak nie ma słowa o tym, ilu użytkowników subskrybuje opcję płatną.
OpenAI używa obecnie procesorów graficznych Nvidia do obsługi nie tylko własnych procesów ChatGPT, ale także marek, z którymi współpracuje. Analitycy branżowi spodziewają się, że firma prawdopodobnie będzie potrzebować dodatkowych 30 000 procesorów graficznych od Nvidii, aby utrzymać wydajność komercyjną tylko do końca 2023 roku.
Z Microsoftem jako jednym z nich głównych współpracowników i inwestorów, OpenAI może patrzeć na markę technologiczną, aby pomóc w opracowaniu sprzętu w celu obniżenia kosztów operacji dla ChatGPT. Według Windows Central, Microsoft już pracuje nad tym chipem AI. Produkt o nazwie kodowej Athena jest obecnie testowany wewnętrznie we własnych zespołach marki. Oczekuje się, że chip zostanie wprowadzony w przyszłym roku dla usług Azure AI firmy Microsoft.
Nie ma słowa o tym, jak i kiedy chip trafi do OpenAI i ChatGPT, ale zakłada się, że tak się stanie. Połączenie wynika z faktu, że ChatGPT jest obsługiwany przez usługi Azure. Układ AI może nie w pełni zastąpić procesory graficzne Nvidii, ale może pomóc zmniejszyć zapotrzebowanie na sprzęt, zmniejszając w ten sposób koszty uruchamiania ChatGPT, dodał Windows Central.
Zalecenia redaktorów
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- ChatGPT: najnowsze wiadomości, kontrowersje i wskazówki, które musisz znać
- Funkcja przeglądania Bing w ChatGPT została wyłączona z powodu błędu w dostępie do paywalla
- 81% uważa, że ChatGPT stanowi zagrożenie dla bezpieczeństwa, wynika z ankiety
- Rywal Apple ChatGPT może automatycznie napisać dla ciebie kod
Ulepsz swój styl życiaTrendy cyfrowe pomagają czytelnikom śledzić szybko zmieniający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zapowiedziom.
