Няма да повярвате колко струва работата на ChatGPT

Нов отчет твърди, че знае колко струва изпълнението на ChatGPT на ден, включително колко приблизително струва всяка заявка. The популярен чатбот за преобразуване на текст в реч може да предизвика AI революция през ноември 2022 г., но се оказа изключително скъпо за поддръжка.

Новият доклад идва от Дилън Пател, главен анализатор в изследователска фирма SemiAnalysis, който казва, че струва приблизително 700 000 долара на ден, или 36 цента на заявка, за да поддържа чатбота работещ.

Препоръчани видеоклипове

Всъщност е толкова скъпо, че Microsoft може да разработва свои собствени AI чипове, за да подпомогне поддържането на работата на OpenAI на ChatGPT, според Windows Central.

Уебсайтът ChatGPT на екрана на лаптоп, докато лаптопът стои на плота пред черен фон.
Airam Dato-on/Pexels

В допълнение към бързото постигане на 100 милиона активни потребители през януари, постижение, което преди това отне години на технологичните марки, ChatGPT се бори с голям трафик и проблеми с капацитета, забавящи и сриващи сървърите му. Компанията се опита да поправи това, като въведе платен ChatGPT Plus

ниво, което струва $20 на месец, но няма информация колко потребители са се абонирали за платената опция.

В момента OpenAI използва графични процесори на Nvidia, за да поддържа не само собствените си ChatGPT процеси, но и тези на марките, с които си партнира. Индустриалните анализатори очакват, че компанията вероятно ще се нуждае от допълнителни 30 000 графични процесора от Nvidia, за да поддържа търговското си представяне само за остатъка от 2023 г.

С Microsoft като един от неговите основни сътрудници и инвеститори, OpenAI може да търси технологичната марка, за да помогне в разработването на хардуер за намаляване на разходите за операции за ChatGPT. Според Windows Central, Microsoft вече разработва този AI чип. С кодово име Athena, в момента се тества вътрешно със собствените екипи на марката. Очаква се чипът да бъде представен следващата година за услугите на Microsoft Azure AI.

Няма информация как или кога чипът ще премине към OpenAI и ChatGPT, но се предполага, че ще стане. Връзката идва от факта, че ChatGPT се поддържа от услугите на Azure. AI чипът може да не замени напълно графичните процесори на Nvidia, но може да помогне за намаляване на търсенето на хардуер, като по този начин намали разходите за работа с ChatGPT, добави Windows Central.

Препоръки на редакторите

  • Google Bard вече може да говори, но може ли да заглуши ChatGPT?
  • ChatGPT: последните новини, спорове и съвети, които трябва да знаете
  • Функцията за сърфиране в Bing на ChatGPT е деактивирана поради грешка в достъпа до платена стена
  • 81% смятат, че ChatGPT е риск за сигурността, установи проучване
  • Съперникът на Apple ChatGPT може автоматично да напише код вместо вас

Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.