Un nuovo rapporto afferma di sapere quanto costa eseguire ChatGPT al giorno, incluso quanto costa approssimativamente ciascuna query. IL popolare chatbot di sintesi vocale avrebbe potuto innescare una rivoluzione dell'IA nel novembre 2022, ma si è rivelato estremamente costoso da mantenere.
Il nuovo rapporto arriva da Dylan Patel, capo analista del società di ricerca SemiAnalysis, che afferma che mantenere il chatbot attivo e funzionante costa circa $ 700.000 al giorno, o 36 centesimi per query.
Video consigliati
È così costoso, infatti, che Microsoft potrebbe sviluppare i propri chip AI proprietari per aiutare a mantenere il funzionamento di ChatGPT di OpenAI, secondo Windows centrale.
Oltre a raggiungere rapidamente i 100 milioni di utenti attivi a gennaio, un'impresa che in precedenza aveva richiesto anni ai marchi tecnologici, ChatGPT ha lottato con traffico elevato e problemi di capacità che rallentano e bloccano i suoi server. L'azienda ha tentato di rimediare introducendo un pagamento
ChatGPT Plus livello, che costa $ 20 al mese, tuttavia, non si sa quanti utenti si abbonano all'opzione a pagamento.OpenAI attualmente utilizza le GPU Nvidia per mantenere non solo i propri processi ChatGPT, ma anche quelli dei marchi con cui collabora. Gli analisti del settore prevedono che la società richiederà probabilmente altre 30.000 GPU da Nvidia per mantenere le sue prestazioni commerciali solo per il resto del 2023.
Con Microsoft come uno dei suoi primari collaboratori e investitori, OpenAI potrebbe guardare al marchio tecnologico per assistere nello sviluppo di hardware per ridurre il costo delle operazioni per ChatGPT. Secondo Windows Central, Microsoft ha già questo chip AI in lavorazione. Nome in codice Athena, è attualmente in fase di test interno con i team del marchio. Il chip dovrebbe essere introdotto il prossimo anno per i servizi Azure AI di Microsoft.
Non si sa come o quando il chip passerà a OpenAI e ChatGPT, ma il presupposto è che lo farà. La connessione deriva dal fatto che ChatGPT è supportato dai servizi di Azure. Il chip AI potrebbe non sostituire completamente le GPU Nvidia, ma potrebbe aiutare a ridurre la domanda di hardware, riducendo così il costo di esecuzione di ChatGPT, ha aggiunto Windows Central.
Raccomandazioni della redazione
- Google Bard ora può parlare, ma può soffocare ChatGPT?
- ChatGPT: le ultime notizie, controversie e suggerimenti che devi conoscere
- La funzione di navigazione Bing di ChatGPT è stata disabilitata a causa di un difetto di accesso al paywall
- L'81% pensa che ChatGPT sia un rischio per la sicurezza, rileva il sondaggio
- Il rivale ChatGPT di Apple potrebbe scrivere automaticamente il codice per te
Aggiorna il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, recensioni divertenti sui prodotti, editoriali penetranti e anticipazioni uniche.
