ChatGPT를 운영하는 데 드는 비용을 믿지 못할 것입니다.

새로운 보고서는 각 쿼리의 대략적인 비용을 포함하여 하루에 ChatGPT를 실행하는 데 드는 비용을 알고 있다고 주장합니다. 그만큼 인기 있는 텍스트 음성 변환 챗봇 2022년 11월에 AI 혁명을 촉발했을 수도 있지만 유지 관리 비용이 매우 많이 드는 것으로 입증되었습니다.

새로운 보고서는 딜런 파텔(Dylan Patel) 수석 애널리스트가 작성했습니다. 리서치 회사 SemiAnalysis챗봇을 가동하고 실행하는 데 하루에 약 $700,000 또는 쿼리당 36센트의 비용이 든다고 합니다.

추천 동영상

실제로 너무 비싸서 Microsoft가 OpenAI의 ChatGPT 운영 유지를 지원하기 위해 자체 독점 AI 칩을 개발할 수도 있다고 합니다. 윈도우 센트럴.

노트북이 검은색 배경 앞 카운터에 놓여 있을 때 노트북 화면의 ChatGPT 웹사이트.
Airam Dato-on/Pexels

지난 1월에 1억 명의 활성 사용자를 빠르게 달성한 것 외에도 ChatGPT는 이전에 기술 브랜드가 달성하는 데 수년이 걸렸던 위업을 달성하기 위해 고군분투했습니다. 높은 트래픽 용량 문제로 인해 서버 속도가 느려지고 충돌합니다. 회사는 유료 서비스를 도입하여 이 문제를 해결하려고 시도했습니다. 채팅GPT 플러스 한 달에 20달러인 계층이지만 유료 옵션에 가입한 사용자 수에 대한 정보는 없습니다.

OpenAI는 현재 Nvidia GPU를 사용하여 자체 ChatGPT 프로세스뿐만 아니라 파트너 관계에 있는 브랜드의 프로세스도 유지합니다. 업계 분석가들은 회사가 2023년의 남은 기간 동안만 상업적 성능을 유지하려면 Nvidia의 GPU 30,000개가 추가로 필요할 것으로 예상합니다.

Microsoft를 그 중 하나로 주요 협력자 및 투자자, OpenAI는 ChatGPT의 운영 비용을 낮추기 위해 하드웨어 개발을 지원하기 위해 기술 브랜드를 볼 수 있습니다. Windows Central에 따르면 Microsoft는 이미 이 AI 칩을 개발하고 있습니다. 코드명 Athena는 현재 브랜드 자체 팀과 함께 내부적으로 테스트 중입니다. 이 칩은 마이크로소프트의 애저 AI 서비스용으로 내년에 도입될 예정이다.

칩이 OpenAI 및 ChatGPT에 어떻게 또는 언제 흘러들어갈지에 대한 언급은 없지만 그렇게 될 것이라는 가정이 있습니다. 연결은 ChatGPT가 Azure 서비스에서 지원된다는 사실에서 비롯됩니다. AI 칩은 Nvidia GPU를 완전히 대체할 수는 없지만 하드웨어 수요를 줄이는 데 도움이 될 수 있으므로 ChatGPT 실행 비용을 줄일 수 있다고 Windows Central은 덧붙였습니다.

편집자 추천

  • Google Bard는 이제 말할 수 있지만 ChatGPT를 익사시킬 수 있습니까?
  • ChatGPT: 최신 뉴스, 논란, 알아야 할 팁
  • 페이월 액세스 결함으로 ChatGPT의 Bing 브라우징 기능 비활성화
  • 81%는 ChatGPT가 보안 위험이라고 생각하는 설문 조사 결과
  • Apple의 ChatGPT 라이벌이 자동으로 코드를 작성할 수 있습니다.

당신의 라이프스타일을 업그레이드하세요Digital Trends는 모든 최신 뉴스, 재미있는 제품 리뷰, 통찰력 있는 사설 및 독특한 미리보기를 통해 독자가 빠르게 변화하는 기술 세계를 파악할 수 있도록 도와줍니다.