今天（12月12日）上午，OpenAI證實(shí)其聊天機(jī)器人ChatGPT正經(jīng)歷全球范圍的宕機(jī)，ChatGPT、Sora及API仍處于癱瘓狀態(tài)。

OpenAI更新事故報(bào)告稱，API、ChatGPT和Sora服務(wù)現(xiàn)已全面恢復(fù)運(yùn)行。

今日稍早時候，OpenAI證實(shí)其聊天機(jī)器人ChatGPT經(jīng)歷全球范圍宕機(jī)，Sora及API也受到影響。據(jù)了解，此次故障持續(xù)約4小時10分鐘。OpenAI表示，將對此次故障進(jìn)行全面的根本原因分析。

測算一下，要支撐足夠的用戶量和業(yè)務(wù)規(guī)模，到底需要多少算力（尤其是GPU）。

-訓(xùn)練這類模型所需的算力取決于：模型的規(guī)模（參數(shù)數(shù)量）、訓(xùn)練數(shù)據(jù)集的大小、訓(xùn)練輪次、批次大小。

-FLOPs（浮點(diǎn)運(yùn)算次數(shù)）：執(zhí)行某個任務(wù)所需的計(jì)算量。

參考GPT-3中最大的模型（1750億參數(shù)）的訓(xùn)練大約需要3.14 * 10^23次浮點(diǎn)運(yùn)算（FLOPs）得出：

一個千億大模型所需FLOPs = (千億參數(shù) / 1750億參數(shù)) * 3.14 * 10^23 FLOPs=1.8 * 10^23 FLOPs

以英偉達(dá)A100 GPU為例，其具有每秒19.5萬億次（19.5 TFLOPs）的浮點(diǎn)運(yùn)算能力

所需GPU數(shù)量 = 1.8 * 10^23 FLOPs / (19.5 * 10^12 FLOPs/s * 訓(xùn)練時間秒數(shù))

如果希望在10天（約864000秒）內(nèi)完成訓(xùn)練，可以按照以下計(jì)算方式得到所需GPU數(shù)量：

所需GPU數(shù)量 = 1.8 * 10^23 FLOPs / (19.5 * 10^12 FLOPs/s * 864000s)

得出，想要在10天內(nèi)訓(xùn)練1000億參數(shù)規(guī)模、1PB訓(xùn)練數(shù)據(jù)集，大約需要10830個英偉達(dá)A100 GPU。

假設(shè)每個A100 GPU的成本約為10000美元，那么10830個GPU的總成本約為：

10830 * $10,000 = $108,300,000

正是因?yàn)镚PU強(qiáng)大的計(jì)算能力，大模型得以茁壯成長，從淺層神經(jīng)網(wǎng)絡(luò)發(fā)展到深度學(xué)習(xí)的復(fù)雜模型，從局限的應(yīng)用領(lǐng)域擴(kuò)展至無所不及的智能場景。

但一般情況下，中小企業(yè)和個人很少需要用到這么多的GPU，也不需要花這么多的成本，又要避免算力資源浪費(fèi)那應(yīng)該怎么辦呢？

極云科技旗下品牌“極智算”，提供各種類型和規(guī)格的算力租用。

在這里，用戶可以根據(jù)自己的實(shí)際需求靈活選擇，既方便又省錢！后續(xù)還會有更多GPU產(chǎn)品持續(xù)更新...

新用戶認(rèn)證更有千元優(yōu)惠券可領(lǐng)??！

更多算力詳情盡在：https：//www.jygpu.com

關(guān)于我們

極云科技作為一家位于中國西南地區(qū)的高新技術(shù)企業(yè)，專注于為各行各業(yè)提供全面的信息技術(shù)解決方案。公司憑借深厚的技術(shù)積累和創(chuàng)新能力，已成為IDC、云計(jì)算及IT信息化服務(wù)領(lǐng)域的領(lǐng)先供應(yīng)商。業(yè)務(wù)涵蓋IDC（互聯(lián)網(wǎng)數(shù)據(jù)中心）服務(wù)、云計(jì)算服務(wù)、IT信息化、AI算力租賃平臺（智算云）。

極云科技秉承“守信、創(chuàng)新、協(xié)作、共贏”的企業(yè)精神，致力于成為客戶最值得信賴的互聯(lián)網(wǎng)基礎(chǔ)服務(wù)提供商。