ChatGPT需要1萬張NV頂級顯卡 國內僅有6家公司做到

ChatGPT這樣的生成式AI不僅需要千億級的大模型，同時還需要有龐大的算力基礎，訓練AI現(xiàn)在主要依賴NVIDIA的AI加速卡，達到ChatGPT這種級別的至少需要1萬張A100加速卡。

高性能加速顯卡現(xiàn)在是稀缺資源，國內購買NVIDIA高端顯卡更是不容易，來自商湯科技的一份紀要顯示，能達到ChatGPT這種算力要求的公司在國內鳳毛麟角，只有6家。

他們是商湯、百度、騰訊、字節(jié)、阿里和幻方，其中百度、騰訊、字節(jié)、阿里這樣的互聯(lián)網(wǎng)巨頭能買到且買得起1萬張A100顯卡不讓人意外。

百度3月底已經(jīng)發(fā)布了自己對標ChatGPT的產(chǎn)品文心一言，接下來其他公司也會陸續(xù)發(fā)布自己的AI產(chǎn)品。

NVIDIA A100核心及計算卡是2020年5月份發(fā)布的，也是安培架構的第一款產(chǎn)品，7nm工藝制造，542億個晶體管，826平方毫米面積，8196個流處理器，實際開啟6912個，搭配5120-bit 40GB HBM2顯存，PCIe版本功耗250W。

A100的單精度浮點性能高達19.5TFlops，F(xiàn)P64性能9.7TFLOPS，INT8性能624TOPS，TDP 400W，顯存的帶寬也是恐怖的1.6TB/s，后期還發(fā)布過80GB HBM2e的版本，頻率從2.4Gbps提升到3.2Gbps，使得帶寬從1.6TB/s提升到2TB/s。