(資料圖片)
AI服務(wù)器及AI芯片需求同步看漲,TrendForce集邦咨詢預(yù)估,2023年AI服務(wù)器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬(wàn)臺(tái),同比增長(zhǎng)38.4%,占整體服務(wù)器出貨量近9%,至2026年將占15%,同步上修2022~2026年AI服務(wù)器出貨量年復(fù)合成長(zhǎng)率至22%。而AI芯片2023年出貨量將成長(zhǎng)46%。NVIDIA GPU為AI服務(wù)器市場(chǎng)搭載主流,市占率約60~70%,其次為云端業(yè)者自主研發(fā)的ASIC芯片,市占率逾20%。
TrendForce集邦咨詢表示,NVIDIA市占率高的主要原因有三,其一,目前不論美系或中系云端服務(wù)業(yè)者(CSP),除了采購(gòu)原有的NVIDIA的A100與A800外,下半年需求也將陸續(xù)導(dǎo)入H100與H800,尤其新機(jī)種H100與H800平均銷售單價(jià)約為A100與A800的2~2.5倍,加上NVIDIA同時(shí)積極銷售自家相關(guān)整機(jī)解決方案。
其二,高端GPU A100及H100的高獲利模式也是關(guān)鍵,由于NVIDIA旗下產(chǎn)品在AI服務(wù)器市場(chǎng)已擁有主導(dǎo)權(quán)的優(yōu)勢(shì),據(jù)TrendForce集邦咨詢研究,H100本身的價(jià)差也依據(jù)買方采購(gòu)規(guī)模,會(huì)產(chǎn)生近5,000美元的差異。
其三,下半年ChatBOT及AI運(yùn)算風(fēng)潮將持續(xù)滲透至各種專業(yè)領(lǐng)域(如云端/電商服務(wù)、智能制造、金融保險(xiǎn)、智慧醫(yī)療及智能駕駛輔助等)的開發(fā)市場(chǎng),同步帶動(dòng)每臺(tái)搭配4~8張GPU的云端AI服務(wù)器,以及每臺(tái)搭載2~4張GPU的邊緣AI服務(wù)器應(yīng)用需求漸增,預(yù)估今年搭載A100及H100的AI服務(wù)器出貨量年增率逾5成。
此外,從高端GPU搭載的HBM來(lái)看,NVIDIA高端GPU H100、A100主采HBM2e、HBM3。以今年H100 GPU來(lái)說(shuō),搭載HBM3技術(shù)規(guī)格,其中傳輸速度也較HBM2e快,可提升整體AI服務(wù)器系統(tǒng)運(yùn)算效能。隨著高端GPU如NVIDIA的A100、H100;AMD的MI200、MI300,以及Google自研的TPU等需求皆逐步提升,TrendForce集邦咨詢預(yù)估2023年HBM需求量將年增58%,2024年有望再成長(zhǎng)約30%。