騰訊發布新一代計算集群 料人工智能訓練受惠

撰文:柳英傑
出版:更新:

騰訊雲今日(4日)新發布的面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,搭載了NVIDIA H800 Tensor Core GPU,整體性能比過去提升了3倍。

計算集群多數用於訓練人工智能大模型。人工智能的訓練通常需要數萬億個單詞訓練,參數量亦用上數萬億,單塊芯片難以計算,就要將上萬台服務器,通過網絡連結,組成大型的計算集群用作計算。

騰訊(0700)表示,新一代集群通過對單機算力、網絡架構和存儲性能進行協同優化,能夠為大模型訓練提供高性能、高帶寬、低延遲的智算能力支撐。

HCC算力產品現已公開內測,目前僅接受企業客户申請,在內測資格申請通過後,申請者將會在雲服務器購買頁看到對應購買入口。

另外,騰訊亦指出其公司自研芯片已經量產,包括用於AI推理的紫霄芯片。它採用自研存算架構和自研加速模塊,可以提供高達3倍的計算加速性能和超過45%的整體成本節省。