浪潮信息宣布旗下 NF5468 系列 AI 服務(wù)器支持英偉達(dá)新推出的 L40S GPU, 可為人工智能大模型訓(xùn)練和推理、元宇宙及圖形視頻處理等應(yīng)用提供強(qiáng)大算力。實(shí)際測試表明，搭載 8 顆 NVIDIA L40S 的浪潮信息 NF5468 服務(wù)器大幅提升了 LLaMA 大模型的微調(diào)訓(xùn)練性能。目前該產(chǎn)品已具備交付能力，客戶可以進(jìn)行下單采購。

本次浪潮信息推出的算力系統(tǒng)是兼具訓(xùn)練和推理能力的 NF5468 系列 AI 服務(wù)器，包括 NF5468M6、NF5468A5、NF5468M7、NF5468A7 等型號，產(chǎn)品可以在 4U 空間內(nèi)搭載 2 顆高性能通用處理器、8 張 L40S GPU 加速器及多顆高速互聯(lián)網(wǎng)絡(luò)，從而滿足大模型計(jì)算對高算力、高互聯(lián)的性能需求。在軟件上，產(chǎn)品支持浪潮信息新推出的 OGAI 大模型智算軟件棧，為客戶提供大模型生產(chǎn)力支撐。

針對業(yè)界廣泛使用的 LLaMA 開源大型語言模型，浪潮信息 NF5468 服務(wù)器搭載 8 顆 L40S GPU 進(jìn)行了大模型訓(xùn)練性能測試，得益于浪潮信息在 NF5468 服務(wù)器的設(shè)計(jì)和大模型算法上的經(jīng)驗(yàn)，L40S GPU 的強(qiáng)大性能得以充分發(fā)揮，實(shí)際測試數(shù)據(jù)表明 LLaMA 大模型微調(diào)訓(xùn)練性能更好。