在當(dāng)前全球數(shù)字化轉(zhuǎn)型加速的大背景下,人工智能(AI)技術(shù)已成為推動(dòng)社會(huì)經(jīng)濟(jì)發(fā)展的關(guān)鍵力量。隨著大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等技術(shù)的不斷融合與創(chuàng)新,AI應(yīng)用場(chǎng)景日益豐富,從智能制造、智慧城市、智慧醫(yī)療到自動(dòng)駕駛、金融科技等多個(gè)領(lǐng)域,AI技術(shù)正深刻改變著我們的生產(chǎn)生活方式。
AI的高速發(fā)展,推動(dòng)數(shù)據(jù)的爆炸式增長(zhǎng)和算法復(fù)雜度的不斷提高,對(duì)算力規(guī)模、能力的需求相應(yīng)快速提升。算力基礎(chǔ)設(shè)施是算力的主要載體,近日,浪潮計(jì)算機(jī)推出兩款新一代創(chuàng)新技術(shù)AI服務(wù)器——CS5280K2與CS8468K2,基于安全架構(gòu)技術(shù)路線,搭載國(guó)內(nèi)主流AI加速卡,為多場(chǎng)景下的AI推理、視頻實(shí)時(shí)處理及深度學(xué)習(xí)模型研發(fā)提供了多元化的算力支撐。
2U機(jī)架式AI服務(wù)器CS5280K2
CS5280K2是新一代2U機(jī)架式AI服務(wù)器,專為追求高效能、高密度的AI應(yīng)用場(chǎng)景設(shè)計(jì)。最大可支持8塊半高半長(zhǎng)單寬或4塊全高全長(zhǎng)單寬AI加速卡,提供強(qiáng)勁AI算力和強(qiáng)大視頻解析能力,滿足多場(chǎng)景推理和視頻實(shí)時(shí)處理需求;支持32個(gè)DDR4 3200 MT/s 內(nèi)存,NVMe高速存儲(chǔ),高達(dá)25個(gè)硬盤槽位和8個(gè)PCIe擴(kuò)展槽位,具有高AI算力、強(qiáng)大的高清視頻分析能力、大容量存儲(chǔ)、高能效、低能耗、易管理和易部署等優(yōu)點(diǎn);能夠快速分析和處理大量數(shù)據(jù),廣泛應(yīng)用于中心側(cè)AI推理場(chǎng)景,為各類場(chǎng)景提供實(shí)時(shí)準(zhǔn)確的智能服務(wù),助力產(chǎn)業(yè)智能化升級(jí)和創(chuàng)新。
高密度 AI推理服務(wù)器CS8468K2
與此同時(shí),浪潮計(jì)算機(jī)還推出了面向深度學(xué)習(xí)模型研發(fā)及大模型推理需求的AI服務(wù)器——CS8468K2。這款4U機(jī)架式服務(wù)器在有限的空間內(nèi)集成了8塊高速互聯(lián)的AI計(jì)算芯片NPU模組和4顆高性能920處理器,最高提供 2.2 PFLOPS FP16強(qiáng)大AI算力、0.60 PFLOPS FP32業(yè)界領(lǐng)先算力,構(gòu)建了強(qiáng)大的AI算力引擎,滿足深度學(xué)習(xí)模型研發(fā)和大模型推理需求。支持32個(gè)DDR4 3200 MT/s 內(nèi)存,NVMe高速存儲(chǔ),提供0.6 PFLOPS / kW超高能效比,具有超強(qiáng)算力密度、超高能效比、高速網(wǎng)絡(luò)帶寬和安全穩(wěn)定等優(yōu)點(diǎn)。
該高密度AI推理服務(wù)器采用高速互聯(lián)技術(shù),專為處理大規(guī)模、高并發(fā)的AI推理任務(wù)而設(shè)計(jì),在數(shù)據(jù)處理、圖像識(shí)別、語(yǔ)音識(shí)別等場(chǎng)景中,可實(shí)現(xiàn)快速響應(yīng),助力企業(yè)快速?zèng)Q策,廣泛應(yīng)用于智慧城市、智慧金融、教育科研、運(yùn)營(yíng)商、大模型推理等高算力需求典型應(yīng)用場(chǎng)景。
AI全棧開發(fā)體系完整易用,軟硬協(xié)同釋放極致性能
值得一提的是,浪潮計(jì)算機(jī)不僅提供多元的算力平臺(tái),更關(guān)注于算力的本地化部署。
面對(duì)當(dāng)前AI領(lǐng)域的多元化需求與兼容性挑戰(zhàn),兩款A(yù)I服務(wù)器已全面兼容MindSpore、PyTorch、TensorFlow等主流AI框架,使得用戶能夠無(wú)縫遷移和部署其現(xiàn)有的AI模型與應(yīng)用,極大地拓寬了使用場(chǎng)景與靈活性。
為了最大限度利用算力資源,更好的釋放算力平臺(tái)效能,兩款產(chǎn)品均已適配浪潮AI算力調(diào)度平臺(tái)——inAIP智算平臺(tái),通過(guò)對(duì)計(jì)算資源、數(shù)據(jù)資源、深度學(xué)習(xí)軟件棧資源進(jìn)行統(tǒng)一管理,極大簡(jiǎn)化AIGC、CV、NLP模型部署流程,有效提升大模型算力平臺(tái)的使用效率,滿足用戶更成熟、易部署、更便捷的開放生態(tài)需求。
此次發(fā)布的CS5280K2與CS8468K2兩款A(yù)I服務(wù)器,是浪潮計(jì)算機(jī)持續(xù)加大AI技術(shù)研發(fā)與產(chǎn)品創(chuàng)新力度的成果體現(xiàn),進(jìn)一步豐富了AI產(chǎn)品的多元化布局,為千行百業(yè)的數(shù)智變革提供了多元開放的算力保障。
關(guān)鍵詞: