日产亚洲一区二区三区-亚洲av无码一区二区三区电影-999在线视频精品免费播放观看-午夜精品久久久久久久

?
大模型算力新選擇——寶德AI服務(wù)器PR8908WG,采用8顆英特爾Gaudi?2加速器

時間:2023-07-19來源:本站


近日,英特爾專門針對中國市場推出深度學習加速器Habana® Gaudi®2,以領(lǐng)先的性價比優(yōu)勢,加速AI訓練及推理,提高深度學習性能和效率,從而成為大規(guī)模部署AI的更優(yōu)解。


作為英特爾在中國最重要的戰(zhàn)略合作伙伴和中國AI服務(wù)器市場的TOP3,寶德計算積極攜手英特爾,推出了支持8顆Gaudi®2加速器的AI加速計算服務(wù)器——PR8908WG,具有高性能、可擴展性強、高能效和開箱即用等優(yōu)勢,能夠為AI客戶尤其是大模型訓練和推理提供超高性價比的算力支撐。


全新Gaudi®2訓練加速器專為深度學習而生



Gaudi®2采用7nm制程工藝,擁有高性能架構(gòu),具備 24個可編程Tensor處理器核心(TPCs),21個100Gbps(RoCEv2)以太網(wǎng)接口,96GB HBM2E內(nèi)存容量,2.4TB/秒的總內(nèi)存帶寬,48MB片上SRAM,并且集成多媒體處理引擎,為訓練大語言模型提供高性能、高可擴展性和高能效的AI算力,在MLCommons®MLPerf@基準測試之GPT-3模型、計算機視覺模型ResNet-50、Unet3D、以及自然語言處理模型BERT等方面均取得了優(yōu)異的成績。
生成式AI和大語言模型需要服務(wù)器集群來滿足大規(guī)模且更加復(fù)雜的計算要求。英特爾Gaudi®2處理器作為一款高性能、完全可編程的AI處理器,整合了多項技術(shù)創(chuàng)新,具有高內(nèi)存帶寬/容量和基于標準以太網(wǎng)技術(shù)的縱向擴展能力,并支持使用外接網(wǎng)卡通過PCle接口實現(xiàn)橫向擴展,可滿足多節(jié)點集群需要。
同時,英特爾不斷打造領(lǐng)先、成熟的軟件生態(tài)支持,SynapseAI®軟件套件就針對Gaudi平臺深度學習業(yè)務(wù)進行了優(yōu)化,它集成了對TensorFlow和PyTorch框架的支持,并提供眾多流行的計算機視覺和自然語言參考模型,能夠滿足深度學習開發(fā)者的多樣化需求。

寶德AI服務(wù)器PR8908WG+ Gaudi®2大模型算力新選擇





寶德AI服務(wù)器PR8908WG采用第三代英特爾®至強®可擴展處理器,8U空間支持8顆OAM高速互聯(lián)的Gaudi®2 AI加速器,每顆Gaudi®2芯片配置96GB HBM高速內(nèi)存,GPU與 GPU 之間互聯(lián)帶寬達到400GB/s,提供2.1Tbps的P2P互聯(lián)帶寬,支持全互聯(lián)拓撲,全面滿足大模型訓練的海量通信需求;它支持200Gb ETH和HDR高速智能網(wǎng)卡,支持GPU Direct RDMA,完美滿足集群和超大規(guī)模擴展應(yīng)用。

PR8908WG擁有32個DDR4 DIMM插槽,最大支持8TB 32x 256 GB DRAM;支持24塊2.5英寸SAS/SATA熱插拔硬盤位,默認支持8塊直連SATA硬盤,4塊NVMe U.2 SSD,同時內(nèi)置2個NVMe M.2 SSD,實現(xiàn) CPU 直通設(shè)計,降低 I/O 延遲;它提供2個PCIe 4.0 x16 FHFL插槽和2 個PCIe 4.0 x8 FHFL插槽;支持以太網(wǎng)、InfiniBand、OPA等多種不同網(wǎng)絡(luò)選擇和互聯(lián)需求。

PR8908WG整機采用模塊化設(shè)計,獨立的GPU和CPU 熱量分區(qū)設(shè)計確保系統(tǒng)在最苛刻的工作負載下性能和穩(wěn)定性不受影響;同時板載集成BMC、支持通過RAID卡超級電容、支持IPMI 2.0遠程管理等,非常方便用戶對AI算力設(shè)備的維護管理。


綜上,寶德AI加速計算服務(wù)器PR8908WG可以滿足AI不同場景下海量數(shù)據(jù)的計算和推理需求,特別適用于大模型訓練和推理、深度學習、自動駕駛、智能城市、醫(yī)療健康、大數(shù)據(jù)、高性能計算 (HPC) 和虛擬現(xiàn)實等應(yīng)用場景,幫助加速更多AI技術(shù)的落地和應(yīng)用。




大模型將帶來AI新價值,“百模大戰(zhàn)時代”已經(jīng)來臨。隨著各大模型的爭奇斗艷和對成本、盈利模式等的日益關(guān)注,性價比為王將成為AI算力的新標準。

作為中國領(lǐng)先的計算產(chǎn)品方案提供商,寶德計算將繼續(xù)發(fā)揮AI服務(wù)器領(lǐng)域的技術(shù)優(yōu)勢和市場經(jīng)驗,攜手英特爾等合作伙伴不斷創(chuàng)新,探索大模型算力的更多選擇,打造更具性價比的AI算力和解決方案,助力中國大模型更多細分場景的落地和商業(yè)變現(xiàn),共同加速中國大模型技術(shù)的發(fā)展步伐,推動中國人工智能產(chǎn)業(yè)的整體升級!


熱門推薦
? 主站蜘蛛池模板: 国产精品看高国产精品不卡| 亚洲中文久久精品无码浏不卡| 男女上下猛烈啪啪免费看| 中文在线资源天堂www| 国产成人av一区二区三区在线观看| 插插无码视频大全不卡网站| 在线中文字幕乱码英文字幕正常| 在线天堂www中文| 亚洲国产成人精品无码区花野真一| 国产午夜影视大全免费观看 | 欧美激情精品久久| 亚洲av综合色区无码另类小说| 丰满亚洲大尺度无码无码专线| 国产午夜伦鲁鲁| 国模无码一区二区三区| 无码专区国产精品视频| 国产精品久久久久久久影院| 无码专区狠狠躁躁天天躁| 春色校园亚洲综合小说| 九色综合九色综合色鬼| 国产婷婷色综合av蜜臀av| 亚洲免费观看在线视频| 久久综合伊人77777麻豆| 久久久久国产精品免费免费搜索 | 国产午夜无码视频在线观看| 久久精品国产亚洲av大全| 日产乱码一二三区别免费麻豆 | 久久综合噜噜激激的五月天| 亚洲精品v天堂中文字幕| 日韩欧美亚洲综合久久影院| 久久精品www人人做人人爽| 国产免费毛卡片| 国产九九99久久99大香伊| 男女肉粗暴进来动态图| 男人的天堂无码动漫av| 无码精品久久久久久人妻中字| 久久亚洲av无码精品色午夜麻| 最近2019年好看中文字幕视频| 桃花影院理论片在线| 国产裸拍裸体视频在线观看| 中文字幕+乱码+中文字幕一区 |