時間:2023-09-05來源:本站
8月的最后一天,大模型賽場最新消息:百度文心一言、百川大模型、質譜清言等官宣率先通過《生成式人工智能服務管理暫行辦法》備案,即日起可面向全社會開放服務。據悉,包含這3支大模型在內,國內共有11家大模型陸續通過《生成式人工智能服務管理暫行辦法》備案,并于8月31日起將陸續向全社會公眾開放服務。這也預示著大模型之戰從拼技術、拼參數轉向拼應用、拼落地,但是應用為王的大模型,依然離不開強悍堅實的AI算力底座。
作為中國領先的計算產品服務提供商和中國AI服務器市場TOP3,寶德計算全新AI算力方案致力于為大模型的萬千應用和服務夯實底座。
寶德AI訓練服務器PR4910E+L40S
大模型加速訓練利器
大模型訓練需要海量數據的運算和處理,計算王者寶德AI訓練服務器PR4910E是不二之選。PR4910E支持10張全新發布的NVIDIA L40S GPU卡,同時采用2顆身懷七大算力神器的第四代英特爾®至強®可擴展處理器,最大可達60核心,為大模型訓練提供強有力的算力支撐。它具有13個PCIe x16 Gen5插槽,支持32個 DIMM / DDR5內存插槽,支持最新的400Gb ETH和NDR IB高速智能網卡,以及 GPU Direct RDMA,最多支持24個 NVMe SSD,而且采用CPU 直通設計,大幅降低 I/O 延遲,為大模型數據存儲和傳輸提供高效可靠的保證。此外,它采用整機模塊化設計,支持靈活切換 CPU 和 GPU 的異構拓撲結構,非常便于用戶的系統維護和管理。該產品已經廣泛應用于大模型、人工智能、深度學習、神經網絡,賦能醫學、材料、金融、科技等千行百業智能化轉型和應用。
寶德AI服務器PR8908WG+ Gaudi®2
大模型性價比之王
以大模型算力性價比著稱的寶德AI服務器PR8908WG,采用第三代英特爾®至強®可擴展處理器,8U空間支持8顆OAM高速互聯的Gaudi®2 AI加速器,每顆Gaudi®2芯片配置96GB HBM高速內存,GPU與 GPU 之間互聯帶寬達到400GB/s,提供2.1Tbps的P2P互聯帶寬,支持全互聯拓撲,全面滿足大模型訓練的海量通信需求;擁有32個DDR4 DIMM插槽,支持24塊2.5英寸SAS/SATA熱插拔硬盤位,采用 CPU 直通設計,降低 I/O 延遲;它支持200Gb ETH和HDR高速智能網卡,支持GPU Direct RDMA,完美滿足集群和超大規模擴展應用。
PR8908WG整機采用模塊化設計,獨立的GPU和CPU 熱量分區設計確保系統在最苛刻的工作負載下性能和穩定性不受影響,也非常方便用戶對AI算力設備的維護管理。它可以滿足AI不同場景下海量數據的計算和推理需求,特別適用于大模型訓練和推理、深度學習、自動駕駛、智能城市、醫療健康、大數據、高性能計算 (HPC) 和虛擬現實等應用場景,幫助加速更多AI技術的落地和應用。
寶德自研AI推理服務器PR2715E
大模型應用的得力助手
大模型上線開放服務之時,模型推理應用的工作負載將面臨更多的挑戰,寶德自研AI推理服務器PR2715E可以成為其落地應用的得力幫手。它具有極致性能、卓越能效和能打的顏值,專注于高性能計算推理、云計算和數據中心等算力需求。
PR2715E采用2顆第四代英特爾®至強®可擴展處理器,提供強大的通用計算能力,支持DDR5、PCIe 5.0和HBM,性能提升高達50%;支持異構設計,可以支持8張單寬或3張雙寬GPU卡,擁有強勁的AI推理算力和安全性能。它有32個內存插槽,最大可支持8TB;它最大支持12個2.5 ”( 3.5”)和4個后置2.5 "SATA/SAS/NVMe熱插拔硬盤,或24個2.5 ”SATA/SAS/NVMe 和2個后置2.5 ”SATA/SAS熱插拔硬盤,支持內置1個M.2(NVMe/SATA),保障了整機性能的強勁可靠;此外,PR2715E具有智能散熱系統、支持液冷散熱,能夠進一步幫助用戶降低TCO。
寶德自研商用并行存儲系統PLStor GS9200
大模型存力之基
隨著大模型規模的提升和落地應用,海量數據的指數級增長勢必帶來存儲和處理這些數據的更多難題。因此,強大的存力成為大模型有效服務的基礎保障之一。寶德PLStor GS9200是一款面向大模型多應用場景,以性能為中心,具備高可靠、簡單易用和豐富企業級功能等優勢的領先并行存儲系統。其存儲集群支持無上限的大規模擴展,可以輕松擴展到EB級別,并能夠承載上萬臺AI/異構算力服務器,滿足大容量存儲需求。
寶德PLStor GS9200提供了業內領先的基于OS內核程序優化設計的原生客戶端,以一客戶端對多臺存儲節點的方式并行讀寫數據,支持RDMA技術,整個系統能提供上TB/s級的吞吐帶寬。它采用存算融合的設計,可以整合計算節點內的存儲資源,構建全局命名空間的近線存儲池,實現靈活配置數量來擴展GPU/CPU計算資源和存儲資源,以滿足動態擴展的業務需求。PLStor GS9200數據湖存儲支持塊、文件、對象、大數據等存儲協議,并且支持POSI/NFS/CIFS/HDFS/S3/Swift等多種協議互通,實現平臺高效管理,而且保證在數據安全性、高并發讀寫、高空間利用率三者皆得,滿足不同場景下的數據安全存儲和訪問需求。
大模型發展如火如荼,成為新一輪科技革命和產業變革的重要驅動力量,大模型競相上線開放服務標志著大模型應用時代即將到來。寶德計算將乘勢而上,繼續發揮技術優勢和市場經驗,打造先進的AI全棧算力方案,助力推動大模型的落地應用,為中國AI產業創新應用提供源源不斷的新動力!