時間:2024-03-12來源:本站
當前,AI大模型發展如火如荼,“百模大戰”仍在繼續。而大模型發展的背后是龐大的算力支撐。隨著大模型迭代速度越來越快,參數越來越大,對智能算力提出了更高性能的挑戰。作為中國領先的AI算力提供商和AI服務器TOP2企業,寶德應需而動,隆重推出了寶德自強®昇騰AI推理服務器PR425KI G2,助力大模型賦能千行百業。
更高算力密度
PR425KI G2基于鯤鵬+昇騰處理器打造,采用8模組高效推理方式,支持8*32GB HBM片內存和32個DDR4系統內存插槽,可以提供強勁的AI推理能力。在緊湊的4U空間內,其內部集成了圖像&視頻預處理器,外部通信模塊、硬件加速器、芯片管理核等模塊,具備完整的SOC功能,能高效加速AI應用。
極致能效比
PR425KI G2配置高效節能電源、動態冷卻機制,提供0.6 PFLOPS/ kW超高能效比,在保持其性能的同時,大大節省運營費用;同時,還采用智能散熱系統,根據熱關鍵器件溫度綜合調節風扇轉速,節能的同時降低了噪音并提高風扇的可靠性。
高速網絡帶寬
PR425KI G2配備了8*200GE RoCE v2高速接口,通過HCCS Full mesh互聯模式,實現了8路NPU之間的無縫連接,極大地提升了數據傳輸速度和模型推理效率,讓復雜計算任務處理如行云流水,助力企業快速洞察數據價值,搶占市場先機。
針對高性能大模型推理場景,PR425KI G2是33B以上高性能大模型應用推理的理想選擇。PR425KI G2具備強大計算能力、高能效比和高網絡帶寬等優勢,能夠輕松應對高性能大模型推理帶來的挑戰,提供穩定可靠的算力支持。它不僅能夠幫助企業快速構建智能客服系統,提升客戶服務體驗,還能助力內容創作者實現文案與創意的自動化生成,加速知識管理與沉淀過程,為各行各業的數字化轉型插上翅膀。
未來,寶德將繼續充分發揮自身技術優勢,加大研發創新,不斷推出更多性能強勁、安全可靠的算力產品和方案,助推更多大模型場景落地和應用,促進千行百業數字變革,為我國人工智能產業的發展注入強勁的動力。