時間:2023-11-01來源:本站
AI潮涌,大模型日新月異,但與此同時百戰正酣的AI大模型面臨著算力不足的困境。于是,如何破解大模型算力之困、加速大模型落地到具體應用場景、如何降低大模型的使用成本等成為業界關注的焦點。此時,智能邊緣技術應需而生,成為破解大模型算力之困的又一良方。
寶德智能邊緣產品煥新出發,以低延遲、高效率和實時決策為突出優勢的邊緣技術為基礎,深度融合人工智能、機器學習等新技術,將AI能力帶到更接近數據和終端用戶的地方,有效補充大模型的邊緣側AI算力。
基于邊緣計算+AI技術
智能邊緣助攻大模型部署和應用
數字化時代,海量數據的產生和處理讓傳統云計算和數據中心計算的不足日益凸顯,邊緣計算成為有力補充,它采用分布式計算架構,將計算資源和數據存儲等放置在離數據源和終端用戶更近的位置,具有即時處理數據、顯著降低延遲,高效利用資源、有效降低成本,增強安全性和隱私保護,以及釋放遠程設備潛力的突出能力。
近年來,AIGC和大模型迅猛發展,其背后需要海量的AI算力支持。期間,如果大模型的訓練和推理都在云端,完成后再返回結果給前端的邊緣側,需要的通信時間就較長。所以越來越多的客戶選擇在云端完成大模型訓練,在邊緣側完成微調后再推理并給出結果。這就需要邊緣側設備具有集計算能力與智能技術于一體的綜合能力,智能邊緣正當其時。
智能邊緣將邊緣計算與AI、機器學習算法、智能設備、邊緣數據中心和網絡等結合在一起,能夠幫助客戶將AI算法和模型部署到邊緣側,在本地進行實時的數據處理、分析和決策,減少對云端的依賴。尤其突出的是,智能邊緣可以提供更高效率、更低延遲、更優的隱私保護和數據通信能力,實現智能感知、智能分析和智能決策,堪稱大模型部署和應用的“神助攻”,已經在智能制造、智慧交通、智能電網、智能安防、智慧社區、智慧城市等數據傳輸及處理量極大、對數據實時處理能力要求極高的領域擁有杰出的表現。
寶德智能邊緣產品
助力破解大模型算力之困
作為中國領先的計算產品方案提供商和中國AI 服務器市場的TOP3,寶德深刻洞察大模型用戶的算力需求,充分發揮自身在算力尤其是AI領域的技術積累和市場經驗,打造完善的智能邊緣計算產品線,包括智能邊緣服務器、智能邊緣盒子和工控機,滿足提供異構計算的超強算力,適應復雜嚴苛的應用環境,并且可以支持靈活定制。
寶德雙路智能邊緣服務器PR2730P
寶德智能邊緣服務器PR2730P采用2U雙路高集成度設計,有限空間內蘊含強勁的計算性能。它采用Intel C621高性能芯片組,支持英特爾®至強®可擴展處理器,最大內存容量2TB,支持6塊熱插拔2.5寸硬盤,可靈活擴展半高的PCI-E3.0設備,支持半高單寬的AI 加速卡。PR2730P專門為部署網絡邊緣小規模數據中心量身定制,符合電信標準的設計—2U高度+45cm深度,可與電信設備混合部署;強勁的性能充分解決本地化終端處理的需求,并且可以滿足URLLC和mMTC等超低延時需求。而且,經過技術處理和優化的PR2730P在耐高溫、防塵、電磁干擾、抗震等方面表現卓越,可以適應簡陋、惡劣、嚴苛的邊緣應用環境要求。
寶德單路智能邊緣服務器PR2610W
PR2610W是寶德匠心推出的一款單路邊緣智能服務器,它采用Intel W580高性能芯片組,支持至強 W1200/1300系列和酷睿10/11代處理器 ,最多支持內存容量128GB,標配支持4個2.5+2*3.5寸非熱插拔SATA硬盤,擁有4個PCIe擴展槽,并可靈活擴展全高全長的PCI-E設備,保證了強勁的邊緣算力。它采用便于電信設備混合部署的短機箱設計,而且具有杰出的高擴展性,最大可以支持2張GPU加速卡,并且可以外接攝像頭等設備。尤其值得推薦的是,它創新的工業服務器+超靜音設計,非常適合商超終端、數字安防等人機共存工作環境。
寶德智能邊緣盒子IPC-1002M1
寶德智能邊緣盒子IPC-1002V1
當大模型的應用場景需要延展到高溫/酷寒/超濕/塵噪等更加嚴酷的邊緣工作環境中時,功能強大、性能卓越可靠的寶德智能邊緣盒子IPC-1002M1和IPC-1002V1是算力優選,它們基于最前沿的AI算法,擁有成熟的軟件生態,能夠提供算力與價格的優秀平衡點。其中,IPC-1002M1搭載Jetson Nano模塊,它集成了Maxwell架構的GPU,可提供最大0.5 TOPS(FP16)算力,配備4 core ARM A57 CPU,具備4K*2K@30fps(HEVC)編碼能力和4K*2K@60fps(HEVC)解碼能力,支持最多8路1080P視頻解碼。IPC-1002V1搭載Xavier NX模塊,它集成了Volta架構的GPU,可提供最大21 TOPS(INT8)算力,配備6-core NVIDIA Carmel ARM®v8.2 64-bit CPU,具備4K*2K@60fps(HEVC)編碼能力和4K*2K@60fps(HEVC)解碼能力,支持最多32路1080P視頻解碼。
而且,它們都支持定制擴展多路PCIe插槽、業界領先的多路4K Sensor輸入和多路圖像處理。尤其是,這兩款產品具有防震動、抗沖擊能力、電磁兼容性強、抗干擾能力強等優勢,能夠365*24H全天候穩定運行,特別適合對復雜嚴苛邊緣環境的圖像影像等數據進行智能識別和即時分析處理。
寶德工控機NVR-941CT
NVR-941CT是寶德工控機的拳頭產品。它秉承工控機的高可靠性設計理念,機箱采用全鋼結構設計,對硬盤外加硬盤架和塑料減震圈減震抗震,實現卓越的抗沖擊、抗振動性能。它采用優良的散熱結構設計,對進風口進行防塵海綿防護,降低灰塵、散熱、靜電三大不穩定因素的影響。此外,它采用高質量高可靠硬盤和工控機專用電源,并對網口外加防雷防護。
在如此高可靠性的基礎上,NVR-941擁有更強功能和更優的性能。首先,它支持獨立三顯(三個顯示器或監視器同時輸出不同內容),有獨立的雙通道音頻輸出,而且機箱設有10個硬盤位。其次,它采用Intel® Q470高速芯片組,支持LGA1200插槽處理器,4個 DDR4 DIMM內存插槽,最高支持到128GB。它有10個USB接口、7個后窗接口和豐富的I/O接口, 并且可以根據實際應用需求靈活配置,是一款功能強大,適合長時間不間斷穩定運行的產品,特別適于邊緣側的視覺檢測、光伏、醫療、智能制造、半導體測試等應用場景。