以客戶為中心，提供定制化或一站式的全棧解決方案，賦能千行百業
寶德依托強大的研發能力以及豐富的行業經驗，針對機器/深度學習科研、實訓教學等場景提供一站式解決方案。基于新的設計理念，打造出一款功能完善的PLStack人工智能管理平臺，平臺能提供端到端的流程化管理，涵蓋數據標注、算法開發、模型訓練、模型管理、模型服務等AI完整生命周期流程支持。
PLStack平臺采用容器輕量級虛擬化方式作為基礎，實現對多集群多節點的GPU、CPU、內存、存儲等基礎設施資源池化；基于Kubernetes定制化開發的編排調度工具，實現資源高效靈活調度；同時企業級設計理念使平臺具備多租戶多層級用戶管理、權限管理、資源管理、vGPU等豐富的平臺能力，全方位滿足用戶對AI開發平臺高可用、高可靠、高穩定要求。大大緩解深度學習算法訓練的瓶頸，從而釋放人工智能的全新能力，讓用戶不再因為GPU的昂貴望而卻步。
平臺為用戶提供簡潔的WEB界面，豐富的功能以及多樣化工具。如開發模塊提供一鍵式環境生成、在線交互式開發工具Mlab；模型訓練提供參數調優、分布式并行訓練等；模型服務提供在線模型部署推理、模型服務調用；平臺同時集成數據標注工具、鏡像倉庫等，實現一站式AI開發。
同時深度學習框架鏡像以插件的方式接入系統，集成了多種業界常用框架，如 Tensorflow，PyTorch ，Caffe和 MXnet等，支持自定義擴展，極大提升整體系統的擴展性和可維護性。
PLStack AI平臺整體分為三層：基礎設施層、資源調度層、平臺功能層，架構如下圖：
基礎設施層主要包括物理機、虛擬機、存儲設備、網絡設備、一體機等資源，為業務提供基礎算力支撐。
資源調度層借助Docker引擎實現CPU、GPU、內存、存儲等資源的輕量級虛擬化，基于Kubernetes 定制化研發實現對任務和資源的靈活編排調度，具有多租戶隔離、任務資源邏輯隔離等特點，結合高可靠的存儲服務、分布式并行訓練服務等功能組件，為上層業務功能模塊提供堅實的基石。
平臺功能層提供端到端 AI科研流程支撐，其中用戶端包含了開發模塊、AI框架、訓練模塊、數據管理模塊、模型服務模塊、鏡像倉庫、工單管理等；管理端包含計量計費、多租戶管理、告警監控設置、平臺運營運維等。
PLStack平臺由管理端和業務端兩個系統組成。管理端為平臺管理員視圖，包括資源總覽、業務管理、產品管理、運維管理、配置管理、財務管理、安全中心等7個模塊；業務視圖為普通用戶視圖，包括賬號中心、資源總覽、開發環境、模型訓練、存儲管理、模型服務、模型管理、鏡像倉庫等八個模塊。如下圖所示。
寶德人工智能集群方案通過分析用戶的研究方向和實際需求，利用PLStack AI管理軟件平臺再結合寶德最新一代服務器，打造了一套計算能力強、資源利用率高、管理便捷和具有超高安全性的AI集群平臺。
1、提供對容器+鏡像的管理，支持網頁端容器全生命周期管理，對異構資源進行高效管理、調度、監控。
2、多數據中心管理，用戶可以選擇使用某一數據中心的資源；同時具備3層組織架構管理，如管理員、組織管理員、成員等，通過設定對組織及用戶進行資源配額；
3、平臺集成多種深度學習各種框架（如TensorFlow，pytorch，caffe，keras等）用戶模型開發、模型訓練等；支持自定義框架擴展；
4、平臺具備多種計費模式；提供完整的計量計費功能，管理可通過計費模塊對GPU、CPU、內存等資源進行費用設定，根據用戶使用時長進行計費；
5、支持多個物理區域的GPU卡資源統一納管，統一分配；支持單機單卡，單機多卡，多機多卡以及單GPU卡多用戶共享方式分配資源；以任務方式分配計算資源；任務完成計算資源回收；
6、支持管理集群中GPU服務器及GPU卡的運行狀況，資源使用情況，包含GPU總數/使用數，GPU核心平均利用率，GPU顯存平均利用率等
7、支持用戶按需設置深度學習環境，包括深度學習框架，網絡模型，GPU及CPU資源；訓練完成銷毀運行環境，釋放計算資源；支持快速創建深度學習環境，應用程序及硬件資源相互隔離，獨立運行；
8、內置上百種各種優化AI算法，可滿足多個業務場景需求，降低用戶門檻，提升AI開發效率
9、提供web端高效協同AI算法模型開發工具，提供Jupyter lab和jupyter notebook的集成，支持AI相關數據集成到Jupyter中；。
10、支持web及shell提交訓練任務，支持用戶可以實時查看自己任務的運行結果；
11、支持可視化作業管理、版本管理、克隆任務（參數管理）等功能，基于參數管理可以快速創建任務，提升模型訓練任務的迭代效率；
12、支持基于常用的AI算法框架及準備好的算法可以進行多版本任務參數調優，優化并增強機器學習全生命周期管理流程；
13、集群可實現分布式并行訓練功能；支持動態申請分布式訓練所需要的GPU數量和節點數量，且平臺可以實時監控每個節點的運行情況；
14、具備本地鏡像倉庫，支持鏡像分組管理及分享，允許用戶上傳自定義鏡像，支持將用戶環境一鍵打包至鏡像倉庫，且支持將權限設置為公有或者私有；
15、支持對多版本的模型統一管理功能，可以集中管理所有在模型訓練中得到的模型，導入并管理在本地開發的模型，滿足模型需要不斷迭代和調試的管理需求；
16、提供scp訪問/Web訪問/擴容/重命名/修改密碼/共享存儲/刪除等功能；能支持個人用戶上傳數據集之后可由多用戶同時調用
異構硬件融合和算力優化，支持多種CPU和GPU卡，同時集成多種主流的深度學習框架和交互式IDE開發環境。
借助容器、K8S等云計算技術打造的AI平臺再結合超強算力的 GPU 集群，提供高并行、高吞吐、低時延的極致性能，在科學計算表現中性能比傳統架構提高 50 倍以上。
彈性計算資源和算力優化管理，vGPU技術、GPU共享、多機多卡分布式并行訓練、多層級組織架構、組織及用戶資源配額等。
平臺預置TensorFlow 、 PyTorch、Caffe 等多種深度學習開源框架，無需安裝配置環境，一鍵快速提交訓練任務。同時數據模型分析交互式開發工具 MLab，還支持一鍵添加代碼和數據集。
高效的資源優化調度和管理顯著地降低資源使用和運維成本，多種計費模式極大地降低前期投入。
平臺完善的環境隔離及網絡監控服務，保障用戶數據和服務安全無虞。
寶德服務器
寶德自強
4008-870-872
點擊咨詢
