開放融合
異構(gòu)硬件融合和算力優(yōu)化,支持多種CPU和GPU卡,適配多種國產(chǎn)卡,同時集成多種主流的深度學(xué)習(xí)框架和交互式IDE開發(fā)環(huán)境,支持用戶自定義配置所需的開發(fā)環(huán)境。
極致性能
借助容器、K8S等云計(jì)算技術(shù)打造的AI平臺再結(jié)合超強(qiáng)算力的GPU集群,提供高并行、高吞吐、低時延的極致性能,在科學(xué)計(jì)算表現(xiàn)中性能比傳統(tǒng)架構(gòu)提高50倍以上。
算力集群
平臺支持服務(wù)器集群統(tǒng)一納管,整合硬件資源,集群化管理和使用。并以套餐的形式對用戶分配硬件資源。針對大模型可一鍵生成單機(jī)多卡、多機(jī)多卡等分布式訓(xùn)練框架環(huán)境;針對多用戶小任務(wù)可對GPU進(jìn)行切分使用,提高資源利用率。
友好界面
平臺提供web端頁面交互,易用性強(qiáng),支持對整體資源和局部資源可視化功能,便于易用和管理。
彈性靈活
平臺提供彈性計(jì)算資源和算力優(yōu)化管理,根據(jù)需要創(chuàng)建的任務(wù)動態(tài)調(diào)整和分配所需的硬件資源和服務(wù)器;具備多層級組織架構(gòu),可以對組織及用戶進(jìn)行人員管理、資源配額、套餐限制等。
P開箱即用
平臺預(yù)置PyTorch 、TensorFlow等多種深度學(xué)習(xí)開源框架,無需安裝配置環(huán)境,一鍵快速提交訓(xùn)練任務(wù)。同時提供數(shù)據(jù)模型分析交互式開發(fā)工具M(jìn)Lab,并支持一鍵添加代碼、模型和數(shù)據(jù)集。
全流程覆蓋
平臺包含數(shù)據(jù)標(biāo)注、模型開發(fā)、模型訓(xùn)練、模型管理、推理發(fā)布等一系列用戶開發(fā)所必需的功能模塊,相關(guān)模塊之間實(shí)現(xiàn)數(shù)據(jù)共享和一鍵導(dǎo)入,可以幫助用戶實(shí)現(xiàn)從數(shù)據(jù)-模型-推理服務(wù)的流程化轉(zhuǎn)化和產(chǎn)出。
快速標(biāo)注
平臺內(nèi)置LabelStudio標(biāo)注工具,支持多用戶協(xié)助標(biāo)注,可離線完成文本、圖片、視頻、時間序列等各種標(biāo)注任務(wù),內(nèi)置CV、NLP、ASP等多種標(biāo)注方式并支持多種導(dǎo)出結(jié)果。
用戶優(yōu)先級
平臺支持設(shè)置用戶優(yōu)先級(5>4>3>2>1),優(yōu)先級高的用戶可以優(yōu)先使用平臺資源,提升平臺資源的使用效率;
節(jié)約成本
高效的資源優(yōu)化調(diào)度和管理顯著地降低資源使用和運(yùn)維成本,多種計(jì)費(fèi)模式極大地降低前期投入。
安全服務(wù)
平臺完善的環(huán)境隔離及網(wǎng)絡(luò)監(jiān)控服務(wù),保障用戶數(shù)據(jù)和服務(wù)安全無虞。