cGPT大模型訓練推理一體機內(nèi)置最高8塊通用型GPU計算卡，顯存最高可達640GB，單卡FP32精度算力可達37TFLOPS，F(xiàn)P16/BF16精度算力為147TFLOPS，INT8精度算力為295TOPS，支持INT32與INT16計算、支持多精度數(shù)據(jù)類型標準/混合訓練。

cGPT大模型訓練推理一體機除支持主流NVIDIA計算卡以外，根據(jù)用戶生產(chǎn)環(huán)境需要，還可支持全國產(chǎn)化方案，采用國產(chǎn)服務器準系統(tǒng)、CPU、GPU與操作系統(tǒng)，適用于有特殊安全需求的客戶。主流大模型相關配套框架均作適配，移植便捷，用戶訓練無需進行大量修改。

cGPT大模型訓練推理一體機可支持數(shù)據(jù)私有化，服務本地化部署，無需連接公共互聯(lián)網(wǎng)即可提供服務，杜絕用戶數(shù)據(jù)泄漏風險。通過本地文件服務器對本地模型進行管理和版本控制，實現(xiàn)模型部署本地化。通過本地大數(shù)據(jù)平臺對用戶業(yè)務數(shù)據(jù)進行采集、處理、分析、構(gòu)建，實現(xiàn)用戶業(yè)務數(shù)據(jù)私有化。利用全面的訪問控制系統(tǒng)，對需要進行外網(wǎng)訪問的數(shù)據(jù)信息進行脫敏過濾，在確保用戶數(shù)據(jù)安全性的前提下，保障本地服務功能的完整性。

cGPT大模型訓練推理一體機構(gòu)建了一站式部署、定制擴展方案，使得用戶無需掌握專業(yè)的人工智能知識，即可輕松擁有大模型提供的各種能力。通過一套完整的、用戶友好的可視化平臺，可簡單實現(xiàn)大模型的訓練、部署和服務提供；提供豐富的場景功能，用戶可根據(jù)專業(yè)需求，利用提示模板技術實現(xiàn)專業(yè)定制的大模型應用，例如智能專業(yè)寫作、智能行業(yè)查詢等。