隨著ChatGPT的風(fēng)靡全球，以大模型技術(shù)為核心的生成式AI領(lǐng)域受到了廣泛的關(guān)注和應(yīng)用，而生成內(nèi)容的有理有據(jù)、準(zhǔn)確可靠和不違反國(guó)家相關(guān)規(guī)定就變得十分重要。
在此背景下，南京云創(chuàng)大數(shù)據(jù)科技股份有限公司自主研發(fā)了cGPT大模型訓(xùn)練推理一體機(jī)。該一體機(jī)是一款統(tǒng)一的大模型訓(xùn)練和推理平臺(tái)，可以實(shí)現(xiàn)對(duì)大模型的全生命周期管理，包括數(shù)據(jù)集的管理，模型的訓(xùn)練、評(píng)估和推理，平臺(tái)性能的監(jiān)控和管理等。
cGPT大模型訓(xùn)練推理一體機(jī)特別適合私域大模型訓(xùn)練和推理場(chǎng)景，支持全國(guó)產(chǎn)化的解決方案，通過(guò)對(duì)接用戶(hù)單位內(nèi)部的數(shù)據(jù)庫(kù)，可為內(nèi)網(wǎng)信息化提供新支撐；智能水平不俗，具備自主學(xué)習(xí)、總結(jié)加工、查詢(xún)信息等能力，猶如“多面手”和“中樞大腦”；知識(shí)處理能力強(qiáng)大，面對(duì)大量的知識(shí)點(diǎn)，也能進(jìn)行高效處理；通過(guò)對(duì)接數(shù)據(jù)庫(kù)，可以提供數(shù)據(jù)查詢(xún)、答疑解惑等個(gè)性化服務(wù)。
在對(duì)接文檔方面，只需上傳文檔，cGPT大模型訓(xùn)練推理一體機(jī)經(jīng)過(guò)學(xué)習(xí)，便可結(jié)合該文檔，做出用戶(hù)所需準(zhǔn)確的回答；在對(duì)接數(shù)據(jù)庫(kù)方面，cGPT大模型訓(xùn)練推理一體機(jī)通過(guò)對(duì)已上傳表格、參考文獻(xiàn)等的學(xué)習(xí)，便可結(jié)合這些數(shù)據(jù)，做出總結(jié)性的準(zhǔn)確回答，甚至可以展現(xiàn)與參考文獻(xiàn)的關(guān)聯(lián)度。同時(shí)，該一體機(jī)也可為用戶(hù)單位進(jìn)行定制化拓展開(kāi)發(fā)，使其具有個(gè)性化功能。
一般而言，當(dāng)數(shù)據(jù)量相對(duì)較小的時(shí)候，cGPT大模型訓(xùn)練推理一體機(jī)可與向量數(shù)據(jù)庫(kù)結(jié)合；當(dāng)數(shù)據(jù)量相對(duì)較大的時(shí)候，可與云創(chuàng)大數(shù)據(jù)cVector向量計(jì)算一體機(jī)結(jié)合。
cVector向量計(jì)算一體機(jī)是一款面向億級(jí)以上向量計(jì)算場(chǎng)景的高性能向量存儲(chǔ)、計(jì)算一體化平臺(tái)。經(jīng)中國(guó)軟件評(píng)測(cè)中心對(duì)比測(cè)試，cVector向量計(jì)算一體機(jī)在入庫(kù)性能、查詢(xún)性能、準(zhǔn)確性方面明顯優(yōu)于同行產(chǎn)品，（點(diǎn)擊開(kāi)放測(cè)試！云創(chuàng)大數(shù)據(jù)cVector向量計(jì)算一體機(jī)了解更多），以此可以保障cGPT大模型訓(xùn)練推理一體機(jī)發(fā)揮突出優(yōu)勢(shì)。
值得一提的是，cGPT大模型訓(xùn)練推理一體機(jī)支持海量數(shù)據(jù)私有化、本地化訓(xùn)練部署和推理、全面支持國(guó)產(chǎn)化，能更好地適應(yīng)中國(guó)的語(yǔ)言環(huán)境和文化背景，滿(mǎn)足中國(guó)用戶(hù)的需求。在保證用戶(hù)數(shù)據(jù)隱私的前提下，可廣泛應(yīng)用于智能寫(xiě)作、智能問(wèn)答、自然語(yǔ)言生成、機(jī)器翻譯等多個(gè)領(lǐng)域。
● 高算力配置
cGPT大模型訓(xùn)練推理一體機(jī)內(nèi)置最高8塊通用型GPU計(jì)算卡，顯存最高可達(dá)640GB，單卡FP32精度算力可達(dá)37TFLOPS，F(xiàn)P16/BF16精度算力為147TFLOPS，INT8精度算力為295TOPS，支持INT32與INT16計(jì)算、支持多精度數(shù)據(jù)類(lèi)型標(biāo)準(zhǔn)/混合訓(xùn)練。
● 國(guó)產(chǎn)化適配
cGPT大模型訓(xùn)練推理一體機(jī)除支持主流NVIDIA計(jì)算卡以外，根據(jù)用戶(hù)生產(chǎn)環(huán)境需要，還可支持全國(guó)產(chǎn)化方案，采用國(guó)產(chǎn)服務(wù)器準(zhǔn)系統(tǒng)、CPU、GPU與操作系統(tǒng)，適用于有特殊安全需求的客戶(hù)。主流大模型相關(guān)配套框架均作適配，移植便捷，用戶(hù)訓(xùn)練無(wú)需進(jìn)行大量修改。
● 私有化部署
cGPT大模型訓(xùn)練推理一體機(jī)可支持?jǐn)?shù)據(jù)私有化，服務(wù)本地化部署，無(wú)需連接公共互聯(lián)網(wǎng)即可提供服務(wù)，杜絕用戶(hù)數(shù)據(jù)泄漏風(fēng)險(xiǎn)。通過(guò)本地文件服務(wù)器對(duì)本地模型進(jìn)行管理和版本控制，實(shí)現(xiàn)模型部署本地化。通過(guò)本地大數(shù)據(jù)平臺(tái)對(duì)用戶(hù)業(yè)務(wù)數(shù)據(jù)進(jìn)行采集、處理、分析、構(gòu)建，實(shí)現(xiàn)用戶(hù)業(yè)務(wù)數(shù)據(jù)私有化。利用全面的訪(fǎng)問(wèn)控制系統(tǒng)，對(duì)需要進(jìn)行外網(wǎng)訪(fǎng)問(wèn)的數(shù)據(jù)信息進(jìn)行脫敏過(guò)濾，在確保用戶(hù)數(shù)據(jù)安全性的前提下，保障本地服務(wù)功能的完整性。
● 一站式方案
cGPT大模型訓(xùn)練推理一體機(jī)構(gòu)建了一站式部署、定制擴(kuò)展方案，使得用戶(hù)無(wú)需掌握專(zhuān)業(yè)的人工智能知識(shí)，即可輕松擁有大模型提供的各種能力。通過(guò)一套完整的、用戶(hù)友好的可視化平臺(tái)，可簡(jiǎn)單實(shí)現(xiàn)大模型的訓(xùn)練、部署和服務(wù)提供；提供豐富的場(chǎng)景功能，用戶(hù)可根據(jù)專(zhuān)業(yè)需求，利用提示模板技術(shù)實(shí)現(xiàn)專(zhuān)業(yè)定制的大模型應(yīng)用，例如智能專(zhuān)業(yè)寫(xiě)作、智能行業(yè)查詢(xún)等。
cGPT訓(xùn)練一體機(jī)G1000-T（根據(jù)需求，可與cVector向量計(jì)算一體機(jī)搭配使用）
硬件規(guī)格如下：
軟件規(guī)格如下：
cGPT推理一體機(jī)G1000-I（根據(jù)需求，可與cVector向量計(jì)算一體機(jī)搭配使用）
硬件規(guī)格如下：
軟件規(guī)格如下：
cGPT大模型訓(xùn)練推理一體機(jī)應(yīng)用領(lǐng)域廣泛，可以提供個(gè)性化服務(wù)。
● 面向內(nèi)網(wǎng)使用
cGPT大模型訓(xùn)練推理一體機(jī)可以消化內(nèi)部資料，為公檢法等涉密的系統(tǒng)單位提供資料查詢(xún)、數(shù)據(jù)比對(duì)、文檔撰寫(xiě)等多元服務(wù)，在保障信息安全的前提下，為用戶(hù)單位的決策效率提供強(qiáng)力支持，扮演單位內(nèi)部員工、領(lǐng)導(dǎo)的“個(gè)人個(gè)性化數(shù)字助手”。
● 面向特定領(lǐng)域
cGPT大模型訓(xùn)練推理一體機(jī)在教育、法律、銀行等特定領(lǐng)域有著廣泛的應(yīng)用場(chǎng)景。尤其善于消化前沿的信息與科技成果，提供與之匹配的新信息。分析數(shù)據(jù)、編寫(xiě)代碼、編寫(xiě)文案、回答疑問(wèn)，提供信息服務(wù)，滿(mǎn)足信息咨詢(xún)，以此助力高效工作，為特定領(lǐng)域帶來(lái)更準(zhǔn)確和個(gè)性化的服務(wù)。
聯(lián)系方式：
單先生 13770311887（微信同號(hào)）
點(diǎn)擊http://www.tianruichao.cn/article/3602訪(fǎng)問(wèn)官網(wǎng)，了解產(chǎn)品信息
