MaaS(Model as a Service,模型即服務(wù))是一種將人工智能算法模型及其相關(guān)能力封裝成服務(wù),以降低人工智能技術(shù)使用門檻、控制應(yīng)用建設(shè)成本、簡化系統(tǒng)運(yùn)維管理復(fù)雜度,并提升人工智能技術(shù)的綜合應(yīng)用效能的模式。

上新了,上新了,卓世科技MaaS平臺V2.0 版本正式上線。本次新上線了包括:模型訓(xùn)練新基座,支持模型訓(xùn)練、推理、量化、評測等功能。
卓世科技MaaS平臺是一款基于知識增強(qiáng)大模型的一站式行業(yè)模型訓(xùn)練開發(fā)平臺。面向開發(fā)者和企業(yè)提供從基礎(chǔ)算力服務(wù)、數(shù)據(jù)服務(wù)、模型訓(xùn)練服務(wù)、應(yīng)用部署和構(gòu)建等一系列行業(yè)模型的“交鑰匙”服務(wù)。通過產(chǎn)業(yè)數(shù)據(jù)和行業(yè)知識快速打造企業(yè)專屬的行業(yè)模型,行業(yè)模型將成為企業(yè)構(gòu)建上層應(yīng)用的智能化數(shù)據(jù)底座。
V2.0 版本上線新功能:
1、模型訓(xùn)練MaaS底座升級
2、MaaS新基座模型sft微調(diào)
3、MaaS新基座模型PT訓(xùn)練
4、MaaS新基座模型評測
5、MaaS新基座模型量化壓縮
6、MaaS新基座模型推理部署升級
7、Prompt工程能力
MaaS平臺加速了AI應(yīng)用部署的周期,提升了創(chuàng)新的迭代速度,降低了企業(yè)應(yīng)用大模型服務(wù)的多方面成本,推動了AI與各行業(yè)的深度整合。促進(jìn)生成式AI應(yīng)用的規(guī);涞。
卓世科技MaaS平臺核心優(yōu)勢:
1、 支持多源異構(gòu)的基礎(chǔ)大模型:多種開源、閉源模型,璇璣玉衡模型、ChatGLM2、Llama2、文心一言ERNIE-Bot-Turbo
2、 模型開發(fā)全流程一站式能力:場景分析、數(shù)據(jù)增強(qiáng)、模型訓(xùn)練、模型評估、模型測試、模型發(fā)布、模型部署
3、 低代碼方式降低模型開發(fā)門檻:通過拖拽的方式,完成訓(xùn)練流程的搭建,極大簡化了用戶操作,大幅降低模型開發(fā)的技術(shù)門檻
4、 快捷的數(shù)據(jù)接入與知識增強(qiáng):特色的數(shù)據(jù)接入體系以及知識增強(qiáng)能力,幫助企業(yè)快速接入各種來源數(shù)據(jù)進(jìn)行模型訓(xùn)練服務(wù)
5、 完備的算力管理平臺:算力資源監(jiān)控,調(diào)度和管理,實(shí)現(xiàn)跨設(shè)備、跨域、跨品牌算力融合管理
6、 支持各類模型架構(gòu):多種模型種類的支持,如大語言模型、多模態(tài)模型等;多種模型架構(gòu)支持,如單體模型架構(gòu)、MoE模型架構(gòu)
7、 平臺提供多種模型微調(diào)方式:支持RLHF、LORA、P-turning等多種模型微調(diào)方式
8、 支持多種模型壓縮模式:平臺支持模型壓縮技術(shù),降低模型推理成本,滿足端側(cè)部署需求。
卓世科技MaaS平臺“交鑰匙”服務(wù):
數(shù)據(jù)服務(wù)是MaaS平臺提供的一項(xiàng)核心“交鑰匙”服務(wù),基于大模型技術(shù)的數(shù)據(jù)分析和清洗、樣本數(shù)據(jù)智能生成和大模型推理數(shù)據(jù)回流,解決大模型訓(xùn)練數(shù)據(jù)不足且質(zhì)量不高等情況,全面賦能訓(xùn)練數(shù)據(jù)智能處理功能,提升實(shí)際訓(xùn)練場景下訓(xùn)練數(shù)據(jù)的質(zhì)量和多樣性。
它主要包括以下三個方面:
1、訓(xùn)練數(shù)據(jù)智能分析和清洗:綜合利用大模型+小模型+數(shù)學(xué)分析算法的技術(shù)優(yōu)勢,對文本數(shù)據(jù)/結(jié)構(gòu)化數(shù)據(jù)進(jìn)行分析,優(yōu)化數(shù)據(jù)清洗流程,去“臟”數(shù)據(jù)危害,清洗效率更高,人力投入更少,提升數(shù)據(jù)的質(zhì)量、準(zhǔn)確性和一致性,最終減少模型訓(xùn)練過程中的錯誤,提高大模型訓(xùn)練的質(zhì)量和效率。
2、文本數(shù)據(jù)智能生成:基于大模型技術(shù),使用少量文本數(shù)據(jù)智能生成并標(biāo)注得到更豐富的樣本數(shù)據(jù),以解決大語言模型荊條場景樣本數(shù)據(jù)不足的情況,成本更低廉,且不會損害客戶隱私,從而提升大模型行業(yè)領(lǐng)域微調(diào)的可實(shí)現(xiàn)性。
3、大模型推理數(shù)據(jù)回流:結(jié)合大模型推理的點(diǎn)贊、點(diǎn)踩等反饋,將正負(fù)數(shù)據(jù)回流進(jìn)行管理。
模型訓(xùn)練服務(wù)是MaaS平臺提供的又一關(guān)鍵服務(wù),它涵蓋了:
1、模型選擇:提供多種預(yù)訓(xùn)練模型供用戶選擇,這些模型可能針對特定行業(yè)或通用任務(wù)進(jìn)行了優(yōu)化。
2、自定義模型構(gòu)建:允許用戶根據(jù)自己的需求從頭開始構(gòu)建模型,提供靈活的模型架構(gòu)設(shè)計(jì)工具。
3、訓(xùn)練環(huán)境配置:提供所需的計(jì)算資源,包括GPU、TPU等加速硬件,以及相應(yīng)的軟件環(huán)境。
4、超參數(shù)調(diào)優(yōu):幫助用戶找到最優(yōu)的模型參數(shù),提高模型性能,可能包括自動化的超參數(shù)搜索服務(wù)。
5、模型訓(xùn)練監(jiān)控:提供訓(xùn)練過程中的實(shí)時監(jiān)控和日志記錄,幫助用戶了解模型訓(xùn)練的狀態(tài)和效果。
應(yīng)用部署和構(gòu)建服務(wù)確保模型能夠轉(zhuǎn)化為實(shí)際可用的應(yīng)用程序,具體包括:
1、模型部署:將訓(xùn)練好的模型部署到生產(chǎn)環(huán)境中,可能包括云服務(wù)器、邊緣設(shè)備或特定硬件上。
2、API集成:提供API接口,使得模型可以被其他應(yīng)用程序調(diào)用,實(shí)現(xiàn)模型服務(wù)的快速集成。
3、應(yīng)用開發(fā)框架:提供一套框架和工具,幫助用戶快速構(gòu)建和測試基于模型的應(yīng)用。
4、持續(xù)集成/持續(xù)部署(CI/CD):自動化應(yīng)用的構(gòu)建、測試和部署流程,提高開發(fā)效率和應(yīng)用質(zhì)量。
5、用戶界面(UI)設(shè)計(jì):幫助用戶設(shè)計(jì)和實(shí)現(xiàn)與模型應(yīng)用交互的用戶界面,提升用戶體驗(yàn)。
6、性能優(yōu)化:對部署的應(yīng)用進(jìn)行性能調(diào)優(yōu),確保應(yīng)用的響應(yīng)速度和處理能力滿足業(yè)務(wù)需求。
7、安全性保障:確保應(yīng)用的安全性,包括數(shù)據(jù)傳輸加密、訪問控制和防御潛在的安全威脅。
通過這些服務(wù),卓世科技的MaaS平臺能夠?yàn)殚_發(fā)者和企業(yè)提供從數(shù)據(jù)準(zhǔn)備到模型訓(xùn)練,再到應(yīng)用部署的全流程支持,實(shí)現(xiàn)行業(yè)模型的快速開發(fā)和應(yīng)用。
【版權(quán)聲明】秉承互聯(lián)網(wǎng)開放、包容的精神,萬通商務(wù)網(wǎng)歡迎各方(自)媒體、機(jī)構(gòu)轉(zhuǎn)載、引用我們原創(chuàng)內(nèi)容,但要嚴(yán)格注明來源萬通商務(wù)網(wǎng);同時,我們倡導(dǎo)尊重與保護(hù)知識產(chǎn)權(quán),如發(fā)現(xiàn)本站文章存在版權(quán)問題,煩請將版權(quán)疑問、授權(quán)證明、版權(quán)證明、聯(lián)系方式等,發(fā)郵件至770276607@qq.com,我們將第一時間核實(shí)、處理。
部分資訊信息轉(zhuǎn)載網(wǎng)絡(luò)或會員自己投稿發(fā)布,如果有侵犯作者權(quán)力,請聯(lián)系我們刪除處理,聯(lián)系QQ:770276607
部分資訊信息轉(zhuǎn)載網(wǎng)絡(luò)或會員自己投稿發(fā)布,如果有侵犯作者權(quán)力,請聯(lián)系我們刪除處理,聯(lián)系QQ:770276607