量子位· 量子位的朋友们·· 24 天前AI 评分60
范式智能联合睿思智联推出开源生产级 AI 部署平台模域 ModelSphere
范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”
AI 导读
范式智能联合睿思智联宣布一站式生产级 AI 部署平台模域(ModelSphere)正式上线,面向企业用户免费开源并已在 GitHub 开源。平台将算力管理、模型部署和运行优化整合到统一流程,内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存等能力,并称系统极限吞吐效率较基准提升约 285%。
来源:量子位 · qbitai.com