
北京市商汤科技开发有限公司于昨晚发布公告,宣布其企业客户和开发者现已能够在商汤大装置万象平台上迅速部署 DeepSeek-V3、DeepSeek-R1 等模型,并享有三个月内 1000 万 tokens 的免费使用额度。

AI 工具库随附的商汤大装置亮点信息如下:
升级服务
- 构建依托技术平台与专家资源的闭环服务体系,涵盖“场景定义-训练-部署-迭代”全流程。
- 满足企业级需求(轻量化模型定制):通过基于场景的强化学习,在特定应用场景中提升基模型性能,并支持蒸馏至小型模型以实现高效推理。
- 满足私有化需求(综合解决方案):提供模型定制、模型开发平台、Agent 应用开发平台三大核心模块,可适配多种国产硬件,提供全链路技术支持。
个性部署
- 支持公有云、私有化部署及一体机等多种部署方式。
- 硬件层面:兼容英伟达与国产异构芯片。通过软硬件深度协同优化,实现多种芯片的高效混合部署与流量的智能分发。
- 推理层面:支持多种主流推理引擎,并可针对性地优化缓存以加速计算。商汤科技官方计划在未来推出 PD(Prefill-Decode)分离式推理架构,该架构可智能拆分计算任务,并将其调度至最适合的算力单元执行,从而提升能效比。
- 支持商汤“日日新”融合大模型 SenseNova,以及 DeepSeek、Qwen、Llama 等其他主流大模型。
文章中提到的AI工具
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关AI热点
暂无评论...