在异构基础设施上轻松运行全尺寸DeepSeek

DeepSeek于2024年12月发布了包括 DeepSeek V3、R1、Janus Pro等多版本模型。V3版本适用于通用型自然语言处理任务，R1专注于复杂推理任务，而 Janus Pro 则擅长多模态理解与生成，可满足企业不同 AI 场景的需求。DeepSeek V3系列模型为MOE架构，大大降低了训练成本，并在性能上成为当前最强大的开源基础模型。

博云AIOS先已支持企业私有化部署多种不同尺寸的DeepSeek模型，并适配到英伟达GPU、华为昇腾910b、海光DCU K100 AI等多款国内外GPU设备，帮助企业进行AI应用创新，最小尺寸单张GPU卡即可运行。

通过AIOS快速私有化部署DeepSeek模型后，可以在平台直观查看DeepSeek模型运行状态、资源占用情况及用户访问信息等。

同时在体验中心可以快捷的进行访问使用。

关于博云AIOS

AIOS是博云专为AI应用推出的企业级一站式人工智能操作系统，屏蔽底层异构算力差异，面向AI大模型、生信、仿真渲染、气象、智能控制、图像视频处理等领域的分布式计算提供调度器管理，在网络、存储等基础能力方面增强高性能适配，为AI应用提供稳定、高效、可观测的部署与服务运行时管理能力。

同时AIOS提供轻量化多框架AI训推工具链平台，支持多种分布式AI深度学习框架，模型推理框架，IDE工具，算法、模型仓库，以及模型量化和转化能力，覆盖数据标注、算法开发、模型训练、模型推理的全生命周期。

AIOS可以帮助企业和开发者自主构建人工智能业务，助力企业保持行业领先能力。

强大的底层掌控能力

AIOS的核心在于其强大的ACE算力引擎，支持高达5000个节点的稳定调度，以及异构GPU池化管理，确保了多租户算力的强隔离和全方位监控。

功能特性

覆盖深度学习业务全流程，加快模型从研发到上线速度。

深度学习训练任务通常包含多个阶段，从数据采集、算法开发、模型训练、超参调整、模型管理与部署等，AIOS提供全流程支持。

快速部署计算环境并启动训练任务，提高研发效率

深度学习框架和模型众多，依赖各不相同，对开发环境的要求比较复杂， AIOS可以实现资源和工作环境的隔离及快速部署。

支持数据集统一管理，提升数据标注效率

数据集种类众多，数据标注工具不一。AIOS支持多种标注场景，覆盖文本、图片、音频和视频标注，支持人工标注、协同标注、智能标注等多种业务场景，极大提升数据标注效率。

支持多种建模方式，方便算法工程师快速构建复杂模型

支持交互式建模，内置Jupyter、VScode和Pycharm建模工具，方便算法工程师对代码进行调试；支持通过拖拉拽方式实现可视化建模，平台内置多种算法组件，极大降低建模门槛。

训练过程可视化，掌握训练进度及质量

深度学习模型训练周期较长，训练结束后才发现模型质量问题。借助AIOS，可以实现对训练过程实时监控并可视化训练过程，实时观测损失函数值的日志、训练误差或测试误差等。

动态分配 GPU 资源，充分利用资源，提高资源利用率

支持 GPU 资源细颗粒度调度能力，最低可划分1%资源。同时支持众多国产GPU算力。单一计算集群可以统一管理异构的多种GPU算力。

全面的集群监控管理，实时掌握 CPU/GPU 资源使用情况及运行状态

实时监控集群的使用情况，合理安排训练任务；及时发现运行中的问题，提高集群的可靠性。

方案优势概览