ZStack AIOS智塔AI平台

产品名称：

ZStack AIOS智塔AI平台

产品简介：

ZStack AIOS智塔AI平台是一款自主研发、产品化、标准化的新一代AI基础设施操作系统，专为希望利用AI技术推动业务发展的企业提供全方位支持。该平台以“AI”为 核心，通过创新的技术架构实现了对异构算力的有效整合与管理，降低了AI应用的成本，并通过优化模型生态进一步提高了AI应用的性能。同时，ZStack AIOS智塔平台引入了计量计费机制，使得AI服务变得更加自助化，有助于加速企业内部AI技术的应用与推广，从而打开更广阔的企业AI市场。

产品定位：

ZStack AIOS智塔AI平台定位于新一代AI基础设施操作系统，面向希望加速AI应用落地的企业客户。该平台通过整合算力层、模型层和运营层，实现了异构算力的有效管理和AI应用的成本优化，帮助企业克服AI技术应用中的障碍，提升AI应用的效率与普及度。

产品说明：

ZStack AIOS智塔AI平台是云轴科技ZStack于2024年8月6日正式发布的首个AI算力管理平台，是一款从“通用算力+云平台”转型为“AI算力+AIOS平台”的新一代 IT 基础设施。

作为新一代AI基础设施，AIOS平台通过算力层、模型层、运营层三大方向以AI为核心进行重构，解耦异构算力竖井降低AI应用成本；解构模型生态竖井优化AI应用性能；全域计量计费实现AI自服务化，加速企业AI渗透率，此外，该平台还支持从传统云平台平滑过渡至AI算力管理平台，并兼容多种云基础设施模块服务，确保用户能够获得详尽的产品文档和支持服务。

产品核心功能：

    a) GPU算力虚拟化：提供容器和云主机双引擎部署选项，确保高可用性和算力自动伸缩能力;平台支持GPU透传、并可灵活处理多卡加载和卸载；根据GPU型号支持SR-IOV和vGPU切割，同时在容器服务中提供显存的精细切分能力。

    b) GPU批量管理和智能监控：管理界面支持对物理GPU和vGPU的统一管理，提供硬件信息并能快速定位故障；具备实时监控、自定义告警及消息推送功能；支持GPU设备的分类、排序和检索，优化资源分配效率，多品牌GPU适配。

    c) 高性能文件存储：支持共享访问和 POSIX 兼容性，可优化 AI 模型训推性能，尤其在处理大规模数据集时能大幅提升响应和生成速度；标准接口可无缝集成各类 AI 开发框架，无需修改开发代码。

    d)  AI模型管理：对本地模型文件进行管理；可从本地或Huggingface/魔搭社区导入开源模型；支持模型共享。

    e)  AI模型管理：支持本地数据集管理，提供多种数据集添加途径。

    f)  AI模型推理：一键部署推理服务生成API服务，支持性能评测与报告生成，提供日志监控、LLM模型及服务性能评测，允许下载评测记录。

    g)  AI应用开发：支持本地部署多种开源LLMOps服务，实现 RAG知识库、多推理服务编排，生成最终AI应用和接口；提供多推理服务的编排策略、应用版本管理与发布功能。

产品亮点：

    a)   算力层--可从传统云平台平滑升级为智算云平台，管控开销低、运算资源可复用，最低仅需2节点，降低客户上算成本。

    b)  算力层--GPU是智算资源基础，兼容业界多品牌GPU，支持批量GPU资源调用、运维实时监控资源利用率，故障自愈。

    c)  模型层--提供一体化的AI训推、应用开发和运维运营体验，应用门槛低；支持上万种开源模型，支持微调为专有模型，在可落地性、安全性、成本之间找到平衡点。

    d)  模型层--支持海量数据集隐私安全管理、推理质量评估，本地AI数据资产管理。

    e)  模型层--提供模型部署与研发工具，轻松解决部署难题；支持模型精细化调整与评估，以及多卡共用加速，有效应对模型定制挑战和高性能需求。

    f)  运营层--提供AI算力管理功能，统一平台管理基于虚拟机、容器、裸金属创建的AI资源。

    g) 运营层--提供多租户管理，实现多个租户共享AI资源，同时保持各自的数据隔离、权限控制和计量计费。

产品参数：

适用场景：

    a)   模型训练场景--可为影视传媒、医疗、教育、泛政府、运营商、智算中心等不同领域的模型微调，提供从算力到行业训练数据集存储的全套服务。

    b)  模型推理场景--服务于各种AI应用的推理使用，通过云上AI算力服务提高推理效率。

    c)   AI模型应用落地场景--可本地实现RAG知识库应用搭建，支持多推理服务编排策略和插件集成，快速落地AI应用。

产品优势：

    a) 企业转型门槛低、建设快

ZStack AIOS智塔AI平台为降低用户的入门门槛，支持最少两个节点即可进行轻量级部署，小型项目或初创公司也能快速启动AI基础设施。此外，平台支持从传统的云计算平台一键升级至AIOS智塔平台，继承原平台使用习惯，用户可在短时间内入门AI。

    b) 极致性价比、省成本、性能强

ZStack AIOS智塔AI平台通过支持GPU的动态切分技术，允许用户根据实际需求灵活调配计算资源，避免了固定配置可能导致的资源浪费，在提升系统的整体性能的同时，还帮助用户有效的控制了运营成本。

    c) 全链路服务、一站式体验

ZStack AIOS智塔AI平台提供覆盖AI资源生命周期各个环节，包括但不限于AI数据管理、模型训练与推理、应用开发以及后续的运维运营，减少了因不同工具间的切换而造成的效率损失。

    d) 安全可信的数据管理与保障

针对数据安全和个人隐私保护的需求，ZStack AIOS智塔AI平台提供了数据本地化管理功能，确保敏感信息不会轻易外泄。同时，采用了文件级别的数据隔离技术来加强内部信息安全。除此之外，平台还配备了高可用性和灾难恢复服务，确保在面对意外情况时，用户的关键业务能够持续运行不受影响。

产品规格：

a)  智算版：

Ø       提供计算、网络、存储虚拟化能力；

Ø       提供GPU统一监控运维能力。

b) AI服务模块：

Ø       提供模型仓库管理能力；

Ø       提供数据集管理能力；

Ø       提供模型精调能力；

Ø       提供模型推理服务能力；

Ø       提供GPU训推算力管控能力。

c) AI云原生模块：

Ø       提供云原生能力，实现超精度GPU虚拟化技术；

Ø       提供多集群管理、容器编排能力；

Ø       提供应用市场对接第三方AI应用能力。

d) 租户管理模块：

Ø       提供云平台租户管理能力；

Ø       提供组织架构管理能力；

Ø       提供工单审批能力；

Ø       提供权限管理能力。