镜像预热功能说明

一、概述

镜像预热功能支持将指定镜像从镜像仓库提前同步至集群 harbor 分站或集群内相应节点的本地缓存。当弹性服务部署任务启动或触发弹性扩容时，可直接从集群 harbor 分站或集群内节点本地缓存加载镜像，避免从远端拉取，提升启动性能并优化扩容响应时间。

二、适用场景

镜像预热功能紧密适配弹性部署服务场景，核心优势集中在加速业务启动、应对弹性扩容、适配灵活业务需求等方面：

1. 减少镜像拉取等待，应对流量高峰：提前将镜像推送至目标节点，可以减少部署和扩容时从远端拉取镜像的耗时。AI 推理服务还应提前准备模型文件，并验证模型加载完成后的实际可用时间。
2. 适配灵活业务场景：系统提供的镜像预热并非单一功能，而是与弹性扩缩容等能力形成协同。比如对应弹性扩容，在镜像预热基础上，能够通过整合分散在不同地点的计算资源，实现资源虚拟化按需分配，满足用户在不同地域、不同部署环境下的动态扩展需求，同时提升了整体运维效率。
3. 操作适配性强，降低使用门槛：从使用体验来看，用户可提前联系平台完成镜像到节点的预热操作，流程简洁直接。这种适配其弹性部署服务的专属预热支持，无需用户部署复杂的额外组件，对于租用系统提供的计算资源开展业务的用户来说，能快速上手使用，减少了镜像管理的技术成本，尤其适合非专业运维人员的使用需求。

三、功能限制

本功能属于邀测阶段，如需使用邀测功能，请联系客户经理

四、演示流程

以下流程用于演示镜像预热功能的典型使用过程：

1、在弹性部署服务页面新增镜像预热功能。

• 点击“创建预热任务”按钮创建镜像预热任务。

• 填写预热任务名称
• 选择自定义镜像
• 选择预热方式：“预热到集群”（需要选择集群）或“预热到节点”（以下流程适用）

• 选择集群和 GPU 卡型
• 按需勾选是否开启跨区域调度
• 填写期望节点数量
  1. 期望节点数可以限制关联的弹性部署服务或 Job 批处理任务使用的总节点数（其和不得超该数量）。
  2. 调整期望节点数时，不能低于正在运行的任务总节点数。
  3. 部署任务时，实际使用已完成预热的节点可以减少镜像拉取等待；超出预热范围的节点仍可能需要拉取镜像。

点击“确认”，生成一条新的镜像预热任务。

2、镜像预热任务进行

等待一段时间后（后台需要下载镜像，下载时间跟镜像大小有关。测试一个 20GB 的镜像大约需要 30 分钟，实际需要时间取决于当时网络情况，可能时间会更长），预热状态变为“预热中”。通过“节点预热状态”可以观察预热进度。其中，“使用中 / 可用 / 期望值”分别表示已使用该预热镜像部署任务的节点数、可继续使用该预热镜像部署的节点数、期望预热节点数。

随着预热任务进行，“可用”节点数会逐渐增加，直到达到期望值。

3、使用该预热镜像创建新的弹性部署服务任务

对预热中的镜像，可以使用该镜像在预热所选区域创建新的弹性部署服务任务。在“扩缩容策略”的节点数配置不超过“可用”节点数且实际调度到已完成预热的节点时，可以减少镜像下载等待。服务何时可接收请求，还取决于容器初始化、模型加载和健康检查结果。

此时预热任务的“节点预热状态”中的“使用中”节点数会相应更新。

4、修改节点数

当您需要增加或减少镜像预热任务节点数时，可以通过预热任务“操作”栏中的“修改节点数”按钮修改期望预热节点数。

5、删除任务

当您不再需要该镜像预热任务时，可以通过预热任务“操作”栏中的“删除任务”按钮删除该任务。