华为云AI开发平台ModelArts自动扩缩容_云淘科技

自动扩缩容,用户可以设置合理的弹性伸缩策略,在高、低峰时间段自动对实例进行扩容或缩容的操作,进而提高资源的利用率。

前提条件

服务状态处于“运行中”、“异常”和“告警”,才能执行扩缩容操作。

约束限制

公共资源池部署的在线服务不支持自动扩缩容。
服务处于“停止”、“异常”、“部署中”状态,以及正在扩缩容时,不允许扩缩容。
至少配置一条策略规则。

操作步骤

登录ModelArts管理控制台,在左侧导航栏中选择“部署上线 > 在线服务”,默认进入“在线服务”列表。
单击服务名称前面的复选框,展开列表页面底部的延展视图(未展开延展视图时,可单击页面底部浮层区域或右下角展开)。
单击目标AI应用版本操作列中的“扩缩容”,进入服务“扩缩容”页面。

图1 扩缩容

完成参数配置。服务名称、当前AI应用版本、资源池、AI应用及版本、计算节点规格参数不支持修改。

是否自动停止:若部署服务开启了自动停止功能,则会显示该字段,服务将在指定时间后自动停止,可单击“这里”修改自动停止时间。

扩缩容类型选择“自动”,页面将展开扩缩容策略的配置窗口,您可以设置扩缩容策略和重置扩缩容策略。

设置扩缩容策略

设置扩缩容,配置参数如下:

表1 策略配置参数

参数名称

说明

策略名称

配置伸缩策略的名称。支持1-64位可见字符,只能由小写字符、数字、“-”或“.”组成,且必须以字母或数字开头或结尾。

规则类型

定时触发:设置定时策略规则,定时触发扩缩容。

调度规则:支持查看、添加、删除,以及设置是否启用。

查看规则

在调度规则列表,您可以查看规则包括规则名称、状态、规则类型、触发条件、目标实例数、是否启用、操作等信息。

当前支持的规则状态包括:创建中、配置成功、配置失败、执行成功、执行失败。规则已完成配置,但尚未触发时,状态为“配置成功”。若达到触发条件,完成扩缩容动作,则状态为“执行成功”。若服务在停止状态下,创建规则,状态会显示创建中,启动服务后规则自动配置成功。

若调度规则的状态一直为“创建中”,可能由于资源池版本过低导致,请联系华为工程师解决。

添加规则

单击“添加”,弹出添加规则弹窗,完成参数配置后,单击“确认”。

规则配置参数如下表:

表2 规则配置参数(定时触发)

参数名称

说明

规则名称

只能由小写字母、数字、“-”或“.”组成,且必须以字母或数字开头和结尾。规则名称不能重复。最多支持20个字符。

目标实例数

设置扩缩容的目标实例数。

触发时间

选择规则触发时间,执行频率包括:每天、每周、每月和corn表达式。触发时间基于节点所在时区计算。corn表达式设置规范请参考corn表达式。

您最多可增加10个规则。

删除规则

单击调度规则列表“操作”列中的“删除”,即可删除当前行调度规则。

是否启用规则

单击策略规则列表“是否启用”列开关,开启或关闭当前行调度规则。关闭后,规则将不会生效。

重置扩缩容策略

单击策略名称右侧的“重置”按钮,重置自动扩缩容策略,重置后将清空现在的自动扩缩容名称和规则。

单击“确认”后,服务会根据设置的伸缩策略进行自动扩缩容。

corn表达式

通过设置cron表达式,触发自动扩缩容。corn表达式由5个时间字段组成:分钟 小时 日 月 星期,如“30 10 15 * *”表示每月15日上午10:30触发,请根据当地时区进行设置。

图2 corn表达式语法

时间参数说明

表3 时间参数说明

名称

可选值

可选特殊字符

0-59

* , – /

小时

0-23

* , – /

1-31

* , – /

1-12 或 JAN-DEC

* , – /

星期

0-6 或 SUN-SAT

* , – /

特殊符号说明

表4 特殊符号说明

特殊符号

说明

通配符(*)

代表任意值,例如:0 0 1 * * 代表每月1号的0点整。

逗号(,)

用于分隔列表项。例如:0 12,16 * * * 代表每天的12:00 和16:00。

连字符(-)

代表一段取值范围。例如: 0 12-16 * * * 代表每天的12:00到16:00。

斜杠(/)

代表范围增量,例如: */10 * * * * 代表每小时的 0分、10分、20分、30分、40分和40分。斜杠可以和连字符配合使用,例如 3-59/15 * * * * 代表每小时从3分到59分钟之间,每隔15分钟取一个值,有效时间点可以是 0:03,0:18,0:43,0:58。

父主题: 扩缩容

同意关联代理商云淘科技,购买华为云产品更优惠(QQ 78315851)

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家