(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211442766.6 (22)申请日 2022.11.18 (71)申请人 合肥综合 性国家科 学中心人工智能 研究院 （安徽省人工智能实验室） 地址 230000 安徽省合肥市高新区望江西 路5089号， 中国科学技术大学先进技 术研究院未来中心B120 5-B1208 (72)发明人 郑烇　李峥　李江明　陈双武　 杨坚　杨锋　 (74)专利代理 机构 合肥天明专利事务所(普通 合伙) 34115 专利代理师 金凯　谢中用 (51)Int.Cl. H04L 67/60(2022.01) H04L 67/133(2022.01)H04L 67/1008(2022.01) G06N 3/08(2006.01) G06N 3/04(2006.01) (54)发明名称 一种基于时空图神经网络负载预测的微服 务主动伸缩方法 (57)摘要 本发明涉及云计算领域领域， 公开了一种基 于时空图神经网络负载预测的微服务主动伸缩 方法， 引入了时空图神经网络进行工作负载预 测， 更好地体 现了微服务场景下不同微服务之间 的空间联系， 因此能够做出更加准确的预测； 基 于对工作 负载的准确预测， 能通过微服务伸缩决 策更好地在微服务占用的计算资源和提供的服 务质量之间取得平衡 。 权利要求书1页 说明书7页 附图3页 CN 115499511 A 2022.12.20 CN 115499511 A 1.一种基于时空图神经网络负载 预测的微 服务主动伸缩方法， 包括以下步骤： 步骤一、 对微 服务架构进行建模： 整个微服务架构共包含N个微服务， 微服务的集合 ， 第i个微服务 的属性表示为 ； 其中， 表示微服务 的工作负 载， 表示微服务 的计算资源， 表示微服务 的服务质量； 各微服务之间存在固 定的调用关系， 调用关系的集合 ， ； 其中调用关系 表示微服务 对微服务 的调用关系， 微服务 的工作负载发生改变时， 调用关系 会使微服务 的 工作负载发生改变； 步骤二、 微 服务工作负载 预测： 构建并训练一个由GAT网络和GRU网络组成的时空图神经网络， 记为GAT ‑GRU网络； GAT‑GRU网络中， 输入包括输入数据 和调用关系集合 ， 其中 代表输入 数据的时间序列长度， 代表微服务的个数； 代表微服务工作负载的特征个数， 微服务工 作负载的特征包括微服务的CPU占用率和内存占用率； 输入数据首先通过一个GAT层GAT ‑1 的处理， 然后将GAT ‑1输出的隐藏状态输入到 GRU层中， 再将GRU层输出的 隐藏状态 通过另一 个GAT层GAT ‑2处理后作为下一个时序的GRU层的输入， 最后将每一个时序的GRU输出的隐藏 状态合并， 并经过一个预测层处理， 最后输出所需的预测数据 ； 其中 代表 预测数据的时序长度； 步骤三、 微 服务水平伸缩决策： 采用DDPG模型来基于微 服务工作负载的预测决定每 个微服务是否进行伸缩； DDPG模型的环境状态包括从预测数据中得到的每个微服务的资源占用情况和服务质 量情况； 资源占用情况包括微服务的CPU占用率、 内存占用率和工作副本个数； 服务质量情 况包括微服务的平均请求响应时间； DDPG模型的动作集包括对每个微服务进行缩容、 维持或者扩容； 当动作值大于1时进行 扩容， 工作副本数量为动作值向下取整； 当动作值小于 ‑1时进行缩容， 工作副本数量为动作 值向上取整； 当动作值在 ‑1和1之间时维持微 服务工作副本数量 不变； DDPG模型的奖励为每个微服务CPU平均占用率、 内存平均占用率和归一化后的请求响 应时间的加权平均的倒数。权　利　要　求　书 1/1 页 2 CN 115499511 A 2一种基于时空图神经 网络负载预测的微服务主动伸缩方 法 技术领域 [0001]本发明涉及云计算领域领域， 具体涉及一种基于时空图神经网络负 载预测的微服 务主动伸缩方法。 背景技术 [0002]随着网络服务的快速发展， 网络应用服务商所提供的服务越来越复杂， 功能越来 越多， 同时业务也在快速扩展迭代。 在这种趋势下， 微服务架构 应运而生。 在微服务架构中， 整个网络应用程序被拆分成若干个微服务， 微服务之间相互独立， 只通过网络请求调用其 它微服务获取所需信息。 相比于传统网络应用， 微服务架构实现了应用模块化， 具有 更高的 可扩展性、 容错性和可维护性。 在云数据中心中， 为了使微服务能提供更好的服务质量， 为 其分配的计算资源应该越多越好， 但分配过多的计算资源会导致资源利用率过低， 从而产 生资源浪费。 因此， 数据中心必须为微服务提供高效的弹性伸缩方案， 以在 满足他们的服务 质量要求的同时尽量提高计算资源的利用率以降低自身的运营成本。 因此微服务的动态资 源调度受到了学术界和工业界的极大关注， 而微服务的自动弹性伸缩则是其具体实现方 式。 目前进 行弹性伸缩的方案主要分为两类： 一类是基于阈值的反应式算法， 另一类是基于 预测的主动式算法。 反应式算法如SmartVM等只能在工作负载变化已经发生时做出反应， 因 此具有滞后性， 在工作负载变化较快时容易产生抖动， 频繁地伸缩造成不必 要的开销。 主动 式算法如HANS EL等较为依赖对工作负载预测的准确性。 现有的预测算法主要基于回归理论 或传统神经网络， 只能根据微服务工作负载 的历史时间序列进行预测， 无法体现微服务之 间的空间联系。 因此需要一种能同时体现微服务工作负载时间联系和空间联系的模型来进 行预测， 然后基于 工作负载 预测进行微 服务的弹性伸缩。 发明内容 [0003]为解决上述技术问题， 本发明提供一种基于时空图神经网络负 载预测的微服务主 动伸缩方法， 通过对微服务占用计算资源的伸缩调度， 在尽可能地保证它们的服务质量的 同时， 提高计算资源的利用率以降低云计算中心的运行成本 。 [0004]为解决上述 技术问题， 本发明采用如下技 术方案： 一种基于时空图神经网络负载 预测的微 服务主动伸缩方法， 包括以下步骤： 步骤一、 对微 服务架构进行建模： 整个微服务架构共 包含N个微服务， 微服务的集合 ， 第i个微服务 的属性表示为 ； 其中， 表示微服务 的工作负载， 表示微服务 的计算资源， 表示微服务 的服务质量； 各微服务之间存在固定的调用关系， 调用关系的集合 ，说　明　书 1/7 页 3 CN 115499511 A 3