(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211279030.1 (22)申请日 2022.10.19 (71)申请人 哈尔滨工业大 学 （深圳） （哈尔滨工 业大学深圳科技创新研究院） 地址 518000 广东省深圳市南 山区桃源街 道深圳大 学城哈尔滨工业大 学校区 (72)发明人 高翠芸　陈玉盼　肖京　王轩　 王磊　廖清　赵盟盟　文昕成　 (74)专利代理 机构 深圳市添源创鑫知识产权代 理有限公司 4 4855 专利代理师 姜书新 (51)Int.Cl. G06F 21/57(2013.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种用于代码漏洞检测的全局信息感知图 神经网络系统 (57)摘要 本发明提供了一种用于代码漏洞检测的全 局信息感知图神经网络系统， 包括关系代码表示 模块和全局信息感知模块； 关系代码表示模块在 图卷积神经网络信息聚合过程中添加边类型信 息， 用边类型信息丰富节点特征表示， 并使用注 意力机制增强节点特征； 全局信息感知模块在图 卷积神经网络中使用大核卷积和小核卷积分别 提取代码属性图中的全局特征和局部特征， 学习 更抽象高级的图表征用于代码漏洞分类。 本发明 的有益效果是： 本发明能缓解传统图神经网络难 以有效捕获大图图表征的缺陷， 有效地学习代码 量大的函数的代码属性图的向量表示并提升漏 洞检测的准确率和F1指标。 权利要求书3页 说明书4页 CN 115357909 A 2022.11.18 CN 115357909 A 1.一种用于代码漏洞检测的全局信息感知图神经网络系统， 其特征在于， 包括关系代 码表示模块和全局信息感知模块； 关系代码表示模块在图卷积神经网络信 息聚合过程中添加边类型信 息， 用边类型信 息 丰富节点特 征表示， 并使用注意力机制增强节点特 征； 全局信息感知模块在图卷积神经网络中使用大核卷积和小核卷积分别提取代码属性 图中的全局特 征和局部特征， 学习更抽象高级的图表征用于代码漏洞分类。 2.根据权利要求1所述的全局信 息感知图神经网络系统， 其特征在于， 所述关系代码表 示模块由 层组成， 每一层包括三个子层， 三个子层分别是： 关系图卷积神经网络子层、 多 头注意力子层、 前馈神经网络 子层。 3.根据权利要求2所述的全局信 息感知图神经网络系统， 其特征在于， 在 关系代码表示 模块， 代码属性图 ， 其中V表示节点集合， ， n为代码属性图中节点数量； E 表示边集合， R表示边类型集合； 使用Word2Vec模型对节点向量表示进行初始化： ， 其 中 表示任一节点 的初始化节点向量表示， 为向量维度； 源节点 和目的节点 之间的 边用三元组 表示， 其中 表示边类型； 在第 层中， 先通过关系图卷积神经网络 子层更新节点表示， 公式如下： 其中， 是以节点 为目的节点且边的类型为 的源节点的集合， 是节点 对于边 类型 的归一化常数， 可在训练中学习得到； 、 分别是关系代码表示模块第 层 获得的节点 和节点 的向量表示， 和 是可训练参数矩阵， 表示非线性激活函数， 表示经过第 层关系图卷积神经网络 子层更新后的节点 的节点向量表示。 4.根据权利要求3所述的全局信 息感知图神经网络系统， 其特征在于， 中聚合了邻域 节点和边类型 的信息， 通过多头注意力子层进一步提取代码属 性图中的高级特征， 公式如 下： 权　利　要　求　书 1/3 页 2 CN 115357909 A 2其中， 表示节点 对节点 的注意力系数， 和 分别是由 和 切分成 份后的第 部分向量， 表示多头注意力机制的头数， 表示每个头的向量维 度； 表示softmax激活函数； 表示节点 的邻居节点集合， 表示第 层中第 个头的权重矩阵， 表示将多个头计算的向量拼接起来， 表示第 层节点 的初始 输入向量， 表示经过第 层多头注意力子层更新后的节点 的节点向量表示。 5.根据权利要求4所述的全局信 息感知图神经网络系统， 其特征在于， 在 关系代码表示 模块， 在经 过 正则化后， 被约束在[ ‑10,10]以保持数值的稳定性。 6.根据权利要求4所述的全局信 息感知图神经网络系统， 其特征在于， 多头注意力 子层 获得的输出 进一步输入到前馈神经网络 子层中： 其中， 作为第 层节点 的输出， 作为关系代码表示模块中第 层的输入； 、 表示可训练的参数矩阵， 表示正则化； 表示 中第p个特征维度的值， 表示同一 个代码属性 图中所有节点第p个特征维度的平均值， 、 和 是可学习的参数， 和 用 于线性变换， 决定了图神经网络在导出的平均值中保留信息所需的权 重大小。 7.根据权利要求2至6任一项所述的全局信息感知图神经网络系统， 其特征在于， 全局 信息感知模块在图卷积神经网络中使用大核卷积和小核卷积分别提取代码属 性图中的全 局特征和局部特征， 公式如下： 其中， 是全局信息感知模块的输入， 表示将关系表示模 块最后一层所 有节点的向量表示 拼接起来获得整个图的向量表示； 表示卷积核为1的卷积操作，权　利　要　求　书 2/3 页 3 CN 115357909 A 3