(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211270263.5 (22)申请日 2022.10.18 (71)申请人 安徽大学 地址 230601 安徽省合肥市经济技 术开发 区九龙路1 11号 (72)发明人 陈晓静　卢兴波　 (74)专利代理 机构 合肥国和专利代理事务所 (普通合伙) 34131 专利代理师 吴娜 (51)Int.Cl. G06N 10/60(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于傅里叶变换的点击率预测方法 (57)摘要 本发明涉及一种基于傅里叶变换的点击率 预测方法， 包括： 得到特征嵌入向量的组合e； 将 特征嵌入向量的组合e输入深度神经网络， 输出 第一个预测值； 得到第二个预测值； 进行傅里叶 变换， 去除当中的噪声频率的信号， 留下有效信 号输入到深度神经网络中处理得到第三个预测 值； 最后将第一个预测值、 第二个预测值和第三 个预测值进行相加， 利用激活函数进行处理得到 最终的预测值， 以此来预测用户是否会点击该条 信息。 本发 明采用傅里叶变换能将时域信号转换 到频域中进行处理， 在频域中将噪声频率过滤 掉， 留下有效的信号频率； 本发明减少了在深度 神经网络中的信息损失， 充分挖掘了信息， 能够 提高用户的点击率预测。 权利要求书2页 说明书6页 附图2页 CN 115545211 A 2022.12.30 CN 115545211 A 1.一种基于傅里叶变换的点击率预测方法， 其特 征在于： 该 方法包括下列顺序的步骤： (1)首先将用户浏览的每一条信息所包含的所有属性特征转换成特征嵌入向量， 得到 特征嵌入向量的组合e； (2)将特征嵌入向量的组合e输入深度神经网络， 深度神经网络包含多层神经网络， 每 一层神经网络 输出一个隐向量， 最后一层神经网络 输出第一个预测值； (3)将深度神经网络中输出的每一个隐向量输入到注意力 机制模块中得到第 二个预测 值； (4)同时， 把用户浏览的每一条信息所包含的所有属性特征看成数字信号， 直接进行傅 里叶变换， 去除当中的噪声频率的信号， 留下有效信号输入到深度神经网络中处理得到第 三个预测值； (5)最后将第 一个预测值、 第二个预测值和第三个预测值进行相加， 利用激活函数进行 处理得到最终的预测值， 以此来预测用户是否会点击该 条信息。 2.根据权利要求1所述的基于傅里叶变换的点击率预测方法， 其特征在于： 所述步骤 (1)具体是指： 用户浏览的每一条信息包含多个属性特征， 将所有的属性特征 组合在一起组 成一个特征序列， 对于这个特征序列中的第i个特征xi∈R， 首先将xi转换成独热编码向量 vi， 其中， ni为第i个特征包含的种类数即第i个特征的独热编码向量的维数， 通过式(1)得到第i个特 征嵌入向量ei： ei＝Wemb,ivi         (1) 其中， ei∈Rk， 为第i个特 征的嵌入矩阵， k 为特征嵌入向量的维数； 最后将所有特 征嵌入向量串联在一 起得到特 征嵌入向量的组合e， 如下式所示： e＝{e1,e2,e3…,ei,…}         (2)。 3.根据权利要求1所述的基于傅里叶变换的点击率预测方法， 其特征在于： 所述步骤 (2)具体是指： 将特征嵌入向量的组合e作为深度神经网络的输入， 深度神经网络包含多层 神经网络， 每一层神经网络 输出一个隐向量， 由公式(3)计算得到第一个隐向量h1： h1＝f(W0e+b0)       (3) 其中， h1∈Rd， d为输出维数， f(.)为激活函数， 为权重矩阵， d0为特征嵌入 向量的组合e的维数， b0∈Rd为偏移； 然后通过公式(4)使用残差网络得到第二个隐向量h2： h2＝f(W1h1+b1)+h1          (4) 其中， h2∈Rd， W1∈Rd×d为权重矩阵， b1∈Rd为偏移； 以此类推， 最后通过公式(5)得到最后一个隐向量hl： hl＝f(Wl‑1hl‑1+bl‑1)+hl‑1        (5) 其中， hl∈Rd， 其中Wl‑1∈Rd×d为权重矩阵； 最后通过深度神经网络 输出第一个预测值yH： 其中， WH∈Rd为权重矩阵， bH∈R为偏移。 4.根据权利要求1所述的基于傅里叶变换的点击率预测方法， 其特征在于： 所述步骤权　利　要　求　书 1/2 页 2 CN 115545211 A 2(3)具体是指： 在注意力机制模块中， 首先将深度神经网络中输出的每一个隐向量作为输 入， 通过公式(7)得到每一个隐向量注意力分数ai： 其中， 为权重矩阵， 为权重矩阵， 为偏移， da为注意力层 维度； hi为深度神经网络中输出的第i个隐向量； 然后通过Softmax函数获得每一个隐向量注意力权 重系数： ai′＝Softmax(ai) (8) 接着将每一个隐向量注意力权 重系数和每一个隐向量进行运 算得到中间向量ha： 其中， ha∈Rd， 然后将中间向量ha输入到深度神经网络得到第二个预测值yA： yA＝WATha+bA        (10) 其中， WA∈Rd为权重矩阵， bA∈R为偏移。 5.根据权利要求1所述的基于傅里叶变换的点击率预测方法， 其特征在于： 所述步骤 (4)具体是指： 将用户浏览的每一条信息所包含的所有属性特征的看成一个数字信号， 这个 数字信号中会有噪声信号， 通过离 散傅里叶变换DFT将时域的信号 转换成频域信号： 得到频域信号 dE为频域信号的维数， 然后过滤噪音频率， 得到 去除掉噪声频率的信号Ef： Ef＝WfE          (12) 其中， 为权重矩阵， 然后通过逆离散傅里叶变换IDFT将频域信号转 换为时域信号： 得到时域数字信号 dh为时域数字信号的维数； 然后通过深度神经网络得到第三个预测值yF： 其中， 为傅里叶变换层的权 重矩阵， bF∈R为傅里叶变换层的偏移。 6.根据权利要求1所述的基于傅里叶变换的点击率预测方法， 其特征在于： 所述步骤 (5)具体是指： 将第一个预测值、 第二个预测值和第三个预测值进行相加， 输入到激活函数 sigmod中得到最终的预测值 权　利　要　求　书 2/2 页 3 CN 115545211 A 3