(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111555002.3 (22)申请日 2021.12.17 (71)申请人 大连理工大 学 地址 116024 辽宁省大连市高新园区凌工 路2号 申请人 深圳市洞见智慧科技有限公司 (72)发明人 吴铭侃　王湾湾　王波　黄一珉　 付海燕　何浩　 (74)专利代理 机构 大连东方专利代理有限责任 公司 21212 代理人 李馨 (51)Int.Cl. G06F 21/60(2013.01) G06F 21/62(2013.01) G06N 20/00(2019.01) (54)发明名称 一种基于纵向联邦学习的数据回归方法及 电子装置 (57)摘要 本发明提供一种基于纵向联邦学习的数据 回归方法及电子装置。 方法包括： 第一客户端和 第二客户端分别由本地数据库 读取训练数据， 初 始化本地模 型参数； 第一客户端和第二客户端分 别计算各自的指数数据， 所述第二客户端基于公 钥将自身计算的指数数据加密后发送至第一客 户端； 第一客户端计算得到加密后数据特征梯度 的部分表达式； 所述第一客户端和第二客户端分 别得到各自本地回归模型的的梯度， 并对梯度加 上噪声掩码然后发送给服务器端解密； 服务器端 对第一客户端和第二客户端发送的梯度数据进 行解密并发回第一客户端和第二客户端分别对 梯度去噪得到原始梯度， 利用新的梯度更新模型 参数， 得到新 一轮的模型参数。 权利要求书2页 说明书6页 附图1页 CN 114186263 A 2022.03.15 CN 114186263 A 1.一种基于纵向联邦学习的数据回归方法， 其特征在于， 应用于分布式网络系统， 所述 分布式网络系统包括一个第一客户端、 至少一个第二客户端以及一个服务器端， 其中第一 客户端持有数据标签， 第二 客户端不持有数据标签， 服 务器端无 数据； 所述方法包括以下步骤： 服务器端生成公钥和私钥， 并通过网络将相同的同态加密公钥发送至第 一客户端和第 二客户端； 所述第一客户 端和第二客户端分别由本地数据库读取训练数据， 初始化本地模型参 数， 并将数据划分为训练batc h； 对于每一个batch， 所述第一客户端和第二客户端分别计算各自的指数数据， 所述第二 客户端基于公钥将自身计算的指数 数据加密后发送至第一 客户端； 第一客户端根据自身数据及标签， 以及第 二客户端发送的加密后的指数数据计算得到 加密后数据特征梯度的部分表达式gr adient_part， 所述第一客户端基于公钥将加密后数 据特征梯度的部分表达式发送至第二 客户端； 所述第一客户端和第二客户端使用gradient_part乘以自身数据分别得到各自本地回 归模型的的梯度， 并对梯度加上噪声掩码然后发送给服 务器端解密； 所述服务器端根据由公钥查找得到的私钥， 分别对第 一客户端和第 二客户端发送的梯 度数据进行解密， 得到加噪后的原 始梯度并发回给第一 客户端和第二 客户端； 第一客户端和第 二客户端分别对梯度去噪得到原始梯度， 利用该原始梯度更新模型参 数， 得到新 一轮的模型参数。 2.根据权利要求1所述的一种基于纵向联邦学习的数据回归方法， 其特征在于， 方法还 包括： 第一客户端根据联邦加密条件下的损失函数计算式计算得到加密后的损失值， 并发送 给服务器端进行解密， 根据损失函数值和训练轮数， 判断是否停止训练。 3.根据权利要求1或2所述的一种基于纵向联邦学习的数据回归方法， 其特征在于， 所 述第一客户端和第二数据端的本地模型为twe edie回归 模型。 4.根据权利要求3所述的一种基于纵向联邦学习的数据回归方法， 其特征在于， 所述损 失函数根据以下计算获得： 其中， L为损失函数， p为回归指数参数， y为数据标签， 为第一客户端计算得到的 第一指数参数， 为第二客户端计算得到 的第一指数参数， 为第一客户端计算 得到的第二指数参数， 为第二客户端计算得到的第二指数参数， []表示数据加密。 5.根据权利要求4所述的一种基于纵向联邦学习的数据回归方法， 其特征在于， 根据以 下计算求取梯度数据：权　利　要　求　书 1/2 页 2 CN 114186263 A 2设第一客户端持有数据xa和y， 第二 客户端持有数据xb， 则： 抽取出一致的部分： 令 则： 。 6.一种电子装置， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器通过所述计算机程序运行执行所述权利要求 1至 5中任一项权利要求所述的方法。权　利　要　求　书 2/2 页 3 CN 114186263 A 3