说明:收录25万 73个行业的国家标准 支持批量下载
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111538605.2 (22)申请日 2021.12.15 (71)申请人 湖南红普创新科技发展 有限公司 地址 410083 湖南省长 沙市岳麓区岳麓街 道溁左路中南大学科技园研发总部1 栋166房 (72)发明人 陈晓红 徐雪松 许冠英 胡东滨  郭泰彪  (74)专利代理 机构 深圳众鼎汇成知识产权代理 有限公司 4 4566 代理人 朱业刚 (51)Int.Cl. G06N 20/00(2019.01) G06K 9/62(2022.01) G06F 9/50(2006.01) (54)发明名称 新型联邦学习系统、 方法、 装置、 计算机设备 及存储介质 (57)摘要 本发明公开了一种新型联邦学习方法, 应用 于联邦学习领域, 用于在保证联邦学习数据安全 性的情况下, 提高联邦学习效率。 本发明提供的 方法包括: 获取用户指令和训练模型, 其中, 用户 指令和训练模型预先部署在第一边缘设备节点 上; 基于用户指令和训练模型生成训练任务样 本, 并采用动态虚拟协调服务器, 将训练任务样 本发送至第二边缘设备节点, 其中, 动态虚拟协 调服务器用于控制第一边缘设备节点和第二边 缘设备节点; 基于训练任务样本, 采用每个第二 边缘设备节点对第二边缘设备节点对应的本地 训练模型进行训练, 得到每个第二边缘设备节点 的模型参数; 基于所有模型参数, 第一边缘设备 节点对训练模 型进行聚合处理, 并根据处理得到 的模型更新训练模型。 权利要求书2页 说明书9页 附图2页 CN 114118447 A 2022.03.01 CN 114118447 A 1.一种新型联邦学习系统, 其特征在于, 所述新型联邦学习系统为虚拟化联邦学习系 统, 所述虚拟化联邦学习系统包括动态虚拟协调服务器、 至少两个边缘设备节 点, 所述动态 虚拟协调服务器用于控制所述边缘设备节点的指令接 收、 请求发送和节点选择, 所述边缘 设备节点用于进行参数传播、 模型聚合、 模型 更新。 2.一种联邦学习方法, 其特征在于, 所述联邦学习方法应用于权利要求1所述的新型联 邦学习系统, 包括: 获取用户指令和训练模型, 其中, 所述用户指令和所述训练模型预先部署在第一边缘 设备节点上; 基于所述用户指令和所述训练模型生成训练任务样本, 并采用动态虚拟协调服务器, 将所述训练任务样本发送至第二边缘设备节点, 其中, 所述动态虚拟协调服务器用于控制 所述第一 边缘设备节点和所述第二 边缘设备节点; 基于所述训练任务样本, 采用每个所述第 二边缘设备节点对所述第 二边缘设备节点对 应的本地训练模型进行训练, 得到每 个所述第二 边缘设备节点的模型参数; 基于所有所述模型参数, 所述第一边缘设备节点对所述训练模型进行聚合处理, 并根 据处理得到的模型 更新所述训练模型。 3.根据权利要求2所述的方法, 其特征在于, 在所述获取用户指令和训练模型的步骤之 前, 所述方法还 包括: 基于分布式散列表算法, 获取第一 边缘设备节点和第二 边缘设备节点。 4.根据权利要求2所述的方法, 其特征在于, 在所述基于所有所述模型参数, 所述第一 边缘设备节点对所述训练模型进 行聚合处理, 并根据处理得到的模型更新所述训练模型之 前, 所述方法还 包括: 基于动态虚拟协调服务器, 获取与所述第二边缘设备节点的相邻设备, 作为待传播设 备节点; 基于异步传播方式和所述训练任务样本, 采用每个所述待传播设备节点对所述待传播 设备节点对应的本地训练模型进行训练, 得到每 个所述待传播设备节点的模型参数。 5.根据权利要求2所述的方法, 其特征在于, 基于所述训练任务样本, 采用每个所述第 二边缘设备节点对所述第二边缘设备节点对应的本地训练模型进 行训练, 得到每个所述第 二边缘设备节点的模型参数的步骤 包括: 基于所述训练任务样本, 采用每个所述第 二边缘设备节点对所述第 二边缘设备节点对 应的本地训练模型进行训练, 并根据训练得到的结果更新所述本地训练模型; 根据更新后的所述本地训练模型和所述本地训练模型对应的模型年龄, 生成所述第 二 边缘设备节点对应的模型参数, 其中, 所述模型年龄是指所述本地训练模型进行训练的次 数。 6.根据权利要求5所述的方法, 其特征在于, 所述基于所有所述模型参数, 所述第一边 缘设备节点对所述训练模型进 行聚合处理, 并根据处理得到的模型更新所述训练模型的步 骤包括: 将所有模型年龄进行加权求和, 得到加权模型年龄; 基于所述加权模型年龄, 所述第一边缘设备节点对所述训练模型进行聚合处理, 并根 据处理得到的模型 更新所述训练模型。权 利 要 求 书 1/2 页 2 CN 114118447 A 27.根据权利要求2所述的方法, 其特征在于, 在所述基于所有所述模型参数, 所述本地 边缘设备节点对所述训练模型进 行聚合处理, 并根据处理得到的模型更新所述训练模型之 后, 所述方法还 包括: 基于梯度下降算法, 更新所述第一 边缘设备节点对应的训练周期和训练频率。 8.一种联邦学习装置, 其特 征在于, 包括: 数据获取模块, 用于获取用户指令和训练模型, 其中, 所述用户指令和所述训练模型预 先部署在第一 边缘设备节点上; 训练任务样本获取模块, 用于基于所述用户指令和所述训练模型生成训练任务样本, 并采用动态虚拟协调服务器, 将所述训练任务样本发送至第二边缘设备节点, 其中, 所述动 态虚拟协调服 务器用于控制所述第一 边缘设备节点和所述第二 边缘设备节点; 模型参数获取模块, 用于基于所述训练任务样本, 采用每个所述第二边缘设备节点对 所述第二边缘设备节 点对应的本地训练模型进行训练, 得到每个所述第二边缘设备节点的 模型参数; 模型聚合模块, 用于基于所有所述模型参数, 所述第一边缘设备节点对所述训练模型 进行聚合处 理, 并根据处 理得到的模型 更新所述训练模型。 9.一种计算机设备, 包括存储器、 处理器以及存储在所述存储器中并可在所述处理器 上运行的计算机程序, 其特征在于, 所述处理器执行所述计算机程序时实现如权利要求2至 7中任一项所述联邦学习方法的步骤。 10.一种计算机可读存储介质, 所述计算机可读存储介质存储有计算机程序, 其特征在 于, 所述计算机程序被处理器执行时实现如权利要求2至7中任一项 所述联邦学习方法的步 骤。权 利 要 求 书 2/2 页 3 CN 114118447 A 3

.PDF文档 专利 新型联邦学习系统、方法、装置、计算机设备及存储介质

文档预览
中文文档 14 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 新型联邦学习系统、方法、装置、计算机设备及存储介质 第 1 页 专利 新型联邦学习系统、方法、装置、计算机设备及存储介质 第 2 页 专利 新型联邦学习系统、方法、装置、计算机设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 23:17:41上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。