全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210718298.4 (22)申请日 2022.06.23 (71)申请人 阿里巴巴 (中国) 有限公司 地址 311121 浙江省杭州市余杭区五常街 道文一西路969号3幢5层5 54室 (72)发明人 洪邈 高婷 曹秀荣  (74)专利代理 机构 北京成创同维知识产权代理 有限公司 1 1449 专利代理师 刘静 (51)Int.Cl. G01W 1/02(2006.01) G01W 1/10(2006.01) G06F 16/22(2019.01) G06F 16/23(2019.01) G06F 16/2455(2019.01) (54)发明名称 气象数据质检方法及系统 (57)摘要 提供一种气象数据质检方法及系统。 该方法 方包括: 在流处理引擎中执行内容校验程序, 所 述内容校验程序包括: 获取指定类型的气象数据 以及对应的一个或以上的内容校验规则; 基于一 个或以上的内容校验规则获取一个或以上的数 据校验算子和每个数据校验算子的优 先级; 按照 优先级排序调用一个或以上的数据校验算子; 汇 总并输出一个或多个数据校验算子的执行结果。 本公开上述实施例利用流处理引擎将校验程序 发布在流处理引擎中运行, 以便气象数据作为数 据量直接进行计算, 减去中间的数据库等环节, 从而加快计算的时效性和降低存 储成本。 权利要求书2页 说明书12页 附图4页 CN 115220131 A 2022.10.21 CN 115220131 A 1.一种气象数据质检方法, 包括: 在流处理引擎中执行内容校验程序, 所述内容校验程 序包括: 获取指定类型的气象数据; 获取与所述指定类型的气象数据对应的一个或以上的内容校验规则; 基于所述一个或以上的内容校验规则获取预定义的一个或以上的数据校验算子和每 个数据校验算子的优先级; 按照优先级排序调用所述一个或以上的数据校验算子, 所述一个或以上的数据校验算 子用于根据对应的内容校验规则校验所述指定类型的气象数据; 汇总并输出 所述一个或多个数据校验算子的执 行结果。 2.根据权利要求1所述的气象数据质检方法, 所述获取指定类型的气象数据包括: 从指定消息队列获取气象数据更新事 件; 以及 根据所述气象数据更新事 件下载所述指定类型的气象数据文件。 3.根据权利要求1或2所述的气象数据质检方法, 还包括: 将气象数据中不同分辨率下 的气象要素值 转换到同一分辨 率下。 4.根据权利要求1或2所述的气象数据质检方法, 其中, 所述一个或以上的内容校验规 则包括以下规则中的至少一种: 界限值检查、 极值检查、 气象要素相关一致性检查、 空间相 关性检查、 时间序列检查, 则所述一个或以上 的数据校验算子包括以下算子中的至少一个 算子: 界限值检查算子、 极值检查算子、 气象要素一致性检查算子、 空间相关性检查算子和 时间序列检查 算子。 5.根据权利要求1所述的气象数据质检方法, 还包括: 在所述流处理引擎中执行文件超 时监测程序, 所述文件 超时监测程序包括: 获取时间监测规则, 所述时间监测规则指示多种类型的气象数据的更新时间; 基于所述时间监测规则获取 预定义的一个或以上的时间监测算子; 调用所述一个或以上的时间监测算子, 所述一个或以上的时间监测算子用于监测所述 多种类型的气象数据是否按时到 达; 汇总并输出 所述一个或以上的时间监测算子的执 行结果。 6.根据权利要求5所述的气象数据质检方法, 其中, 所述一个或以上的时间监测算子执 行以下校验中的至少一种: 当监测到相应的气象数据文件的更新时间超过限定时间 间隔, 则报告超时; 当监测到设定时间点相应的气象数据文件尚未到 达, 则报告超时。 7.根据权利要求1所述的气象数据质检方法, 其中, 同一优先级的数据校验算子并行执 行。 8.根据权利要求1所述的气象数据质检方法, 其中, 所述调用所述一个或以上的数据校 验算子包括: 所述内容校验程序向所述流处理引擎发送请求, 所述流处理引擎基于所述请 求为所述一个或以上的数据校验算子申请资源管理单元并将其部署到资源管理单元中执 行。 9.根据权利要求1至8任意一项所述的气象数据质检方法, 其中, 所述流处理引擎根据 当前的算子数量以及每 个算子的并发数来 为每个算子申请资源管理单 元。 10.一种气象数据质检系统, 包括:权 利 要 求 书 1/2 页 2 CN 115220131 A 2流处理引擎, 用于执 行内容校验程序和文件 超时检测程序; 内容校验程序, 用于获取指定类型的气象数据以及与 所述指定类型的气象数据对应的 一个或以上的内容校验规则, 基于所述一个或以上的内容校验规则获取预定义的一个或以 上的数据校验算子和每个数据校验算子的优先级, 按照优先级排序调用所述一个或以上的 数据校验算子, 所述一个或以上的数据校验算子用于根据对应的内容校验规则校验所述指 定类型的气象数据, 最后汇总并输出 所述一个或多个数据校验算子的执 行结果; 文件超时监测程序, 用于获取时间监测规则, 所述时间监测规则指示多种类型的气象 数据的更新时间, 基于所述时间监测规则获取预定义的一个或以上 的时间监测算子, 调用 所述一个或以上的时间监测算子, 所述一个或以上的时间监测算子用于监测所述多种类型 的气象数据是否按时到 达, 最后汇总并输出 所述一个或以上的时间监测算子的执 行结果。 11.根据权利要求10所述的气象数据质检系统, 其中, 所述一个或以上的内容校验规则 包括以下规则中的至少一种: 界限值检查、 极值检查、 气象要素相关一致性检查、 空间相关 性检查、 时间序列检查, 则所述一个或以上 的数据校验算子包括以下算子中的至少一个算 子: 界限值检查算子、 极值检查算子、 气象要素一致性检查算子、 空间相关性检查算子和时 间序列检查 算子; 而所述一个或以上的时间监测算子执行以下校验中的至少一种: 当监测到相应的气象 数据文件的更新时间超过限定时间间隔, 则报告超时; 当监测到设定时间点相 应的气象数 据文件尚未到 达, 则报告超时。 12.一种云系统, 用于部署气象数据质检系统, 所述气象数据质检系统包括流处理引擎 以及基于所述流处理引擎构建并运行的流处理程序, 所述流处理程序用于对气象数据进 行 监测和校验, 并输出 结果。 13.一种计算设备, 包括存储器和处理器, 所述存储器还存储有可由所述处理器执行的 计算机指令, 所述计算机指令被执行时, 实现如权利要求1至9任一项所述的气象数据质检 方法。 14.一种计算机可读介质, 所述计算机可读介质存储有可由电子设备执行的计算机指 令, 所述计算机指令被执 行时, 实现如权利要求1至9任一项所述的气象数据质检方法。权 利 要 求 书 2/2 页 3 CN 115220131 A 3

PDF文档 专利 气象数据质检方法及系统

文档预览
中文文档 19 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 气象数据质检方法及系统 第 1 页 专利 气象数据质检方法及系统 第 2 页 专利 气象数据质检方法及系统 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-24 00:46:21上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。