ICS 35.240.40 CCS A 11 团•体标准 T/BFIA 035—2024 金融业人工智能服务器应用技术要求 Technical requirements for artificial intelligence server in the financial industry 2024 - 11- 29 发布 2024-11-29实施 北京金融科技产业联盟 发布 T/BFIA 035—2024 目 次 前言 II 引言 II 1范围 2规范性引用文件， 3术语和定义 4缩略语 5金融AI服务器产品总体要求. 6金融AI服务器关键组件要求. 7金融AI服务器兼容性要求. 8金融AI服务器可靠性要求 9算子模型迁移能力要求 10金融AI服务器供应链安全要求 8 附录A（资料性）训练AI服务器性能测试方案 10 附录B（资料性）推理AI服务器性能测试方案. 附录C（资料性）AI服务器安全可控特性说明 20 参考文献 T/BFIA 035—2024 前言 本文件按照GB/T1.1一2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起 草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由北京金融科技产业联盟归口。 本文件起草单位：中国金融电子化集团有限公司、北京金安信息技术有限责任公司、中国建设银行 股份有限公司、中国工商银行股份有限公司、中国民生银行股份有限公司、中国农业银行股份有限公司、 中信银行股份有限公司、中国银行股份有限公司、上海浦东发展银行股份有限公司、平安银行股份有限 公司、国家开发银行、招商银行股份有限公司、华为技术有限公司、中兴通讯股份有限公司、浪潮电子 信息产业股份有限公司、中国长城科技集团股份有限公司、曙光信息产业股份有限公司、新华三技术有 限公司、上海兆芯集成电路股份有限公司、飞腾信息技术有限公司、深圳市江波龙电子股份有限公司、 四川华鲲振宇智能科技有限责任公司、第四范式（北京）技术有限公司。 本文件主要起草人：姜云兵、班廷伦、马国照、韩竺吾、常璐、刘东东、裴凯洋、毕伟光、龚凡、 刁翔宇、林晨、朱昊志、甘政兵、高金鹏、蔡佳、宋辰、夏梦婷、孙朝斌、刘雪涛、钱学成、吴酉、 白阳、王君、邸贺亮、颜培源、胡世珺、高云超、杨帆、薛石磊、张毅、杨景瑞、曹洵峰、刘东、刘胜 龙、广文博、王桐桐、詹谦、顾伟。 II T/BFIA 035—2024 引言 在信息技术的全面应用创新趋势下，确保金融基础设施的安全稳定，是金融机构行稳致远关键之一。 金融行业应用人工智能技术，是从数字化走向智能化的核心力量，更是金融机构智慧再造的关键载体。 人工智能技术可自动化金融业务流程，提高效率和准确性。人工智能可帮助金融机构更好地识别和管理 风险，并确保合规性。人工智能可通过分析大量数据，提供个性化的金融产品和服务。“算力、数据、 算法、开放平台”是人工智能技术的核心内容，其中算力包括：人工智能芯片、人工智能设备等产品， 提供金融机构使用高性能、低成本、绿色的人工智能算力是应用的关键目标 金融业人工智能服务器种类繁多，主要有人工智能训练服务器、人工智能推理服务器、人工智能边 缘服务器、人工智能服务器集群等，通过梳理金融业人工智能设备应用要求，有助于金融机构依据自身 业务特点，针对性选购人工智能服务器，并采取适当、合理的管理措施和安全防护措施。为了加快金融 服务智慧应用，特制定本文件。 III T/BFIA 035—2024 金融业人工智能服务器应用技术要求 1范围 本文件规定了人工智能服务器产品总体要求以及关键组件、兼容性、可靠性、迁移能力、供应链安 全的要求，给出了性能测试方案和安全可控特性的说明。 本文件适用于人工智能服务器产品的设计、开发、生产、服务保障等环节，该文件可作为各金融行 业等相关单位进行信息系统人工智能改造升级时参考。 2 规范性引用文件 本文件没有规范性引用文件。 3术语和定义 下列术语和定义适用于本文件。 3. 1 服务器server 信息系统的重要组成部分，是信息系统中为客户端计算机提供特定应用服务的计算机系统，由硬件 系统（处理器、存储设备、网络连接设备等）和软件系统（操作系统、数据库管理系统、应用系统）组 成。 [来源：GB/T9813.3—2017，3.1] 3. 2 人工智能加速卡 artificial intelligence accelerating card 专为人工智能计算设计、符合人工智能服务器硬件接口的扩展加速设备。 注：本文件中，在不引起误解的语境中，将人工智能加速卡简称为加速卡， [来源：GB/T42018—2022，3.6] 3. 3 人工智能服务器artificial intelligence server 信息系统中能够为人工智能应用提供高效能计算处理能力的服务器。 注1：以通用服务器为基础，配备人工智能加速卡后，为人工智能应用提供专用计算加速能力的服务器，称人工智能 兼容服务器。 注2：专为人工智能加速计算设计，提供人工智能专用计算能力的服务器，称人工智能一体机服务器。 注3：本文件中，在不引起误解的语境中，将人工智能服务器简称为服务器。 L来源：GB/T42018—2022，3.5] 3. 4 1 T/BFIA035—2024 人工智能加速处理器 artificial intelligence accelerating processor 具备适配人工智能算法的运算微架构，能够完成人工智能应用加速运算处理的集成电路元件。 注：本文件中，在不引起误解的语境中，将人工智能加速处理器简称为人工智能处理器 [来源：GB/T42018—2022，3.8，有修改］ 3.5 训练training 利用训练数据，基于机器学习算法，建立或改进机器学习模型参数的过程。 [来源：IS0/IEC22989:2021，3.2.15 3.6 推理 inference 计算机根据已知信息进行分析、分类或诊断，做出假设，解决问题或者给出推断的过程。 注：人工智能领域的推理包括逻辑推理、机器学习推理等。 ［来源：GB/T42018—2022，3.12] 3. 7 安全可控 controllability for security 信息技术产品具备的保证其应用方数据支配权、产品可控权、产品选择权等不受损害的属性， [来源：GB/T36630.1—2018，3.2] 3. 8 深度学习deep learning 种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法 注：深度学习是机器学习的分支。 4缩略语 下列缩略语适用于本文件。 AI：人工智能（ArtificialIntelligence） BMC：基板管理控制器（Baseboard ManagementController） CPU：中央处理器（Central Processing Unit） DDR：双倍速率（Double Data Rate） ECC：错误检测和纠正（Error CorrectingCode） FLoPS，每秒浮点运算次数（Floating-pointOperationsPerSecond) GE：千兆以太网（Gigabit Ethernet） GPU：图形处理器（Graphics Processing Unit） HBM：高带宽内存（HighBandwidthMemory） HDD：硬盘有机械硬盘（HardDiskDrive） NPU：嵌入式神经网络处理器（Neural-networkProcessingUnits） NVMe：非易失性内存协议（NonVolatileMemoryExpress） PCIE：一种高速串行计算机扩展总线标准（Peripheral Component InterconnectExpress） RAID：磁盘阵列（Redundant Arrays of Independent Disks） 2