您现在的位置: 首页 > 通知公告
通知公告

贵州农商联合银行 AI算力管理平台及智能网关项目 技术交流公告

来源:贵州农村商业联合银行股份有限公司 发布时间:2026-11-13

      贵州农商联合银行(以下简称“我行”)已建设国产算力资源,生产环境与测试环境分设,部署了GLM、千问等多类模型。随着模型数量、调用规模和业务场景增加,现有模式在统一服务入口、模型与算力协同调度、运行观测、生产可靠性、安全合规及成本计量等方面需进一步完善。

      根据我行信息科技建设和人工智能应用发展需要,拟开展AI算力管理平台及智能网关项目技术交流工作,为项目立项及后续采购做好技术准备。本项目所称AI算力管理平台,涵盖模型服务管理、算力资源管理、智能网关及运营治理等能力。现将有关事项公告如下:

      一、相关要求

      (一)资质要求

  1. 交流厂商须是在中华人民共和国境内合法注册有效的独立企业法人,具备承担完全民事责任的能力。
  2. 交流厂商须为所交流核心产品(AI算力管理平台、模型服务网关/智能网关等)的原厂商,或取得原厂商针对本项目的正式授权。原厂商应拥有自主知识产权;非原厂商应提供原厂商授权函(明确授权范围、期限及技术支持责任)、知识产权归属说明及原厂商技术支持承诺。
  3. 交流厂商须提供近3年内与银行合作的1-3个AI算力管理、模型服务网关/平台或模型服务治理相关案例材料,且具有长期与银行合作的服务能力。
  4. 交流厂商须配有较强的技术团队,能提供稳健的技术支撑能力及快速的售后服务响应。

      (二)网上报名资格审核需提交的资料

  1. 报名厂商法人营业执照副本复印件(复印件加盖公章)。
  2. 报名厂商符合要求的银行实施案例合同复印件加盖公章(至少包含合同封面、关键页和双方签章页,缺少不予认可)。
  3. 报名厂商需提供对应产品的介绍材料,包括产品架构、核心功能、部署方式、异构算力适配情况及自主知识产权说明等。
  4. 非原厂商报名的,须提供原厂商针对本项目出具的授权函(加盖原厂商公章,明确授权范围、期限及技术支持责任)、知识产权归属说明及原厂商技术支持承诺。

      二、流程安排

      (一)线上报名

      报名截止日期为2026年11月25日(星期三)17:00。符合条件的厂商均可报名参加。报名厂商须将营业执照、实施案例合同、产品介绍材料、原厂商授权函(非原厂商)等扫描件发送至联系人邮箱:1941029880@qq.com,以进行资格预审。

      邮件主题请统一为“AI算力管理平台及智能网关项目技术交流报名+公司名称”。对于资格预审通过的厂商,我行将根据实际情况安排并通知报名厂商开展技术交流,厂商需在交流日期前完成相关交流资料准备。

      (二)交流内容

  1. 厂商介绍:包括厂商简介、主营业务、研发与服务能力,尤其是厂商在银行机构AI算力管理、模型服务网关/平台、模型服务治理等方面的产品或服务经验。
  2. 产品或服务介绍:本次交流围绕AI算力管理平台及智能网关整体方案展开,重点包括以下方面:

      (1)统一模型服务入口与智能网关。统一API入口,兼容OpenAI、Anthropic等主流接口协议,支持文本、多模态、向量、重排序、OCR等模型服务的发布、订阅和调用;统一身份认证与分级授权,支持部门、应用、Agent、用户等多维度的APIKey、配额、限流、优先级、灰度、路由及调用审计;智能网关具备高可用、故障隔离、熔断降级、自动摘流、平滑升级和多集群部署能力,明确最大并发、吞吐、时延、RTO/RPO等量化指标;说明与我行统一身份、零信任、API网关、安全审计、内容安全等系统的对接方案。

      (2)AI算力与模型资源统一管理。统一纳管我行现有国产算力及后续新增的国产GPU/NPU等异构算力,兼容物理机、Kubernetes、虚拟化及云上算力等多种形态;基于我行现有Kubernetes容器平台平滑接入,不要求替换现有算力管理平台和模型部署方式,支持存量资源池复用和渐进式扩容;覆盖模型及推理服务的部署、发布、扩缩容、版本管理、健康检查、故障迁移和全生命周期管理;提供GPU/NPU/XPU等算力卡资源池化、切分、调度与隔离,以及算力、显存、队列、实例状态、资源利用率等可视化能力,支持多模型混部;支持多租户管理及部门、应用、Agent、模型等多维度计量,提供配额、预算、账单、成本分摊和成本分析能力。

      (3)生产可靠性与安全合规。生产与测试环境隔离,支持多实例负载分担、主备/多活、故障检测、自动切换、限流降级和优先级保障,避免网关及管理组件成为单点;具备全链路可观测能力,覆盖调用链、指标、日志、事件、模型服务SLA、异常定界和告警;具备变更发布、回滚、演练、应急预案和运维工具,确保接入改造对现有业务影响可控;具备数据安全与合规能力,包括数据不出域、传输与存储加密、密钥管理、最小权限、操作审计、模型及内容安全、个人信息保护等。

      (4)推理性能与成本治理。针对我行实际模型和负载,说明推理加速、动态批处理、KVCache优化、PD分离、量化、算子优化、模型路由等可选优化手段的适用条件、收益边界和风险;在指定并发、上下文长度和SLA条件下,给出吞吐、首Token时延(TTFT)、输出速率、超时率、资源利用率等指标的基线及优化目标;优化方案应兼顾业务体验和稳定性,提供回退机制,不以明显牺牲时延或可靠性为代价;说明授权维度、扩容规则及买断、订阅等不同模式下的三年TCO测算方法,本次交流不涉及具体报价。

      (5)实施与演进。说明分阶段实施路径(现状梳理、试点、生产推广、扩容)、实施团队、项目计划、培训、文档、运维交接、SLA及本地化服务能力;对项目建设范围、实施难点、依赖条件及与其他系统的边界提出建议;结合我行现有算力资源和模型服务情况,提出后续演进建议。

  1. 案例介绍:典型成功项目案例分享,包括项目建设背景、实施路径及项目应用成果等。
  2. 讨论交流:结合我行现有AI算力资源、模型服务及生产运行实际,答疑并交流探讨我行项目建设及后续优化的可行适配方案。

      (三)交流方式

      交流时间:2026年11月30日至12月4日(具体时间以我行通知为准)。

      现场交流:地点位于贵州省贵阳市观山湖区长岭北路51号金融城8号贵州农商联合银行大厦。

      线上交流:采用腾讯会议等远程会议方式,具体安排另行通知。

      三、注意事项

      (一)本次技术交流不涉及商务内容,参加厂商需严格遵守相关保密义务,我行没有义务接受所有参与技术交流的厂商进入后续环节。

      (二)交流厂商应保证资料、案例真实无误,在整个技术交流过程中不得存在欺诈行为,否则自行承担相应责任。

      联系人:陈老师;电话:17388519685;邮箱:chenstar8@foxmail.com

      罗老师;电话:19908510676;邮箱:1941029880@qq.com

 

 

贵州农村商业联合银行股份有限公司        

2026年11月13日