科技金融转型新范式：浦发银行大模型应用与昇腾全栈实践

对于商业银行而言，科技金融已由一道“选答题”变为“必答题”。

2023年相关金融工作会议提出“加快建设金融强国”的工作目标。作为我国金融体系的核心力量，商业银行需要从传统存贷中介，完成“服务实体、驱动创新、平衡风险”的生态升级，为经济社会发展提供更高质量的服务。这就需要数字化技术为金融企业的业务创新、风险管控、经营提效，甚至重塑金融服务逻辑提供有力支撑。

作为科技金融发展道路的同行者，浦发银行聚焦“五大赛道”，全面推进数智化战略实施，将人工智能与金融服务进行深度融合，不断提升金融服务的智能化水平。

技术重构服务边界

让大模型完成更多数据链接

当前，大模型应用贯穿银行市场营销、产品服务、业务运营、风险管理、财务管理等价值链，覆盖个人业务、公司业务、金融市场业务和普惠业务等领域，是银行实现智能化转型、提升核心竞争力的关键要素。

在数字化劳动力体系建设上，通过大模型训练，浦发银行完成了从“初级员工”到“数字化劳动力”的智能化升级。目前，浦发银行已经量产数个数字岗位角色，覆盖企业智能风险等多个应用场景，极大地提升了银行的运营效率与服务质量。

在智能风控体系建设上，浦发银行努力完成“数据驱动”到“模型驱动”转型。比如，利用大模型结构化信息提取能力，生成智能风险报告并可视化展示客户隐性关联，构建“风险图谱分析”，降低因风控问题带来的处罚成本，切实保障银行的稳健运营。

在客户管理方面，浦发银行努力建设“全生命周期”服务体系。浦发银行利用人工智能构建信用评分模型，成功将风控环节前置到营销阶段，有效降低了网贷产品营销拒贷率，节省了营销资源和运营成本。

而在智能投研与运营领域，浦发银行利用大模型平台等新技术的能力从单点服务到多元生态融合，以数据为桥梁，以平台为链接，将用户服务扩展到“金融+非金融”的综合生态之中，实现更广泛产业资源链接。

部署挑战：

展开全文

大模型落地的三大痛点

在大模型部署过程中，依然面临不少问题。首先是算力资源需求高，企业面临成本与资源双重压力。大模型参数规模庞大，训练和推理过程需要海量的计算资源支撑。不仅如此，算力运营成本也是一个巨大的负担，电力消耗、设备维护等成本也持续增加，给银行的成本控制带来了不小的压力。

同时，大模型部署环境配置难度大，需要深度学习框架、各种数据库进行支持。这些软件的版本兼容性、参数配置都对模型的性能有着重要影响。而且，金融行业对数据安全和稳定性要求极高，在配置环境时还需要加入严格的安全防护措施，这也增加了银行企业部署运维的难度。

此外，大模型在初始部署后，往往需要进行优化和调优，以适应具体的业务场景和提高性能。对于银行企业来说，很难组织专业团队，针对不同的业务场景对模型进行个性化调优，从而导致模型落地效果不佳。

昇腾全栈加持

助力释放AI潜力

为应对大模型部署过程中的诸多难题，充分发挥大模型在金融服务中的优势，浦发银行采用昇腾全栈软硬件平台，快速完成大模型部署。同时融合“五横六纵”企业级知识库，嵌入数字员工助手应用，赋能智能问答、指标问答、财务分析、报告写作等多个应用场景。对内更好地赋能员工，对外更好地服务客户，全面提升数字金融服务能力。

昇腾服务器间通过高性能星河AI交换机互连，集群并行计算，释放昇腾的澎湃算力，加速相关模型应用上线。

在方案部署中，华为服务团队全程端到端看护，在设备上架、组网配置、环境准备、相关部署等全流程专人对接，全力协助浦发银行顺利完成大模型本地化部署和上线。

此外，华为还提供AI大模型训推相关的上机实践，帮助浦发快速完成大模型的微调和调优，助力浦发银行“建好”“用好”算力集群。

针对企业在“易运维、易部署、可扩容”等方面的需求，昇腾具有多种部署方案，涵盖蒸馏版模型推理、量化版模型推理等。通过存、算、网融合技术，优化单机和集群部署的时延与性能，为金融等行业提供稳定、高效的 AI 算力底座。同时，华为构建了覆盖全国的 AI 智算底座交付服务体系，包含客户服务中心、硬件支持、研发中心和培训中心，拥有众多专业人员，助力客户加速迈入 AI 时代。

而且，昇腾方案还能依据客户大模型应用经验和数据积累程度，分阶段构建应用能力。从初步探索阶段的蒸馏版模型推理，到有一定经验后的微调，再到深度应用阶段的满血版强化学习，逐步深入。每个阶段对应不同的典型场景，如通用生成场景、金融核心业务等，为金融机构提供了清晰的应用路径。

在自主研发的AI基础软硬件平台支持下，浦发银行全面数智化转型的信心更坚定了。未来，浦发银行还将在公司业务、零售业务、金融市场、风险合规以及内部管理等领域强化数字化、智能化创新建设，全面打造数字金融服务体系的“智”基座、“简”流程、“融”生态、“惠”服务，成为“懂数字经济、懂用户体验”的数字金融服务银行。