华为发布金融大模型解决方案，加速金融行业智能化

182821044

ICT服务

　　华为全联接大会2023第一天，以“智领睿变，共建数智金融未来”为主题的金融峰会成功举办，来自全球的700多位金融行业的客户和伙伴齐聚一堂，共同探讨如何拥抱大模型带来的机遇和挑战，全面加速金融行业数字化、智能化升级。

　　华为数字金融军团CEO曹冲表示，我们正在走向大模型时代，AI生产力将会无处不在，重塑整个数字金融行业;面向未来，金融机构应用大模型的能力，将成为关键竞争力。

　　重塑决策与交互，构建无所不及的金融智能

　　华为发布金融大模型解决方案，包括场景层、模型层、底座层三层。以高质量的数据为基础，通过三层方案加速创新生产力、跃升智力、澎湃算力三力协同，逐步实现场景的价值落地、体系构建、能力固化。

　　在场景层，华为首次推出AI for Data、AI for Business、AI for IT三大类10个应用场景，包括智能客服、信贷报告生成、智能数据分析、智能编程助手等。目前，这十大场景都已经和金融机构合作落地。比如，在网点场景，某大行通过盘古大模型将以前5次操作缩短为1次，单次办结时间缩短5分钟;在软件开发领域，利用大模型代码生成等能力，逐步构建智能软开体系，编码助手的代码生成占比提升至40%。

　　场景落地，除了模型本身能力，工程化能力和丰富的生态体系至关重要。华为还提供模型微调、数据工程、应用开发、安全工程等系列工程化套件, 让客户和伙伴更便捷地调用大模型;联合数据标注、模型调优、应用开发等伙伴，构建丰富的大模型生态体系。

　　在模型层，盘古大模型具备100多种模型能力;在此之上，通过五类金融数据注入千亿级的金融Tokens;与金融机构和伙伴共创，沉淀了上千个细分场景模板;融合了100多个行业标准、规范等行业知识库;构建了数据、模型、内容等全流程安全合规能力，打造面向金融行业的大模型。

　　在底座层，打造“算网存云”协同的智能底座，从高性能集群训练、高可靠模型保护、高效绿色节能三个方面为大模型提供澎湃算力：通过高速集群互联架构，将token处理时延降低至100ms以内;通过存算协同，将训练中断时间从天缩短到分钟级，实现月级稳定训练;通过全液冷集群和多租户资源共享，将网络能效比从0.1提升到0.5 PFLOPS/KW。

　　很多金融机构都在探索大模型的使用，华为通过自身的技术能力和积极的生态合作，努力去解决一个个问题，让金融机构面对大模型实现会用、好用、有用。截至目前，中国Top20银行中，已有1/2选择华为的AI软硬件平台。