本文来源：时代周报 作者：金子莘
智能化正在成为金融行业变革的核心驱动，金融科技的发展正推动行业进入新阶段。
11月23日，腾讯云正式发布金融行业大模型解决方案，该解决方案包含四层架构，分别从算力层、平台层、大模型层及应用层助力金融行业提升效率。此外，对于金融行业重点关注的合规问题，腾讯云基于自身的数据隐私、内容安全解决方案，通过模型私有化部署、权限管控和数据加密等方式，确保金融机构在打造模型与使用模型的过程中安全合规。
目前，腾讯云推出的金融大模型已经在智能客服、智能投顾等场景落地使用。在保险展业场景中，金融大模型已经实现较高匹配度并用于具体金融实践，保险代理人开始结合数字人应用场景进行营销展业、业务培训以及智能客服等工作。腾讯云团队称，未来努力让每个金融机构都拥有自己的大模型。
图片来源：腾讯
四层架构助推金融场景落地
腾讯公司副总裁、腾讯云与智慧产业事业群COO、腾讯云总裁邱跃鹏表示，“金融行业的数据资源丰富，实践场景广泛。通过将大模型与行业场景深度结合，有望将智慧金融服务提升到新水准，并催化更多融合创新场景，推动金融服务进入全新智能时代。”
此次发布的腾讯云金融行业大模型解决方案主要包含四层架构。
首先，在算力层，该大模型基于HCC高性能算力集群、云原生数据湖仓和向量数据库，提供高性能算力和数据接入能力；平台层，腾讯云TI平台已实现从数据预处理、模型训练、模型部署的一站式训练，配合训练加速套件，大幅提升模型训练效率；大模型层，金融机构能根据不同细分场景的业务需求，通过模型商店MaaS接入腾讯混元大模型、金融行业大模型及20多个主流开源模型，通过灵活选择大模型类型降低使用成本。
值得关注的是，今年9月，腾讯自研的超千亿参数规模通用大模型――腾讯混元通过腾讯云正式对外开放。近期，腾讯混元经过重大升级，正式开放“文生图”能力，目前其中文能力整体超过GPT3.5水平，代码能力大幅提升20%，达到业界领先水平。
最终落实到应用层，腾讯云基于金融行业大模型结合金融行业前中后台多个业务场景，打造了一系列智能应用，致力于更好地服务金融机构展业。
目前金融行业+大模型业务落地客服是重要的应用场景之一，而目前用户常常反馈客服回答一些正确的“废话”，事实上，这是大模型里最难解决的技术难点“幻觉”。对此，腾讯云智能解决方案负责人王麒解释道：“由于大模型是生成式模型，客户的问题大模型即使不知道，它也不会谦虚地说它不知道，它会在所有海量数据里面生成一个可能性最高的答案给客户。”如果在开始的预训练里，没有放入核心问题，最终形成的答案自然就是正确的“废话”。
他提到，腾讯混元在技术角度解决“幻觉”的方案是使用“探真”的技术，目前解决幻觉能力已经提升30%-50%，可以说与业界平均水平相比已经取得不错的成绩。
对于目前智能客服不智能的现象，王麒介绍，现在“客服系统+大模型”是各类场景里应用最广泛的，也是大模型与企业落地业务结合最紧密的环节，成熟速度也最快。但据完全智能化还有一定距离，王麒还是建议现阶段将大模型和传统坐席配合使用，智能客服目前主要承担常规问题过滤及搜索，协助人工坐席更高效、更快速解决客户问题，提升处理效率。
“精调”单一机构专属大模型
当前，通用大语言模型在应对产业场景落地时，存在数据准确性、服务专业性、安全合规性、训练成本等方面的局限。
针对这一痛点，腾讯云MaaS全景图给出了解决路径――以腾讯云的大模型算力作为硬支撑，在腾讯云TI平台内置多个高质量行业大模型，提供企业结合自身场景数据按需定制精调，大幅降低大模型应用门槛。
王麒解释称，整个大模型生态上的产品，是基于腾讯云提出的MaaS体系，从最底层的算力支持、计算网络存储等，再到通用大模型，然后在通用大模型基础上再去预训练出一个行业专属的金融大模型。在这个金融大模型的基础上，再加上行业的数据做精调，最终变成客户的专属大模型。
“我们知道整个金融大模型的产品体系是由下往上走的，不同金融企业根据自身投入成本、场景复杂度等从不同角度切入。”王麒进一步指出，比较大的金融企业会选择更多往底层方向走，甚至构建自己的模型。但比如算力集群、计算网络存储这些底层基础设施方面，一般来讲，金融机构不会再去触到这层，都会选择跟腾讯云这样的专业云厂商一起合作。
王麒表示，考虑到金融行业更多是对数据的管理，以及对场景的管理，所以它们更多会与厂商合作进行模型训练。在这个基础上，腾讯云提供金融行业的大模型，并由客户来提供数据以及专业场景，腾讯云和客户一起做“最后一公里”的精调，解决金融机构面临的实际问题。
事实上，金融大模型要立足场景和高质量数据，追求效率和成本的最优解，并不是参数越大越好。为了打造专业合规的金融行业大模型，腾讯云通过预训练、金融领域垂类任务精调、强化学习的方式，持续积累和强化金融行业大模型。在通用能力的基础上，腾讯云金融行业大模型解决方案具备金融领域知识推理、研报撰写、智能舆情等专业下游任务能力。
面向金融行业的特殊合规要求，腾讯云已经有金腾科技的合作案例，采用公私域结合的模式，在公有云环境实现热点分析、行情总结、股市收评等场景应用；在私有云环境下，构建企业专属大模型，帮助金融机构实现产品信息查询、业务指引、投资建议、投后管理等业务场景。
腾讯云副总裁胡利明表示，针对金融客户在大模型落地应用中的难点和需求，腾讯云将和行业联创、共创，不断探索新的技术应用和场景落地，让每一个金融机构快速拥有高精度、高性价比的AI助手。
