11月11日下午,2023金融街论坛年会“金融科学技术创新与合规安全”平行论坛在北京举办。度小满CTO许冬亮在会上表示,大模型高度依赖数据、算力和人才,只有极少的企业能够从头到尾地完成产业级研发,尤其是在金融领域,更需要多方共建生态。
他解释说,“一方面,金融领域的数据分散在各个金融机构,通用大模型缺少金融数据来进行训练,金融专业相关知识不足;另一方面,如果从底层开始训练大模型,所需要投入的算力成本非常高,比如千亿级别的通用大模型,训练一次需要付出几千万的成本。因此,金融大模型的产业应用需要场景应用方(金融机构)、模型提供方、训练工具提供方等多方共建,共同参与”。
行业内不一样的角色的分工协作,才能推动大模型的产业应用。据了解,今年5月份,度小满开源了千亿参数的金融大模型——“轩辕”,9月22日宣布“轩辕70B”金融大模型开源,全用户均可自由下载和试用。2023年10月,中国工程院院士邬贺铨在百度世界大会上认为,在“轩辕”大模型的底层模型上,金融公司能够在上面继续做自己的开发和私有化部署。
在许冬亮看来,金融机构还需要处理好五大核心问题:一是基础模型该如何选;二是金融机构自身的业务数据怎么融到大模型中;第三是怎么来控制幻觉问题等模型缺陷问题;四是未来每个机构都会部署大模型的情况下,机构如何构建竞争壁垒。最后是模型的安全合规的如何保障。
据介绍,大模型技术已应用在度小满各个业务场景,从营销、客服、风控、办公再到研发,已经初见成效。在代码助手方面,用大模型辅助生成的代码,采纳率能达到42%,帮助公司整体研发效率提升了20%;在客服领域,大模型推动服务效率提升了25%。在智能办公领域,大模型目前的意图识别准确率已达到97%。
随着大模型技术在慢慢的变多金融机构落地应用,如何防范大模型的潜在合规风险也非常关注。许冬亮表示,金融是强监管行业,安全合规是大模型落地的前提和重要保障。金融大模型安全合规既需要监管政策的约束,更需要大模型企业自身的主动作为;大模型需要学习人类的价值观,保护好用户的个人权益,确保输出结果可信可控。