
专题:中国国际服务贸易交易会-2026中国AIGC创新应用交流会排行前十股票配资
服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来 应用无界——从模型创新到场景落地”,奇富科技多模态负责人杨叶辉出席并演讲。
以下为演讲实录:
大家好,我是奇富科技杨叶辉,接下来我会结合奇富科技的实践向大家汇报大模型技术给金融服务领域带来的一些新变革。
先介绍一下奇富科技,我们公司是2016年独立,2018年和2022年分别在美国和香港独立上市。现在我们的业务主要是分为两部分:一部分是面向C端客户,C端客户的奇富科技。另外一部分是面向于银行和金融机构服务的奇富数科。我今天的汇报主要分为三部分:
第一个新技术来了以后,怎么让老技术升级,我会结合自己的实践,介绍一下大模型给老的业务带来更好的效果和更好的效率的例子。
第二个就是光升级还不够,有一个新技术出来,之前很多都提到AI原生,我们也围绕大模型的技术去打造AI原生的新产品。
第三个是模型升级了,有AI原生的技术以后,我上线以后,大家还会提到一个词叫进化,它需要不断的迭代,越用越好,所以我们在这方面也做了新的探索和尝试,后面第三部分也会介绍。
首先是新技术赋能老业务,大概在去年9月份的时候,我们把自己公司里面涉及到视觉相关的模型,整个模型服务做了一个盘点,基本上就是OCR,图片的分类、检测、识别这些,盘点下来还是发现不少问题,视觉相关的整个模型服务大概有70多个,但是大家想他们的任务其实很多是重合的,但是我们用70多个模型整体部署在不同的GPU上,首先它的运维成本就会非常的高。
第二个就是我们把70多个模型散落、部署在几十张GPU卡上,因为不同的服务它的使用频率是不一样的,所以这种方式的GPU利用率是比较低的。
第三个就是原来我们做模型的知道,无论是机器学习模型还是深度学习模型,它更多的偏向于模型识别,是一些判别式模型,判别式模型做这种分类或者识别任务会比较好,但是它对于一些推理任务,特别是像我们在信贷审批或者银行服务里面,涉及到很多银行流水、合同推理,其实它的推理能力相对来说是比较弱的,在原来的技术范式下,它的效果是有天花板的。
第四个就是原来的小模型时代,我们如果新增加一个证件类别,或者把类别体系做变革,我们需要重新收集数据、训练模型,整个交互周期会非常长。
基于这些问题,最近就把模型架构做了一个升级,原来我们是70多个模型分别维护、独立部署,升级完以后,基本上就一条线,把多模态和视觉相关的模型做了统一的服务,这里面核心的是什么呢?70多个模型保留了28个,对于速度要求或者是性能要求,还比较满足要求的服务,其他40多个模型,我们用了两套自研的垂类多模态大模型,一个32B左右,一个是8B左右。用这两个模型,我们又承载了原来40多个模型的服务能力。它的效果也是非常显著的,可以看到左边,灰色的是原来小模型的效果,因为我们对原来的模型做了重训,最右边的绿色这一条就是训练后的模型,可以发现大部分判别式的能力,我们是跟原来的模型持平的,对于材料一致性和新证照这种泛化性能和推理能力的效果是大量提升的,而且从服务套数上,我们把这个模型从原来的70多套到现在的30套,整个运维成本降低了很多,而且GPU的使用率从原来的18%到65%,GPU利用率上升了,推理成本也下来了,原来我们交付一个新的需求,一个新的证照,整个开发周期需要3周,因为我们在大模型时代,它已经承载了大量的知识在里面,很可能一个新需求过来,一开始先考虑是不是用prompt激活一下就可以用,如果prompt激活不行,可能用少量的样本微调一下也能够实现比较好的交互。
这个就是我们在技术升级上的一个实践,可以说效果是非常的立竿见影的,除了技术升级,我们也希望围绕新的技术打造AI原生的产品,这边我会介绍AI尽调员、审批官和其他的AI产品矩阵。AI尽调员这个产品是服务于银行的场景,银行在做审批的时候,企业向银行审批,银行会派客户经理(尽调员)到企业里面去收集数据,去拍一些证据,给小微企业做访谈。那搜集数据、访谈的信息会传到后端的审批人员进行审批,看一下要不要给企业贷款,贷多少款。前面的尽调环节非常重要,非常依赖于尽调员或者客户经理的经验,因为他要判断拍哪些材料,哪些材料拍上去对审核人员是有用的。在用户访谈过程中,他要挖掘到相对来说有价值的信息,好的客户经理是很难得的,我们怎样用AI的方式把好的客户经理的经验学习出来,让它普世地用到更多经验相对弱的经理里面,那我们就做了AI尽调员这个产品。首先客户经理尽调前,我们会根据客户的信息、客户的画像,会自动的生成尽调任务的清单,拿到清单以后,客户经理到现场打开录像设备、录音设备,实时的我们会去根据采集到的数据去分析,去引导客户经理应该拍什么东西?它跟客户对话的过程中,他应该问什么?把这些东西进行综合的实时的分析完之后,最后生成一份尽调报告,最后把尽调报告给到后端的审核人员进行交叉验证,无论是从尽调的客户经理侧,还是审核人员侧,从效果和效率上都得到极大的提升。
第二个叫AI审批官,这个就有一点像后端的审批人员或者是个人的申请贷款,我们经常会要求我们上传证照、户口本、身份证,原来的模式,用OCR把这些关键信息提取出来,提取出来之后建档,建完档之后,审核人员再跨不同的证件做审核审批,给出是否要进行批贷的结论。其实在原来的模式下,OCR方法相对来说,了解技术的同学知道,他要去做很多模板,如果是一个证件改版了,如果一个新证件,整个泛化能力是比较差的,第二个是审核人员要去跨很多材料,要去做判断和推理,整个工作量相对来说对经验的要求也是非常大的,所以说我们这边也是基于多模态大模型去做了一个AI审批官的产品,基本上是从材料审核开始,它可以把所有的材料拍一遍,拍完之后自动的建档,自动的去发现里面的问题,去做跨文档的一致性、合理性、合规性检查,这个产品在整个授信过程中,对效率和准确率的提升也是非常显著的。
基于这个项目,我们也去公开了信贷领域的第一个大规模评测基准,这个评测基准我们就根据真实的场景,我们去构造了26类的证件。26类里面,基于这些证件,我们构建了大概2万多个指令,这里面图片和视频都有。2万多个任务指令,这些任务指令全部是基于真实的业务场景里面抽象出来的。很多时候大家都说自己的模型好,在金融领域,它很缺乏一个很公平的判别标准,所以我们也是希望把评测基准公开出来,让更多人去研究,有了研究以后,更多地推动金融应用、信贷应用的效果提升。这个数据集在Hugging Face、GitHub上都已经开源了,大家感兴趣可以去搜,FCMBench。除了审批官和尽调员,我们有一整套“一横N纵”的智能体矩阵,从底层的Qwork开始,Qwork类似于一个私有化版本的WorkBuddy,它可以基于Qwork去做很多智能体的研发,无论是金融场景或者是医疗场景,对于数据隐私或者是数据安全比较重要的,我们可能不太方便去用外网,比如说Claude code这一类的,可能Qwork就是解决这一类的问题,可以保证很多的权限和隐私性。在Qwork之上,还有在授信风控场景的多智能体,以及营销增长类的多智能体。
第三部分就是我们说的新开发范式,刚才也有老师提到了自进化,自进化的意思是什么意思呢?我们上线之后怎么越用越好。原来的技术迭代,经过了一个这样的过程,在决策引擎时代就是去修Case,去打补丁,到机器学习、深度学习就是去做模型的微调适配,根据生成式场景。现在主流的自进化的机制就是通过Skill优化的机制,Skill优化有存在不少问题,可能养过虾的,用过Hermes Agent的知道,很可能处理一个错它就会去做一个反思和总结。如果这个经验总结是错的呢,很可能就会对后面的有影响。
第二个就是把所有的反思都会注入到提示词里面去,随着我们越用,整个冗余性会非常多,它会出现脏数据相互污染、相互矛盾的情况,也就会越用越差。
元股证券:ygzq.hk第三个就是很多时候我们知道它有记忆机制,现在的智能体虽然有记忆机制,但是它没有把专门的错题集,我们知道错题集对我们的反思和优化是非常重要的,我们如果要考虑自进化,一定要考虑这样的错题集。在这方面我们也做了一些探索,在这个地方我们也公开了一个论文技术报告,叫HDSO,基于假设的Skill优化的机制。我们上线以后会沉淀日志,我们这个叫Curator机制,到晚上夜间不忙的时候去扫我们大家的应用日志,根据应用日志总结对的和错的,根据对的和错的错题集形成一个新的Skill优化。右下角可以看到,这是我们的在Benchmark上跑的结果。一般来说,一个智能体我们判断它好和坏,基本上就两个:一个是success rate(成功率);另一个是规划的步数。可以看到这个是非常轻量级的,只要加上这个机制之后,它的执行成功率average-SR和我用多少步去完成这个任务,规划步数也是下降的。
刚才提到了技术升级、AI原生和进化就是我今天分享的内容。
最后还是用八个字结束我今天的分享,大家知道现在叫AI革命,它带来了很多新的机会,也带来了很多无所适从,所谓革命整个趋势不可抵抗,我们能够做的就是拥抱这样的变化。但是在拥抱的同时,我们在用AI的时候一定程度上被它所影响,甚至有抱怨说AI会对人进行降智,所以我们一直在用它的时候再考虑我们是把它当成工具,而不能被它所带偏,所以说拥抱变化,保持独立思考非常重要。
谢谢!
优配网入口新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。
海量资讯、精准解读,尽在新浪财经APP
责任编辑:王翔 排行前十股票配资
元股证券配资-移动端官网提示:本文来自互联网,不代表本网站观点。