国内大模型相关的进展消息每日纷至沓来，行业进入快速发展期，而业内讨论的焦点也逐渐从概念蓝图过渡到产品落地层面。随着大模型的发展热潮涌动，对话式AI正在打开新一轮的商业增量。
中关村科金作为领先的对话式AI技术解决方案提供商，在与先进技术保持同频进步的同时，积极展开相关产品研发及大模型实践的探索。
近期，中关村科金与行业客户携手共创了一些有场景代表性的试点项目，如针对财富业务场景，基于开源基础大模型打造了面向理财师的营销助手，该产品可以实时追踪行业动态，深入理解客户的投资需求，通过用户画像解析构建投资要素，为客户生成专业、客观的投资建议，减少理财师手工撰写文案的工作量、提升理财师单兵效能，同时帮助客户更好地做出投资决策。
中关村科金资深AI产品总监曹阳，于近日分享了在对话大模型上的思考和对话式智能展业助手产品的应用实践。
大模型对AI技术产品化影响的思考
chatGPT对通用大模型训练结果的优越呈现，不仅大幅提升了行业关注度，也标志着人工智能发展进入新的里程碑阶段。GPT全称为Generative Pre-trained Transformer，可译为生成式预训练Transformer模型，是“预训练”和“大模型”结合后一种新的人工智能模式，当大规模数据集在模型上完成预训练后，仅需微调少量数据甚至无需微调，就可直接支撑各类应用。
基于大模型此特性，我们AI技术产品化的路径和思路也要随之发生改变。首先在数据应用层，过去一般是采用结构化数据，而图片、文字、视频等非结构化数据机器无法理解，需要采用高效的并行分布式处理技术，并借助应用自然语言处理、影像处理、社会网分析和机器学习等专业的工具或模型，通过打标和预定义范式对数据搜索、过滤、计算，将数据结构化后再进行处理。
但标签化的过程会产生信息损失，与信息论的原理一致，一旦抽象或者总结必然有信息损失，可利用的信息就会减少。此外，结构化后有损的数据可应用的范围也较窄，多用于特定业务领域，如FAQ知识库、会话流程等。
相比之下，大模型可以直接利用非结构化数据，不用进行“加工”处理，且支持全量无损的内容输入，可运用的数据范围非常广，价值也相对更高。若将大模型产品嵌入企业服务系统中进行升级再造，包括知识检索、数据分析、辅助编程、数字员工、数字人等企业级应用都有可能被重构。可以说，大模型打开了企业数智化转型新的天花板。
其次在产品化思路上也需要进行转变。原先AI技术产品化过程需要对所有内容进行预先定义和梳理，无论是分类模型，还是SOP挖掘，都是既定范式。即在特定场景中，预定义范式后进行数据处理，并训练出对应模型，可以称之为“打标领域知识注入”，是一种预设的机械化方式。
而大模型则是一种受控的自组织化方式。只需把对话、文本、音视频和文档等数据注入大模型中，机器能够按要求进行自主学习和训练，进而完成特定任务。无需人工进行预先处理，便可直接使用结构化和非结构化数据；也无需基于特定业务进行训练，便能解决特定和非特定场景的任务。
两种方式之间有着极大的流程、效率差异。过去预设的机械化方式，无论是预先设定流程还是结构化数据要求，都需要专业人员参与，工作量大、专业性要求高。并且在业务过程中，若要判定预先设定的结构是否适合业务模式，一般只能基于事后分析，无法在事中和事前进行定义。
比如我们今天将会遇见哪个人，会发生哪些内容对话，是无法事先定义的，客服场景也是如此，这也是为什么现在的智能客服大多只能集中在售后。但对于营销而言，事前和事中才是核心，甲乙双方或者买卖双方交易的核心节点是业务关系发生变化，从没有交易到产生交易。因此探索大模型在目前人力成本不断上升但成功率较低的智能客服与营销系统的落地改造十分必要。
大模型在金融业务应用初探
中关村科金一直致力于通过AI技术，构建客户全周期对话式AI服务，助力企业服务生产力第四次跃升。围绕这一理念，中关村科金基于多款开源基础大模型，结合领域知识图谱、领域知识注入、Prompt工程等前沿技术，构建了对话式智能服务平台。依托该平台，针对财富机构展业场景，打造了一款“对话式智能展业助手”的大模型应用产品。
以前理财师跟客户是独立沟通，没有太多辅助工具，而我们希望对话式智能展业助手的推出，能够助力理财师在专业能力上得到提升，在产品的信息获取上更高效便利。
在产品逻辑上，对话式智能展业助手系统的第一步是构建用户画像，提供包括用户基本画像和深层画像、投资经历、关注竞品、投资预测等数据信息。第二步是基于用户画像构建投资策略，类似于炒股软件的策略选股，通过构建投资策略scheme（计划），以prompt（编程语言，用于显示可提示用户进行输入的对话框）的形式与专业资讯进行关联。之后结合大模型的生成提示能力，按照业务预先设定好的SOP（标准操作程序）执行任务，根据每个SOP对应节点选取的业务专家梳理的限定词，生成投资组合推荐，最终生成话术和产品营销方案等。
此外，在过程中我们还可以全流程执行SOP指导，不局限于与客户的沟通过程，而是覆盖整个生命周期。比如设定在用户生日时发送生日祝福；推送教育相关的培训分享等。
上述链路是针对于单个理财师。如果是多个理财师或者整个团队使用，对话式智能展业助手还能发挥更大价值。对所获取的所有理财师与客户沟通的内容进行分析优化后，提炼金牌销售的话术技能同步给普通销售，实现对普通销售的技能赋能，拉齐、提升团队的专业水平。
此外，对话式智能展业助手还可以应用于资产管理中心、运营中心和产品研发中心等，中后台部门通过掌握了解一线人员与客户群体之间的互动、反馈情况，可以及时进行策略调整，从而各业务之间形成良好互动，助力组织智能。
目前，中关村科金的对话式智能展业助手已在与国内某头部信托公司的共创项目中应用落地。该信托公司从业务层出发，将业务服务流程拆解为用户、投资组合、市场和产品四个维度，再结合SOP节点设置，每个节点执行对应策略，大模型根据提示词生成节点话术，并通过限定字数、沟通风格等，使生成结果更加接近理想效果。
销售的核心是信任，信任产生后客户才更容易采纳建议。所以我们希望基于前期的用户和投资策略信息，直观反馈用户应该关注的行业理财资讯。更高的专业度更容易赢得客户信任，我们希望能为理财师提供有效辅助。
在和客户沟通时，理财师可以运用对话式智能展业助手，根据用户画像知道客户关注哪些产品，结合公司当下主推的产品和系统提供的引导策略进行销售，但如果理财师觉得不合适也可修改。而新调整的策略和修改的内容，会反馈给大模型执行再次生成任务，直到得到符合理财师预期的话术和内容。
为了进一步保障生成效果，我们采用了大模型外挂领域知识库和无监督学习+调参的方式，将专业知识、操作手册、业务规范、产品信息、竞品信息等领域知识注入到大模型内，再将客户和行业数据、宏观经济的分析等内容进行关联，理财师按需求选择是否引用提示内容。在大模型思维链推导和无监督学习的能力之上，辅以领域知识库和调参，可进一步加强自然语言处理任务的完成效果。
但目前在领域知识的注入方式上，还需要依赖行业专家进行知识梳理，未来可以考虑通过新的架构或者方案，将该步骤拆分成一个个子环节，转化成专业度要求较低的操作，降低对行业专家的依赖度，实现非高价值的任务批量自动化处理。
这也是大模型的优势之一。从过去依赖AI专家手工调参，进入大规模可复制的大工业落地阶段。通过配置任务要素系统，注入领域知识，进行对话调参，影响大模型节点策略，生成话术内容，形成一个大模型自闭环的业务信息自组织架构，是未来理想的状态。
在这个模式下，市场上现有的系统都可以用大模型的思路再造一遍，大模型为ToB领域带来了一个新维度的市场。原来是基于特定的结构化数据建立特定的模型，未来可能是一个大模型获取相应的结构化或非结构化数据，通过特征工程（利用领域知识从原始数据中提取特征、属性的过程）控制完成所有任务。
而如何将特征工程更好地控制应用和落地到实际业务当中，还需整个行业共同探索。目前，中关村科金已自主研发了包括大规模对话语言模型、知识图谱、语音识别、语音生成等AI技术的对话引擎，未来将持续加大在对话式AI技术上的投入，基于该大模型对话引擎，围绕企业的各种对话场景，打造应用场景更丰富的对话式AI产品，为企业提供更高效完备的营销服一体化综合解决方案，构建人机协同的新型生产关系。
