2.2 企业级ChatGPT开发的三大核心剖析
Gavin老师:NLP_Matrix_Space
本节讲解LangChain官方提供的一个项目,跟大家展示企业级开发的核心元素,如图2-1所示,是项目的架构示意图。
图2- 1 LangChain项目架构示意图
一个基本原则是你的提示词和模型进行交互,作为和模型交互的一个过程,可以统一认为是一个对话流,即使是一次对话,从对话的角度,会有历史数据(Historic Data),也有当前的输入话语(Current Utterance),这两部分的内容都很重要,为什么?因为基于大模型做一个对话的AI产品,历史的信息必然会影响当前的信息,当前的信息处在一个上下文中,你当前说一句话,从一种正常的角度,肯定是有上下文的,可能有同学会问第一句话怎么处理,可以将第一句话作为提示词,自动把它设定为上下文,例如,可以指定这个系统是一个数学老师,或者是一个销售,或者是一个工程师来参加面试等等。当前的话语有意义,是因为有历史数据以及系统设置提供的上下文。问大家一个事情,跟大模型进行交互的时候,是不是要把历史数据加上现在的话语?这个问题很重要,当然这个问题不简单,如果把当前的话语追加在历史数据上,导致的结果是历史数据越来越长,如果不断的追加,会形成一个流式链条的提示词,调用大模型的时候,提示词是以标记的方式传给大模型,当提示词