整理并翻译自DeepLearning.AI×LangChain的官方课程:Models,Prompts and Parsers
模型,提示词和解析器(Models, Prompts and Parsers)
- 模型:大语言模型
- 提示词:构建传递给模型的输入的方式
- 解析器:获取模型输入,转换为更为结构化的形式以在下游任务中使用
为什么使用提示词模板
- 提示词会非常长且具体
- 在可以的时候能直接复用提示词
- LangChain也为常用操作提供了提示词(模板)
LangChain输出解析可用于提示词模板
LangChian库函数以假定输出包含某些关键字的方式解析大语言模型的输出
上图示例使用Thought,Action,Observation作为思维链推理(Chain-of-Thought Reasoning.(ReAct框架))的关键词
下面是一个使用提示词模板的例子:
调用LangChain使用review_template
创建一个提示词模板:
response.content结果是字符串类型,无法直接提取其中的信息,使用LangChain提供的解析器可以解析其中的变量。
35-38之间,原视频没有这部分,参见原课程:
使用review_template_2创建一个新提示词:
提示词结果:
调用gpt结果:
使用LangChain解析器解析:
这个例子举得其实不好,json.loads
也能直接实现目的,应该是在更复杂的场景使用的。