优化提示词改善答疑机器人回答质量

1.通过优化提示词来调整大模型的回答

1.1使用场景

默认提示词无法满足业务要求。
回答的内容太简单/困难，输出内容/格式/语气达不到要求等

1.2llama-index 的提示词模版

1.2.1llama-index 的默认模板

from llama_index.llms.dashscope import DashScope
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex
from llama_index.embeddings.dashscope import DashScopeEmbedding, DashScopeTextEmbeddingModelsimport os
os.chdir(os.path.dirname(os.path.abspath(__file__)))from config.load_key import load_key
load_key()# 创建索引
documents = SimpleDirectoryReader("./chatbot/docs").load_data()
index = VectorStoreIndex.from_documents(documents,embed_model=DashScopeEmbedding(model_name=DashScopeTextEmbeddingModels.TEXT_EMBEDDING_V2)
)# 创建查询引擎
query_engine = index.as_query_engine(streaming=True,llm=DashScope(model_name="qwen-plus",api_key=os.getenv("DASHSCOPE_API_KEY"))
)
# print(query_engine.get_prompts())# 打印prompt模板
print(f"LlamaIndex原始prompt模板为：\n{query_engine.get_prompts()['response_synthesizer:text_qa_template'].default_template.template}")

在这里插入图片描述

1.2.2使用自定义模板

from chatbot import ragfrom config.load_key import load_key
load_key()# 加载索引
index = rag.load_index()
# 设置query engine
query_engine = rag.create_query_engine(index=index)# 自定义prompt模板
from llama_index.core import PromptTemplateprompt_template_string = ("你是贾维斯，你回答问题时，需要在回答前加上贾维斯说:""注意事项：\n""1. 根据上下文信息而非先验知识来回答问题。\n""2. 如果是工具咨询类问题，请务必给出下载地址链接。\n""以下是参考信息。""---------------------\n""{context_str}\n""---------------------\n""问题：{query_str}\n。""回答：贾维斯说:<answer>"
)prompt_template = PromptTemplate(prompt_template_string)
query_engine.update_prompts({"response_synthesizer:text_qa_template": prompt_template})def qa_v2(question, query_engine):"""执行问答"""streaming_response = query_engine.query(question)streaming_response.print_response_stream()if __name__ == "__main__":qa_v2('我们公司项目管理应该用什么工具', query_engine=query_engine)

在这里插入图片描述

2.如何改进提示词

提示词工程（Prompt Engineering）
在这里插入图片描述

2.1 提示词框架

1.直接提问，也称为零样本提示（Zero-Shot Prompting），即不给大语言模型提供案例，完全依靠 LLM 理解和处理能力完成任务。适用于目标明确、问题简单、答案确定且唯一等场景。
2.在提示词中提供少量（通常几个或几十个）示例，也称为少样本提示（Few-Shot Prompting），以帮助模型更好地理解任务要求和期望输出。
3.赋予模型一个具体的角色或身份，来引导模型在特定角色视角下生成回答。如：专业知识、特定视角、特定语言风格等
4.把一个复杂的任务，拆解成多个稍微简单的任务，让大语言模型分步来思考问题，称为思维链（Chain-of-Thought Prompting, CoT）提示，这种方式可让大语言模型像人类一样逐步解释或进行推理，从而极大地提升 LLM 的能力。
5.提示词分隔符（如 # - ,等）在复杂场景中的应用，确保多角色、多段落提示时的上下文管理和信息隔离。
6.构建第一个提示词框架：“背景信息”+“指令”+“输出指示”

扩展成更加通用的框架：
在这里插入图片描述

2.2 其他常用的提示词框架

框架	具体应用领域（举例子）	内容含义
CRISPE	项目管理、团队协作、客户服务	能力 (Capabilities) 角色 (Roles) 洞察 (Insights) 陈述 (Statement) 个性 (Personality) 实验 (Experiment)
ROSES	软件开发、产品设计、市场营销策略规划	角色 (Role) 客观 (Objective) 场景 (Setting) 预期解决方案 (Expected Solution) 步骤 (Steps)
TRACE	市场研究、业务分析、教学设计	任务 (Task) 请求 (Request) 操作 (Action) 上下文 (Context) 示例 (Examples)
三幕剧的机制	剧情	触发/冲突/解决