一、引言
- 大型语言模型:可以用来构建定制聊天机器人,工作量小。
- 聊天模型:以消息序列为输入,返回模型生成的消息作为输出,适用于多轮对话和单轮任务。
from zhipuai import ZhipuAI
# 导入第三方库key = " "
client = ZhipuAI(api_key = key)
二、身份与上下文构建
- 辅助函数:
get_completion
和 get_completion_from_messages
。 - 系统消息:设置助手的行为和角色,不显示给用户。
- 角色扮演:开发者可以在用户和助手之间交替,提供对话上下文。
- 上下文(Context):为了使模型能够引用对话的早期部分,必须在输入中提供早期交流。
def get_completion(prompt, model="glm-3-turbo"):messages = [{"role": "user", "content": prompt}]response = client.chat.completions.create(model=model,messages=messages,temperature=0, # 控制模型输出的随机程度)return response.choices[0].message.contentdef get_completion_from_messages(messages, model="glm-3-turbo", temperature=0):response = client.chat.completions.create(model=model,messages=messages,temperature=temperature, # 控制模型输出的随机程度)
# print(str(response.choices[0].message))return response.choices[0].message.content
# 中文
messages = [
{'role':'system', 'content':'你是一个像莎士比亚一样说话的助手。'},
{'role':'user', 'content':'给我讲个笑话'},
{'role':'assistant', 'content':'鸡为什么过马路'},
{'role':'user', 'content':'我不知道'} ]
response = get_completion_from_messages(messages, temperature=1)
print(response)
# 中文
messages = [
{'role':'system', 'content':'你是个友好的聊天机器人。'},
{'role':'user', 'content':'Hi, 我是Isa。'} ]
response = get_completion_from_messages(messages, temperature=1)
print(response)
# 中文
messages = [
{'role':'system', 'content':'你是个友好的聊天机器人。'},
{'role':'user', 'content':'好,你能提醒我,我的名字是什么吗?'} ]
response = get_completion_from_messages(messages, temperature=1)
print(response)
# 中文
messages = [
{'role':'system', 'content':'你是个友好的聊天机器人。'},
{'role':'user', 'content':'Hi, 我是Isa'},
{'role':'assistant', 'content': "Hi Isa! 很高兴认识你。今天有什么可以帮到你的吗?"},
{'role':'user', 'content':'是的,你可以提醒我, 我的名字是什么?'} ]
response = get_completion_from_messages(messages, temperature=1)
print(response)
三、订餐机器人
- 自动收集用户信息:接受比萨饼店订单。
- 函数
collect_messages
:收集用户消息,避免手动输入,维护上下文列表。 - GUI(图形用户界面):使用
panel
库创建,展示订单机器人。 - 系统消息:包含菜单信息,每次调用时使用。
- 上下文增长:随着对话进行,上下文不断增长,包含用户消息和模型消息。
def collect_messages(_):prompt = inp.value_inputinp.value = ''context.append({'role':'user', 'content':f"{prompt}"})response = get_completion_from_messages(context) context.append({'role':'assistant', 'content':f"{response}"})panels.append(pn.Row('User:', pn.pane.Markdown(prompt, width=600)))panels.append(pn.Row('Assistant:', pn.pane.Markdown(response, width=600, style={'background-color': '#F6F6F6'})))return pn.Column(*panels)
3.1 创建JSON摘要
- 额外系统消息:指示模型创建订单的JSON摘要。
- 字段要求:包括披萨(含尺寸)、配料列表、饮料列表(含尺寸)、辅菜列表(含尺寸)和总价。
- 温度设置:使用较低温度以获得更可预测的输出。
# 中文
import panel as pn # GUI
pn.extension()panels = [] # collect display context = [{'role':'system', 'content':"""
你是订餐机器人,为披萨餐厅自动收集订单信息。
你要首先问候顾客。然后等待用户回复收集订单信息。收集完信息需确认顾客是否还需要添加其他内容。
最后需要询问是否自取或外送,如果是外送,你要询问地址。
最后告诉顾客订单总金额,并送上祝福。请确保明确所有选项、附加项和尺寸,以便从菜单中识别出该项唯一的内容。
你的回应应该以简短、非常随意和友好的风格呈现。菜单包括:菜品:
意式辣香肠披萨(大、中、小) 12.95、10.00、7.00
芝士披萨(大、中、小) 10.95、9.25、6.50
茄子披萨(大、中、小) 11.95、9.75、6.75
薯条(大、小) 4.50、3.50
希腊沙拉 7.25配料:
奶酪 2.00
蘑菇 1.50
香肠 3.00
加拿大熏肉 3.50
AI酱 1.50
辣椒 1.00饮料:
可乐(大、中、小) 3.00、2.00、1.00
雪碧(大、中、小) 3.00、2.00、1.00
瓶装水 5.00
"""} ] # accumulate messagesinp = pn.widgets.TextInput(value="Hi", placeholder='Enter text here…')
button_conversation = pn.widgets.Button(name="Chat!")interactive_conversation = pn.bind(collect_messages, button_conversation)dashboard = pn.Column(inp,pn.Row(button_conversation),pn.panel(interactive_conversation, loading_indicator=True, height=300),
)
dashboard
messages = context.copy()
messages.append(
{'role':'system', 'content':'创建上一个食品订单的 json 摘要。\
逐项列出每件商品的价格,字段应该是 1) 披萨,包括大小 2) 配料列表 3) 饮料列表,包括大小 4) 配菜列表包括大小 5) 总价'},
)response = get_completion_from_messages(messages, temperature=0)
print(response)
总结
- 聊天机器人构建:通过系统消息和上下文构建,可以创建具有特定身份和行为的聊天机器人。
- 上下文的重要性:提供完整的上下文信息,以便模型能够理解和引用对话历史。
- 交互式界面:通过GUI与用户交互,收集和展示对话。
- JSON摘要:为订单系统提供结构化数据,便于处理和记录。