巧用提示语,说说话就能做个聊天机器人

你好,我是徐文浩。

这一讲,我们来看看Open AI提供的Completion这个API接口。相信已经有不少人试过和ChatGPT聊天了,也有过非常惊艳的体验,特别是让ChatGPT帮我们写各种材料。那么,我们不妨也从这样一个需求开始吧。

AI 客服

在这一波AIGC浪潮之前,我也做过一个智能客服的产品。我发现智能客服的回答,往往是套用固定的模版。这个的缺点,就是每次的回答都一模一样。当然,我们可以设计多个模版轮换着表达相同的意思,但是最多也就是三四个模版,整体的体验还是相当呆板。

不过,有了GPT这样的生成式的语言模型,我们就可以让AI自动根据我们的需求去写文案了。只要把我们的需求提给Open AI提供的Completion接口,他就会自动为我们写出这样一段文字。

import openai
import osopenai.api_key = os.environ.get("OPENAI_API_KEY")
COMPLETION_MODEL = "text-davinci-003"prompt = '请你用朋友的语气回复给到客户,并称他为“亲”,他的订单已经发货在路上了,预计在3天之内会送达,订单号2021AEDG,我们很抱歉因为天气的原因物流时间比原来长,感谢他选购我们的商品。'def get_response(prompt, temperature = 1.0):completions = openai.Completion.create (engine=COMPLETION_MODEL,prompt=prompt,max_tokens=1024,n=1,stop=None,temperature=temperature,)message = completions.choices[0].textreturn message
print(get_response(prompt))

亲,您的订单已经顺利发货啦!订单号是2021AEDG,预计在3天之内会寄到您指定的地址。不好意思,给您带来了不便,原计划到货时间受天气原因影响而有所延迟。期待您收到衣服后给我们反馈意见哦!谢谢你选购我们的商品!

print(get_response(prompt))

亲,您的订单2021AEDG刚刚已经发出,预计3天之内就会送达您的手中。抱歉由于天气的原因造成了物流延迟,但我们会尽快将订单发到您的手中。感谢您对我们的支持!

相同的提示语,连续调用两次之后,给到了含义相同、遣词造句不同的结果。

我在这里列出了一段非常简单的代码。代码里面,我们给Open AI提供的Completion接口发送了一段小小的提示语(Prompt)。这段提示语要求AI用亲切的语气,告诉客户他的订单虽然已经发货,但是因为天气原因延迟了。并且我们还加了一个小小的语言风格上的要求,我们希望AI用朋友的口吻向用户说话,并且称用户为“亲”。然后,我们尝试连续用完全相同的参数调用了两次AI。

可以看到,AI的确理解了我们的意思,满足了我们的要求,给出了一段正确合理的回复。其中有两点我觉得殊为不易**。**

  1. 他的确用“亲”来称呼了用户,并且用了一些语气词,显得比较亲切。
  2. 他正确地提取到了输入内容里的订单号,并且在回复内容里也把这个订单号返回给了用户。

而且,两次返回的文案内容意思是相同的,但是具体的遣词造句又有所不同。这样通过一句合理的提示语,我们就可以让自己的智能客服自己遣词造句,而不是只能套用一个固定的模版。

而每次回复的内容不一样,则归功于我们使用的一个参数temperature。这个参数的输入范围是0-2之间的浮点数,代表输出结果的随机性或者说多样性。在这里,我们选择了1.0,也就是还是让每次生成的内容都有些不一样。你也可以把这个参数设置为0,这样,每次输出的结果的随机性就会比较小。

我将temperature设置为0,你可以看到两句内容的遣词造句就基本一致了。

print(get_response(prompt, 0.0))

亲,您的订单2021AEDG已经发货,预计在3天之内会送达,由于天气原因,物流时间比原来长,我们深表歉意。感谢您选购我们的商品,祝您购物愉快!

print(get_response(prompt, 0.0))

亲,您的订单2021AEDG已经发货,预计在3天之内会送达。很抱歉因为天气的原因物流时间比原来长,感谢您选购我们的商品,祝您购物愉快!

这个参数该怎么设置,取决于实际使用的场景。如果对应的场景比较严肃,不希望出现差错,那么设得低一点比较合适,比如银行客服的场景。如果场景没那么严肃,有趣更加重要,比如讲笑话的机器人,那么就可以设置得高一些。

既然看了temperature参数,我们也就一并看一下 Completion 这个接口里面的其他参数吧。

  • 第一个参数是 engine,也就是我们使用的是Open AI的哪一个引擎,这里我们使用的是 text-davinci-003,也就是现在可以使用到的最擅长根据你的指令输出内容的模型。当然,也是调用成本最高的模型。

  • 第二个参数是 prompt,自然就是我们输入的提示语。接下来,我还会给你更多使用提示语解决不同需求的例子。

  • 第三个参数是 max_tokens,也就是调用生成的内容允许的最大token数量。你可以简单地把token理解成一个单词。实际上,token是分词之后的一个字符序列里的一个单元。有时候,一个单词会被分解成两个token。比如,icecream是一个单词,但是实际在大语言模型里,会被拆分成 ice 和 cream 两个token。这样分解可以帮助模型更好地捕捉到单词的含义和语法结构。 一般来说,750个英语单词就需要1000个token。我们这里用的 text-davinci-003 模型,允许最多有4096个token。需要注意,这个数量既包括你输入的提示语,也包括AI产出的回答,两个加起来不能超过4096个token。比如,你的输入有1000个token,那么你这里设置的 max_tokens 就不能超过 3096。不然调用就会报错。

  • 第四个参数 n,代表你希望AI给你生成几条内容供你选择。在这样自动生成客服内容的场景里,我们当然设置成1。但是如果在一些辅助写作的场景里,你可以设置成3或者更多,供用户在多个结果里面自己选择自己想要的。

  • 第五个参数 stop,代表你希望模型输出的内容在遇到什么内容的时候就停下来。这个参数我们常常会选用 "\n\n"这样的连续换行,因为这通常意味着文章已经要另起一个新的段落了,既会消耗大量的token数量,又可能没有必要。我们在下面试了一下,将“,”作为stop的参数,你会发现模型在输出了“亲”之后就停了下来。

    print(get_response(prompt, 0.0, ","))

Completion这个接口当然还有其他参数,不过一时半会儿我们还用不着,后面实际用得上的时候我们再具体介绍。如果你现在就想知道,那么可以去查看一下官方文档。如果你觉得英语不太好,可以试着用“请用中文解释一下这段话的意思”作为提示语,调用Open AI的模型来理解文档的含义。

AI 聊天机器人

上面我们知道了怎么用一句提示语让AI完成一个任务,就是回答一个问题。不过,我们怎么能让AI和人“聊起来”呢?特别是怎么完成多轮对话,让GPT能够记住上下文。比如,当用户问我们,“iPhone14拍照好不好”,我们回答说“很好”。然后又问“它的价格是多少的时候”,我们需要理解,用户这里问的“它”就是指上面的iPhone。

对于聊天机器人来说,只理解当前用户的句子是不够的,能够理解整个上下文是必不可少的。而GPT的模型,要完成支持多轮的问答也并不复杂。我们只需要在提示语里增加一些小小的工作就好了。

想要实现问答,我们只需要在提示语里,在问题之前加上 “**Q :**” 表示这是一个问题,然后另起一行,加上 “**A :**” 表示我想要一个回答,那么 Completion的接口就会回答你在 “Q : ” 里面跟的问题。比如下面,我们问AI “鱼香肉丝怎么做”。它就一步一步地列出了制作步骤。

question =  """
Q : 鱼香肉丝怎么做?
A : 
"""
print(get_response(question))
  1. 准备好食材:500克猪里脊肉,2个青椒,2个红椒,1个洋葱,2勺蒜蓉,3勺白糖,适量料酒,半勺盐,2勺生抽,2勺酱油,2勺醋,少许花椒粉,半勺老抽,适量水淀粉。
  2. 将猪里脊肉洗净,沥干水分,放入料酒、盐,抓捏抓匀,腌制20分钟。
  3. 将青红椒洗净,切成丝,洋葱洗净,切成葱花,蒜末拌入小苏打水中腌制。
  4. 将猪里脊肉切成丝,放入锅中,加入洋葱,炒制至断生,加入青红椒,炒匀,加入腌制好的蒜末,炒制至断生。
  5. 将白糖、生抽、酱油、醋、花椒粉、老抽、水淀粉倒入锅中,翻炒匀,用小火收汁,调味即可。

而要完成多轮对话其实也不麻烦,我们只要把之前对话的内容也都放到提示语里面,把整个上下文都提供给AI。AI就能够自动根据上下文,回答第二个问题。比如,你接着问“那蚝油牛肉呢?”。我们不要只是把这个问题传给AI,而是把前面的对话也一并传给AI,那么AI自然知道你问的“那蚝油牛肉呢?”是指怎么做,而不是去哪里买或者需要多少钱。

Q:鱼香肉丝怎么做? A:详细的鱼香肉丝的做法 Q:那蚝油牛肉呢? A:

question =  """
Q : 鱼香肉丝怎么做?
A : 
1.准备好食材:500克猪里脊肉,2个青椒,2个红椒,1个洋葱,2勺蒜蓉,3勺白糖,适量料酒,半勺盐,2勺生抽,2勺酱油,2勺醋,少许花椒粉,半勺老抽,适量水淀粉。
2.将猪里脊肉洗净,沥干水分,放入料酒、盐,抓捏抓匀,腌制20分钟。
3.将青红椒洗净,切成丝,洋葱洗净,切成葱花,蒜末拌入小苏打水中腌制。
4.将猪里脊肉切成丝,放入锅中,加入洋葱,炒制至断生,加入青红椒,炒匀,加入腌制好的蒜末,炒制至断生。
5.将白糖、生抽、酱油、醋、花椒粉、老抽、水淀粉倒入锅中,翻炒匀,用小火收汁,调味即可。Q : 那蚝油牛肉呢?
A : 
"""
print(get_response(question))

1.准备好食材:500克牛肉,2茶匙葱姜蒜末,6茶匙蚝油,4茶匙米醋,3茶匙白糖,3茶匙酱油,1茶匙料酒,半茶匙盐。 2.将牛肉洗净,放入清水中,加入料酒、盐,煮至牛肉熟透,捞出沥干水分,放入碗中。 3.在另一锅中,倒入蚝油,米醋,白糖,酱油翻炒均匀,加入葱姜蒜末,翻炒均匀。 4.将牛肉碗中放入蚝油汁中,炒匀,加入酱油,翻炒至汁呈红色,收汁成浓稠状即可。

我在下面贴了一段完整的Python代码food_chatbot,他会从命令行读入你的问题,然后给出回答。你可以继续提问,然后我们把整个对话过程都发送给AI来回答。你可以尝试着体验一下,AI是不是能够理解整个对话过程的上下文。你想要退出的时候,就在需要提问的时候,输入 “bye” 就好了。

import openai
import osopenai.api_key = os.environ["OPENAI_API_KEY"]def ask_gpt3(prompt):response = openai.Completion.create(engine="text-davinci-003",prompt=prompt,max_tokens=512,n=1,stop=None,temperature=0.5,)message = response.choices[0].text.strip()return messageprint("你好,我是一个聊天机器人,请你提出你的问题吧?")questions = []
answers = []def generate_prompt(prompt, questions, answers):num = len(answers)for i in range(num):prompt += "\n Q : " + questions[i]prompt += "\n A : " + answers[i]prompt += "\n Q : " + questions[num] + "\n A : "        return promptwhile True:user_input = input("> ")questions.append(user_input)if user_input.lower() in ["bye", "goodbye", "exit"]:print("Goodbye!")breakprompt = generate_prompt("", questions, answers)answer = ask_gpt3(prompt)print(answer)answers.append(answer)

让AI帮我解决情感分析问题

可以看到,巧妙地利用提示语,我们就能够让AI完成多轮的问答。那你是不是想到了,我们能不能用同样的方式,来解决上一讲我们说到的情感分析问题呢?毕竟,很多人可能没有学习过任何机器学习知识,对于向量距离之类的概念也忘得差不多了。那么,我们能不能不用任何数学概念,完全用自然语言的提示语,让AI帮助我们判断一下用户评论的情感是正面还是负面的呢?

那我们不妨来试一下,告诉AI我们想要它帮助我们判断用户的评论情感上是正面的还是负面的,并且把上一讲两个iPhone评论的例子给它,告诉它什么是正面的,什么是负面的。然后,再给他一段新的评论,看看他是不是会回复正确的答案。

我把对应的代码放在了下面,我们仍然只是简单地调用 Completion 的API一次。只是需要再把提示语分成三个组成部分。

  1. 第一部分是我们给到AI的指令,也就是告诉它要去判断用户评论的情感。
  2. 第二部分是按照一个固定格式给它两个例子,一行以“评论:”开头,后面跟着具体的评论,另一行以“情感:”开头,后面跟着这个例子的情感。
  3. 第三部分是给出我们希望AI判定的评论,同样以“评论:”开头跟着我们想要它判定的评论,另一行也以“情感:”开头,不过后面没有内容,而是等着AI给出判定。

    prompts = """判断一下用户的评论情感上是正面的还是负面的
    评论:买的银色版真的很好看,一天就到了,晚上就开始拿起来完系统很丝滑流畅,做工扎实,手感细腻,很精致哦苹果一如既往的好品质
    情感:正面
    

评论:随意降价,不予价保,服务态度差 情感:负面 """

good_case = prompts + """ 评论:外形外观:苹果审美一直很好,金色非常漂亮 拍照效果:14pro升级的4800万像素真的是没的说,太好了, 运行速度:苹果的反应速度好,用上三五年也不会卡顿的,之前的7P用到现在也不卡 其他特色:14pro的磨砂金真的太好看了,不太高调,也不至于没有特点,非常耐看,很好的 情感: """

print(get_response(good_case))


```python正面
bad_case = prompts + """
评论:信号不好电池也不耐电不推荐购买
情感
"""print(get_response(bad_case))
负面

我们重新从京东商城的iPhone评论区随机找两个和上次不太一样的好评和差评,可以看到,结果是准确的。这是不是很棒?我们不需要任何机器学习的相关知识,用几句话就能够轻松搞定情感分析问题。

图片[reference_begin]注:常见的大模型的上下文学习能力,通过几个例子,就能回答正确的结果。[reference_end]

而上面这个“给一个任务描述、给少数几个例子、给需要解决的问题”这样三个步骤的组合,也是大语言模型里使用提示语的常见套路。一般我们称之为 Few-Shots Learning(少样本学习),也就是给一个或者少数几个例子,AI就能够举一反三,回答我们的问题。

小结

好了,到这里相信你已经体会到Completion这个接口的魔力了。只要给出合理的提示语,Open AI的大语言模型就能神奇地完成我们想要完成的任务。

在这一讲里,我们就看到了三个例子,第一个是给AI一个明确的指令,让它帮我重写一段话。第二个,是将整个对话的历史记录都发送出去,并且通过Q和A提示AI这是一段对话,那么AI自然能够理解整个上下文,搞清楚新的问题是指“蚝油牛肉怎么做”而不是“哪里买或者怎么吃”。而第三个例子,我们则是给了AI几个正面情感和负面情感的例子,它就能够直接对新的评论做出准确的情感判断。

可以看到,善用合适的提示语,能够让大语言模型完成很多任务。这也是为什么,我们认为它已经是我们迈向通用人工智能的第一步。

课后练习

上一讲我给出了一些数据集,通过向量距离来进行正面和负面情感的判断。那么,你能不能试着用这一讲的Few-Shots Learning的方法,在对应的数据集上也运行一下,看看通过这种方式进行情感分析的准确率是多少?

欢迎你在留言区分享你的思考,也欢迎你把这节课分享给感兴趣的朋友,我们下一讲再见。

推荐尝试

在使用GPT类型的模型的时候,提示语非常重要。所以,有人专门制作了一个叫做 AIPRM的浏览器插件,包含了很多总结出来有效的提示语。你可以试着安装,看看别人都用了什么有趣的提示语。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/8615.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

量化选股——基于动量因子的行业风格轮动策略(第1部分—因子测算)

文章目录 动量因子与行业轮动概述动量因子的理解投资视角下的行业轮动现象投资者视角与奈特不确定性 动量因子在行业风格上的效果测算动量因子效果测算流程概述1. 行业选择:申万一级行业2. 动量因子选择:阿隆指标(Aroon)3. 测算方…

苹果微软等科技巨头紧急叫停,chatgpt翻车了?(文末附联名信)

一、千名大佬集体叫停GPT研发 3月29日,一封联名信刷爆了各大媒体热榜,上面有一千多位大佬签名,其中包括埃隆马斯克、约书亚本吉奥(Yoshua Bengio,2018年图灵奖获得者)和史蒂夫沃兹尼亚克(Steve…

免费!终极ChatGPT提示+Midjourney宝藏神图,1200+图片,震撼人心

新智元报道 编辑:Aeneas 【新智元导读】一位网友花费一周,用从ChatGPT生成的prompt,在Midjourney中生成了一千多张精彩的作品。 Midjourney虽然功能神奇,但在prompt能力平平的人手里,它并不能绽放自己的魔力。 国外的…

ChatGPT专业应用:生成各类通知

正文共 821 字,阅读大约需要 3 分钟 游戏/用户运营等必备技巧,您将在3分钟后获得以下超能力: 生成各类通知 Beezy评级 :B级 *经过简单的寻找, 大部分人能立刻掌握。主要节省时间。 推荐人 | nanako 编辑者 | Linda ●…

ChatGPT Plus停售 留出防治AI风险空窗期

能体验GPT-4模型的ChatGPT,因需求量太大而暂停了升级为Plus的功能,算力似乎爆表了。 这下,有钱都没地儿充会员了,用户们暂时需要回到“GPT-3.5时代”。这或许留给人类一个空窗期,可以好好思考一下前段时间上千名科技精…

【重制版】10分钟学会WINDOWS、MAC、LINUX如何安装GPT桌面版

文章目录 1 前言2 Windows版下载安装2.1 安装包2.2 winget下载 (注意看,不是wget!) 3 Mac版下载安装3.1 安装包3.2 homebrew安装 4 Linux版下载安装4.1 安装包4.2 终端下载 5 特点5.1 软件特点5.2 菜单功能(个人喜好特…

英伟达黄老板成身价350亿美元CEO!做AIGC淘金时代送铲子的

Datawhale干货 英伟达CEO:黄仁勋,来源:新智元 【导读】90年代显卡芯片的红海市场中,为什么是英伟达脱颖而出?3D、矿卡、移动构架、人工智能,老黄带着英伟达,踏准了一个个风口,笑到了…

【人工智能】人工智能行业研究:史上最伟大的科技革命

【人工智能】人工智能行业研究:史上最伟大的科技革命 目录 【人工智能】人工智能行业研究:史上最伟大的科技革命

BFT最前线 | iOS版ChatGPT周下载突破50万人次;英伟达市值突破万亿美元创造芯片公司历史;华为开发者大会即将发布

原创 | 文 BFT机器人 AI视界 TECHNOLOGY NEWS 01 联合国教育部聚焦生成式AI 联合国科教文组织提出发展路线图 近日,为应对生成式人工智能技术的迅速发展,联合国教科文组织就此议题召开了首次全球教育部长会议。40多位部长分享了将这些工具融入教育的…

从应用火到股市 AIGC概念股连涨仨月

AI有变革生产力之势,证券市场闻风而动。同花顺数据显示,AIGC概念指数年内上涨近60%,涨幅是上证指数的10倍多。 具体到个股,软通动力、远大智能等搭上AI风口的企业服务商“老树发新芽”,直接涨停。游戏板块霸榜产品回报…

英伟达单日涨出一个AMD、两个英特尔,市值冲向万亿美元!

金磊 发自 凹非寺量子位 | 公众号 QbitAI 英伟达,即将成为第一家市值破1万亿美元的芯片公司! 而且是仅在一天内,市值暴涨了超2000亿美元的那种。 什么概念? 相当于涨出了一个AMD、两个英特尔、三个美光…… 用雅虎财经的话来评价&…

AI炒股回报率500%?内行揭秘玄机

一篇来自佛罗里达大学的研究报告震惊了金融圈:用ChatGPT对公司新闻进行情绪分析,并按此在股市做多、卖空,最高可获得超过500%的投资回报率。虽然坊间对这份报告中惊人的回报率数据有所怀疑,但金融界正在因AI的介入发生改变。 摩根…

【创新应用】颠覆历史!「ChatGPT搜索引擎」发布,微软市值一夜飙涨5450亿

来源:智能研究院 【导读】搜索引擎要变天!微软官宣:整合ChatGPT的必应来了!现在即可体验! 连续两天,我们都在见证历史。 硅谷大厂已经剑拔弩张,ChatGPT引爆的这一场搜索引擎大战,一触…

「问题少年」逆袭成资产350亿美元CEO!ChatGPT背后最大赢家

来源:新智元 上周六,仅仅在一天内,英伟达的市值就暴涨了超2000亿美元,震惊了美股市场。 短短一瞬间,就涨出一个AMD,两个英特尔。 ChatGPT引爆的AIGC热潮,让英伟达赚翻了。 在COMPUTEX大会上&…

万字长文:ChatGPT能否成为互联网后下一个系统性机会?

2023年险峰线上沙龙的第一期,我们和四位行业大牛聊了聊最近大火的ChatGPT。 首先介绍一下本场嘉宾:陶芳波博士是前Facebook高级研究科学家,回国后进入阿里达摩院,搭建了阿里的神经符号实验室,属于全球最顶级的AI科学家…

这一周,全世界都兴奋麻了!

作者| Founder Park 真是疯狂的一周。 GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API、文心一言,一颗颗 AI 大模型领域的重磅炸弹,扎堆在这周引爆。 GPT 开启了大模型的多模态应用,微软说让工具回归工具&#xf…

数据分析:2023 最值得投资的 AI 公司榜单

文章目录 1 AI 公司的火爆程度和发展趋势1.1 AI 市场的规模和增长趋势1.2 全球 AI 公司数量和分布情况1.3 我们如何把握 AI 风口? 2 方法一:网络数据采集 - 使用亮数据代理2.1 动态 ip 代理,获取数据2.2 浏览器代理 3 方法二:网络…

使用GPT-4.0编写量化交易策略:方法、案例与参数优化

量化策略开发,高质量社群,交易思路分享等相关内容 『正文』 ˇ 随着人工智能的发展,GPT-4.0已经成为量化交易策略编写的强大工具。在这篇文章中,我们将探讨如何使用GPT-4.0编写量化交易策略,并提供一个实际的案例。我…

第二弹:QMT+ChatGPT快速上手量化投资 时间:5月25号(周四)16:00点

一、量化交易 (QMT/Ptrade )的适用人群 量化交易一般适用于以下交易人群: (1)交易活跃用户; (2)量化爱好者已经专业量化投资者; (3)高净值个人…

chatgpt赋能Python-python_backtrader

Python Backtrader:开源的交易框架 Python Backtrader是一款开源的交易框架,可以用于量化分析、策略开发、回测和交易执行等领域。该框架支持多种数据源、交易所和证券品种,并提供了丰富的运筹分析工具和可视化界面,方便用户进行…