文心:PPT 制作、数字人主播一键开播等应用场景惊艳到我了,下面给到Prompt工程详细教程应用场景及案例
1.文心千帆简介
-
文心千帆优势
-
基础强大、知识丰富
文心千帆平台基于百度智能云,采用飞桨深度学习框架作为底层支撑,并内置文心大模型技术。用户通过少量数据调整,可轻松获得高精度和高性能的大模型。 -
流程完善、发布便捷
提供一站式服务,涵盖数据集管理、模型训练、服务发布与监管。通过可视化界面实现模型全生命周期管理,简化从数据到服务的大模型实施过程,易于上手与理解。 -
运行稳定、共建生态
文心千帆具备完整技术栈、长期稳定的模型开发引擎以及卓越性能。平台低技术门槛,适合各行各业接入,助力完成行业大模型的开发建设。 -
安全可靠、一键启用
文心千帆提供文心一言企业级服务,结合百度智能云安全控制机制及文心底层内容安全功能,对推理内容进行审核与敏感词过滤,确保安全可信。
-
视频链接(PPT 制作、数字人主播一键开播等数十种应用场景惊艳到我了):
文心千帆:PPT 制作、数字人主播一键开播等惊艳到我了
2.Prompt工程简介、应用场景及案例
在介绍 Prompt 工程之前首先了解一下什么是 Prompt。Prompt 也叫提示词,简单的理解成它是给大模型的指令。它可以是一个问题、一段文字描述,甚至可以是带有一堆参数的文字描述。大模型会基于 prompt 所提供的信息,生成对应的文本或者图片。
Prompt 工程即指针对于 Prompt 进行结构、内容等维度进行优化的 AI 技术,它把大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。
Prompt 工程的作用,就是通过提供清晰和具体的指令,引导模型输出生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要工程。
- Prompt 模板
在很多大模型应用场景下,基于经验或者训练语料总结出一些优质的 Prompt 组成结构,可将其抽离成为一种模板,在模板中去填充对象信息来进行大模型推理,从而获得更准确的推理结果。
文心千帆的 Prompt 工程提供 Prompt 模版功能,支持定义模板后在在线服务 - 在线测试器中快速使用,也支持通过 Prompt 模板的云服务调用获取模板。
2.1 应用场景及案例、
2.1.1 金融行业
应用场景:银行贷记卡征信问题
采用策略:无变量 Prompt 模版 - 限定问答文本
案例展示:
- 用户:征信中经常出现的连三累六是什么意思?
- 应答:征信报告中连续三个月有逾期还款记录,并且逾期还款记录累计超过六次,是连三与累六的合称,这是征信逾期中较为严重的一种,一旦出现这种情况,在银行申请贷款是不可能通过的,并且大部分网贷申请也会有限制。
2.1.2 本地生活
应用场景:查询商户营业时间
采用策略:有变量 Prompt 模版 - {time}{location}{store}{behav}
案例展示:
- 用户:晚上九点北京 xx 健身房还在营业吗?
- 应答:您好,XX 健身房的营业时间为 9:00~22:00,您可以致电 010-XX88 咨询商家当天的营业情况。
2.1.3 MCN 剧本
应用场景:生成达人视频剧本
采用策略:有变量的 Prompt 模版 - 写一个视频化 {number_1} 分钟以内,{number_2}个角色 {adjective} 的{theme}故事。
案例展示:
- 用户:写一个视频化 5 分钟以内,4 个角色不畏艰难的冒险故事。
- 应答:唐僧师徒三人,今日来到了八百里流沙河。忽然从河中冲出一个红发河妖…
3. Prompt模板使用说明
管理和查看 prompt 模板,支持在服务调用时组合 prompt 输入推理。
登录到[文心千帆大模型操作台],在左侧功能列选择 [Prompt 模板],进入 Prompt 模板主任务界面。
- 创建 Prompt 模板
您需要在 Prompt 模板界面,选择 “创建 Prompt 模板” 按钮。
填写好模版名称后,在范围内选择 / 新建模板标签,模版内容的填写即可,您可以直接填入引用的内容,也可以用 “{}” 注入变量。
-
查看 Prompt 模板
在 Prompt 模版列表中,点击模版名称可以查看 Prompt 模板详情。
- 无变量 Prompt 模板
- 有变量 Prompt 模板
所有类型 Prompt 模板均自动生成接口地址,可以被业务方调用。
-
操作 Prompt 模板
在 Prompt 模板列表中可对指定模版进行如下操作:
- 编辑:重新编辑 Prompt 模板内容,包括模型名称、标签和内容。可查看[创建 Prompt 模板]相关内容。
- 删除:删除 Prompt 模板,一旦删除不可恢复。
- 复制 ID:复制 Prompt 模版的 ID,可以在后续 API 中或者检索备份中留有标识认证。
- 引用 Prompt 模板
Prompt 模版可以直接在预测服务测试中进行实现,详细操作可参考[在线测试使用说明]。
- 支持 API 调用
文心千帆大模型平台,现已支持 API 获取 Prompt 模版,详情可参考 [Prompt 模版] API 文档。
4. Prompt的使用技巧
在生成式大模型推理场景下,Prompt 的使用方式对于模型理解和生成文本的质量具有重要意义。Prompt 是一种文本模板,其中包含一些占位符,这些占位符将在运行时由实际值替换。在自然语言生成(NLG)任务中,更优质、更准确的 Prompt 能够帮助模型生成更具连贯性和准确性的文本
然而,不同的 Prompt 设计方法可能会产生不同的结果。如果 Prompt 设计不当,可能会导致模型生成的质量下降,甚至产生不准确或错误的文本。因此,对于 Prompt 的设计和使用方式进行优化和改进是非常重要的。通过优化和改进 Prompt 的设计方法,可以提高模型的针对性和准确度,从而生成更高质量的文本
例如,我们让 ERNIE-Bot 写一首诗,就会返回一个比较泛化的结果
但如果给定的主题与格式明确,ERNIE-Bot 就会返回一个更符合预期的诗文
4.1 正确的语法、用词以及标点
在 Prompt 中的实体对象存在多种谐音,而我们在拼写错的情况下,往往会获得错误的返回结果。同理,在语法错误以及标点错误的情况下,可能也会得到不符合预期的返回结果。因此,我们在构建 Prompt 时,需要保证语法、用词以及标点的准确性来引导模型生成更准确的内容
4.2 避免歧义,简洁易懂
生成式大模型很多时候也和人类的理解能力相似,需要输入一些更明确的指示内容助于理解并执行内容生成,意图不明的模糊指令会让模型生成内容与预期有些偏离,甚至影响原本 Prompt 指令的生成内容。如下例中,让大模型生成一个短点的故事内容,在结构上可能进行了缩短,但生成内容有些偏离 “故事” 本身;而明确让大模型生成一个故事并规定字数限制后,可见的表现变得更好了
4.3 更完整的信息
在针对一些实体对象进行评价、分析等场景时,大模型训练时不含这类实体对象的语料,就像我们无法对不认识的人产生评价一样,大模型也无法理解并生成对应的内容。因此,在针对特定对象以及特定场景进行内容生成时,需要补充更完整的背景信息
4.3.1 设定身份视角
在一些对话场景、创作场景下,不同的身份视角往往会基于 Prompt 具体的指令内容给出不同角度的生成内容,例如在法律咨询的场景,我们期待大模型基于律师的视角给与建议;在学生考前焦虑的提问对话场景下,可以让大模型基于老师、家长不同的视角给与建议与安抚
4.3.2提供生成示例
提供更多明确的示例内容与格式,可以明确大模型生成的内容在可控范围内,是在很多通用场景下提升大模型生成内容质量的有效手段
4.3.3 限定 Prompt 指令范围(To Do and Not To Do)
在一些需要明确返回内容范围的场景,例如需要通过返回内容进行检索等,给出明确的指令输入模型,能够提升返回内容的准确度,来满足场景诉求。同时,这样限定生成内容范围的 Prompt 在某种程度上也减少了泛化内容的生成,节约了网络传输与资源成本
4.4思维链条
在一些逻辑推理、数学计算场景下,即便加上示例可能也很难获取到准确的结果,大模型也需要一步一步引导来学习。此时,我们加上逻辑推理的步骤,大模型就可以正确推理出符合预期的结果。
以下是 Few-shot Prompting 的场景,在补充完成计算逻辑后,ERNIE Bot 即可正确计算出结果
4.5 更多prompt 工程知识请参考
chatgpt/Midjourney prompt教程
5.总结
本文主要目的是布道:文心千帆大模型平台(一站式企业级大模型平台,提供先进的生成式AI生产及应用全流程开发工具链),希望国产化大模型越来越好。更多内容请参考官网文心千帆大模型平台
-
强大的技术能力:文心千帆大模型平台采用了最先进的人工智能技术,具有强大的自然语言处理和机器学习能力,能够为用户提供高质量的文本生成和语义理解服务。
-
丰富的模型库:文心千帆大模型平台拥有丰富的模型库,涵盖了多种语言和领域,能够满足不同用户的需求。
-
良好的用户体验:文心千帆大模型平台的用户界面简洁明了,操作简单方便,用户可以快速上手。此外,平台还提供了丰富的文档和教程,帮助用户更好地了解和使用平台。
-
良好的安全性:文心千帆大模型平台采用了严格的安全措施,保障了用户数据的安全性,让用户可以放心使用平台。
-
参考文献:
-
丰富的模型库:文心千帆大模型平台拥有丰富的模型库,涵盖了多种语言和领域,能够满足不同用户的需求。
-
良好的用户体验:文心千帆大模型平台的用户界面简洁明了,操作简单方便,用户可以快速上手。此外,平台还提供了丰富的文档和教程,帮助用户更好地了解和使用平台。
-
良好的安全性:文心千帆大模型平台采用了严格的安全措施,保障了用户数据的安全性,让用户可以放心使用平台。