详解基于百炼平台及函数计算快速上线网页AI助手

引言

在当今这个信息爆炸的时代，用户对于在线服务的需求越来越趋向于即时性和个性化。无论是寻找产品信息、解决问题还是寻求建议，人们都期望能够获得即时反馈。这对企业来说既是挑战也是机遇——如何在海量信息中脱颖而出，提供高效且贴心的服务？答案之一就是利用现在炙手可热的AI技术。

阿里云百炼平台为企业提供了一种快速、便捷的方式来实现这一目标。通过集成百炼平台上的 AI 助手，企业可以在短短十分钟内为自己的网站增添一个智能客服系统，从而显著提升用户体验，同时降低人工客服的成本与压力。

本文将详细介绍如何使用阿里云百炼平台在您的网站上部署一个功能完善的 AI 助手。我们将从创建项目开始，一步步指导您完成配置，并最终让 AI 助手上线运行。无论您是技术背景深厚的专业人士，还是对此领域有所了解的产品经理，本指南都将帮助您轻松掌握这一过程。

此处附上学习地址，欢迎朋友们多交流探讨！

阿里云百炼实训营

百炼控制台

另附笔者之前的文章，里面也是较为详细的阐述了百炼平台的基础使用，可供大家学习或参考：精铸智刃·“百炼”成钢——深度探索阿里云百炼大模型开发平台

基于阿里云百炼平台及函数计算快速上线一个网页AI助手

本文的产品方案地址如下：https://www.aliyun.com/solution/tech-solution/add-an-ai-assistant-to-your-website-in-10-minutes 亲测整个流程体验下来大约耗时10分钟。

image.png

主要分为以下四个步骤：

image.png

创建大模型应用

首先需要通过百炼创建一个大模型应用，并获取调用大模型应用 API 的相关凭证，如果有私有模型也可直接调用私有模型的接口，此处还是以百炼平台的大模型应用为例，因为比较方便。

进入百炼平台，点击【我的应用】，选择【创建应用】。

image.png

在此处任意选择一个即可，但是注意，不同的模型计价不同：

image.png

具体的计价表周周这里也整理出来了，如下图所示：

image.png

其中，通义千问-Max是通义千问2.5系列千亿级别超大规模语言模型，支持中文、英文等不同语言输入，也是这几个里面参数量最大的。

不过为了节省，周周还是使用了价格稍便宜的通义千问-Plus。

image.png

这里大家也可以看到，除了模型选择外，在参数设置中还有温度系数、最长回复长度和携带上下文轮数三个可控参数。

  • 温度系数：调控生成的多样性。

  • 最长回复长度：模型生成的长度限制，不包含prompt。允许的最大长度因模型不同有所改变。

  • 携带上下文轮数：设置输入模型的最大历史对话轮数，轮数越多，对话相关性越强。

后面两个是比较好理解的，这里着重说明一下温度系数的概念。

温度系数定义

温度系数是一个介于0到正无穷之间的数值，通常在实际应用中设定在一个较小的范围内，比如0到2之间。它是基于统计物理学中的概念，在机器学习中被用来模拟系统的随机性。

温度系数的作用

  • 确定性 vs 随机性：

  • 当温度系数接近0时，模型倾向于选择概率最高的下一个词，这使得生成的文本更为确定和保守，但也可能导致重复或缺乏创意的结果。

  • 当温度系数接近1时，模型的选择接近于均匀分布，这意味着模型将根据所有候选词汇的概率分布来做出选择，这增加了生成文本的多样性和随机性。

  • 当温度系数大于1时，模型的选择变得更加随机，甚至可能选择一些概率较低的词汇，这可能会导致生成的文本更具创新性，但也可能不太连贯。

  • 平衡探索与利用：

温度系数可以帮助平衡模型在探索新文本（尝试不同的生成路径）与利用已知高概率路径之间的权衡。

那么不同的场景到底适合什么样的温度呢？一般而言，低温度适合于需要高度准确和一致性的应用场景，如代码生成、专业文档编写等；中等温度适用于大多数通用场景，可以产生既连贯又有一定创造性的文本；高温度适用于需要大量创意和多样性的场景，如故事创作、诗歌生成等。

这里针对上面场景举一个简单的例子。

假设模型预测下一个词的概率分布如下：

image.png

当我温度系数=0.1，几乎总是选择"猫"，因为它是概率最高的选项。

当我温度系数=1.0，按照原始概率分布进行选择，"猫"仍然是最可能的选项，但"狗"和"鱼"也会被选择。

当我温度系数=2.0，选择变得更为随机，即使是概率较低的词汇也有可能被选中。

对照上面的例子，相信也很容易明白，我们现在的场景需要一定的专用性和通用性，但是专用性要求更高，所以温度系数必定选择在01之间，这里建议调整为0.40.6的这个区间，具体情况还需根据反复调试来判断。

image.png

完成后点击右上角【发布应用】。

image.png

返回我的应用页面，点击查看我的API-KEY，在弹出窗口中创建一个新API-KEY。

image.png
image.png

回到应用列表，可以查看所有百炼应用 ID。

image.png

搭建示例网站

进入函数计算界面，选择准备好的应用模板，快速搭建一个空白的示例网站。

点击【直接部署】，填写前面获取到的百炼应用 ID 以及 API-KEY。

image.png

然后其他表单项保持默认，点击页面左下角的创建并部署默认环境，等待项目部署完成即可（预计耗时 1 分钟）。

image.png

应用部署完成后，您可以在应用详情的环境信息中找到示例网站的访问域名，点击即可查看，确认示例网站已经部署成功。

image.png

image.png

为网站增加 AI 助手

回到应用详情页，在环境详情的最底部找到函数资源，点击函数名称，进入函数详情页。

image.png

进入函数详情页后，在代码视图中找到public/index.html文件，然后取消红框所在位置的代码注释即可。

image.png

最后点击部署代码，等待部署完成即可。

image.png

重新访问示例网站页面以查看最新效果。

image.png

为 AI 助手增加私有知识

在接入成功后，你会发现虽然能够调用模型能力，但是对于本地的知识却完全不了解，下面，我们可以添加一些公司的相关产品资料，工作文档等。

回到百炼控制台的【数据管理】中点击导入数据，根据引导上传我私有知识库：

image.png
image.png

进入知识索引，根据引导创建一个新的知识库，并选择刚才上传的文件，其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引，以便后续大模型回答时检索参考。

【注释】选择向量存储类型时，如果您希望集中存储、灵活管理多个应用的向量数据，可选择ADB-PG。

image.png
image.png
image.png

完成知识库的创建后，可以返回我的应用进入到刚才创建的应用设置界面，打开知识检索增强开关、选择知识库，测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息，以便大模型在后续回答时参考检索出来的信息。

image.png

我们检验一下效果（此处我使用的自己的知识库）：

image.png

应用于生产环境

该网页AI助手的前端是基于NLUX（一个用于开发大模型对话机器人的前端库）开发的，如果您对于 AI 助理有更多定制化的需求，如希望调整样式、支持历史会话管理等，可以参考 NLUX 的文档进行定制开发。

前端示例代码 

<link rel="stylesheet" crossorigin href="https://g.alicdn.com/aliyun-documentation/web-chatbot-ui/0.0.14/index.css" />
<script type="module" crossorigin src="https://g.alicdn.com/aliyun-documentation/web-chatbot-ui/0.0.14/index.js"></script>
<script>window.CHATBOT_CONFIG = {endpoint: "/chat", // 可以替换为 https://{your-fc-http-trigger-domain}/chatdisplayByDefault: false, // 默认不展示 AI 助手聊天框aiChatOptions: { // aiChatOptions 中 options 会传递 aiChat 组件，自定义取值参考：https://docs.nlkit.com/nlux/reference/ui/ai-chatconversationOptions: { // 自定义取值参考：https://docs.nlkit.com/nlux/reference/ui/ai-chat#conversation-optionsconversationStarters: [{prompt: '哪款手机续航最长？'},{prompt: '你们有哪些手机型号？'},{prompt: '有折叠屏手机吗?'},]},displayOptions: { // 自定义取值参考：https://docs.nlkit.com/nlux/reference/ui/ai-chat#display-optionsheight: 600,},personaOptions: { // 自定义取值参考：https://docs.nlkit.com/nlux/reference/ui/ai-chat#chat-personasassistant: {name: '你好，我是你的 AI 助手',// AI 助手的图标avatar: 'https://img.alicdn.com/imgextra/i2/O1CN01Pda9nq1YDV0mnZ31H_!!6000000003025-54-tps-120-120.apng',tagline: '您可以尝试点击下方的快捷入口开启体验！',}}},dataProcessor: {/*** 在向后端大模型应用发起请求前改写 Prompt。* 比如可以用于总结网页场景，在发送前将网页内容包含在内，同时避免在前端显示这些内容。* @param {string} prompt - 用户输入的 Prompt* @param {string}  - 改写后的 Prompt*/rewritePrompt(prompt) {return prompt;}}};
</script>
<style>:root {/* webchat 工具栏的颜色 */--webchat-toolbar-background-color: #1464E4;/* webchat 工具栏文字和按钮的颜色 */--webchat-toolbar-text-color: #FFF;}/* webchat 对话框如果被遮挡，可以尝试通过 z-index、bottom、right 等设置来调整位置 */.webchat-container {z-index: 100;bottom: 10px;right: 10px;}/* webchat 的唤起按钮如果被遮挡，可以尝试通过 z-index、bottom、right 等设置来调整位置 */.webchat-bubble-tip {z-index: 99;bottom: 20px;right: 20px;}
</style>

服务端代码

前面创建的示例网站代码中，包含了一个调用大模型获取答案的接口POST /chat，具体实现代码在文件index.js中。

函数计算应用部署时附带的 .devsapp.net 域名会在下发后 30 天内回收，且不支持 https 访问，只适合于测试验证。如果您希望在您的网站上直接调用函数计算中部署的POST /chat接口，建议使用函数计算 http 触发器中提供的域名，如：https://web-chat**.fcapp.run/chat。与此同时，建议您修改index.js中的 cors 配置，禁止其他站点对此接口的访问。

image.png
image.png

总结

在这个数字化转型加速推进的时代，利用AI技术提升在线服务的质量已成为企业成功的关键因素之一。阿里云百炼平台不仅简化了AI助手的部署流程，还帮助企业实现了服务的即时性和个性化，从而更好地满足客户需求。

通过遵循本文档中的步骤，您已经能够快速地在自己的网站上部署一个功能全面的AI助手。这不仅能显著改善用户体验，还能有效减少客户服务部门的工作负担，使企业能够在激烈的市场竞争中脱颖而出。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.rhkb.cn/news/390529.html

如若内容造成侵权/违法违规/事实不符，请联系长河编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

MySQL系列之--关系型数据库以及SQL语句分类之DDL数据库和表的操作

MySQL系列之--关系型数据库以及SQL语句分类之DDL数据库和表的操作

文章目录 前言关系型数据库&#xff08;RDBMS&#xff09;关系型数据库的特点 MySQL数据模型SQL介绍基本语法规则SQL语句的分类DDL的介绍DDL的数据库操作DDL的表操作 前言 上一节MySQL系列之–详细安装教程和启动方法中介绍了MySQL如何安装&#xff0c;以及如何启动和客户端连接…
阅读更多...
现代前端架构介绍（第一部分）：App是如何由不同的构建块构成的

现代前端架构介绍（第一部分）：App是如何由不同的构建块构成的

远离JavaScript疲劳和框架大战&#xff0c;了解真正重要的东西 几周前&#xff0c;我的同事们对我们的前端架构、代码结构和面临的挑战很感兴趣。在做了几次关于如何构建可扩展且健壮的前端的演讲后&#xff0c;我觉得把它们都总结一下并与社区分享我们的策略是一个不错的主意。…
阅读更多...
内网穿透--meterpreter端口转发实验

内网穿透--meterpreter端口转发实验

实验背景 通过公司带有防火墙功能的路由器接入互联网&#xff0c;然后由于私网IP的缘故&#xff0c;公网无法直接访问内部主机&#xff0c;则需要通过已连接会话&#xff0c;代理穿透访问内网主机服务。 实验设备 1.路由器一台 2.内网 Win 7一台 3.公网 Kali 一台 4.网络 …
阅读更多...
SuccBI+低代码文档中心 — 低代码应用（SuccAP）（概论）

SuccBI+低代码文档中心 — 低代码应用（SuccAP）（概论）

概述&#xff1a; 低代码是什么&#xff1f; 低代码就是通过易用的、可视化的操作、加上少量的代码或脚本的方式快速的搭建业务应用。 低代码的优势&#xff1f; 低代码可以提升开发人员的效率&#xff0c;也可以让非开发人员也能进行应用开发。 低代码的分类&#xff1a;…
阅读更多...
『康之泉活水馆』手游：打造夏日梦幻水世界

『康之泉活水馆』手游：打造夏日梦幻水世界

设计背景 夏日的热浪与城市的喧嚣困扰着忙碌奔波的人群&#xff0c;康之泉活水馆&#xff0c;作为多功能的室内水上乐园&#xff0c;以其独特的魅力&#xff0c;成为夏日避暑的理想之地&#xff0c;让身心得以彻底放松。 设计理念 优联前端以康之泉品牌IP形象“康康”为灵感&a…
阅读更多...
计算机基础（Windows 10+Office 2016）教程 —— 第4章 计算机网络与Internet（上）

计算机基础（Windows 10+Office 2016）教程 —— 第4章 计算机网络与Internet（上）

第4章 计算机网络与Internet 4.1 计算机网络概述4.1.1 计算机网络的定义4.1.2 计算机网络的发展4.1.3 计算机网络的功能4.1.4 计算机网络体系结构和TCP/IP 参考模型 4.2 计算机网络的组成和分类4.2.1 计算机网络的组成4.2.2 计算机网络的分类 4.3 网络传输介质和通信设备4.3.1 …
阅读更多...
奇安信高管合计套现7.7亿，总裁个人套现1.9亿

奇安信高管合计套现7.7亿，总裁个人套现1.9亿

【文末送&#xff1a;技战法】 昨天网安一哥&#xff0c;奇安信发布《关于中电金投增持公司股份暨持股 5% 以上股东协议转让公司股份的权益变动的提示性公告》&#xff0c;公告显示中国电子将再次收购奇安信5%的股份。 公告显示&#xff0c;奇安壹号合伙人中&#xff1a;天津…
阅读更多...
24年电赛——自动行驶小车（H题）基于 CCS Theia -陀螺仪 JY60 代码移植到 MSPM0G3507（附代码）

24年电赛——自动行驶小车（H题）基于 CCS Theia -陀螺仪 JY60 代码移植到 MSPM0G3507（附代码）

前言 只要搞懂 M0 的代码结构和 CCS 的图形化配置方法&#xff0c;代码移植就会变的很简单。因为本次电赛的需要&#xff0c;正好陀螺仪部分代码的移植是我完成的。&#xff08;末尾附全部代码&#xff09; 一、JY60 陀螺仪 JY60特点 1.模块集成高精度的陀螺仪、加速度计&…
阅读更多...
day12 多线程

day12 多线程

目录 1.概念相关 1.1什么是线程 1.2什么是多线程 2.创建线程 2.1方式一&#xff1a;继承Thread类 2.1.1实现步骤 2.1.2优缺点 2.1.3注意事项 2.2方式二&#xff1a;实现Runnable接口 2.2.1实现步骤 2.2.2优缺点 2.2.3匿名内部类写法 2.3方式三&#xff1a;实现cal…
阅读更多...
Cesium 相机控制器(1)-wheel 实现原理简析

Cesium 相机控制器(1)-wheel 实现原理简析

Cesium 相机控制器(1)-wheel 实现原理简析 已经做大量简化, 不是代码最终的样子. Viewer┖ CesiumWidget┖ ScreenSpaceCameraController(_screenSpaceCameraController)┣ CameraEventAggregator(_aggregator) // 相机事件代理┃ ┖ ScreenSpaceEventHandler(_eventHandler…
阅读更多...
Notion爆红背后，笔记成了AI创业新共识？

Notion爆红背后，笔记成了AI创业新共识？

在数字化时代&#xff0c;笔记软件已成为我们记录、整理和创造知识的得力助手。本文将带您深入了解Notion以及其他五个AI笔记产品&#xff0c;它们如何通过AI重塑笔记体验&#xff0c;满足我们快速记录、捕捉灵感、智能整理、情感陪伴和自动撰写文章的五大核心需求。 ———— …
阅读更多...
golang国内proxy设置

golang国内proxy设置

go env -w GOPROXYhttps://goproxy.cn,direct经常使用的两个, goproxy.cn 和 goproxy.io 连接分别是 https://goproxy.cn https://goproxy.io 如果遇到某些包下载不下来的情况&#xff0c;可尝试更换数据源 更推荐使用https://goproxy.cn 速度快&#xff0c;缓存的包多 提醒…
阅读更多...
如何建立与众不同的市场洞察能力【深度】

如何建立与众不同的市场洞察能力【深度】

来源&#xff1a;战略研发领航 建立与众不同的市场洞察机制&#xff0c;展示了如何在组织中建立一种以数据和洞察为核心的文化&#xff0c;并通过4S周期&#xff08;架构、探查、塑造、成型&#xff09;的洞察工作方法论&#xff0c;指导领导者和团队在各个层级上进行更有效的思…
阅读更多...
Upload-labs靶场Pass01-Pass21全解

Upload-labs靶场Pass01-Pass21全解

文章目录 Pass-01 前端JSJS绕过上传或者用burp抓包的方式 Pass-02 MIME检测Pass-03 特殊文件后缀黑白名单绕过特殊文件名绕过 Pass-04 .htacess上传Pass-05 user.ini文件上传Pass-06 大小写绕过Pass-07 空格绕过Pass-08 .绕过Pass-09 ::$DATA绕过Pass-10 .空格.绕过Pass-11 双写…
阅读更多...
深度体验：IntelliJ Idea自带AI Assistant，开启面向AI编程新纪元！

深度体验：IntelliJ Idea自带AI Assistant，开启面向AI编程新纪元！

首发公众号&#xff1a; 赵侠客 引言 JetBrains AI Assistant 是 JetBrains 集成开发环境&#xff08;IDE&#xff09;中嵌入的一款智能开发助手工具&#xff0c;旨在通过人工智能技术来简化和提升软件开发过程&#xff0c;我深度体验了一下在IntelliJ IDEA 2024.2 Beta (Ulti…
阅读更多...
hive 中编写生成连续月sql

hive 中编写生成连续月sql

记录一下 sql 编写生成从一个确定的起始月份到当前月份的连续月份序列 SELECT substr(add_months(table1.start_dt,table2.pos),1,4) AS INDICT_YEAR,substr(add_months(table1.start_dt,table2.pos),1,7) AS INDICT_MON FROM (SELECT 2024-01-01 AS start_dt,substr(CURRE…
阅读更多...
CVPR24《Neural Markov Random Field for Stereo Matching》

CVPR24《Neural Markov Random Field for Stereo Matching》

论文地址&#xff1a; https://arxiv.org/abs/2403.11193 源码地址&#xff1a; https://github.com/aeolusguan/NMRF 概述 手工设计的MRF模型在传统的立体匹配中占据主导地位&#xff0c;但与端到端的深度学习模型相比&#xff0c;其建模准确性不足。尽管深度学习大大改进了MR…
阅读更多...
GraphSAGE (SAmple and aggreGatE)知识总结

GraphSAGE (SAmple and aggreGatE)知识总结

1.前置知识 inductive和transductive 模型训练&#xff1a; Transductive learning在训练过程中已经用到测试集数据&#xff08;不带标签&#xff09;中的信息&#xff0c;而Inductive learning仅仅只用到训练集中数据的信息。 模型预测&#xff1a; Transductive learning只能…
阅读更多...
作业练习1

作业练习1

要求&#xff1a;R1-R2-R3-R4-R5 RIP 100 运行版本2 R6-R7 RIP 200 运行版本1 1.使用合理IP地址规划网络&#xff0c;各自创建环回接口 2.R1创建环回 172.16.1.1/24 172.16.2.1/24 172.16.3.1/24 3.要求R3使用R2访问R1环回 4.减少路由条目数量&#xff0c;R1-R2之间增加路由传递…
阅读更多...
C++进阶之C++11

C++进阶之C++11

个人主页&#xff1a;点我进入主页 专栏分类&#xff1a;C语言初阶 C语言进阶 数据结构初阶 Linux C初阶 算法 C进阶 欢迎大家点赞&#xff0c;评论&#xff0c;收藏。 一起努力&#xff0c;一起奔赴大厂 目录 一.列表初始化 1.1一切皆可用列表初始化 1.2init…
阅读更多...
最新文章
推荐文章

Copyright @ 2022~2023