web开发中的通信协议

  1. websocket

def:websocket协议是基于tcp的,实现浏览器与服务器之间全双工通信的一种网络协议

websocket是一种持久协议,多应用在聊天,客服咨询等有实时报送需求的场景下。

早期没有websocket时,通过ajax短时轮询,客户端发送http请求给服务器,服务器再给客户端进行响应,服务器无法给浏览器主动发送数据,所以浏览器需要定时给服务器发送请求,这很大程度的浪费资源和性能。

特点:

websocket事件与方法

nodejs创建自己的websocket服务:

1)导入nodejs-websocket包

2)创建server

3)监听端口

  1. webrtc

def:web real time communication 网页及时通信,一种支持网页浏览器进行实时语音对话或视频对话的 API,允许浏览器之间直接连接

在websocket中客户端之间的通信还是需要经过服务器的中转,在webrtc中两个客户端可以直接进行对等连接

1)信服令服务器

2)stun服务器

当设备不在同一个本地网络中时,只能通过公共IP地址来实现相互访问,但设备有时难以获得公共IP地址,所以需要stun服务器获取公共 IP地址

3)turn服务器

turn服务器是在客户端连接失败时,进行转接的点,由于其本身位于公网上,所以能被各个客户端找到

  1. sse

def:Server-sent events(SSE)是一种用于实现服务器到客户端的单向通信的协议。使用SSE,服务器可以向客户端推送实时数据,而无需客户端发出请求

SSE建立在HTTP协议上,使用基于文本的数据格式(通常是JSON)进行通信。客户端通过创建一个EventSource对象来与服务器建立连接,然后可以监听服务器发送的事件。服务器端可以随时将事件推送给客户端,客户端通过监听事件来接收这些数据

与其他实时通信协议(如WebSocket)相比,Server-sent events通信是一种轻量级协议,易于实现和部署。此外,它也具有广泛的浏览器兼容性,并且可以在不需要特殊网络配置的情况下使用

ChatGPT是一个基于深度学习的大型语言模型,处理自然语言文本需要大量的计算资源和时间。因此,返回响应的速度肯定比普通的读数据库要慢的多,Http接口显然并不合适,因为Http是一次性返回,等待时间过长,而Websocket又过重,因为全双工通信并不适合这种单项对话场景,所谓单项对话场景,就是对话双方并不会并发对话,而是串行的一问一答逻辑,同时持久化链接也会占用服务器资源,要知道ChatGPT几乎可以算是日均活跃用户数全球最高的Web应用了。

效率层面,大型语言模型没办法一下子返回所有计算数据,但是可以通过Server-sent events将前面计算出的数据先“推送”到前端,这样用户也不会因为等待时间过长而关闭页面,所以ChatGPT的前端观感就是像打字机一样,一段一段的返回答案,这种“边计算边返回”的生成器模式也提高了ChatGPT的回答效率。

sse详细:https://www.zhihu.com/question/583939974/answer/2926278692

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/30005.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

GLM联合go-cqhttp实现qq群GLM机器人服务器的本地化部署笔记

GLM qq群服务器的本地化部署笔记 一. 概述1.1 整体结构1.2 目标1.3 需求1.4 流程说明 二. 部署流程2.1 使用GPT转发程序帮助文档2.1.1 使用git安装GLM2.1.2 不使用git安装GLM 2.2 使用Anaconda Navigator 虚拟运行GLM2.2.1 [https://www.anaconda.com/](https://www.anaconda.c…

chatglm-6b:本地手动下载,本地部署

文章目录 模型效果演示操作步骤步骤一步骤二步骤三 ChatGLM-6B是一个由清华大学和智谱AI联合研发的开源对话语言模型。它是一个支持中英双语问答的对话系统,并在中文方面进行了特别的优化。 该模型基于General Language Model (GLM)架构,具有62亿参数。借…

阿里组织变革:设立六大业务集团,成熟一个,上市一个;微软软件工程师最高年薪28.8万美元;iOS 16.4 发布|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

乐视实行四天半工作制,网友:还招人吗,我有个朋友想去!

作者 | 苏宓、出品 | CSDN(ID:CSDNnews) 新春的第一个工作日,有一个别人家的公司登上了热搜,羡煞旁人,它就是乐视。 起因是因为#乐视开始实行每周四天半工作制#,所谓话少事大,在官宣…

学历造假、拖欠工资、核心技术归属存疑?AI 独角兽创始人遭质疑后回应!

整理 | 屠敏 出品 | CSDN(ID:CSDNnews) 所谓树大招风,正在 Stability AI 及其创造的 Stable Diffusion 模型工具身上体现出来。 Stable Diffusion(SD)是如今主流的文本创建图像的生成式 AI 工具&#xff0c…

『突破极限』利用ChatGPT一分钟生成思维导图,从此告别繁琐,助你轻松学习……

大家有没有经常需要做思维导图的时候? ChatGPT可以快速做PPT、快速做短视频、快速做图片,那可不可以快速做思维导图呢? 答案是肯定滴,而且出图速度超出你的想象,非常离谱。 以后读文献、书籍、商业文章分析简直就是…

【问题已解决】无法定位程序输入点于XXX动态链接库***.dll上

无法定位程序输入点于XXX动态链接库***.dll上 事件前因后果温馨提示解决方法 ChatGPT中文版购买 事件前因后果 在一次安装又卸载falsh(可能非正版)后,关机再开机后,发现除了浏览器,其他软件双击打开是都提 示无法定位…

使用WPS时,SAP导出文件提示windows找不到文件

朋友碰一个问题,用户使用WPS后,SAP导出excel文档,系统无法自动打开且提示以下错误,安装office的就没有这个问题。 不可能让用户去下载office,那样会显 得SAP很拉跨,再说了那么多用户,你去给他装…

WPS Office AI实战:Excel表格处理与分析,一句话搞定

前面几篇我已经系统性将 WPS AI 的能力介绍给你,唯独 Excel 表格的 AI 助力姗姗来迟。近日在WPS AI的功能介绍里发现WPS已经悄悄集成了AI能力,今天就为你拆解下日常的Excel处理,AI 可以提供哪些帮助。(与智能表格 AI 能力相似&…

WPS Office AI实战:智能表格化身智能助理

前面我们已经拿 WPS AI 对Word文字、PPT幻灯片、PDF 做了开箱体验,还没有看过的小伙伴,请翻看以前的文章,本文开始对【智能表格】进行AI开箱测验。 表格在日常的数据处理中占绝对地位,但表格处理并不是每一个人都擅长,…

阿里巴巴腾讯网易京东都宣布了各自的 AI 计划;微软推进裁员 1 万人计划;Rust 1.67.1 发布|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

163.net邮箱,让海外邮件收发畅通无阻

电子邮件是作为跨境对接及商务往来传输重要媒介方式,通过电子邮件可进行更加高效、专业且低成本的精准营销方式。但由于受到国内外的网络环境、ip等限制,需经过多次跳转,因此导致邮件传输过程中退信、收不到信、丢失等问题的产生。究竟如何让…

使用AutoGpt创建自动化任务

1.下载并安装AutoGpt git clone https://github.com/Torantulino/Auto-GPT.git cd Auto-GPT pip install -r requirements.txt注意要使用python3.8及以上的环境,不然会出现问题: 比如: ERROR: No matching distribution found for colorama…

【Prompt Engineering 教程:写 Prompt 的艺术】1、什么是 Prompt Engineering?

【Prompt Engineering 教程:写 Prompt 的艺术】1、什么是 Prompt Engineering? 文章目录 【Prompt Engineering 教程:写 Prompt 的艺术】1、什么是 Prompt Engineering?什么是 Prompt Engineering?举个例子需要学习 PE 吗?One More Thing小结什么是 Prompt Engineering?…

chatgpt赋能python:Python调用FFmpeg录屏:详细介绍及实现步骤

Python 调用 FFmpeg 录屏:详细介绍及实现步骤 录屏是一种广泛应用于教学、演示、展示等领域的技术。现在,许多人都通过录屏技术来制作文件,并教授他们的知识和技术。Python 提供了许多库,可以轻松地帮助我们使用这种技术。在本文…

腾讯会议怎么录屏?几个步骤轻松录屏

最近由于疫情的影响很多小伙伴不管是学习还是居家办公都少不了使用线上会议来交流吧,比如网课或者一些项目的会议都需要在线上会议的形式来开展,那么对于一些比较重要的内容不管是领导安排的工作分享或者学习上的内容想要进行录制保存下来该如何操作呢&a…

chatgpt赋能python:Python制作录屏软件,让你的屏幕动作不再错过

Python制作录屏软件,让你的屏幕动作不再错过 作为一名Python工程师,你可能有很多需要记录屏幕操作的场景,比如演示软件或者录制教学视频。那么,有没有一款Python制作的录屏软件来满足你的需求呢?答案是肯定的&#xf…

最简洁的录屏截图软件oCam使用教程

本文内容框架目录: 功能特点: 支持视频录制支持音频录制支持屏幕截图支持内置视频编码 (AVI, MP4, FLV, MOV, TS, VOB)支持音频编码支持使用外部编码器屏幕录像支持录制超过 4GB 体积的视频格式支持录制系统音频可以调整音频录制的质量截屏格式支持 (JP…

文案润色软件-文案润色的技巧

文案速成改编方法 文案速成改编方法是指通过快速的学习和掌握文案创作技巧,较快地编写出高质量的文案内容。以下是几种常见的文案速成改编方法: 模仿学习法:通过模仿优秀的文案作品,学习其语言、用词、句式等优秀的创作技巧&…

【ChatGPT实战案例】Excel代码太多记不住怎么办?ChatGPT来帮你高效解决问题

目录 适合人群 使用工具 制作步骤 示例1:Excel数据分列 示例2:Excel数据提取 适合人群:会Excel基本操作,但是不懂Excel公式编写的人 使用工具 ① 内容生产工具,如ChatGPT、讯飞星火认知模型、文心一言等 ② EXC…