SSE[Server-Sent Events]实现页面流式数据输出(模拟ChatGPT流式输出)

文章目录

    • 前言
    • SSE 简介
      • 应用场景区分
      • 浏览器支撑性
    • 实现过程
    • Web VUE核心解析数据代码
    • 实例demo
    • 参考

前言

        服务端向客户端推送消息,除了用WebSocket可实现,还有一种服务器发送事件(Server-Sent Events)简称 SSE,这是一种服务器端到客户端(浏览器)的单向消息推送。ChatGPT 就是采用的 SSE。对于需要长时间等待响应的对话场景,ChatGPT 采用了一种巧妙的策略:它会将已经计算出的数据“推送”给用户,并利用 SSE 技术在计算过程中持续返回数据。这样做的好处是可以避免用户因等待时间过长而选择关闭页面。

SSE 简介

        SSE 基于 HTTP 协议的,我们知道一般意义上的 HTTP 协议是无法做到服务端主动向客户端推送消息的,但 SSE 是个例外,它变换了一种思路。
在这里插入图片描述
SSE 在服务器和客户端之间打开一个单向通道,服务端响应的不再是一次性的数据包而是text/event-stream类型的数据流信息,在有数据变更时从服务器流式传输到客户端。整体的实现思路有点类似于在线视频播放,视频流会连续不断的推送到浏览器,你也可以理解成,客户端在完成一次用时很长(网络不畅)的下载。
在这里插入图片描述
SSE 与 WebSocket 作用相似,都可以建立服务端与浏览器之间的通信,实现服务端向客户端推送消息,但还是有些许不同:

  • SSE 是基于 HTTP 协议的,它们不需要特殊的协议或服务器实现即可工作;WebSocket 需单独服务器来处理协议。
  • SSE 单向通信,只能由服务端向客户端单向通信;WebSocket 全双工通信,即通信的双方可以同时发送和接受信息。
  • SSE 实现简单开发成本低,无需引入其他组件;WebSocket 传输数据需做二次解析,开发门槛高一些
  • SSE 默认支持断线重连;WebSocket 则需要自己实现。
  • SSE 只能传送文本消息,二进制数据需要经过编码后传送;WebSocket 默认支持传送二进制数据。

应用场景区分

  • WebSocket: 提供更丰富的协议来执行双向、全双工通信。对于游戏、即时通信以及需要双向近乎实时更新的场景,拥有双向通道更具吸引力。
  • 而某些情况下,不需要从客户端发送数据,而只需要一些服务器操作的更新。比如:站内信、未读消息数、状态更新、股票行情、监控数量等场景。SSE 具有 WebSocket 在设计上缺乏的多种功能,例如:自动重新连接、事件 ID 和发送任意事件的能力。前端只需进行一次 HTTP 请求,带上唯一 ID,打开事件流,监听服务端推送的事件就可以反向不定期的推送实时数据。SEE 从实现的难易和成本上都更有优势。

浏览器支撑性

SSE 不支持 IE 浏览器,对其他主流浏览器兼容性做的还不错。
在这里插入图片描述

实现过程

环境提示:JDK8 、 Spring Boot 2.5.15 、Spring framework 5.3.27
1、配置与初始化工作
导入pom依赖

<dependency><groupId>com.unfbx</groupId><artifactId>chatgpt-java</artifactId><version>1.0.12</version>
</dependency>

启动类自定义OkHttpClient客户端和OpenAi流客户端OpenAiStreamClient使用Bean对象

package com.merak;
import com.unfbx.chatgpt.OpenAiStreamClient;
import com.unfbx.chatgpt.function.KeyRandomStrategy;
import com.unfbx.chatgpt.interceptor.OpenAILogger;
import okhttp3.OkHttpClient;
import okhttp3.logging.HttpLoggingInterceptor;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.boot.autoconfigure.jdbc.DataSourceAutoConfiguration;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.ComponentScan;
import java.util.Arrays;
import java.util.concurrent.TimeUnit;
/*** 启动程序*/
@SpringBootApplication(exclude = { DataSourceAutoConfiguration.class })
@ComponentScan(basePackages = "com.*")
public class MerakAdminApplication {public static void main(String[] args){SpringApplication.run(MerakAdminApplication.class, args);}@Beanpublic OpenAiStreamClient openAiStreamClient() {//本地开发需要配置代理地址
//        Proxy proxy = new Proxy(Proxy.Type.HTTP, new InetSocketAddress("127.0.0.1", 8002));HttpLoggingInterceptor httpLoggingInterceptor = new HttpLoggingInterceptor(new OpenAILogger());//!!!!!!测试或者发布到服务器千万不要配置Level == BODY!!!!httpLoggingInterceptor.setLevel(HttpLoggingInterceptor.Level.HEADERS);//自定义OkHttpClient客户端OkHttpClient okHttpClient = new OkHttpClient.Builder()
//                .proxy(proxy).addInterceptor(httpLoggingInterceptor).connectTimeout(30, TimeUnit.SECONDS).writeTimeout(600, TimeUnit.SECONDS).readTimeout(600, TimeUnit.SECONDS).build();//OpenAi流客户端OpenAiStreamClient,http://127.0.0.1:8080/ 为服务侧查询数据的流式接口,也必须返回text/event-stream类型return OpenAiStreamClient.builder().apiHost("http://127.0.0.1:8080/").apiKey(Arrays.asList("1","2"))//自定义key使用策略 默认随机策略.keyStrategy(new KeyRandomStrategy()).okHttpClient(okHttpClient).build();}
}

定义SSE服务类[SseService]和实现类[SseServiceImpl]

public interface SseService {/*** 创建SSE* @param uid* @return*/SseEmitter createSse(String uid);/*** 关闭SSE* @param uid*/void closeSse(String uid);/*** 客户端发送消息到服务端*/boolean sseChat(String uid, String chatRequestInfo, JSONObject jsonObject, Long userId);
}

实现类代码见源代码

LocalCache配置类
定义缓存对象CACHE存储每个请求UUid和SseEmitter关系,并定时清理

package com.merak.web.controller.stream.config;import cn.hutool.cache.CacheUtil;
import cn.hutool.cache.impl.TimedCache;
import cn.hutool.core.date.DateUnit;/*** 定义缓存对象CACHE存储每个请求UUid和SseEmitter关系,并定时清理**/
public class LocalCache {/*** 缓存时长*/public static final long TIMEOUT = 5 * DateUnit.MINUTE.getMillis();/*** 清理间隔*/private static final long CLEAN_TIMEOUT = 5 * DateUnit.MINUTE.getMillis();/*** 缓存对象*/public static final TimedCache<String, Object> CACHE = CacheUtil.newTimedCache(TIMEOUT);static {//启动定时任务CACHE.schedulePrune(CLEAN_TIMEOUT);}
}

定义OpenAISSEEventSourceListener类
继承、重载EventSourceListener抽象类建立sse连接-onOpen、监听事件->解析响应数据-onEvent、关闭-onClosed以及异常onFailure 等方法。

package com.merak.web.controller.stream.listener;
import com.alibaba.fastjson2.JSON;
import com.alibaba.fastjson2.JSONObject;
import com.fasterxml.jackson.databind.ObjectMapper;
import com.unfbx.chatgpt.entity.chat.MerakChatCompletionResponse;
import com.unfbx.chatgpt.entity.chat.Message;
import lombok.SneakyThrows;
import lombok.extern.slf4j.Slf4j;
import okhttp3.Response;
import okhttp3.ResponseBody;
import okhttp3.sse.EventSource;
import okhttp3.sse.EventSourceListener;
import org.apache.commons.lang3.StringUtils;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import java.io.IOException;
import java.util.*;
/*** 描述:定义OpenAISSEEventSourceListener类,继承EventSourceListener抽象类*/
@Slf4j
public class OpenAISSEEventSourceListener extends EventSourceListener {private static final Logger log = LoggerFactory.getLogger(OpenAISSEEventSourceListener.class);private SseEmitter sseEmitter;private String uid;private JSONObject jsonObject;private Long userId;/*** 结构化*/public OpenAISSEEventSourceListener(SseEmitter sseEmitter, String uid, JSONObject jsonObject, Long userId) {this.sseEmitter = sseEmitter;this.uid = uid;this.jsonObject = jsonObject;this.userId = userId;}/*** 建立sse连接*/@Overridepublic void onOpen(EventSource eventSource, Response response) {log.info("response=" + response);log.info("sseEmitter uid=" + uid);log.info("OpenAI建立sse连接...");}/*** 监听事件->解析响应数据*/@Overridepublic void onEvent(EventSource eventSource, String id, String type, String data) {log.info("sseEmitter uid=" + uid + ",OpenAI返回数据:{}", data);if (data.equals("[DONE]")) {log.info("OpenAI返回数据结束了");try {String answerContext = "[DONE]";sseEmitter.send(answerContext);// .id("[DONE]" reconnectTime(30000)// 传输完成后自动关闭ssesseEmitter.complete();return;} catch (IOException e) {log.error("onEvent error msg=" + e.getMessage());}}ObjectMapper mapper = new ObjectMapper();//由于业务特性需要自定义MerakChatCompletionResponse -> 重写原响应消息对象CompletionResponse [说明:没要求可以不重写]MerakChatCompletionResponse completionResponse = null;String answerContext = "";try {completionResponse = mapper.readValue(data, MerakChatCompletionResponse.class); //转换成自定义MerakChatCompletionResponseString finishReason = completionResponse.getChoices().get(0).getFinishReason();if ("stop".equals(finishReason)) {//在原始Json串的"delta"节点增加自定义的业务数据节点bussinessDataNodeJsonString bussinessDataNodeJson = "{\"userId\":\"" + userId + "\"}";//{"id": "chatcmpl-3BpHEcUKNMUk7jbWkKB2gU", "object": "chat.completion.chunk", "created": 1699844126, "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {}, "finish_reason": "stop"}]}JSONObject originalObj = JSON.parseObject(data);originalObj.remove("body");JSONObject targetObj = JSON.parseObject(bussinessDataNodeJson);//将自定义的目标Json串添加到原始Json串的"delta"节点后面originalObj.getJSONArray("choices").getJSONObject(0).put("delta", targetObj);String lastData = originalObj.toJSONString();sseEmitter.send(SseEmitter.event().id(completionResponse.getId()).data(lastData).reconnectTime(3000));} else {//过滤Message delta节点有内容的有效内容Message delta = completionResponse.getChoices().get(0).getDelta();if (null != delta) {answerContext = delta.getContent();if (null != answerContext && !StringUtils.isBlank(answerContext)) {Thread.sleep(50);log.info("休眠50毫秒");sseEmitter.send(SseEmitter.event().id(completionResponse.getId()).data(data).reconnectTime(3000));}}}} catch (Exception e) {log.error("sse信息推送失败!");eventSource.cancel();log.error("sse信息推送失败,error msg=" + e.getMessage());}}@Overridepublic void onClosed(EventSource eventSource) {log.info("OpenAI关闭sse连接...");}@SneakyThrows@Overridepublic void onFailure(EventSource eventSource, Throwable t, Response response) {log.info("OpenAI 连接操作失败...");if (Objects.isNull(response)) {return;}ResponseBody body = response.body();if (Objects.nonNull(body)) {try {log.error("OpenAI sse连接异常data:{},异常:{}", body.string(), t);} catch (IOException e) {log.error("OpenAI sse连接异常,error msg=" + e.getMessage());}} else {log.error("OpenAI  sse连接异常data:{},异常:{}", response, t);}eventSource.cancel();}}

2、业务控制类:智能问答,接收Web客户端请求并向调用数据服务

package com.merak.web.controller.knowledge;
import com.alibaba.fastjson2.JSONObject;
import com.merak.common.core.controller.BaseController;
import com.merak.common.utils.uuid.UUID;
import com.merak.web.controller.stream.config.LocalCache;
import com.merak.web.service.AianswerService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.MediaType;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.servlet.mvc.method.annotation.ResponseBodyEmitter;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
/*** 4.7.机器人智能问答管理*/
@RestController
@RequestMapping("/aianswer")
public class AianswerController extends BaseController {@Autowiredprivate AianswerService aianswerService;/*** 机器人智能问答:客户端发送消息到服务端-流式响应* @param jsonObject 智能问答对象 {"robotId":"1","aiQuestion":"请介绍chatgpt"}* @return emitter SseEmitter* produces:request请求头中的(Accept)类型包含text/event-stream时,指定返回内容类型text/event-stream;*/@PostMapping(path = "/streamAsk", produces = MediaType.TEXT_EVENT_STREAM_VALUE)public ResponseBodyEmitter streamAskBak(@RequestBody JSONObject jsonObject) {SseEmitter emitter = null;try {String uid = UUID.randomUUID().toString().replace("-", "");Long userId = 1L;boolean blnAnswer = aianswerService.aianswerStreamAsk(jsonObject, userId, uid);logger.info("sse 完成连接和发送请求,blnAnswer=" + blnAnswer);if (blnAnswer) {emitter = (SseEmitter) LocalCache.CACHE.get(uid);}} catch (Exception e) {logger.info("机器人智能问答新增error msg=" + e.getMessage());}return emitter;}}

智能问答实现方法-aianswerStreamAsk

package com.merak.web.service;
import com.alibaba.fastjson2.JSONObject;
import com.merak.web.controller.stream.service.SseService;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import java.util.*;
/*** 智能问答-服务层*/
@Service
public class AianswerService {private static final Logger logger = LoggerFactory.getLogger(AianswerService.class);@Autowiredprivate SseService sseService;public boolean aianswerStreamAsk(JSONObject jsonObject, Long userId, String uid) {boolean bln = false;String prompt = "";//提示词try {//1.拼装问答提问入参chatCompletionString robotId = (String) jsonObject.get("robotId");//提问机器人String originalQuestion = (String) jsonObject.get("aiQuestion");//提问问题Map<String, Object> chatInfo = new HashMap();chatInfo.put("source_question", originalQuestion);chatInfo.put("prompt", prompt);chatInfo.put("temperature", 1);chatInfo.put("top_p", 1);chatInfo.put("history", null);String chatCompletion = JSONObject.toJSONString(chatInfo);//2.创建SSEsseService.createSse(uid);logger.info("chatCompletion=" + chatCompletion);//3.客户端发送消息到服务端bln = sseService.sseChat(uid, chatCompletion, jsonObject, userId);} catch (Exception e) {logger.error("机器人智能问答失败,error msg=" + e.getMessage());}return bln;}
}

客户端发送消息到服务端-sseService.sseChat

@Overridepublic boolean sseChat(String uid, String chatCompletion, JSONObject jsonObject, Long userId) {boolean bln = true;try {//从缓存对象TimedCache内获取SseEmitterSseEmitter sseEmitter = (SseEmitter) LocalCache.CACHE.get(uid);if (sseEmitter == null) {log.info("消息推送失败uid:[{}],没有创建连接,请重试。", uid);throw new BaseException("消息推送失败uid:[{}],没有创建连接,请重试。~");}OpenAISSEEventSourceListener openAIEventSourceListener = new OpenAISSEEventSourceListener(sseEmitter, uid, jsonObject, userId);openAiStreamClient.streamChatCompletion(chatCompletion, openAIEventSourceListener);}catch (Exception e){bln = false;log.info("[{}]消息推送失败失败!", uid);}return bln;}

服务端调用ChatGPT API方法streamChatCompletion 实现同最底层数据提供服务方通信
即调用openAiStreamClient.streamChatCompletion(chatCompletion, openAIEventSourceListener);方法
发送的API接口地址为:String streamUrl = this.apiHost + "v1/completions";

响应的实时数据

{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"role": "assistant"}, "finish_reason": null}]}
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"content": "尊敬"}, "finish_reason": null}]}
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"content": "的"}, "finish_reason": null}]}
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"content": "客户"}, "finish_reason": null}]}
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"content": ","}, "finish_reason": null}]}
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {"content": "您好"}, "finish_reason": null}]}
。。。。。。
{"id": "chatcmpl-42rNbjJ9WFAnMGF9cNZTwn", "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {}, "finish_reason": "stop"}]}
[DONE]

3、监听响应的实时数据
EventSourceListener onEvent()监听事件->解析响应数据:

    /*** 监听事件->解析响应数据*/@Overridepublic void onEvent(EventSource eventSource, String id, String type, String data) {log.info("sseEmitter uid=" + uid + ",OpenAI返回数据:{}", data);if (data.equals("[DONE]")) {log.info("OpenAI返回数据结束了");try {String answerContext = "[DONE]";sseEmitter.send(answerContext);// .id("[DONE]" reconnectTime(30000)// 传输完成后自动关闭ssesseEmitter.complete();return;} catch (IOException e) {log.error("onEvent error msg=" + e.getMessage());}}ObjectMapper mapper = new ObjectMapper();//由于业务特性需要自定义MerakChatCompletionResponse -> 重写原响应消息对象CompletionResponse [说明:没要求可以不重写]MerakChatCompletionResponse completionResponse = null;String answerContext = "";try {completionResponse = mapper.readValue(data, MerakChatCompletionResponse.class); //转换成自定义MerakChatCompletionResponseString finishReason = completionResponse.getChoices().get(0).getFinishReason();if ("stop".equals(finishReason)) {//在原始Json串的"delta"节点增加自定义的业务数据节点bussinessDataNodeJsonString bussinessDataNodeJson = "{\"userId\":\"" + userId + "\"}";//{"id": "chatcmpl-3BpHEcUKNMUk7jbWkKB2gU", "object": "chat.completion.chunk", "created": 1699844126, "model": "chatglm2-6b-32k", "choices": [{"index": 0, "delta": {}, "finish_reason": "stop"}]}JSONObject originalObj = JSON.parseObject(data);originalObj.remove("body");JSONObject targetObj = JSON.parseObject(bussinessDataNodeJson);//将自定义的目标Json串添加到原始Json串的"delta"节点后面originalObj.getJSONArray("choices").getJSONObject(0).put("delta", targetObj);String lastData = originalObj.toJSONString();sseEmitter.send(SseEmitter.event().id(completionResponse.getId()).data(lastData).reconnectTime(3000));} else {//过滤Message delta节点有内容的有效内容Message delta = completionResponse.getChoices().get(0).getDelta();if (null != delta) {answerContext = delta.getContent();if (null != answerContext && !StringUtils.isBlank(answerContext)) {Thread.sleep(50);log.info("休眠50毫秒");sseEmitter.send(SseEmitter.event().id(completionResponse.getId()).data(data).reconnectTime(3000));}}}} catch (Exception e) {log.error("sse信息推送失败!");eventSource.cancel();log.error("sse信息推送失败,error msg=" + e.getMessage());}}

4、sseEmitter向Web客户端实时推送数据,将数据实时写入outputMessage Body体内

 sseEmitter.send(SseEmitter.event().id(completionResponse.getId()).data(lastData).reconnectTime(3000));

流程说明:

  sseEmitter.send() -> ResponseBodyEmitter.sendInternal(Object object, @Nullable MediaType mediaType)  ->this.handler.send(object, mediaType) ->ResponseBodyEmitterReturnValueHandler.sendInternal(T data, @Nullable MediaType mediaType)  ->{  converter.write(data, mediaType, this.outputMessage);this.outputMessage.flush(); }                                  ->public final void write(final T t, @Nullable MediaType contentType, HttpOutputMessage outputMessage) throws IOException, HttpMessageNotWritableException {HttpHeaders headers = outputMessage.getHeaders();this.addDefaultHeaders(headers, t, contentType);if (outputMessage instanceof StreamingHttpOutputMessage) {StreamingHttpOutputMessage streamingOutputMessage = (StreamingHttpOutputMessage)outputMessage;streamingOutputMessage.setBody((outputStream) -> {this.writeInternal(t, new HttpOutputMessage() {public OutputStream getBody() {return outputStream;}public HttpHeaders getHeaders() {return headers;}});});} else {this.writeInternal(t, outputMessage);outputMessage.getBody().flush();}}

Web VUE核心解析数据代码

<script setup name="Chat">// 核心解析服务端方法requestStreamingChat
async function requestStreamingChat(message,index,subBussiness) {const url = `${window.location.origin}${import.meta.env.VITE_APP_BASE_API}/aianswer/streamAsk`controller = new AbortController()const reqTimeoutId = setTimeout(() => controller.abort(), 30000)try {let respString = ''fetchEventSource(url,{method: 'POST',headers: {'Content-Type': 'application/json','Authorization': `Bearer ${getToken()}`,},signal: controller.signal,body: JSON.stringify({robotId: currentChatRobot.value?.robotId,knowledgeId:currentChatRobot.value?.knowledgeId,aiQuestion: message,aiQuestionHistory: subBussiness?bussinessProcess.historyQa:history.value,classifyFrom:'1',bussinessType:subBussiness?bussinessProcess.bussinessType:'',bussinessContent:subBussiness?bussinessProcess.formData:''}),async onopen(response) {console.log(response)if (response.ok && response.headers.get('content-type')?.includes('text/event-stream')) {// everything's goodconsole.log('everything\'s good')} else if (response.status >= 400 && response.status < 500 && response.status !== 429) {chatStore.updateChat(index,{dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),text: 'Stream Error',inversion: false,error: true,loading: false,streaming: false,requestOptions: { prompt: message },},)scrollToBottomIfAtBottom()} else {console.log('其他错误')finish()}},async onmessage(event) {console.log(event)// 表示整体结束if (event.data === '[DONE]') {console.log('结束')finish()return}if (event.data) {const jsonData = JSON.parse(event.data)// 如果等于stop表示结束if (jsonData.choices[0].finish_reason === 'stop') {//接收会话信息const info = jsonData.choices[0].deltachatStore.updateChatSome(index,{dateTime: info?.occurTime,aiId: info?.aiId,solveIs: info?.solveIs})return}// 判断role存在,进行排除if (jsonData.choices[0].delta.role !== undefined) {respString = jsonData.choices[0].delta.role + ': 'return}if (jsonData.choices[0].delta.content !== undefined) {respString += jsonData.choices[0].delta.contentconsole.log(respString)chatStore.updateChat(index,{dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),//res?.data?.occurTime,text: respString,error: false,loading: false,streaming: true,requestOptions: { prompt: message },},)scrollToBottomIfAtBottom()}}        },async onerror(error) {console.error('Error:', error)finish()},async onclose() {loading.value = falsefinish()// if the server closes the connection unexpectedly, retry:console.log('关闭连接')}})const finish = () => {      loading.value = falsechatStore.updateChatSome(index, { streaming: false,loading: false })reqTimeoutId && clearTimeout(reqTimeoutId)controller.abort()}} catch (error) {loading.value = falseconst errorMessage = error?.message ?? '好像出错了,请稍后再试。'if (error.message === 'canceled') {chatStore.updateChatSome(index,{loading: false,},)scrollToBottomIfAtBottom()return}chatStore.updateChat(index,{dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),text: errorMessage,inversion: false,error: true,loading: false,streaming: false,requestOptions: { prompt: message },},)scrollToBottomIfAtBottom()}finally {chatStore.updateChatTime(robotId.value,dayjs().format('YYYY-MM-DD HH:mm:ss'))}
}function handleClear() {//针对那些回答异常没有会话ID的情况if(!dataSources.value?.[dataSources.value.length-1]?.aiId) {chatStore.updateChatSome(dataSources.value.length-1, { cleanIs: 1 })const element = chatWrapper.value;if(element) {element.style.height = element.offsetHeight + 300 + 'px'scrollToBottom()}return}clearChat({aiId:dataSources.value?.[dataSources.value.length-1]?.aiId,robotId:robotId.value,knowledgeId:currentChatRobot?.knowledgeId}).then(res => {if(res.code == 200) {chatStore.updateChatSome(dataSources.value.length-1, { cleanIs: 1 })const element = chatWrapper.value;if(element) {element.style.height = element.offsetHeight + 300 + 'px'scrollToBottom()}}})  
}function handleEnter(event) {if (event.key === 'Enter' && !event.shiftKey) {event.preventDefault()onConversation()}
}function handleStop() {if (loading.value) {controller.abort()loading.value = false}
}const searchRobotDo = () => {listRobot({robotName:searchRobot.value,robotStatus:0,pageNum:1,pageSize:100}).then(res => {if(res.code == 200) {robots.value = res.rows}if(!searchRobot.value) {upTopRobot()}})
}//当前对话的机器人置顶
function upTopRobot(rid) {if(robotRef.value) {rid = rid || robotId.valueconst _up = robots.value.find(item=>item.robotId==rid)let _filter = robots.value.filter(item=>item.robotId!=rid)_filter.unshift(_up)robots.value = _filterrobotRef.value.scrollTop = 0}  
}function handleFeedResult(index,aiId,type) {if(type == 1) {feedBackChat({aiId,solveIs:type}).then(res => {proxy.$modal.msgSuccess('您的反馈我们已经收到,谢谢您的认可!')chatStore.updateChatSome(index,{solveIs:type})})} else {console.log(index)curFeedChat.value = dataSources.value[index]curFeedChat.value['index'] = indexfeedBackText.value = curFeedChat.value?.feedBackfeedbackShow.value = true}
}function submitFeedback() {if(!feedBackText.value) {proxy.$modal.msgWarning('请详细描述需要反馈的问题')return}feedBackChat({aiId:curFeedChat.value?.aiId,robotId:robotId.value,feedBack:feedBackText.value,solveIs:-1}).then(res => {if(res.code == 200) {proxy.$modal.msgSuccess('感谢您的反馈,我们将不断改进~~')chatStore.updateChatSome(curFeedChat.value.index,{feedBack:feedBackText.value,solveIs:-1})}}).finally(() => {feedbackShow.value = false})
}onMounted(() => {  //查询所有机器人listRobot({robotStatus:0,pageNum:1,pageSize:100}).then(res => {if(res.code == 200 && res.rows?.length>0) {robots.value = res.rowsif(!robotId.value || res.rows.findIndex(item=>item.robotId==robotId.value) == -1) {chatStore.setActive(res.rows[0]?.robotId)} else {upTopRobot()}//查询当前对话机器人的问答记录chatStore.getCurChat().then(res => {setTimeout(()=>{scrollToBottom()},0)})} else {proxy.$modal.msgWarning('暂无机器人可以对话~~')}})if (inputRef.value)inputRef.value?.focus()
})onUnmounted(() => {if (loading.value)controller.abort()
})const formatChatTime = (time) => {if(dayjs(time).isAfter(dayjs().startOf('day'))) {return dayjs(time).format('HH:mm')} else {return dayjs(time).format('MM/DD')}
}const deleteChat = () => {proxy.$modal.confirm('是否确认清除当前AI应用的会话记录吗!').then(function () {return deleteChatContext({robotId:currentChatRobot.value?.robotId,classifyFrom:1})}).then(() => {chatStore.getCurChat()proxy.$modal.msgSuccess("清除成功");}).catch(() => { });
}const viewAnswerLog = (aiId) => {getChatLog(aiId).then(res => {if(res.code == 200 && res.data) {logDetail.value = res.datashowLogDetail.value = true} else {proxy.$modal.msgError("日志查询失败");}})
}provide('handleFindRef', (aiId) => {showRefAiId.value = aiIdshowRefDialog.value = true
})const onCloseDialog = () => {showRefDialog.value = false;showRefAiId.value = ''
}provide('handleSumbitForm',async (type, flowStep, data) => {console.log(type, flowStep, data)if(type == -1) {proxy.$modal.confirm(`是否提前终止报价流程,已提交的数据将丢失?`).then(()=>{bussinessProcess.running = falsechatStore.updateChatSome(dataSources.value.length - 1,{flowFlag:false})bussinessProcess.formData = {}bussinessProcess.historyQa = []prompt.value = '取消报价'onConversation()}).catch(() => { });} else {const qs = replaceTemplate(flowStep?.questionTpl,data)bussinessProcess.formData = {...bussinessProcess.formData,...data}chatStore.updateChatSome(dataSources.value.length - 1,{flowFlag:false})chatStore.addChat({dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),text: qs,inversion: true,error: false,requestOptions: { prompt: qs },},)scrollToBottom()chatStore.updateChatTime(robotId.value,dayjs().format('YYYY-MM-DD HH:mm:ss'))loading.value = truechatStore.addChat({dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),text: '',loading: true,inversion: false,error: false,requestOptions: { prompt: qs },},)scrollToBottom()if(flowStep?.step < bussinessProcess.totalStep) {let aw = ''try {const _tpl = JSON.parse(flowSteps.value[flowStep.step]?.formTpl)aw = _tpl?.rule?.[0].value} catch (error) {}bussinessProcess.historyQa.push([qs,aw])setTimeout(() => {chatStore.updateChat(dataSources.value.length - 1,{dateTime: dayjs().format('YYYY-MM-DD HH:mm:ss'),text: aw,inversion: false,error: false,loading: false,requestOptions: { prompt: qs },flowFlag:true,flowStep:flowSteps.value[flowStep?.step]},)scrollToBottom()loading.value = false},800)} else {await currentChatRobot.value.openStream == 'true' ? requestStreamingChat(qs,dataSources.value.length - 1,true) : requestChat(qs,dataSources.value.length - 1,true)loading.value = falsebussinessProcess.running = falsebussinessProcess.formData = {}bussinessProcess.historyQa = []chatStore.updateChatTime(robotId.value,dayjs().format('YYYY-MM-DD HH:mm:ss'))}}
})
</script>

实例demo

demo源代码

参考

基于Spring ApplicationEventPublisherAware推送事件实现

Java语言作为后端对接 chatgpt

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/241725.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C# wpf 获取控件刷新的时机

文章目录 前言一、为何要获取刷新时机&#xff1f;例子一、隐藏控件后截屏例子二、修改控件大小后做计算 二、如何实现&#xff1f;1.使用动画2.使用TaskCompletionSource 三、完整代码四、使用示例1、隐藏工具条截屏2、修改宽高后获取ActualWidth、ActualHeight 总结 前言 做…

springboot整合websocket后启动报错:javax.websocket.server.ServerContainer not available

一、场景 Springboot使用ServerEndpoint来建立websocket链接。引入依赖。 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-websocket</artifactId> </dependency>配置Websocket Confi…

Python项目——搞怪小程序

1、介绍 使用python编写一个小程序&#xff0c;回答你是猪吗。 点击“是”提交&#xff0c;弹窗并退出。 点击“不是”提交&#xff0c;等待5秒&#xff0c;重新选择。 并且隐藏了关闭按钮。 2、实现 新建一个项目。 2.1、设计UI 使用Qt designer设计一个UI界面&#xff0c…

【已解决】c语言const/指针学习笔记

本博文源于笔者正在复习const在左与在右&#xff0c;指针优先级、a,&a,*a的区别。 1、const在左与在右 int const *p const int *p int * const p int const * const p const int * const p* 在const右边&#xff0c;指向的数据不可以改变&#xff0c;可以改变地址 * 在c…

Leetcoder Day9|栈与队列part01

语言&#xff1a;Java/C 目录 理论基础 C 栈 队列 Java 栈 队列 ​编辑 232.用栈实现队列 225. 用队列实现栈 Queue Deque 今日心得 理论基础 又是考研时数据结构里接触到的老朋友&#xff0c;栈是先进后出&#xff0c;队列是先进先出。 C 现在刷题除了思路还…

【文本到上下文 #5】:RNN、LSTM 和 GRU

一、说明 欢迎来到“完整的 NLP 指南&#xff1a;文本到上下文 #5”&#xff0c;这是我们对自然语言处理 &#xff08;NLP&#xff09; 和深度学习的持续探索。从NLP的基础知识到机器学习应用程序&#xff0c;我们现在深入研究了神经网络的复杂世界及其处理语言的深刻能力。 在…

ValueError: Unable to read workbook: could not read strings from data.xlsx解决方案

大家好,我是爱编程的喵喵。双985硕士毕业,现担任全栈工程师一职,热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的…

路由器结构

路由器是连接互联网的设备&#xff0c;本文主要描述路由器的结构组成。 如上所示&#xff0c;OSI&#xff08;Open System Interconnect&#xff09;开放系统互联参考模型是互联网架构的标准协议栈&#xff0c;由ISO标准组织制定。自底向上&#xff0c;互联网架构分为7层&#…

Sentinel 轨道数据及下载

Sentinel卫星轨道文件在处理Sentinel卫星数据时发挥着关键作用。这些轨道文件包含了有关卫星在轨道上的运动、位置、姿态等信息&#xff0c;对于地理校正、成像几何校正以及多时相分析等方面具有重要作用。以下是Sentinel卫星轨道文件的主要作用&#xff1a; 地理校正&#xff…

怎么提取伴奏?推荐4个好用软件

怎么提取伴奏&#xff1f;随着音乐在日常生活中的应用越来越广泛&#xff0c;人们对音乐的需求也日益增加。其中&#xff0c;伴奏作为音乐的重要组成部分&#xff0c;往往在创作、娱乐等方面起到关键作用。那么&#xff0c;如何从各种音乐资源中提取出伴奏呢&#xff1f;推荐使…

高级编程。JavaScript中有哪些类型转换机制?

一、概述 前面我们讲到&#xff0c;JS中有六种简单数据类型&#xff1a;undefined、null、boolean、string、number、symbol&#xff0c;以及引用类型&#xff1a;object 但是我们在声明的时候只有一种数据类型&#xff0c;只有到运行期间才会确定当前类型 let x y ? 1 : …

利用appium自动控制移动设备并提取数据

安装appium-python-client模块并启动已安装好的环境 安装appium-python-client模块 在window的虚拟环境下执行pip install appium-python-client 启动夜神模拟器&#xff0c;进入夜神模拟器所在的安装路径的bin目录下&#xff0c;进入cmd终端&#xff0c;使用adb命令建立adb…

UE4使用技巧

打开蓝图编辑器时不是打开一个新窗口&#xff0c;而是作为主窗口 适用于全部的打开新窗口的操作 蓝图编译时自动保存 开始游戏后立即捕获鼠标

【51单片机系列】单片机与PC进行串行通信

一、单片机与PC机串行通信的设计 工业现场的测控系统中&#xff0c;常使用单片机进行监测点的数据采集&#xff0c;然后单片机通过串口与PC通信&#xff0c;把采集的数据串行传送到PC机上&#xff0c;再在PC机上进行数据处理。 PC机配置的都是RS-232标准串口&#xff0c;为D型…

Docker-Confluence部署记录

启动 docker container run -v $(pwd):/var/atlassian/application-data/confluence/ --nethost -d --nameconfluence_720_20240120 confluence/confluence:7.2.0新建mysql数据库 导入破解包 atlassian-agent 参考-Confluence 破解方式&#xff08;Linux&#xff09; 按流程破…

JS中的File(四):文件流Streams API使用详解

目录 一、流的原理 二、流的分类 1、可读流&#xff08;ReadableStream&#xff09; 3、转换流&#xff08;TransformStream&#xff09; 三、流中的Request和Response对象 四、综合应用 PS&#xff1a;涉及到一些基本的文件操作和格式内容知识&#xff0c;可以进入我的主…

书生·浦语大模型实战营第四次课堂笔记

先来看看参考作业 哈哈到这才想起来写笔记 倒回去看发现要求将不要葱姜蒜换成自己的名字和昵称&#xff01; 好好好我就是不配玩&#xff08;换成管理员也不行&#xff01;&#xff09; 诶怎么能进这个环境&#xff1f;要进双系统ubuntu&#xff1f; 现在看视频发现原来是…

k8s------Pod、Label、NameSpace

一、Pod: Kubernetes中的最小调度对象 1.1 说明 Pod(容器组)是k8s创建和调度的最小单元。一个Pod封装多个容器(container)、存储资源(volume)、一个独立网络ip和管理控制容器运行方式。 Pod可以单独运行一个容器&#xff0c;也可以兼容多个容器运行&#xff0c;多个容器共享…

周五的胡思乱想

众所周知 csdn 在程序员的心目中是比较逊色的, 因为博客水平的参差不齐, 大部分人也都是用来作为自己的笔记方便未来复制。这样就导致这里的文章都是点到为止&#xff0c;没有去深究问题的根本原因&#xff0c;大家也都是复制一下解决方案就关闭的页面。或许这就是 csdn 的价值…

使用 ClassFinal 对SpringBoot jar加密加固并进行机器绑定

写在前面&#xff1a;各位看到此博客的小伙伴&#xff0c;如有不对的地方请及时通过私信我或者评论此博客的方式指出&#xff0c;以免误人子弟。多谢&#xff01;如果我的博客对你有帮助&#xff0c;欢迎进行评论✏️✏️、点赞&#x1f44d;&#x1f44d;、收藏⭐️⭐️&#…