本地部署 GPT Academic

本地部署 GPT Academic

  • 1. GPT Academic 项目概述
  • 2. Github 地址
  • 3. 部署 GPT Academic
  • 4. 配置 GPT Academic 参数
  • 5. 启动 GPT Academic
  • 6. 访问 GPT Academic
  • 7. New Bing Cookie 的获取方法
  • 8. 询问多个GPT模型

1. GPT Academic 项目概述

GPT 学术优化 (GPT Academic),为 GPT/GLM 提供图形交互界面,特别优化论文阅读润色体验,模块化设计支持自定义快捷按钮&函数插件,支持代码块表格显示,Tex 公式双显示,新增 Python 和 C++ 项目剖析&自译解功能,PDF/LaTex 论文翻译&总结功能,支持并行问询多种 LLM 模型,支持清华 chatglm 等本地模型。兼容复旦 MOSS, llama, rwkv, 盘古等。

2. Github 地址

https://github.com/binary-husky/gpt_academic

3. 部署 GPT Academic

(可选)设置 Python 安装默认源,

pip config set global.index-url http://mirrors.aliyun.com/pypi/simple/

创建虚拟环境,

conda create -n gptac_venv python=3.11
conda activate gptac_venv

克隆项目,

git clone https://github.com/binary-husky/gpt_academic.git; cd gpt_academic/

安装依赖,

pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/

(可选步骤)支持 New Bing

python -m pip install -r request_llm/requirements_newbing.txt

(可选步骤)支持 Slack Claude

python -m pip install -r request_llm/requirements_slackclaude.txt

(可选步骤)支持清华 ChatGLM (体验时发现和 复旦 MOSS 有冲突,2 者只能 2 选 1)

python -m pip install -r request_llm/requirements_chatglm.txt

(可选步骤)支持复旦 MOSS (体验时发现和 复旦 MOSS 有冲突,2 者只能 2 选 1)

python -m pip install -r request_llm/requirements_moss.txt
git clone https://github.com/OpenLMLab/MOSS.git request_llm/moss

(可选步骤)使用 “一键下载arxiv论文并翻译摘要” 功能时需要额外安装的依赖如下,

pip install --upgrade pdfminer beautifulsoup4

4. 配置 GPT Academic 参数

配置 API_KEY 和 OpenAI 的 API_BASE(此项目通过 API_URL_REDIRECT 配置),

vi config_private.py---
API_KEY = "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" (此key无效)
API_URL_REDIRECT = {"https://api.openai.com/v1/chat/completions":"https://<your_api_base_url>/v1/chat/completions"}
---

配置本地LLM模型如ChatGLM的执行方式为 GPU

vi config_private.py---
# 本地LLM模型如ChatGLM的执行方式 CPU/GPU
LOCAL_MODEL_DEVICE = "cuda" # 可选 "cuda" "cpu"
---

配置 New Bing 的 Cookie,Cookie 的获取方法请参考 “New Bing Cookie 的获取方法” 的内容,

vi config_private.pyNEWBING_COOKIES = """<your_new_bing_cookie>
"""

配置 AVAIL_LLM_MODELS,添加 “stack-claude”,

AVAIL_LLM_MODELS = ["gpt-3.5-turbo", "api2d-gpt-3.5-turbo", "gpt-4", "api2d-gpt-4", "chatglm", "moss", "newbing", "stack-claude"]

配置 Slack Claude 的 Token,

SLACK_CLAUDE_BOT_ID = '...'
SLACK_CLAUDE_USER_TOKEN = '...'

5. 启动 GPT Academic

python main.py

启动命令会输出访问 URL,
在这里插入图片描述

6. 访问 GPT Academic

使用浏览器打开 http://localhost:40061/?__theme=dark,默认使用的 gpt-3.5-turbo 模型,问它清华大学在哪?

在这里插入图片描述

体验一下 ChatGLM 模型,在页面的右下方,将模型更改为 chatglm,问它清华大学在哪?

在这里插入图片描述
在这里插入图片描述
体验一下 MOSS 模型,在页面的右下方,将模型更改为 moss,问它清华大学在哪?

在这里插入图片描述
在这里插入图片描述

体验一下 newbing 模型,在页面的右下方,将模型更改为 newbing,问它清华大学在哪?

在这里插入图片描述
在这里插入图片描述

体验一下 Slack Claude 模型,在页面的右下方,将模型更改为 slack-claude,问它清华大学在哪?

在这里插入图片描述
在这里插入图片描述

7. New Bing Cookie 的获取方法

使用 Edge 或者 Chrome 浏览器安装 Cookie-Editor

在这里插入图片描述
访问 https://bing.com/new,使用 Cookie-Editor 导出 JSON格式的 Cookie。
在这里插入图片描述
在这里插入图片描述

8. 询问多个GPT模型

对代码进行微调后,可以同时询问 ChatGPT和ChatGLM和New Bing&Claude。

在这里插入图片描述

完结!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/8049.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何挑选合适的海外HTTP代理?海外IP哪家强

不整虚的&#xff0c;简单粗暴看这些海外HTTP代理服务商的官网就好了&#xff1a; 以最基础的量去随便搜常见的那几家就行啦。 大家熟知的bright data&#xff0c;得500美元一个月&#xff0c;相当于11.48美元/G&#xff0c;换成现在的汇率&#xff0c;得80.7元/G了。 ipidea…

ChatGPT被玩疯,问“如果美国倒了,世界会怎样?”回答太吓人了

“ChatGPT”大火不见消停…… 最近这些天&#xff0c;想必大家的社交平台都刷爆了“ChatGPT”这个词吧&#xff1f; 作为OpenAI 的语言模型工具&#xff0c;它可以生成文本、回答问题、对话、摘要、翻译等。 特点是语言表达流畅&#xff0c;思维敏捷&#xff0c;可以回答复杂…

“人在美国刚下飞机”,IP属地显示湖南

梦晨 萧箫 发自 凹非寺量子位 | 公众号 QbitAI 笑不活了家人们&#xff0c;微博、抖音等平台展示IP属地后&#xff0c;上演了一出出好戏。 今天不如一起做个乐子人&#xff0c;看看谁露馅谁翻车&#xff0c;谁能保持住人设&#xff1f; 首先被注意到的是本地生活大V们。没办法&…

ChatGPT老板撒钱救难:百万美元帮硅谷银行受害公司,不要借条不用承诺,能还时再还...

鱼羊 发自 凹非寺量子位 | 公众号 QbitAI 受硅谷银行倒闭事件波及的科技公司&#xff0c;可以稍微松口气了。 一方面&#xff0c;科技行业富豪已出手救急&#xff1a; ChatGPT背后公司OpenAI的CEO山姆阿尔特曼&#xff08;Sam Altman&#xff09;就被曝&#xff0c;已经给因硅谷…

ChatGPT资讯—2023.4.3

一、 最新资讯 1. UC伯克利开源大语言模型Vicuna又来了 Vicuna-13b只需要花费300美刀&#xff08;比Alpaca的600美元便宜一半&#xff09;就能搞出来接近ChatGPT的水平。如何用小资源大模型让个人普通者与中小微企业也能用上高科技一直是开源社区孜孜追求的目标 Vicuna开源代…

美版头条BuzzFeed两天股价涨3倍:因采用ChatGPT上岗写稿

雷递网 雷建平 1月28日 聊天机器人ChatGPT的横空出世&#xff0c;让美国数字媒体公司BuzzFeed&#xff08;股票代码为&#xff1a;“BZFD”&#xff09;咸鱼翻身。 BuzzFeed今日股价上涨85%&#xff0c;市值达5.38亿美元&#xff1b;头一天&#xff0c;BuzzFeed股价已经大涨119…

人工智能开发人员工作流程、看法、工具统计数据

人工智能开发人员工作流程、看法、工具统计数据 本文目录&#xff1a; 一、人工智能开发所需要的技能和知识 二、开发人工智能需要以下工具 2.1、开发过程中的人工智能工具调查 2.2、AI 工具情绪调查 2.3、AI 工具的优势调查 2.4、人工智能工具的准确性调查 2.5、开发工…

2023 年6月开发者调查统计结果——最流行的技术(2)

2023 年6月开发者调查统计结果——最流行的技术&#xff08;2&#xff09; 本文目录&#xff1a; 二十三、编程、脚本和标记语言 二十四、数据库 二十五、云平台 二十六、网络框架和技术 二十七、其他框架和库 二十八、其他工具 二十九、集成开发环境 三十、异步工具 …

电子技术课程设计基于FPGA的音乐硬件演奏电路的设计与实现

【ChatGPT】前些天发现了一个巨牛的人工智能学习电子书&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;无广告&#xff0c;忍不住分享一下给大家。&#xff08;点击查看学习资料&#xff09; wx供重浩&#xff1a;创享日记 对话框发送&#xff1a;乐曲电路 免费获取完整…

把我们的爱心代码改变为EXE运行文件

1.首先是我在华为那转载的爱心代码 代码连接 https://blog.csdn.net/weixin_43485737/article/details/127796995?ops_request_misc%257B%2522request%255Fid%2522%253A%2522167602980816782425633583%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&…

chatgpt赋能python:Python怎么在SEO中使用爱心?

Python怎么在SEO中使用爱心&#xff1f; 介绍 在现代的互联网时代&#xff0c;SEO已经成为了一项重要的工作。SEO具有提高网站排名、增加流量和转化率的作用&#xff0c;因此吸引了众多网站管理者的关注。作为一名有着10年Python编程经验的工程师&#xff0c;我发现Python可以…

chatgpt赋能python:Python教程:如何使用Python画爱心

Python教程&#xff1a;如何使用Python画爱心 Python是流行的编程语言之一&#xff0c;可以用来完成很多任务&#xff0c;包括画图。在本文中&#xff0c;我们将介绍如何用Python画一个可爱的爱心。下面我们来详细了解如何实现这个过程。 准备工作 在我们正式开始之前&#…

借助媛如意让ROS机器人turtlesim画出美丽的曲线-云课版本

首先安装并打开猿如意 其次打开蓝桥云课ROS并加入课程 在猿如意输入问题得到答案 在蓝桥云课ROS验证 如何通过turtlesim入门ROS机器人 您可以通过以下步骤入门ROS机器人&#xff1a; 安装ROS&#xff1a;您需要安装ROS&#xff0c;可以在ROS官网上找到安装指南。 安装turtlesim…

编程的未来 - 还有未来么?

缘起 唐门教主上个月某天深夜写了一篇博客 --《编程的未来》&#xff0c;要我谈谈感想。 这也是最近软件工程师们聊得比较多的问题&#xff0c;上周&#xff0c;在上海的 “关东小磨” 和十多位 CSDN 博主聚会的时候&#xff0c;大家也稍微谈了一下这个话题&#xff0c;但是谈…

chatgpt赋能python:Python敲出爱心

Python敲出爱心 Python是一种高级编程语言&#xff0c;它的简单易学、可读性强等特点让它成为很多程序员的首选语言。除了作为一种功能强大的编程语言&#xff0c;Python也有很多有趣的用途&#xff0c;比如&#xff0c;我们可以用Python轻松地敲出爱心。 准备工作 在开始之…

爱心方程(专属理科生的浪漫?!)

目录 前言 C/C 源代码 扩展 Java Python HTML MATLAB 前言 这个在大一的时候就想找了&#xff0c;然后后面是找到了一个&#xff0c;但是忘记出处了。我决定把可以找到的所有爱心给整理一下&#xff0c;为了实现“理科生的浪漫”&#xff01;&#xff01;&#xff01; …

使用Gpt-3绘制爱心,无法做到直接判断用户肉眼的上下来进行输出相应的图形代码. 默认“正着绘制“:朝着Y轴方向;终端 Y轴朝上,EasyX Y轴朝下.

前言 使用GPT-3(本站大佬链接) ; VS2010 ; EasyX 一、第一个图形在终端输出,GUI界面无输出(肉眼朝上) 生成爱心方向,与windows终端逻辑坐标Y轴相同,正方向朝上 1.对话 2.代码 #include <graphics.h> #include <conio.h> #include <math.h> #include &l…

ChatGPT工作提效之使用百度地图在首都为六一儿童节献爱心(多边形覆盖物、文本标注、自动获取经纬度、爱心函数)

ChatGPT工作提效系列 ChatGPT工作提效之初探路径独孤九剑遇强则强ChatGPT工作提效之在程序开发中的巧劲和指令(创建MySQL语句、PHP语句、Javascript用法、python的交互)ChatGPT工作提效之生成开发需求和报价单并转为Excel格式ChatGPT工作提效之小鹅通二次开发批量API对接解决方…

新手入门前端代码单文件在线编辑器:codepen

作为一个前端新人第一次接触前端代码在线编辑器codepen&#xff0c;觉得这个还是很方便的&#xff0c;当需要请教别人查看你的代码哪里出了问题或者想要分享自己代码的时候就不需要那么麻烦了&#xff0c;只需要分享一个链接&#xff0c;就可以在线查看了。 传送门&#xff1a…