史诗级的突破,如何让GPT接口调用能绕过4000 tokens 的长度限制

最近很高兴有机会较为全面深入地研究GPT / ChatGPT这一热门技术,学到了不少东西,当然也遇到不少问题,其中一个问题就是,所有的GPT模型,都会有输入输出长度(加起来)的限制这个问题,就好像一个紧箍咒似的。

b3dae6d1afa5cde46241d046b285fca5.png

我这段时间看到很多不同的一些办法来想办法绕过这个限制,例如把一个长的prompt拆成多个短的,逐个执行后再拼接起来。虽然有的确实能实现效果,但就是很麻烦。

难道没有更好的办法了么?我倒是实验了如下的这方法,而且确实是可行的。

96593647e940e27160c8c78b9a3e5e83.png

你可能会说,我的内容不是一个网页啊,我是本地的一些文字呢?其实,这又有什么难的呢?你要做的无非是把你的文字,转换为一个网页即可。例如本例我演示一下,我把刚才那个openai的帮助文档保存在本地,形成一个html文件。

6058831f2b6e3b9e10a5809402d6529c.png

这个文件其实是可以直接通过浏览器打开的。

29e8fe82946e1667de760dd1a062c77d.png

那么问题来了,这个文件是肯定不可能被openai 在云端读取到的?怎么办呢?还是很容易,我可以本地把这个文件打开来,并且用反向代理将其发布到公网允许匿名访问。首先,我用了一个静态服务器来把这个网页托管起来。

7891db1c344bc48deea39fd448c43cff.png

然后用ngrok来做反向代理

b682b5733db4d5b4312c0bb25731c96c.png

运行起来后的效果如下

b40917c84089ba6ac3861873fe9c1b81.png

那么接下来你要做的就是,把这个地址给GPT去解析即可。

d29f51b9f4597fbbfc07ae9ac99f564d.png

打完,收工!

请注意,真实场景下,你完全可以动态地生成很多本地的html文件,然后通过这个办法就解决了长度限制的问题了。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/6473.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

小扎、马斯克宣战ChatGPT!Meta和推特组建顶级AI团队,硅谷硝烟四起

【导读】ChatGPT大厂混战,怎能少得了Meta和推特?近日,小扎和马斯克也官宣下场,要做自己的ChatGPT了。 ChatGPT的爆火,直接改变了整个硅谷大厂的格局。 微软的步步出招,倒逼谷歌走出固步自封的境地&#x…

牛逼,玩转 ChatGPT!

ChatGPT是一种由OpenAI开发的人工智能模型,它可以模拟人类的对话交流,对话可以涉及各种话题。使用ChatGPT可以进行各种操作,例如自然语言生成、文本摘要、语言翻译、文本分类、问答系统等。下面是ChatGPT网站的可用链接,由于网络限…

对话冯·诺依曼理论奖得主叶荫宇:ChatGPT于行业智能,更像是全科医生对专科医生|数字思考者50人...

斯坦福大学讲席教授、冯诺依曼理论奖获得者:叶荫宇 ▎ChatGPT包罗万象,更像是一个全科医生,而运筹学以及求解器,则像是专科医生。 作者丨 韩敬娴 本文首发钛媒体APP 国际市场震荡不定,供应链波动剧烈、芯片短缺、碳排限…

开篇词:大模型国内应用落地思考与实践

自从GPT-3发布以来,随着以ChatGPT为首的应用工具一夜爆火,人工智能似乎找到了应用层面的合适出口,让大众、用户和产业,看到了大模型人工智能所具备的应用潜力。 国内外关于大模型的研究层出不群,各大厂都在进行大模型…

关于ChatGPT的一切;CUDA入门之矩阵乘;PyTorch 2.0发布|AI系统前沿动态

1.截止目前,关于ChatGPT的一切 ChatGPT是GPT3的一大飞跃,就像GPT3本身是GPT2的质的飞跃一样。目前,关于ChatGPT的解读内容数量和种类繁多,让人跟上非常困难,容易患错失恐惧症。因此,作者整理了一个笔记&…

ChatGPT也太神奇了

前段时间找了很多chatGPT国内基本上发现都是要收费的,价格贵的太离谱了。好在我再三搜索下找到了一款国内封装过的免费chatGPT,功能还是不错的,就是这回复速度有点慢,其实也不是不能用就是慢

2023财年Q4业绩继续下滑,ChatGPT能驱动英伟达重回巅峰吗?

近年来,全球科创风口不断变换,虚拟货币、元宇宙等轮番登场,不少企业匆忙上台又很快谢幕,但在此期间,有些企业扮演淘金潮中“卖水人”的角色,却也能够见证历史且屹立不倒。不过,这并不意味着其可…

【关于ChatGPT的30个问题】1、ChatGPT是什么?/ By 禅与计算机程序设计艺术

ChatGPT是什么? 目录 ChatGPT是什么? ChatGPT简介及其应用 第一部分:ChatGPT的基本原理

ChatGPT实现原理简析

ChatGPT是OpenAI开发的一款针对对话的语言模型。它的实现原理主要基于Transformer和GPT模型。 Transformer是Google提出的一种注意力机制,它采用Encoder-Decoder结构。Encoder用于对输入的句子进行编码,生成输入的序列表示。Decoder则使用编码序列和目标序列生成的注意力来生成…

ChatGPT批量生成文章软件:创意无限,内容源源不断

ChatGPT是一种基于人工智能技术的自然语言处理模型,它能够生成各种主题的文章。这种软件具有创意无限、内容源源不断的特点,能够满足用户对于大量文章的需求。 方面一:文化艺术 ChatGPT软件可以生成关于文化艺术的文章,包括绘画、…

ChatGPT伪原创文章的应用与发展

ChatGPT是一种基于人工智能技术的自然语言处理模型,它能够生成逼真的、具有上下文连贯性的文本。近年来,ChatGPT在各个领域的应用越来越广泛,其发展潜力也逐渐被人们所认识。本文将从多个方面对ChatGPT的应用与发展进行详细阐述。 ChatGPT在…

ChatGPT原创内容生成器有哪些优缺点

ChatGPT原创内容生成器包括我们的文字、图片和AI视屏生成,原创内容生成器已经在众多行业得到了广泛的使用。随着人工智能技术的发展,原创内容生成器的使用也越来越普及。 ChatGPT原创内容生成器能够自动生成各种形式的文章、报告甚至小说,通…

ChatGPT文章自动发布WordPress

WordPress可以用ChatGPT发文章吗?答案是肯定的,ChatGPT官方有提供api接口,多以目前有很多的SEO工具具有自动文章生成自动发布的功能,使用SEO工具,我们可以通过疑问词和关键词进行文章生成,并定时发布到我们…

chatgpt如何自动发布原创文章(火影智能AI文章伪原创)

ChatGPT作为一个基于 GPT-3.5 接口的AI机器人,并不能自动发布原创文章,它只能在创建和生成文章的过程中提供帮助。 要自动发布原创文章,需要编写脚本或使用可编程自动化工具,将ChatGPT生成的文章与发布平台进行连接。以下是一个简…

ChatGPT自动生成发布原创文章seo营销系统开发

ChatGPT自动生成发布原创文章seo营销系统开发 注:此系统性质为,依据你设置关键词类(你要推广的行业关键词,如我们的关键词可为“小程序开发”),然后系统自动生成发布海量原创文章,以达到搜索引擎收录seo目…

ChatGPT批量生成文章软件:助力创作高效快捷文章

随着人工智能技术的不断发展,ChatGPT批量生成文章软件已经成为了一种强大的创作工具。它能够通过自然语言处理和机器学习算法,快速生成高质量的文章,为创作者提供了高效快捷的创作体验。本文将从随机8-20个方面对ChatGPT批量生成文章软件进行…

Bito:一款 iead/webstorm 神级插件,由 ChatGPT 团队开发,堪称辅助神器

前言: idea(后端),webstorm(前端)中可以用的一款辅助插件:Bito 个人尝试体验效果: 优点是:可以自动完成一些场景代码。 缺点:太慢了,大部分时间一直转圈 摘取文档: 什么是Bito&…

Office如何通过VSTO进行WORD插件开发?

文章目录 0.引言1.工具准备2.WORD外接程序创建和生成3.外接程序生成并使用 0.引言 VSTO(Visual Studio Tools for Office )是VBA的替代,是一套用于创建自定义Office应用程序的Visual Studio工具包。VSTO可以用Visual Basic 或者Visual C#扩展…

7大最常用ChatGPT Excel最佳使用示例(最后附微软官方Excel-ChatGPT插件使用方法)——手把手从0开始教您如何在Excel中使用ChatGPT,附详细指南及教程

目录 前言将ChatGPT 与 Power Query 和 Power Pivot 结合使用使用ChatGPT 生成帐单和模板使用ChatGPT 将 Excel 连接到 SQL 数据库使用ChatGPT 编写 Excel 公式将ChatGPT 用于 Excel VBA 宏和 Excel 脚本利用ChatGPT 合并多个excel文件Excel ChatGPT Add In 插件参考资料其它资…

好用的word插件汇总

汇总一下我用过的word文档插件。介绍一下各自的功能。配上了下载地址,欢迎使用。 感谢各位插件的制作人。 1、word精灵插件 下载地址:https://www.excelbbx.net/Word.htm 作者:罗刚君 这位大牛很高产,他还写了Excel精灵&…