公众号关注 “GitHubDaily”
设为 “星标”,每天带你逛 GitHub!
今年随着 ChatGPT 发布,其强悍的能力也让 GPT-3.5/4 成为炙手可热的大语言模型,使得不少 AI 应用接入了 OpenAI 接口。当用户使用这些应用时,经常需要填入 OpenAI 的 API Key。
为了避免自己的 Key 被不小心泄露,导致费用激增,平白无故损失一大笔钱,我们需要对 API 的使用情况进行监控。
最开始的时候,不少开发者会粗心大意,将自己本地的 OpenAI Key 上传到 GitHub,导致被黑客正则脚本匹配到sk-
字符,进而被盗用。
当然了,现在这个方法已经失效,GitHub 已做好防护,凡是上传到平台的代码库都会预先进行扫描,不小心提交到 GitHub 开源库的 OpenAI Key,将被自动停用,并发邮件告知用户。
Key 就像保险箱的密码,当小偷拿到密码,你里面的钱也将被挥霍一空。拿到 Key,基本上也等同于盗取了 OpenAI 账户。
为了防止这种问题给用户带来巨大损失,OpenAI 在很早之前便加入了一个特性:Usage limits。
这里面有两个可设置选项:「Hard limit」和「Soft limit」。
Hard limit
:在团队达到此阈值时,后续所有请求都会被拒绝。Soft limit
:在团队达到此阈值时,会自动给你发送一封邮件提醒。
如果你还没设置过,可以打开这个页面进行设置:
https://platform.openai.com/account/billing/limits
虽然这种方式可以尽量避免因 Key 泄露,被扣除大笔费用,但我们还是无法查看不同的 API 的使用消耗。
要知道,一些黑客的常见偷盗手段,是拿到权限后,让用户基本无感知的,偷偷摸摸扣除额度。他们就像老鼠一样,每次都从你的米缸吃掉一点米,这样长期累积下来,也够你喝一壶了。
因此,让用户看到每个 API 的费用消耗,确实很有必要。我至今依然无法理解,为什么 OpenAI 网站后台到现在还不上线这个功能。
尽管现在在 OpenAI 后台也可以查看 Token 消耗,但这块功能做的实在太过简陋了。
OpenAI 的后台数据将所有的 API 都合并到一起,用户无法查看不同 API 的 Token 消耗,这就很容易导致「老鼠偷吃米」的问题发生。
为了更好的解决这个问题,国外一款名为 Puddl.io 的工具应运而生。
地址:https://puddl.io/analytics
通过这个工具,你能够更加清晰、直观的通过可视化数据图表,看到不同 API 的历史消耗数据。
只需填入 OpenAI API Key,以及 Organization ID,即可在几秒内,自动生成可视化报表。
用户也可以通过设定日期区间,来获取更多 API 消耗数据:
另外,你还能选择不同模型数据,这里面除了我们常用的聊天模型,还有 OpenAI 的图像模型等多个分类:
这让用户可以根据不同模型的请求次数,来筛选查看 Token 的消耗情况。
当我们在进行模型测试、功能开发的时候,也可以通过这种方式,了解到不同模型、不同功能的费用支出,用于更好的评估用户使用成本。
由于 API Key 和 Organization ID 是存放在本地,通过请求直接访问 OpenAI 的服务器,来获取各种使用数据,因此无需担心自己的 Key 被泄露。
自从 ChatGPT 爆火之后,它的很多能力都让世人赞叹不已,而 GPT-4 又是当下最炙手可热的大语言模型,因此每天都有大量的应用在开始接入 OpenAI 的 API。
这些 AI 应用鱼龙混杂,一些判断能力稍弱、心比较大的用户,可能一不小心便会导致 Token 泄露,平白无故损失一笔钱。
今天给大家推荐的这款 AI 工具,可以让你全方位掌握不同 Token 的消耗情况,避免损失。
如果你想了解更多实用的 AI 技术与应用,以及 ChatGPT 新进展,可以点击下方链接,加入我们社群进一步交流探讨。
👇 每个进群的人,都会收到我们赠送的一枚 账号。
社群入口:ChatGPT 社群,正式上线!
不想错过文章推送?可以给 GitHubDaily 公众号加个星标。