复旦版 ChatGPT 正式开源,太强了!!

点击上方“Java基基”,选择“设为星标”

做积极的人,而不是积极废人!

每天 14:00 更新文章,每天掉亿点点头发...

源码精品专栏

 
  • 原创 | Java 2021 超神之路,很肝~

  • 中文详细注释的开源项目

  • RPC 框架 Dubbo 源码解析

  • 网络应用框架 Netty 源码解析

  • 消息中间件 RocketMQ 源码解析

  • 数据库中间件 Sharding-JDBC 和 MyCAT 源码解析

  • 作业调度中间件 Elastic-Job 源码解析

  • 分布式事务中间件 TCC-Transaction 源码解析

  • Eureka 和 Hystrix 源码解析

  • Java 并发源码

来源:机器之心

  • 新增能力

  • 下载安装


开源版的 Moss 真的来了。

91c9348806a9d4ca2b32f0ba79b3e3ae.jpeg

项目地址:https://github.com/OpenLMLab/MOSS

MOSS 是一个支持中英双语和多种插件的开源对话语言模型,但参数数量比 ChatGPT 少得多。在 v0.0.2 之后,团队持续对其进行调整,推出了 MOSS v0.0.3,也就是目前开源的版本。相比于早期版本,功能也实现了多项更新。

最初的测试中,MOSS 的基础功能与 ChatGPT 类似,可以按照用户输入的指令完成各类自然语言处理任务,包括文本生成、文本摘要、翻译、代码生成、闲聊等等。

开放内测后,团队继续加大中文语料的预训练:「截止目前,MOSS 003 的基座语言模型已经在 100B 中文 token 上进行了训练,总训练 token 数量达到 700B,其中还包含约 300B 代码。」

在开放内测后,我们也收集了一些用户数据,我们发现真实中文世界的用户意图和 OpenAI InstructGPT 论文中披露的 user prompt 分布有较大差异(这不仅与用户来自的国家差异有关,也跟产品上线时间有关,早期产品采集的数据中存在大量对抗性和测试性输入),于是我们以这部分真实数据作为 seed 重新生成了约 110 万常规对话数据,涵盖更细粒度的 helpfulness 数据和更广泛的 harmlessness 数据。

内容来源:https://www.zhihu.com/question/596908242/answer/2994534005

目前,团队已将 moss-moon-003-base、moss-moon-003-sft、moss-moon-003-sft-plugin 三个模型上传到 HuggingFace。后续,还有三个模型将会开源。

49c8a0c6c7f6ea8e92e31e8003fcaf04.png

根据项目主页介绍,moss-moon 系列模型具有 160 亿参数,在 FP16 精度下可在单张 A100/A800 或两张 3090 显卡运行,在 INT4/8 精度下可在单张 3090 显卡运行。

团队同时表示,由于模型参数量较小和自回归生成范式,MOSS 仍然可能生成包含事实性错误的误导性回复或包含偏见 / 歧视的有害内容,请谨慎鉴别和使用 MOSS 生成的内容,请勿将 MOSS 生成的有害内容传播至互联网。

新增能力

在 MOSS v0.0.3 中,团队加入了多项新能力。

团队构造了约 30 万插件增强的对话数据,包含搜索引擎、文生图、计算器、方程求解等。关于插件版 MOSS 如何使用,后续团队将在 GitHub 公布。

bbfa024e453bb33369ad62d1f5772f98.png
*MOSS v0.0.3 现已引入使用多种插件的能力。*

下图展示了调用搜索引擎的能力:

a48e993c64c791de5f4918d601a6e7ec.png

下图展示了调用方程求解器的能力:

d22182bb7c3bc6fcdc24c0df031d5820.png

下图展示了从文本生成图片的能力:

3733934ff155fc3013b693cb6811b7c8.png

项目作者孙天祥补充说,MOSS 003 支持启用插件的能力是通过 meta instruction 来控制,类似 gpt-3.5-turbo 里的 system prompt。「因为是模型控制的,所以并不能保证 100% 控制率,以及还存在一些多选插件时调用不准、插件互相打架的缺陷,我们正在尽快开发新的模型来缓解这些问题。」

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

下载安装

下载本仓库内容至本地 / 远程服务器:

git clone https://github.com/OpenLMLab/MOSS.gitcd MOSS

创建 conda 环境:

conda create --name moss python=3.8
conda activate moss

安装依赖:

pip install -r requirements.txt

其中 torch 和 transformers 版本不建议低于推荐版本。

根据协议,开源的 MOSS 可用于商业用途:

6177381baad5802ce2068142ff2b5a46.png

此外,开发者也可通过 API 调用 MOSS 服务,团队将根据当前服务压力考虑通过 API 接口形式提供服务,接口格式可参考:https://github.com/OpenLMLab/MOSS/blob/main/moss_api.pdf

目前,已有开发者根据开源内容进行而创,比如通过 VideoChat 进行视频问答。

VideoChat 是一款多功能视频问答工具,结合了动作识别、视觉字幕和 StableLM 的功能。该工具可为视频中的任何对象和动作生成密集的描述性字幕,提供一系列语言风格以满足不同的用户偏好。它支持用户进行不同长度、情绪、语言真实性的对话。

25acd01a71efc3d597fce9bc67df113c.png

项目地址:https://github.com/OpenGVLab/Ask-Anything/tree/main/video_chat_with_MOSS



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢

d7e62d9d09fb5a72f36c6a24eb9d28a3.png

已在知识星球更新源码解析如下:

e653767141a5ac8bc03d3000c2bf6c2f.jpeg

a319572b8ee35d84db0338229278beff.jpeg

5c393666c24d41f5c761c011e85a9020.jpeg

9079f4d9073e7d11621419969757ecd7.jpeg

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 6W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/5263.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【关于ChatGPT的30个问题】28、如何评价ChatGPT的安全性?/ By 禅与计算机程序设计艺术

28、如何评价ChatGPT的安全性? 目录 28、如何评价ChatGPT的安全性? ChatGPT安全性评价

openAi ChatGPT调用性能优化的一些小妙招

参考的demo:GitHub - ddiu8081/chatgpt-demo: A demo repo based on OpenAI API. 扭曲调教: openai提供的chat接口(https://api.openai.com/v1/chat/completions)由于其模型很大(什么1750亿个参数啥的),单…

逆天了!ChatGPT回答癌症问题,准确性与美国国家癌症研究所标准答案不相上下...

编译丨王聪 编辑丨王多鱼 排版丨水成文 ChatGPT,是由人工智能研究实验室 OpenAI 于2022年11月30日发布的全新聊天机器人模型——人工智能技术驱动的自然语言处理工具。ChatGPT能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动&…

脑洞|ChatGPT加持下,ChatOps将如何革新团队协作与运维管理?

要说近期科技圈 “顶流”,非 ChatGPT 莫属。 比起目前常见的语音助手与聊天 bot,这位机器人显得更有 “人味儿”,不仅能模拟人类的语气,跟你聊得有来有回,还能写剧本、编音乐、写代码。 说到聊天工具,就让…

ChatGPT 太强大 感觉无所不能

今天开发的项目需要在C# 中调用Matlab仿真模型 读取仿真数据,在百度查了大半天还是没搞定,试着问问ChatGPT,结果给的方法还真好使,有着怎样的小伙伴可以借鉴一下。 废话不多说直接贴代码: ChatGPT体验连接&#xff08…

设计界 ChatGPT ?有哪些强大功能? #Uizard Autodesigner ,

每一个使用过 ChatGPT 的人大概都会被这一强大的工具所折服,写代码、写论文、写情书......无所不能。 除了 AI 生成文字,设计界的 ChatGPT 也有强大的生成功能。 比如 Uizard 最新推出的 AI 设计功能—— Autodesigner 。 Uizard Autodesigner Autodesi…

向AI提问,这个新职业火了

将深燃设为“星标⭐” 第一时间收到文章更新 深燃(shenrancaijing)原创 作者 | 唐亚华 编辑 | 黎明 最近几个月,AI火爆空前,甚至催生了一个新职业,AI提示词工程师(Prompt Engineer)。 这个职业最…

AI提问师,这个新职业能火嘛

深燃(shenrancaijing)原创 作者 | 唐亚华 编辑 | 黎明 最近几个月,AI火爆空前,甚至催生了一个新职业,AI提示词工程师(Prompt Engineer)。 这个职业最早出现在美国求职网站Indeed上&#xff0c…

10个可以实现高效工作与在线赚钱的 AI 工具网站

自 2020 年以来,内容开发领域已经感受到人工智能工具的存在。 目前,营销人员和内容创作者正在利用这些工具来加快他们的工作流程。 如果您拥有最流行的 AI 工具之一,例如 CopyAI、Jasper AI 或 Content at Scale,您可能正在考虑…

GPT-4的前世、今生和未来!

作者 | 王思若 编辑 | 夕小瑶的卖萌屋 点击下方卡片,关注“自动驾驶之心”公众号 ADAS巨卷干货,即可获取 前言 诚然,从关系数据库到互联网信息检索,每一次知识表示和调用方式的跃迁都会在科技史引起一场巨大的技术变革。当ChatGP…

Auto-GPT的5大用例:建网站、当客服、数据分析......

Auto-GPT仅用了30多天的时间在github就突破了10万颗星,成为一款风靡全球的开源程序。Auto-GPT帮助ChatGPT突破了AI的界限,充当其“四肢”使得跨业务流程、平台实现超级自动化成为了可能。 由于Auto-GPT调用的是GPT-3.5或GPT-4的API,在代码开…

集成 GPT-4,动动嘴就能上线一个网站,这个工具强的离谱!

公众号关注 “GitHubDaily” 设为 “星标”,每天带你逛 GitHub! 自 GitHub Copilot X 正式问世以来,已经快过去半个月了。 在产品发布当天,最震撼我的,不是 AI 助理 Copilot Chat,也不是智能命令行 Copilot…

python的发展方向有哪些?

Python是一门面向对象的编程语言,编译速度超快,从诞生到现在已经25个年头了。它具有丰富和强大的库,常被称为“胶水语言”,能够把用其他语言编写的各种模块(尤其是C/C)很轻松地联结在一起。其特点在于灵活运用,因为其拥…

Python赚外快指南!找点轻松的活增加收入!

当今收入低于5000的人至少占到40%,完全不够养活一家人,而且很多小伙伴其实空余时间比较多,特别是大学生,零花钱又不够花,都想靠业余时间找点轻松的活增加收入。但是缺没门路,为此结合我多年编程开发经验&am…

GPT 即将为软件工业化开发带来“贾维斯时刻”!

大语言模型的出现让很多人担心劳动岗位替代的问题,但是,首先要“瑟瑟发抖”应该是企业当前的开发模式,这是释放工具潜力的关键。 作者 | 付晓岩 责编 | 梦依丹 出品 | CSDN(ID:CSDNnews) GPT 最近几乎…

微软许建志:AI-First App,一个既残酷、又美好的时代

责编 | Carol 出品 | CSDN(ID:CSDNnews) 内容编辑应该都有做网站专题的经历,通过给定网站模板套用来搭建页面。这样确实方便,但问题是对于千变万化的内容,并非几套,或者数十上百套模板就能够尽情…

三个Chat*GPT的创业机会,如何让它赚钱变现

今天是回来的第三个月了,回来就开始走上ChatGPT创业的这条路上,辛酸苦辣只有自知,晚上一点多了,团队都还在加班,我也还在写文章,也是痛并快乐着,废话不多说; 今天分享的三个赚钱变现…

GPT-4 重磅发布!零基础也能一秒做网站了?

大家好 当我还沉浸于收集各种基于 chatgpt 开发的 AI 效率神器时,OpenAI 竟然发布了 GPT-4。之前为大家介绍 ChatGPT 时就提到过它使用的是 GPT-3 的模型,而当时 OpenAI 的研发进度其实已经超过了 GPT-3,但是没想到 GPT-4 的发布会这么突然&…

互联网行业20年来最大机会:chatgpt part2

03.思考:当前机会在哪里 回顾历史,当我们看到 Google/iOS/Android 的时候,第一反应不应该赶紧抄一个 Google, 而是发现早期 Google 里面内容如此稀缺,应该做网站了。 看到 ChatGPT 以后,除了极少数公司&am…

17 个可以实现高效工作与在线赚钱的 AI 工具网站

编辑整理 | 杨小爱 自 2020 年以来,内容开发领域已经感受到人工智能工具的存在。 目前,营销人员和内容创作者正在利用这些工具来加快他们的工作流程。 如果您拥有最流行的 AI 工具之一,例如 CopyAI、Jasper AI 或 Content at Scale&#xff0…