ChatGPT 的热度依然在持续,大家热切期待着国内类 ChatGPT 产品的出现。
最近还真的出现了一个公测产品——对话写作猫,由秘塔科技自研的 LLM 大模型。
之前被各种山寨/转接/内测版本吊起来的胃口,这下终于有放开大吃一顿的机会了。
一直以来大伙听各种噱头早就听到发腻了。与其讨论虚的,不如来点实际的,我们直接先来探探它的虚实。
再上点难度。
AI 玩角色扮演玩得也很 6。
也能上点价值。
更可以写点文章,哪怕是“两个算法工程师打架”的武侠版本。
《算法工程师之巅峰对决》,竟然有种想让 AI 写完全文的冲动。
这么短时间内拿出来的产品,本以为又是一个山寨版本的水平,但用下来比我预期的效果要好。
于是我找到他们团队进行了简单的沟通,了解到在大语言模型的训练上,他们的团队已经有多年的经验。他们谈到,Transformer 模型概念上很简单,但具体高效实现还是有诸多细节。
考虑到资源的限制和提供服务的响应速度,秘塔科技在标准 Transformer 进行了修改优化,合并算子,来提升模型的并行效率,并且降低显存开销,从而提升同参数量下的模型训练和推理速度。
另外,通过降低模型的通讯量,使得 LLM 训练得以高效进行。
最后附上对话写作猫的两种使用方式:
1. 点击下方小程序直接对话
2. 打开网站 xiezuocat.com/chat 使用
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
·