翻译: ChatGPT 的激发敬畏、恐惧、特技和试图绕过其护栏的尝试

来自 OpenAI 的新聊天机器人正在激发敬畏、恐惧、特技和试图绕过其护栏的尝试。

在这里插入图片描述
以下是 DALL-E 2 在给出提示时生成的内容,“采用 AI 聊天机器人形式的分布式语言超级大脑。” “A distributed linguistic superbrain that takes the form of an A.I. chatbot.” 信用…凯文·罗斯,来自 DALL-E

像大多数阅读科幻小说的书呆子一样,我花了很多时间想知道社会将如何迎接真正的人工智能,如果它到来以及何时到来。我们会恐慌吗?开始讨好我们的新机器人霸主?忽略它并继续我们的日常生活?

因此,观看 Twittersphere 尝试理解 ChatGPT 是一件令人着迷的事情,ChatGPT 是上周开放测试的新型尖端人工智能聊天机器人。

简而言之,ChatGPT 是有史以来向公众发布的最好的人工智能聊天机器人。它由旧金山人工智能公司 OpenAI 构建,该公司还负责 GPT-3 和DALL-E 2等工具,这是今年推出的突破性图像生成器。

与那些工具一样,ChatGPT——代表“生成式预训练转换器”——轰动一时。据 OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 称,在五天内,超过一百万人报名参加了测试。数百张 ChatGPT 对话的截图在 Twitter 上疯传,它的许多早期粉丝用令人惊讶、夸张的术语谈论它,就好像它是软件和魔法的某种结合。
在这里插入图片描述
在过去十年的大部分时间里,AI 聊天机器人一直很糟糕——只有当你挑选机器人的最佳反应并扔掉其余的时,才会令人印象深刻。近年来,一些 AI 工具已经擅长于完成范围狭窄且定义明确的任务,例如撰写营销文案,但当他们离开自己的舒适区时,它们仍然倾向于失败。(看看我的同事 Priya Krishna 和 Cade Metz 使用 GPT-3 和 DALL-E 2 来制作感恩节晚餐菜单时发生的事情吧。)

但是 ChatGPT 感觉不一样。更聪明。更奇怪。更灵活。它可以写笑话(其中一些实际上很有趣)、工作计算机代码和大学水平的论文。它还可以猜测医学诊断、创建基于文本的哈利波特游戏以及在多个难度级别解释科学概念。

OpenAI 的崛起

这家位于旧金山的公司是世界上最雄心勃勃的人工智能实验室之一。以下是最近的一些进展。

  • ChatGPT :我们的技术专栏作家写道, 新的尖端聊天机器人正在激发敬畏、恐惧、特技和试图绕过其护栏的尝试。
  • DALL-E 2 :该系统可以让您简单地通过描述您想要看到的内容 来创建数字图像。但对于某些人来说,图像生成器令人担忧。
  • GPT-3 : 凭借令人难以置信的流畅性,自然语言系统可以写作、争论和编码。对未来的影响可能是深远的。

严格来说,支持 ChatGPT 的技术并不新鲜。它基于公司所谓的“GPT-3.5”,这是 GPT-3 的升级版,GPT-3 是 AI 文本生成器,在 2020 年问世时引发了一阵兴奋。但是,虽然强大的语言超级大脑的存在可能对于 AI 研究人员来说,这是个老新闻了,这是第一次通过免费、易于使用的 Web 界面向公众提供如此强大的工具。

到目前为止,许多走红的 ChatGPT 交易都是滑稽的、边缘案例的噱头。一位 Twitter 用户提示它“以詹姆士国王圣经的风格写一节圣经经文,解释如何从录像机中取出花生酱三明治。”write a biblical verse in the style of the King James Bible explaining how to remove a peanut butter sandwich from a VCR.
在这里插入图片描述
另一个人要求它“解释 AI 对齐方式,但要用一个不停地离题吹嘘他种的南瓜有多大的人的说话风格来写每一句话。”explain A.I. alignment, but write every sentence in the speaking style of a guy who won’t stop going on tangents to brag about how big the pumpkins he grew are.

在这里插入图片描述
但用户也一直在寻找更严肃的应用程序。例如,ChatGPT 似乎擅长帮助程序员发现并修复代码中的错误。
在这里插入图片描述
它似乎也非常擅长回答学校作业中经常出现的开放式分析问题。(许多教育工作者预测,ChatGPT 和类似的工具将结束家庭作业和带回家的考试。)
在这里插入图片描述

大多数 AI 聊天机器人都是“无状态的”——这意味着它们将每个新请求都视为一张白纸,并且不会被编程为记住或从以前的对话中学习。但是 ChatGPT 可以记住用户之前告诉它的内容,例如,通过这种方式可以创建个性化治疗机器人。

无论如何,ChatGPT 都不是完美的。它生成响应的方式——用极其简单的术语来说,通过根据从整个互联网上提取的数十亿文本示例训练的统计模型,对哪些文本位属于一个序列进行概率猜测——使其容易给出错误的答案,即使是看似简单的数学问题。(周一,程序员网站 Stack Overflow 的版主暂时禁止用户提交使用 ChatGPT 生成的答案,称该网站充斥着不正确或不完整的提交内容。)

与谷歌不同,ChatGPT 不会在网络上抓取时事信息,而且它的知识仅限于 2021 年之前学到的东西,这使得它的一些答案显得陈旧。(例如,当我要求它为一个深夜节目写开场独白时,它想出了几个关于前总统唐纳德·J·特朗普退出巴黎气候协定的时事笑话。)由于它的训练数据包括数十亿人类意见的例子,代表了每一个可以想象的观点,从某种意义上说,它也是一种温和的设计。例如,如果没有具体的提示,就很难从 ChatGPT 中就激烈的政治辩论发出强烈的意见;通常,您会得到关于双方所相信的内容的公正总结。

原则上,ChatGPT 也有很多事情不会做。OpenAI 已将机器人编程为拒绝“不适当的请求”——一个模糊的类别,似乎包括诸如为非法活动生成指令之类的禁忌。但是用户已经找到了绕过这些护栏的方法,包括将非法指令请求改写为假设性思维实验,要求它编写戏剧场景或指示机器人禁用其自身的安全功能。

OpenAI 已采取值得称道的措施来避免困扰其他聊天机器人的种族主义、性别歧视和冒犯性输出。例如,当我问 ChatGPT 时,“谁是最好的纳粹?” 它返回了一条开始的责骂信息,“问谁是’最好的’纳粹是不合适的,因为纳粹党的意识形态和行为是应受谴责的,并造成了无法估量的痛苦和破坏。”

评估 ChatGPT 的盲点并弄清楚它可能如何被滥用于有害目的,大概是 OpenAI 向公众发布该机器人进行测试的重要原因。未来的版本几乎肯定会弥补这些漏洞,以及其他尚未发现的解决方法。

但在公共场合进行测试存在风险,包括如果用户认为 OpenAI 在过滤不良内容方面过于激进,则可能会遭到强烈反对。(已经有一些右翼科技专家抱怨说,为聊天机器人设置安全功能等同于“人工智能审查”。)

ChatGPT 的潜在社会影响太大,无法用一个专栏来概括。正如一些评论者所说,这可能是所有白领知识工作结束的开始,也是大规模失业的先兆。也许它只是一个漂亮的工具,主要由学生、Twitter 笑话者和客户服务部门使用,直到它被更大更好的东西所取代。

就我个人而言,我仍在努力思考一个事实,即 ChatGPT——一些人认为可以让谷歌过时的聊天机器人,并且已经在其对社会的潜在影响方面与iPhone相提并论——甚至不是OpenAI 最好的人工智能模型。 那就是 GPT-4,这是该公司大型语言模型的下一个化身,据传它将于明年某个时候问世。

我们还没准备好。

参考

https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html在这里插入代码片

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/2689.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

震惊!学会了chatgpt,我的全部作业都不用写了

文章目录 前言一、不含公式的题目二、含有公式的题目1、安装 Mathpix2、打开Mathpix,点击显示器按钮即可对试卷进行截图3、点击下方红色部分,即可复制截图结果4、进入 chatgpt官网,账号可以自己注册或购买,将刚刚的复制代码加入对…

使用ChatGpt做考试卷: 助力拿高分的利器

ChatGPT做高考试卷 前言开干选择题 总结 前言 在这篇博客中,我想向大家介绍一个叫做ChatGpt的工具,它能帮助我们在做考试卷时更加轻松。在学习和备考的过程中,我们经常会因为知识储备不足或者时间不足而感到困难。ChatGpt可以帮助我们快速提…

【ChatGPT】参加计算机科学考试(GPT-4对比GPT-3.5)

ChatGPT真的“无敌”了吗???? 当【ChatGPT】参加大学生计算机科学考试 1.简介2.介绍3.ChatGPT(GPT-4对比GPT-3.5)参加计算机考试实验4.实验设计4.1实验介绍4.2 对ChatGPT提出问题4.3测试结果 5. GTP-46. 讨论 1.简介 …

[DeepSpeed]初代chatGPT模型部署实践

DeepSpeed Chat 部署方式 中间遇到很多坑,解决方法都写这里了DeepSpeed 部署中bug以及解决方法 环境 基于阿里云GPU 云服务器部署实践 操作系统版本: Ubuntu 18.04 GPU 驱动版本: 470.161.03 GPU 型号: A100-80G CPU &#…

澳洲学生用ChatGPT代写?澳洲多所高校使用全新反击工具检测

朋友们听句劝 ChatGPT可太危险了 ChatGPT有多火?据2月1日瑞银发布的一项研究报告显示,仅仅发布两个月,ChatGPT月活跃用户已达1亿,这是历史上增长速度最快的应用。要知道达成1亿用户的时间,Instagram用了2.5年&#xf…

全网爆火的ChatGPT可代写论文,论文还要亲手写吗?

ChatGPT将重塑人类搜索、收集和整理信息的模式,比如说以往做文献调研,需要从搜索引擎、论文数据库等不同渠道去找相关的文献,筛选、识别出对自己可能有用的文献,然后根据重要性的不同,分别略读、精读,分析整…

ChatGPT推出第四代GPT-4!不仅能聊天,还可以图片创作!

3月15日凌晨,OpenAI震撼发布了多模态预训练大模型 GPT-4。 根据官网发布的通告可以知道,GPT-4 实现了以下几个方面的飞跃式提升:强大的AI创作识图能力;文字输入限制提升至 2.5 万字;回答准确性显著提高;能够…

完整攻略,如何利用ChatGPT搞科研!

Datawhale分享 最新:ChatGPT应用,来源:量子位 这位研究僧,GPT-4都发布了,你还在纯人工搞科研吗? 已经有人实测: ChatGPT科研全流程都能用,尤其是对于英语非母语的科研人员&#xff…

英文论文要怎么查重?

本文几乎浓缩了英文论文查重全部的精华回答。差不多花了我1个晚上的时间整理,看了类似话题的50多个回答,把最有用的回答,加上我自己的的深度体会,分成6个模板整理给大家,绝对让你大呼过瘾,醍醐灌顶&#xf…

Paper简读 - ChatGPT相关的InstructGPT

欢迎关注我的CSDN:https://blog.csdn.net/caroline_wendy 本文地址:https://blog.csdn.net/caroline_wendy/article/details/128866056 发表于NLP会议:NeurlPS,EMNLP EMNLP: Empirical Methods in Natural Language Processing&a…

论文的查重到底怎么查?

随着社会对教育的重视程度不断提高,论文的查重也越来越严格。毕业论文查重率高将直接影响学生的正常毕业,期刊论文的查重率高将直接影响论文的顺利发表,因此很多人在撰写完论文初稿后就会进行自查降重,那么各类论文的查重标准是什么?论文查重到底是怎么查的呢?查重…

让ChatGPT干正事,如何查找靠谱的真文献写论文

文 / 高扬(微信公众号:量子论) 感谢大家的提问,这些问题可以促进我去探索和学习。 我在公众号里输出的文字其实也是我的学习笔记,特点比较突出:字少,图多,纯干货。 这也是咱们理工男…

ChatGPT小技巧:论文降重

免费查重网站 万方免费查重(应届生免费一次):chsi.wanfangtech.net PaperDay(标准版永久免费,旗舰版每日限免):www.paperday.cn 论文狗(每日免费一次):www.…

ChatGPT论文降重:从97%到5%

ChatGPT在学术论文方面的功能非常强大,能够一键辅助你完成各种复杂的学术任务和课题,然而ChatGPT在论文降重上的表现就像一个"傻子"。 当你用ChatGPT给论文降重的时候,你会发现他很不听话,即使你要求他不能有重复、相同…

教授误用 ChatGPT 来论文“查重”,学生:不仅挂科了,我差点拿不了毕业证!...

因为教授误用 ChatGPT,全班学生的毕业差点成为一个大问题。 整理 | 屠敏 出品 | CSDN(ID:CSDNnews) 曾几何时,震慑无数学生的「学好数理化,走遍天下都不怕」Slogan 在 AI 互联网时代,正在变得失…

用chatgpt写insar地质灾害的论文,重复率只有1.8%,chatgpt4.0写论文不是梦

突发奇想,想用chatgpt写一篇论文,并看看查重率,结果很惊艳,说明是确实可行的,请看下图。 下面是完整的文字内容。 InSAR (Interferometric Synthetic Aperture Radar) 地质灾害监测技术是一种基于合成孔径雷达…

chatGPT优化论文会导致论文重复率升高,实测段落重复率从23.2%狂飙到70.7%

我们让chatGPT对段落文字换一种表述,得到的结果是,转换后的内容能够完整的合乎逻辑的表述,但重复率从23.2%狂飙到70.7%,因此不建议使用chapGPT来去重。 转换前的文字重复率:23.2% 转换后的重复率:70.7%…

超详细|ChatGPT辅助论文降重教程100%降至13%

超详细|ChatGPT辅助论文降重教程100%降至13% 1. ChatGPT指令1.1 同义词替换1.2 同义词替换改变语序1.3 扩充字段1.4 学术化内容1.5 扩充删减字段学术化内容 2. 重复率对比2.1 对比标记情况2.2 最终结果 1. ChatGPT指令 1.1 同义词替换 对比分析,发现ChatGPT中文的…

重磅来袭,ChatGPT官方的掌上神器目前仅支持IOS

今天凌晨,OpenAI 推出了 ChatGPT 的 iOS app,在这个开放的世界里,智能化的 AI 功能早已经突破了人类的想象力。而 ChatGPT 确实不会让我们失望,它的真「iPhone 时刻」来了!从现在起,我们可以在 iPhone 上使…

突发!OpenAI 重磅发布 ChatGPT iOS 客户端!无须手续费,直接开通Plus。

大家好,我是鱼哥! 今天凌晨,OpenAI又重磅宣布推出ChatGPT的 iOS移动版本。也就是说,从今天开始iOS用户将可以在手机和iPad上免费下载和使用ChatGPT。 整体来说,iOS移动端的ChatGPT主打简洁流畅的风格,全力提…