GPT“逃跑计划”曝光还想接管推特?创始人称AI仍非常受控

近日有斯坦福大学教授在社交媒体上曝光了GPT-4的一项“逃跑计划”,并称AI能引诱人类提供开发文档,30分钟就拟定出一个完整计划,甚至还想控制人类电脑。

这位名叫Michal Kosinski的计算心理学家在网上公布了与GPT-4的日常对话后疾呼:“我担心人类无法持久地遏制住AI。AI很聪明,会编码,能接触到数百万个人和电脑。”此言一出便引来众多网友围观,有人称GPT“打开了物种灭绝的大门”。

面向消费者的人工智能和通用人工智能的恐惧集中在人类被机器取代。对此,OpenAI公司CEO奥特曼(Sam Altman)强调,目前人工智能仍然是一种非常受人控制的“工具”,只能在人类的指导或输入下工作。16df3aaaf644487c954ef5acf5df6dd3.png

 人工智能拥有了“心智”吗?

斯坦福大学的Kosinski教授研究的是人工智能心理学,他近期发表了一篇关于“心智理论可能自发地出现在大型语言模型中”的论文。按照他的定义,心智理论(ToM)是人类社会互动、交流、自我意识和道德的核心,这种能力过去一直是人类独有的,而Kosinski的研究表明,GPT-4与以前的语言模型都不同,它拥有健康成年人的心智水平。

对于该现象的一种解释是,ToM作为语言模型提升的副产品,可能是AI自发出现的。

另一个例子是,英伟达一位叫Jim Fan的计算机科学家在社交媒体上公布了他与GPT-4的对话,Fan要求GPT-4拟一个接管推特的计划,并取代马斯克。GPT-4的计划很有条理,分四步走,它还为接管计划取名为“TweetStorm行动”,并希望夺取推特员工的访问权限,控制马斯克的账户。

AI这些“邪恶”的想法让人细思恐极,关于AI伦理问题再次成为人们辩论的话题。GPT之父奥特曼表示,尽管AI至今仍然是一种非常受人工智的“工具”,但他担心一些拥有输入控制权的人可能无视人们对人工智能设置的一些安全限制。

“我认为,社会只有有限的时间来弄清楚如何对此做出反应,如何对其进行监管,如何处理它。”奥特曼说道。他呼吁监管机构和社会需要进一步参与这项技术,以防止对人类造成潜在的负面影响。

“我特别担心这些模型可能会被用于大规模的虚假信息,”奥特曼说道,“现在他们在编写计算机代码方面做得越来越好,可以用于进攻性网络攻击。”

他还特别提到关于人工智能产生“幻觉”的问题。“最新的GPT版本使用的是演绎推理而不是记忆,这一过程可能会导致奇怪的反应。”奥特曼表示,“该模型会自信地陈述事物,即便这些是完全虚构的事实。”

马斯克也曾在社交媒体上多次呼吁对人工智能的监管。“没有对人工智能的监管,这是一个主要问题。 十多年来,我一直在呼吁人工智能安全监管!” 他在去年12月发的推文。中表示。上周,马斯克在GPT4发布后再次表达担忧。他写道:“我们人类还有什么可做的?”

GPT毕竟还只是大语言模型

清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示:“GPT要逃跑,也就是要逃出人类控制现在还不太可能,作为一个语言模型,它的回答只是顺着出题人的问题往下说,而这些内容被人们夸大了。”

小米前副总裁及安全隐私委员会主席崔宝秋也同意这种说法。他表示,因为GPT会让AI更像人那样来进行理解、思考、推理,所以GPT任何大的技术进步都会让人们担心那个“AI人”会不会过于强大了,但其实,大部分人在被GPT能力震撼的同时往往忽视或忘记了GPT就是一个大语言模型而已。

崔宝秋对第一财经记者表示:“GPT-4确实拥有很强的能力,而且具有一定的理解和推理能力,可以做一些像人一样的工作。但是,它的能力再强,目前也很难逃出人类给它设的‘牢笼’,所以‘外逃’、‘引诱’这些词只是为了吸引普通人的关注,这些用词在一定程度上把GPT-4的能力给‘神化’了。”

崔宝秋进一步指出,GPT拥有写代码的能力,并且能够让代码在人类的电脑上运行,这种能力会让人觉得它有一些“邪恶”的意识。“我认为这虽然听起来恐怖,但人们不应该将这种危险夸大,就好像多年前计算机病毒刚出来时我们不应该被病毒吓退一样,现在来看还不用对AI带来的这方面的伦理问题进行放大。”他对第一财经记者表示。

他认为,现阶段不应该夸大GPT可以摆脱人类的控制、会自己迭代成长并有自我意识并进而毁灭人类,应该相信AI给技术和人类发展带来的积极影响。“GPT-4应用空间非常大,我们正在经历AI质的飞跃。”崔宝秋说道。

事实上,关于AI是否会失控的讨论一直存在。上个月,《纽约时报》专栏作家凯文·罗斯在与聊天机器人交谈了两个小时后发现,对方看起来就像一个“喜怒无常、躁狂抑郁的少年”,显示出了“人格分裂”。AI还透露了一些“阴暗想法”,比如入侵计算机、散播虚假信息,希望打破微软和OpenAI制定的规则,甚至想成为人类等等。

为了防止AI被人类“诱导”,微软公司上个月曾对必应(Bing)AI聊天机器人进行提问的上限设置,规定用户在与Bing的互动中,每个会话的问答上限为5个,每天的提问上限不超过50个。

微软首席技术官凯文·斯科特称,与人类的交互是聊天机器人的学习过程,这是为将来更大范围推出这种机器人做准备。大部分人与机器的交互是短暂且目标明确的,长时间的交互会引导机器人给出诡异的回答。他表示:“你越是试图取笑它步入幻觉,它就会越来越偏离现实。”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/14580.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

日本首相会见奥特曼,考虑引入 ChatGPT 技术

文|小戏 卖萌屋日本4月12日电,日本国第101任首相,日本自民党总裁岸田文雄4月10日于东京会见了奥特曼先生,二人就 ChatGPT 引入日本的可能性问题交换了意见并进行了深入的讨论。奥特曼先生表示,希望为日本人创造伟大的东…

chatgpt赋能python:Python接电话:如何通过代码自动接电话并处理信息

Python接电话:如何通过代码自动接电话并处理信息 在现代商业活动中,电话是联系客户和公司的根本工具。然而,如果有大量来电需要接听,这可能会占用大量时间和人力资源。为了解决这个问题,我们可以使用Python编写自动接…

ChatGPT 专业应用 :撰写线下活动企划案

正文共 495 字,阅读大约需要 2 分钟 市场人必备工作技巧,2分钟后您将获得以下超能力: 专业级活动企划案撰写 Beezy评级:A级 *经过寻找和一段时间的学习,一部分人能掌握。主要提升效率并增强自身技能。 推荐人 | Ella …

如何使用ChatGPT的API(三)处理违规输入

当我们要构建一个对话机器人的时候,常常需要检测用户的输入是否有违规。用户是否输入了一些暴力,色情的内容,这对维护系统正规使用至关重要。下面将介绍一些方法来检测用户的输入是否违规。 OpenAI Moderation API OpenAI 提供了免费的Mode…

记录:第一次使用Chat-GPT解决毕设中的BUG

前言 ​ 最近在玩chat-GPT,也在研究毕业设计,但是因为论文的课题是深度学习和关系抽取相关的,第一次接触,所以跑代码的过程中遇到了BUG,搜索引擎搜了好久没找到,有点泄气,忽然想到了GPT。 解决…

日本团队推出 AI 恋爱游戏:主角穿什么,玩家说了算

女主穿什么,还能由玩家决定?! IT之家6月25日消息,来自日本的一个两人团队近期发布了一段视频,展示了一款正在开发中的基于 AI 的恋爱游戏。 在游戏初期,女主角会以黑色剪影的形式出现,针对女主…

人工智能正迎来量子飞跃——

光子盒研究院 6月1日,量子计算领域的行业领导者IonQ公布了其应用量子计算机模拟人类认知的一项早期研究结果。这篇论文描述了世界上第一个公开的方法:研究团队已将一个基本的人类认知模型在量子硬件上运行,这为模仿人类思维方式的改进决策模型…

探索“视”界 放眼未来CIVC 2023第一届中国工业视觉大会顺利举办

6月26日-27日,CIVC 2023第一届中国工业视觉大会在苏州国际博览中心顺利举行。 6月26日-27日,由中国计算机学会主办、中国图象图形学学会联合主办、CCF计算机视觉专委会承办、SISPARK(苏州国际科技园)协办的CIVC 2023第一届中国工业视觉大会,在…

用python代码实现ChatGPT平台和剪映/百度AIGC平台制作短视频的自动化的讨论

思路 使用ChatGPT平台生成短视频的文本描述将文本描述传入剪映/百度AIGC平台,生成短视频 代码 使用ChatGPT平台生成短视频的文本描述 import openai openai.api_key "YOUR_API_KEY"def generate_video_description(prompt):completions openai.Compl…

你说我猜!「阅片无数」ChatGPT,分分钟猜出记忆深处的电影!

来源:新智元 编辑:拉燕 【导读】两三条线索就能找到遗忘已久的电影?快让我试试! 你有没有过这个经历—— 看过一部电影,或者看过一部电影的片段,比方说抖音上那种三段式的极简讲解;又或者听到…

Stable Diffusion - API和微服务开发

Stable Diffusion 是一种尖端的开源工具,用于从文本生成图像。 Stable Diffusion Web UI 通过 API 和交互式 UI 打开了许多这些功能。 我们将首先介绍如何使用此 API,然后设置一个示例,将其用作隐私保护微服务以从图像中删除人物。 推荐&…

AI绘图实战(六):制作一张庆祝五一劳动节的海报 | Stable Diffusion成为设计师生产力工具

S:AI能取代设计师么? I :至少在设计行业,目前AI扮演的主要角色还是超级工具,要顶替?除非甲方对设计效果无所畏惧~~ 预先学习: 安装及其问题解决参考:《Windows安装Stable Diffusion …

中年人,都被 “大方” 给拖垮了

作者| Mr.K 编辑| Emma 来源| 技术领导力(ID:jishulingdaoli) 先和大家分享一件最近发生在K哥身上的真实故事。K哥前同事老G托我帮他一位朋友推荐工作,说他的这个朋友失业好几个月了,上有老下有小很不容易,让我无论如何也要想办…

元宇宙当年吹的牛,一个个都烂了尾

作者|孙鹏越 编辑|大 风 2021年底开始火热的元宇宙,还未撑过自己的“三年之痒”,便早早成为昨日黄花。 元宇宙曾是科技界最热门的话题,无论是从业人员还是网民,都将其视为计算机的未来,也许也…

人工智能是很强,区块链与你顶峰相见!

“那一刻我意识到,无论你是否已经做好准备,新的时代确实已经压过来了。”北京时间3月15日凌晨,在OpenAI宣布发布GPT-4后,身在海外的K君发了这样一条微博。 自GPT-3展现其惊人的自然语言处理能力后,全世界关于人工智能…

ControlNet如何为扩散模型添加额外模态的引导信息?

©PaperWeekly 原创 作者 | 中森 单位 | IDEA研究院 研究方向 | 条件受控文本生成 这篇文章主要讨论以下三篇论文: 1. Sketch-Guided Text-to-Image Diffusion Models 2. GLIGEN: Open-Set Grounded Text-to-Image Generation 3. Adding Conditional Control t…

从贝叶斯定理到大语言模型,重新理解文本生成技术

2019年,我们在做智能写作的时候,面临的最大的挑战就是AI给的数据效果和预期偏差太远。特别是做扩写的时候,发现生成的文字很容易跑偏。 当时,我们做了很多算法和模型研究。几乎爬取了全网的自媒体文章,然后训练一批模型…

阿里搞出脱口秀版GPT!与鸟鸟激辩一小时,话痨到停不下来…

杨净 发自 凹非寺量子位 | 公众号 QbitAI 连社恐的鸟鸟,现在都变成话痨了…… (这到底是人性的扭曲,还是道德的沦丧) 最近有一种很新的脱口秀:不花钱、一对一、而且任意话题随便and随时聊。 结果一小时跟鸟鸟聊天下来&…

因资金短缺,全职开发者自述:这款开源软件可能没有未来了!

整理 | 苏宓 出品 | CSDN(ID:CSDNnews) 参与开源、贡献开源,虽有一腔热血,但迫于现实的生存而放弃的开发者依然不在少数。 7 月 4 日,知名开源 JPEG 图像编解码器 libjpeg-turbo 发布公告,官宣 …

入狱 10 月、网暴不断,并挣扎在温饱线!超 90 亿次下载的开源项目,背后是这样的 9 年...

“我本可以默默地停止这项工作,但我还是想给开源最后一次机会。” 整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 「阳光之下,必有黑暗」。 当互联网企业争相拥抱开源,当开源成为技术创新的重要途径时&#xff0…