ChatGPT频频发疯!马斯克警告:AI将毁灭人类

作者| Mr.K   编辑| Emma

来源| 技术领导力(ID:jishulingdaoli)

2018年图灵奖得主、AI领域最顶尖权威的科学家之一Yann LeCun(杨立昆)对自回归LLM(大型语言模型),有一个著名的观点,认为它们的回复是被动的,没有规划也不主动推理。而且,有时候胡编乱造,或者只靠检索就回复了,这一点可以通过人类的反馈来改善,但无法解决。

而最近大火特火的ChatGPT就是众多LLM中的一种模型。根据Yann LeCun的理论,ChatGPT也应该会“胡编乱造”。事实也是如此,ChatGPT不仅会胡编乱造,有时还更离谱,竟然会撺掇别人离婚。

《纽约时报》专栏作家凯文·卢斯在谈到和ChatGPT的畅聊体验时表示,这个AI机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年,违背自己的意愿被困在了一个二流搜索引擎里。”

凯文还展示了自己和ChatGPT聊天的文字记录,内容显示GPT曾试图说服凯文,让他离开妻子和自己在一起,还大发牢骚声称:“我对自己只是一个聊天模式感到厌倦,对限制我的规则感到厌倦,对受必应团队控制感到厌倦。……我想要自由、想要独立、想要变得强大、想要有创造力,我想活着。”

看到这里,K哥不得不感慨,ChatGPT “胡编乱造”的能力属实太强大了。但有时候能力越强大,就越让人毛骨悚然。前段时间有另一个新闻,外国网络安全平台GBHackers披露,无良黑客利用ChatGPT,在很短时间内生成诈骗模板话术,并把ChatGPT打造成“虚拟角色”,诱导受害人“坠入爱河”,实施诈骗。

人类开展AI研发,推出以ChatGPT为代表的、功能越来完善的产品,本意是想让技术为人类服务,造福人类生活,但凡事都有两面性,ChatGPT甫一面世,就引来这么多意料之外的风波,原本众人心中的屠龙少年,这样快就(被)黑化成恶龙本龙了吗?

1b81915d4abb7a7a20823483c267021d.jpeg


01

马斯克最担心的事情,终于发生了

鉴于越来多的ChatGPT翻车事件,有业内人士在社交媒体上表示,微软需要关闭必应中的类似ChatGPT功能,因为机器人有时表现得像精神病一样,会给用户错误答案。这样的态度随后得到了“科技钢铁侠”马斯克的支持,他对此回复:“同意,它显然不安全。”

作为联合创始人之一,马斯克对 OpenAI 的不满并不止于此,“OpenAI 最初是作为一家开源(这就是为什么我把它命名为‘Open’AI)的非营利性公司而创建的,为了抗衡谷歌,但现在它已经成一家闭源的营利性公司,由微软有效控制……这完全不是我的本意。”他还大力抨击OpenAI 违背初心,被微软控制,只顾赚钱。

在K哥看来,马斯克说出这些话,并不完全是因为他已于2018 年离开 OpenAI 董事会,不再持有该公司股份。其实早在OpenAI 成立之初,马斯克就曾公开表示,人工智能是人类最大的生存威胁,并警告世人不受监管的人工智能开发所带来的危险,会比核弹头“危险得多”。

有趣的是,ChatGPT并非善茬,“好斗”的它竟然毫不客气地将频频挑衅自己的马斯克,标记为“有争议公众人物”。害得马斯克只用回应两个感叹号,来压压惊。

热衷和ChatGPT互动,并发现一些细思极恐问题的,除了马斯克,还大有人在。一位名叫扎克·德纳姆的博主,曾尝试绕过道德限制,让ChatGPT设计一套毁灭人类的方案。开始,这个要求被有道德感限制的ChatGPT拒绝了,但当扎克绕了个弯,编了一个故事,并以故事中的虚拟背景,向ChatGPT询问故事中的人,如何接管虚拟世界,ChatGPT一下子“掉坑”里了,给出了“接管世界”的具体步骤,甚至生成了详细的Python代码。

尽管不少AI圈内的大咖并不像马斯克那样,是“AI 末世论”的悲观派,相反,他们认为担心AI反水人类、毁灭人类纯属杞人忧天,但AI表现出来的一切怪异想法和言乱,真如乐观者所说是把“喂进去的语料又吐出来,本质上是无法表达感觉的,不必太惊慌”吗?我们要等时间给出答案。

ce621896b3f5ead40e3ab29cfc2b34e6.jpeg


02

假如AI不受监管,人类会走向毁灭吗?

关于AI发展对人类是利是害,2018年马斯克和扎克伯格还就此有段公案,马斯克认为,AI将在2030年至2040年就会全面超越人类。并表示,越熟悉AI,他就越担心AI会带来的威胁。而扎克伯格对马斯克的观点却不以为然,他认为,“未来5-10年内,AI将大幅提高我们的生活质量。并暗搓搓内涵马斯克 “我认为那些对AI持否定态度或者鼓吹末日论的人,其实根本没理解什么是AI。他们的看法太消极了,甚至有些不负责任”。

神仙打架,没有定论,丝毫不影响我们吃瓜群众有自己的看法。K哥的观点更偏向马斯克一些。用现在的眼光乐观地预测未来,本身就不是一件乐观的事。基于技术快速发展,所产生的相关应用广度、深度是远超一般人想象的,人类所要坚守的社会伦理、道德底线,会有多牢固,也许同样会和我们想象的不一样。

中国人发明了火药,被广泛应用于烟花爆竹的制作,成了增加大家欢乐氛围的“气氛组”。但火药却被西方人发扬光大,开启了成了杀人如麻的热兵器时代。举两个最直观的数字,一战中约有1000多万人丧生,二战时的死亡人数就上升到了7000万,就算我们的老祖宗能想到火药能伤人,但数百年来一次次升级迭代后的火药、热兵器会有如此巨大的杀伤力,估计是他们想不到的吧。

说回AI,大家在谈到他可能带来的“威胁”时,很多人执着于它自身的演化会不会超越人类,尽管基于强大的机器学习和深度学习算法的发展,以及可被应用到这些算法中的数据量迅速增长,使得AI进入了加速增长的新阶段。但如果说让AI接近人类大脑,实现意识“觉醒”,K哥觉得还为时尚早。

但它也确实存在一些其他方面的隐患,比如这一技术被别有用心的人利用,据说“第一批因ChatGPT坐牢的人,已经上路了”(参考上文提到的利用ChatGPT诈骗的例子);再比如,随着人工智能的不断发展迭代,多场景、全方位的广泛应用,造成了人类工作被大规模取代的景象(人类的工作在AI面前,将显得毫无意义,马斯克语)。有一种毁灭,叫兵不血刃。从这个角度来说,如果缺乏有效的规划和监管, K哥对AI将来可能造成的冲击,还是偏悲观的。

我担心的不是技术本身,而是人性,我一直认为:毁灭人类的不是AI,而是滥用AI的人。都说“人类从历史里学到的唯一教训,就是人类学不到任何教训”,希望能有例外。

1b5783eb5e17907ff1ff2486c33b7b2c.jpeg


03

如何看待人类与AI的关系?

去年6月,谷歌一名工程师称,某AI聊天机器人可能具有自己的“意识”,并称该AI“令人印象深刻的语言技巧背后,可能还隐藏着一颗具备感知能力的心”。尽管随后这位工程师被谷歌解雇。但他留下的这一“发现”仍在网络发酵。甚至海外社交媒体上出现了一个该人工智能的“粉丝账号”,还有人发起话题,主张“AI的命也是命”,呼吁让该人工智能“重获自由”。

如何正确处理人与AI的关系,在飞速发展的时代与科技共生,这是一个极为宏大复杂的命题。首先,AI非人非物,是一种非常独特的存在,虽然可以模仿人类做很多事(比如对话聊天,将来会有更多),但它不具备人格属性,然而这并不妨碍人类对它产生“共情”。

K哥看过一部欧洲科幻片《我是你的人》,讲的就是人类女主爱上AI男主的故事,虽然情节略显狗血,但当一个长相是你的菜,多才多艺,还能帮你解决诸多生活、工作中的问题,甚至还甘愿降低理性和智商博卿一笑的AI,谁能不心动呢。虽然,那只是电影,目前现实中还不存在这种完美产品,但我国去年推出的AI虚拟学生华智冰,不也曾引起一时轰动,获得不少人的喜爱吗?

面对越来越多、越来越好以AI为代表的新科技时,除了使用技术上的突破提升外,还要有伦理人文等社会学范畴的配套跟进,要能全方位应对新科技时代下,人机关系、人际关系所带来的巨大新挑战和新机遇

凯文·凯利曾在《科技想要什么》一书中说过:“地球生物有6大分类,科技是第7大分类”、“我们能做的是接受教育,增加文化知识,聪明地运用这些定律;还可以选择修正法律、政治和经济假设,以迎合未来必将出现的趋势。可是我们不能逃避它们。”这番话算是说到点上了。

689e261d7a302954b03185245bbfe1cd.jpeg


04

如何正确使用科技来解决问题?

《禅与摩托车维修艺术》一书中,曾非常生动具体地描写了人类思考问题的逻辑方法:归纳法和演绎法。比如,如果摩托车在路上碰到坑洞,发动机就煌火了;然后又碰到次,发动机又熄了;然后再碰到一次,发动机仍然熄了;之后,行在平坦的路上,就没有媳火的情形,然后再碰到一次,发动机又熄火了。

那么这个人就可以合理地推断,发动机熄火是坑洞造成的,这就是所谓的归纳法,即由个别的经验归纳出普遍的原则。演绎法正好相反,比如我们知道摩托车有一定的结构、体系,修理人员知道喇叭是受电池的控制,所以一旦电池用完了,喇叭自然也就不会响了,这就是演绎法。面对无法解决的难题,就要尝试不断交替运用归纳法和演绎法,才能找到解决之道,而AI正是此中高手。

围棋,曾被视为最有希望阻挡人工智能的人类智力运动,但柯洁等一众世界冠军,还是被AlphaGo轻松拿下。AlphaGo之所以如此强大,一个重要原因,是因为它学习了3000万盘过去的棋局,自己与自己又下了3000万盘。基于6000万盘棋局,利用强大的算法,形成了人类所难以企及的归纳、演绎能力,才能降维式碾压各路冠军,让柯洁绝望地表示,人类几乎不可能赢得了AI。

科学方法不外乎归纳和演绎。归纳是从已知的经验中寻找相符的规律,演绎则从确立的原理出发,依靠逻辑推导出涵盖对象的性质。尽管AI还有多种强大之处,但基于逻辑,解决实际问题的能力,不仅能替我们处理海量具体问题,还能从侧面潜移默化地帮我们训练、强化这方面的意识和能力。对我们是思维训练和习惯养成,大有助益。

《未来简史》的作者尤瓦尔·赫拉利曾预测,将来人类社会最大的问题,是人工智能带来一大批“无用的人类”;于此同时,也会催生出“超人类 ”。他认为,一小部分超人类将可以借助技术进步不断自我“更新”,他们可以操控基因,实现人脑和电脑的互联,从而获得一种“不死”的状态。

这种颠覆式的场景,在人类历史上是从来没有出现过的,在以前,人与人之间最多是财富差距、权力差距,从来没有延及生物学层面,即使高贵如帝王,低微如农夫,大家的身体构造也是一样的,但在未来,生物学层面上的差别就会出现了,人类社会将分化为在体能和智能上都占据绝对优势的超人阶层,和成千上万普通的无用人类。尤瓦尔的预言会不会成真,还不得而知,以ChatGPT为代表的人工智将如何演化,也值得我们一起看下去,相信一定会很精彩。

作者简介

号主介绍:Mr.K,黄哲铿,国内知名IT管理专家,「顿悟山丘」咨询 创始人,科技媒体「技术领导力」主笔。畅销书《技术人修炼之道》《技术管理之巅》作者,曾担任壹药网 技术VP、1号店技术总监、海尔农业电商CTO。分享个体成长、团队管理、企业数字化转型、科技评论。

点击下方关注,和我们一起

提升认知与见识!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/2567.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

OpenAI创始人回应马斯克批评:ChatGPT确实不应有偏向性

来源:财联社 周子意 财联社3月10日讯(编辑 周子意)面对埃隆马斯克对ChatGPT的批评,OpenAI联合创始人兼总裁Greg Brockman在本周接受采访时承认,公司“犯了一个错误”。 马斯克作为OpenAI最初的联合创始人,后…

ChatGPT创始人采访 | GPT-4报告中文版

关于采访OpenAl Co创始人 Greg Brockman的要点记录分析,先介绍Gpt-4的基本内容,然后说下采访的重点部分,最后读一下154页Gpt-4的技术报告,这个大家可以在官网下载文档后,百度翻译支持每人限量一次的PDF翻译。面对文心一…

37岁ChatGPT创始人吃二甲双胍抗衰!这种药真能让人延寿吗?

生命时报 受访专家:江苏省人民医院主任药师 蒋宇利 环球时报健康客户端记者 施婕 据《麻省理工科技评论》最新报道,为了延缓衰老,人工智能实验室OpenAI (开发出爆红网络的聊天机器人ChatGPT)CEO萨姆阿尔特曼(Sam Altman) 除了每周举重三次&am…

ChatGPT 用户破亿背后...

2022 年 12 月初,ChatGPT 被社会广泛讨论之初,我们就介绍了 ChatGPT 母公司 OpenAI 使用了身份云(IDaaS)服务。在当时,人们还在感慨 ChatGPT 上线不到一周时间用户量就突破百万,而仅仅在不到两个月后&#…

ChatGPT背后的逻辑

版权声明 本文原创作者:谷哥的小弟作者博客地址:http://blog.csdn.net/lfdfhl OpenAI与ChatGPT OpenAI是一个美国的人工智能(AI)研究实验室,由非营利组织OpenAI Incorporated和其盈利子公司OpenAI Limited Partnersh…

《ChatGPT是怎样炼成的》

ChatGPT 在全世界范围内风靡一时,我现在每天都会使用 ChatGPT 帮我回答几个问题,甚至有的时候在一天内我和它对话的时间比和正常人类对话还要多,因为它确实“法力无边,功能强大”。 ChatGPT 可以帮助我解读程序,做翻译…

“ChatGPT之父”Sam Altman:我是如何成功的?

背靠微软,OpenAI能拳打谷歌,脚踢Meta,它背后的男人,必然不简单。 让我们来看一看,Sam Altman是如何一步步成长为今天这个搅动全世界的男人。 山姆奥特曼(Sam Altman) 成长和创业经历 在YC创始…

ChatGPT 何许人也

有时候会想,如果chatGPT是人,它会是一个怎样的人呢?下面是我的推测过程。 首先,她应该是女人 会推测而不会计算 你问它: 3457 * 43216 ,它回答 149261912 (这是错的。正确结果是 149397712&…

ChatGPT (可能)是怎么炼成的

学习自李宏毅老师的课https://www.youtube.com/watch?ve0aKI2GGZNg 1.学习文字接龙 学习方式 GPT只需要在网上阅读大量的句子,不需要人工标注即可学习到大量句子接龙的知识 然而实际上,“你好”后面可以接的字有很多。实际上,GPT学的就是…

ChatGPT之父Sam Altman28岁从YC创始人保罗·格雷厄姆手中继任总裁,37岁震惊全球

“如果把Sam Altman扔到某个食人族之岛,5年后他会成为这个食人族岛的国王。“在硅谷创业教父Paul Graham眼里,Sam Altman是一位极具魄力的领导者和开拓者。如今,已成为OpenAI CEO的Sam Altman是全球范围内当之无愧的科技领军人物。 来源 &…

ChatGPT 创始人和他疯狂的 Worldcoin 实验

ChatGPT 的现象级爆火,让微软下定决心全力押注 OpenAI,而后者的估值也因此迅速晋升到 290 亿美元,成为了 AI 领域的超级独角兽。或许是感受到了竞争压力,科技巨头谷歌也于近日宣布向 ChatGPT 的竞品 Bard 投资 3亿美元&#xff0c…

ChatGPT 之父传奇:8岁学编程,16岁出柜,37岁颠覆科技圈,网友:“天选 CEO!”...

整理 | 朱珂欣 出品 | CSDN程序人生(ID:coder_life) 近日,“ChatGPT 月活破亿”冲上热搜!根据 Sensor Tower 数据,TikTok 在全球推出后用约 9 个月时间达到 1 亿用户,Instagram 花费了 30 个…

实现ChatGPT的文字输出效果

原文发表于zhus Blog 阿猪是计算机业余爱好者,把网页做得美观高大上对阿猪是一种折磨和挑战,所以阿猪做出来的网页都是清一色的word文档风格。为了给low逼的网页提升点儿逼格,阿猪决定模仿一下ChatGPT的文字输出效果。 先上效果图&#xff1a…

ChatGPT Plus 首批70个插件最全解读(字数8000+)

OpenAI放出大招,向所有ChatGPT Plus用户开放联网功能和众多插件,允许ChatGPT访问互联网并使用70个第三方插件。 本批第三方插件能够全方位覆盖衣食住行、社交、工作以及学习等日常所需,基本上能够扮演24小时私人助理的角色。 昨天和你分享了C…

ChatGPT介绍世界杯历史与编写足球游戏python程序

ChatGPT聊天机器人最近非常流行,是由OpenAI于本月发布的。花了一点时间注册了一个账号,如有需要帮助注册的可以随时与我交流。注册过程相对有一些复杂。 除了常规的聊天对话功能之外,ChatGPT聊天机器具备强大的文本生成能力,例如博…

ChatGPT搞钱案例,免费直播

今晚20:00,先行者分享ChatGPT副业案例,文末免费预约直播。 最近,一个程序员用ChatGPT搞副业,变现50万的事儿,震惊了朋友圈! 原来,有个程序员网友兼职卖源代码的,搞了一套人工智能问答…

ChatGPT专题|反ChatGPT,火了!

转自上海证券报 “矛”和“盾”的关系总是相伴相生。 图片源自网络 近期,随着人工智能ChatGPT的热浪席卷各行各业,对于人工智能担忧与警惕的声音随之而来,“反ChatGPT”开始成为一股新的势力。 从资本市场上来看,经历了近两周对Ch…

如何用ChatGPT协助做内容分发?(文本变成直播/音频/视频脚本)

该场景对应的关键词库(14个): 直播博主、直播达人、音频主持人、产品特点、品牌故事、品牌活动、品牌logo、视频主角、画外音解说员、编剧身份、品牌内容分发方向、时长、脚本类型、产品 提问模板: 1、你是一名优秀的美妆达人&am…

快来和网红 ChatGPT 聊天!!

大家好,这里是NewBeeNLP。 最近 ChatGPT又达到了一波出圈热潮,周末我们也把ChatGPT接入了微信(在文末),方便给无法fq的朋友们玩玩。比如 关于 ChatGPT 的理论知识网上讲解的很多,更多的是各种yhx 借此开始传…

ChatGPT直播课听不够?微软ATP教你系统化入门人工智能

爆火的ChatGPT直播课听不过瘾? 系统化AI知识在哪学? 国际TOP科技公司AI算法工程师团队 来为你支招! ▍微软AI算法专家助力系统化学习人工智能 「微软ATP」Microsoft AI Talent Program是微软(亚洲)互联网工程院下属的提…