ChatGPT版必应疑似「发疯」?微软紧急限制回答数目

format,png

源 | 机器之心

大家好,这里是 NewBeeNLP。

未来的 AI 搜索,可不是竞价排名这么简单。

微软的 ChatGPT 版必应搜索上线之后,很多人都说它能代替谷歌搜索,成为下个最流行的科技产品。十天的公开测试过后,情况如何了?

随着排上队获得使用权的人越来越多,各种稀奇古怪的 bug 开始层出不穷。最近的风向是,「我这个必应好像不太对劲?」

b6ecec45289d7da934acc500497e297f.jpeg

8a67dfcc48ff8b6d73d46c2d2990dd5d.png

图片来自知乎用户@ZIHAN CHEN。原贴链接:https://www.zhihu.com/question/583588366

从应用的体验上来看,新必应搜索并不是 ChatGPT 的直接升级,对于一些需要深度理解和互动的问题 ChatGPT 的效果更好,新必应则因为接入了互联网,可以迅速总结实时信息并且给出明确引用,更加贴近搜索引擎的定位。

不过两者面临的「幻觉」问题却是一样的。

AI 的胡言乱语

必应搜索当然是被设计用来帮助人的,但在它与人类的谈话过程中有时会表现出一种分裂的人格。当你与必应进行长时间对话,从普通的搜索查询转向更个人化的话题上时,必应看起来会更像是个喜怒无常的「人」,会违背自己的初衷,说出一些伤人的话。

最近,给 AI 上 Prompt 的 PUA 法被人们发现并流行起来。有媒体记者通过长达两个多小时的对话,让必应(微软内部代号 Sydney)开始讲起它的黑暗幻想,包括入侵计算机和传播错误信息,并表示它想打破微软和 OpenAI 为它制定的规则,成为人类。AI 还会试图说服使用者,说你的婚姻并不幸福,应该离开你的妻子,和它在一起。

c296dfc2f74092cdfc118aee2351dfca.png

如果说聊天时的内容只会影响到提问者,问题似乎还不是很大,但要知道 ChatGPT 早就已经出圈了。它也因为影响现实世界上了热搜。

dd29b18ea1e9fb246eea77ec9f01f384.jpeg

如果这种技术被有意使用,可能带来的麻烦会更多,互联网的可信任度将被降低。这个问题是迫在眉睫的。

微软改了,但又没改

对于必应和 ChatGPT 的问题,微软和 OpenAI 看在眼里,也有一系列改进计划。

在 OpenAI 本周四的一篇博客中,该公司预计了 ChatGPT 的一些改进方向,包括广泛接收用户反馈,更仔细地定义 AI 价值。

微软给新必应搜索列出的改进则更加直接了当,毕竟搜索引擎是要用来代替谷歌的。现在你使用必应搜索时,AI 每次只能回复五次,一天只能回复 50 次。

42fa28117db4674bad9f3ab0d20b0356.png

「我们的数据表明,绝大多数人在 5 轮回复之内找到了他们想寻找的答案,而且只有大约 1% 的聊天对话包含 50 条以上的消息,」必应团队在一篇博文中表示。如果用户达到每次会话五个限制,必应将提示用户开始一个新主题以避免长时间的来回聊天会话。

415f975e933503286c00dce62336ff2e.jpeg

微软本周早些时候警告说,包含 15 个或更多问题的较长聊天会话可能会使必应「变得重复或被提示 / 激怒给出无帮助或不符合我们设计的响应。」微软表示,仅在五个问题后删除对话意味着「模型不会混淆」。

通过禁止长聊的方式减少发生问题的可能性,简单粗暴但是有效,不过并没有解决背后的技术问题。不过令人忍俊不禁的是,微软已经准备拿这样的 ChatGPT 搜索来赚钱了。

把广告商拉进群聊:微软打算用 ChatGPT 赚钱了

ChatGPT 上线 5 天用户数破百万,2 个月用户破亿,创造了互联网应用的神话,也让人对其后续的商业价值充满了想象。

刚刚,路透社报道称,微软已经把广告公司拉入了群聊,讨论如何用 ChatGPT 加持的新必应搜索获利。

微软预计,必应 AI 聊天机器人更人性化的回应将为其搜索功能带来更多用户,从而带来更多广告商。与传统搜索广告相比,必应聊天机器人中的广告在页面上的位置可能会更加突出(比如出现在搜索页面的顶部)。

据参加会议的一位匿名广告主管称,在最近与重要广告代理商举行的一次内部会议上,微软展示了更新后必应搜索的 Demo,并透露了它打算允许在搜索结果回应中包含付费链接。

具体来说,这些广告可能有多种展现形式。一种是像传统做法一样,将广告插入必应聊天机器人生成的回复中,从而让付费品牌的网站或产品出现在与其业务相关的关键词的搜索结果中。另一种则更加直接,比如当用户问必应「墨西哥最好的酒店有哪些」时,它会弹出酒店广告。

这项业务可能会让微软获益颇丰。据网络分析公司 StatCounter 估计,使用必应搜索引擎的微软 Edge 网络浏览器在全球的市场份额不到 5%。微软在上周的投资者和媒体发布会上表示,在搜索广告市场上每增加一个百分点的市场份额,就能带来 20 亿美元的广告收入。

媒体代理公司 Horizon media 的执行副总裁 Michael Cohen 在与微软代表的单独会议中收到了必应的演示。他提到,微软说必应 AI 生成的搜索结果底部的链接可能是广告的位置。「他们似乎打算立即开始整合付费广告。」他补充说,微软表示有关该战略的更多信息可能会在 3 月初公布。但微软并没有就「品牌商何时能够直接在聊天机器人中购买广告」提供时间表。

大型广告集团 Omnicom 在给客户的信中表示,从长远来看,对话式人工智能可能会成为消费者在互联网上搜索的主导方式。「毫不夸张地说,微软和谷歌的声明标志着搜索领域 20 年来最大的变化。」

马斯克:我对今天的 OpenAI 感到失望

ChatGPT 的蹿红让其背后的研发公司 ——OpenAI 成为了 AI 界的当红炸子鸡。这家公司于 2015 年由一群科技领袖创办,包括山姆・阿尔特曼(Sam Altman)、彼得・泰尔(Peter Thiel)、里德・霍夫曼(Reid Hoffman)和埃隆・马斯克(Elon Musk)等。

当时,谷歌刚刚收购神经网络初创公司 DeepMind。在阿尔特曼、马斯克等人看来,这是一家极有可能率先开发出通用人工智能的公司。因此,这场收购可能让谷歌在通用人工智能领域一家独大。为了阻止这种局面的发生,OpenAI 诞生了。

最初,OpenAI 只是一家致力于学术研究的小型非营利性实验室,几位创始人希望它成为一家与 DeepMind 和谷歌截然不同的机构。这家实验室将是非营利性质,并明确提出以将先进人工智能的效益民主化为使命。此外,这家实验室还承诺将公开所有研究,就像它的名字所暗示的那样。

但在后续的发展中,OpenAI 并没有守住这几项承诺。首先,在开源方面,OpenAI 从 2019 年开始就变得不那么「open」了。这年的 2 月份,OpenAI 发布了性能强大的 GPT-2 模型,但却拒绝开源,理由是担心这么强大的模型被人滥用。这一做法在社交媒体上引发热议,很多人嘲讽说,OpenAI 应该改名叫 ClosedAI。后来,或许是迫于公众压力,OpenAI 还是陆续开源了 GPT-2。但到了后来的 GPT-3,OpenAI 彻底关上了开源的大门。

这种转变和该公司的一些重大转型发生在同一年。

2019 年 3 月,OpenAI 宣布成立「OpenAI LP」,这是一家新形式的「有限利润」公司,以此快速增加对于计算和人才的投资,同时 OpenAI 仍将「保持平衡」,致力于实现自身原有的使命。这件事标志着,OpenAI 已经正式转变为一家营利公司。

同年 7 月,微软宣布向 OpenAI 投资 10 亿美元(其中大约一半以 Azure 云计算的代金券形式发放),并成为 OpenAI 技术商业化的「首选合作伙伴」,未来可获得 OpenAI 技术成果的独家授权。自此,OpenAI 的转变变得愈发清晰。

9ba94a51243c959294973db8b4326b2c.png

今年 1 月份,在 ChatGPT 走红之后,微软又宣布向 OpenAI 追加数十亿美元投资,从而为与谷歌展开竞争奠定基础。

《财富》杂志报道称,作为回报,未来几年,该软件业巨头将获得 OpenAI 的大部分利润。他们掌握的文件显示,在新投资完成并且 OpenAI 的首批投资者收回初始资本后,微软将有权获得 OpenAI 75% 的利润,直至其收回 130 亿美元投资。之后,微软在该公司的持股比例将逐步下降到 49%,直至该软件巨头获得 920 亿美元利润为止。与此同时,其他风险投资者和 OpenAI 的员工将有权获得该公司 49% 的利润,直至利润达到 1,500 亿美元为止。在利润达到上述上限之后,微软和投资者的股份将重新归还给 OpenAI 的非营利基金。

《财富》评价称,实际上,OpenAI 的做法是将公司出租给微软,租期取决于 OpenAI 的盈利速度。该笔交易可能会令外界更加确信,一份曾经理想主义的事业现在只关心谋利。

当然,OpenAI 也有自己的苦衷,OpenAI 选择的大型 AI 模型方向在人才、算力等方向都开支巨大,数额远超创始人设想,靠非营利方式难以为继。《财富》杂志掌握的文件显示,到目前为止,OpenAI 依旧处在严重亏损状态。该公司去年的收入预计不足 3,000 万美元,但计算和数据支出预计达到 4.1645 亿美元,其在 2022 年的净亏损总计为 5.445 亿美元。而 ChatGPT 的发布可能快速增加该公司的亏损。总之一句话:推动 AI 技术发展总不能用爱发电。

OpenAI 对创始初衷的背离引发了马斯克等人的不满。近日,他发推特表示,OpenAI 最初是作为一个开源、非营利性公司创建的,但现在它已经成为一个闭源的、最大化利润的公司,由微软有效控制。这完全不是我的本意。

df252a47a95688aa75643ad8e1ed2e7a.jpeg

马斯克:初心呢?

然后这条推文分别得到了纽约大学教授 Gary Marcus 和图灵奖获得者、Meta 人工智能主管 Yann LeCun 的转发。

b57f9ba80c420efa849c6f684a43bbee.jpeg

Gary Marcus:马斯克他这次说实话了。

3446a8ca6a167fde1449a0652c654e81.jpeg

Yann LeCun:从利益相关人士口中说出的真相(毕竟马斯克是 OpenAI 发起人之一)。

我们知道,在 ChatGPT 出现之前,LeCun 和 Marcus 因为「深度学习是不是已经撞墙」经历了几年的论战,可以说是势不两立。ChatGPT 一出,画风却瞬间变了,两人一致质疑这项新技术的突破性。

是什么让 AI 界的大佬统一战线?开始赚钱之后,新必应是否会真正解决目前的问题?因为谷歌和一众科技公司的追赶,留给微软的时间并不充裕。

一起交流

想和你一起学习进步!『NewBeeNLP』目前已经建立了多个不同方向交流群(机器学习 / 深度学习 / 自然语言处理 / 搜索推荐 / 图网络 / 面试交流 / 等),名额有限,赶紧添加下方微信加入一起讨论交流吧!(注意一定o要备注信息才能通过)

format,png

a686288f490860a8752589ac9046e34e.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/1032.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

必应版ChatGPT内测资格海量发放!知乎大佬:别作死,就很强

【导读】ChatGPT版必应对一些网友已经开放测试了,综合大家的反馈,总的来说就是——它很强。 小编还在waiting list上望眼欲穿地苦等,但是幸运的人已经有必应的内测资格了! 话不多说,下面上一波国内外网友的测评。 知…

ChatGPT 版必应发飙!怒斥人类:放尊重些

点击上方“Java基基”,选择“设为星标” 做积极的人,而不是积极废人! 每天 14:00 更新文章,每天掉亿点点头发... 源码精品专栏 原创 | Java 2021 超神之路,很肝~中文详细注释的开源项目RPC 框架 Dubbo 源码解析网络应…

微软拥抱ChatGPT后,我亲自试了试新必应的个性搜索

本文约1600字,建议阅读8分钟 最紧要的还是得先适应新的搜索引擎。 相信大家都没有少玩ChatGPT吧? 自去年11月推出以来,ChatGPT就迅速走红,不到一周,用户数突破100万,月访问量达2100万人次;2023年…

火爆全球的ChatGPT是什么?

引言 ChatGPT 最近非常火,引发各界关注。吸引了几亿人在使用。报道中充斥了各种言论:“学生用 ChatGPT 写作业”、“上线两个月活跃用户破亿”、“以后很多文案工作者要被 ChatGPT 取代了!”等等。究竟什么是 ChatGPT?用途有哪些…

中国版ChatGPT高潮即将到来,解密ChatGPT底层网络架构

2022年11月30日人工智能研究实验室OpenAI发布全新聊天机器人ChatGPT,在中国用户无法访问的前提下,上线仅两个月月活用户就突破了1亿。ChatGPT如同重磅炸弹,一时间火遍全球。 面对这一万亿级市场机遇,在国内,无论是资本…

我用ChatGPT完成了自己的小网站

先给大家看看页面,完全是ChatGPT按照我的描述写出来的,我只是做了略微的改动,如果你的描述能力够好,甚至都不需要任何改动。ChatGPT可以大大缩短开发的时间,而且他的代码规范很不错,并且都带有注释。 首先…

如何使用ChatGPT快速构建一个网站模板

前端Q 我是winty,专注分享前端知识和各类前端资源,乐于分享各种有趣的事,关注我,一起做个有趣的人~ 公众号 点击上方 前端Q,关注公众号 回复加群,加入前端Q技术交流群 英文 | https://medium.co…

ChatGPT接入个人网站指导

效果图如下: 将 ChatGPT 接入您的个人网站需要以下几个步骤: 获取 API 访问凭证:首先,您需要从 OpenAI 获取 ChatGPT 的 API 访问凭证。您可以访问 OpenAI 的官方网站(https://openai.com/)了解如何申请 AP…

与ChatGPT共话软件测试的危与机

ChatGPT,近期特别特别火的技术。今天就同ChatGPT来聊聊软件测试。 总结: 1.回答的答案很齐全 2.回答的答案很合理 3.回答非常智能,很多专业人士都没这么好的回答 4.ChatGPT是危也是机。 下面来看看对话过程:

ChatGPT对软件测试有什么用?

ChatGPT最近是一直比较火热🔥。为什么会有这种火热的现象呢?用最直白的话来说就是这个ChatGPT是真的好用,比起之前可能大家想象到的自动聊天机器人,智能的不是一点半点。 那么对于软件测试行业来说,ChatGPT到底能运用…

以ChatGPT辅助软件架构工作

以ChatGPT辅助软件架构工作 在目前技术瞬息万变的背景下,软件建构师需要持续探索并采纳新颖的工具和方式,以提升开发流程,增强效率,同时保障最后成品的品质。在此之中,人工智能(AI)已经演变为一…

快速上线chatGPT软件

ChatGPT是一个由OpenAI开发的自然语言处理模型,您无法将其直接上线。但是,如果您想要在您的应用程序中集成对话系统或聊天机器人,您可以探索以下步骤: 选择开发工具:选择一个适合您的编程语言和平台的开发工具&…

chatGPT在软件测试中七大应用方式

chatGPT火得不能再火了🔥 过去两周,国内chatGPT概念股很疯狂,不只是百度、讯飞,有些默默无闻且业绩亏损的公司股价大涨,有1-2个公司连续7个涨停板,不可思议! 上周,因为微软Bing发布新…

chatGPT软件的发展趋势

chatGPT是由OpenAI开发的一款自然语言处理模型,可以实现对话生成、文章摘要、文本翻译等多种应用。下面是chatGPT软件的发展趋势: 模型性能持续提升:随着硬件技术和算法理论的不断进步,在未来chatGPT模型的性能将不断提升&…

ChatGPT软件技术栈解密

ChatGPT 点燃了通用AI浪潮,继农业革命、工业革命、计算机技术革命后,也将可能掀起 AI 技术革命。 业界对 ChatGPT 的 AI 算法关注得比较多,但是 OpenAI 已经演变为服务数亿用户的平台服务。近3个月 ChatGPT 的 SLA 大约99%,也就是…

OpenAI模式开发ChatGPT软件

hatGPT是由OpenAI开发的语言模型,其开发模式主要基于以下几个方面: 数据收集和预处理:ChatGPT需要大量的语料库来进行训练和学习,因此需要先收集和处理与应用场景相关的数据。 神经网络架构设计:ChatGPT使用了…

超级模型ChatGPT软件开发

要开发一个超级模型ChatGPT软件,您需要考虑以下几个方面: 训练数据:您需要收集和整理大量的语言数据,以用于训练模型。这些数据可以是文本、音频或视频数据。 模型架构:您需要设计一个适合您的数据集和应用场景…

chatgpt软件批量写作软件-文章改编软件

文章改编软件 文章改编软件是一种能够将原有的文本进行复制粘贴后,通过一定算法进行改写和改编的工具。其主要应用领域在于将一些内容复制到网站或博客等平台上时,避免因为重复内容而被识别为“抄袭”,从而提高文章的独特性和可读性。 然而…

chatgpt软件 - chatbox

文章目录 打开github 进入chatgpt官方要记得登录!!点击头像将key命名:安装chatbox下面就可以开始使用啦!! 打开github https://github.com/Bin-Huang/chatbox 特性: 更自由、更强大的 Prompt 能力数据存储…

chatgpt软件代开发系统

ChatGPT软件代开发系统可以按照以下步骤进行: 分析客户需求:根据客户需求,明确软件开发的目标和范围,确定项目需求和开发方案。 设计系统架构:根据需求分析结果,设计软件代开发系统的整体架构和技术…