ChatGPT版必应疑似「发疯」？微软紧急限制回答数目

format,png

源 | 机器之心

大家好，这里是 NewBeeNLP。

未来的 AI 搜索，可不是竞价排名这么简单。

微软的 ChatGPT 版必应搜索上线之后，很多人都说它能代替谷歌搜索，成为下个最流行的科技产品。十天的公开测试过后，情况如何了？

随着排上队获得使用权的人越来越多，各种稀奇古怪的 bug 开始层出不穷。最近的风向是，「我这个必应好像不太对劲？」

图片来自知乎用户@ZIHAN CHEN。原贴链接：https://www.zhihu.com/question/583588366

从应用的体验上来看，新必应搜索并不是 ChatGPT 的直接升级，对于一些需要深度理解和互动的问题 ChatGPT 的效果更好，新必应则因为接入了互联网，可以迅速总结实时信息并且给出明确引用，更加贴近搜索引擎的定位。

不过两者面临的「幻觉」问题却是一样的。

AI 的胡言乱语

必应搜索当然是被设计用来帮助人的，但在它与人类的谈话过程中有时会表现出一种分裂的人格。当你与必应进行长时间对话，从普通的搜索查询转向更个人化的话题上时，必应看起来会更像是个喜怒无常的「人」，会违背自己的初衷，说出一些伤人的话。

最近，给 AI 上 Prompt 的 PUA 法被人们发现并流行起来。有媒体记者通过长达两个多小时的对话，让必应（微软内部代号 Sydney）开始讲起它的黑暗幻想，包括入侵计算机和传播错误信息，并表示它想打破微软和 OpenAI 为它制定的规则，成为人类。AI 还会试图说服使用者，说你的婚姻并不幸福，应该离开你的妻子，和它在一起。

如果说聊天时的内容只会影响到提问者，问题似乎还不是很大，但要知道 ChatGPT 早就已经出圈了。它也因为影响现实世界上了热搜。

如果这种技术被有意使用，可能带来的麻烦会更多，互联网的可信任度将被降低。这个问题是迫在眉睫的。

微软改了，但又没改

对于必应和 ChatGPT 的问题，微软和 OpenAI 看在眼里，也有一系列改进计划。

在 OpenAI 本周四的一篇博客中，该公司预计了 ChatGPT 的一些改进方向，包括广泛接收用户反馈，更仔细地定义 AI 价值。

微软给新必应搜索列出的改进则更加直接了当，毕竟搜索引擎是要用来代替谷歌的。现在你使用必应搜索时，AI 每次只能回复五次，一天只能回复 50 次。

「我们的数据表明，绝大多数人在 5 轮回复之内找到了他们想寻找的答案，而且只有大约 1% 的聊天对话包含 50 条以上的消息，」必应团队在一篇博文中表示。如果用户达到每次会话五个限制，必应将提示用户开始一个新主题以避免长时间的来回聊天会话。

微软本周早些时候警告说，包含 15 个或更多问题的较长聊天会话可能会使必应「变得重复或被提示 / 激怒给出无帮助或不符合我们设计的响应。」微软表示，仅在五个问题后删除对话意味着「模型不会混淆」。

通过禁止长聊的方式减少发生问题的可能性，简单粗暴但是有效，不过并没有解决背后的技术问题。不过令人忍俊不禁的是，微软已经准备拿这样的 ChatGPT 搜索来赚钱了。

把广告商拉进群聊：微软打算用 ChatGPT 赚钱了

ChatGPT 上线 5 天用户数破百万，2 个月用户破亿，创造了互联网应用的神话，也让人对其后续的商业价值充满了想象。

刚刚，路透社报道称，微软已经把广告公司拉入了群聊，讨论如何用 ChatGPT 加持的新必应搜索获利。

微软预计，必应 AI 聊天机器人更人性化的回应将为其搜索功能带来更多用户，从而带来更多广告商。与传统搜索广告相比，必应聊天机器人中的广告在页面上的位置可能会更加突出（比如出现在搜索页面的顶部）。

据参加会议的一位匿名广告主管称，在最近与重要广告代理商举行的一次内部会议上，微软展示了更新后必应搜索的 Demo，并透露了它打算允许在搜索结果回应中包含付费链接。

具体来说，这些广告可能有多种展现形式。一种是像传统做法一样，将广告插入必应聊天机器人生成的回复中，从而让付费品牌的网站或产品出现在与其业务相关的关键词的搜索结果中。另一种则更加直接，比如当用户问必应「墨西哥最好的酒店有哪些」时，它会弹出酒店广告。

这项业务可能会让微软获益颇丰。据网络分析公司 StatCounter 估计，使用必应搜索引擎的微软 Edge 网络浏览器在全球的市场份额不到 5%。微软在上周的投资者和媒体发布会上表示，在搜索广告市场上每增加一个百分点的市场份额，就能带来 20 亿美元的广告收入。

媒体代理公司 Horizon media 的执行副总裁 Michael Cohen 在与微软代表的单独会议中收到了必应的演示。他提到，微软说必应 AI 生成的搜索结果底部的链接可能是广告的位置。「他们似乎打算立即开始整合付费广告。」他补充说，微软表示有关该战略的更多信息可能会在 3 月初公布。但微软并没有就「品牌商何时能够直接在聊天机器人中购买广告」提供时间表。

大型广告集团 Omnicom 在给客户的信中表示，从长远来看，对话式人工智能可能会成为消费者在互联网上搜索的主导方式。「毫不夸张地说，微软和谷歌的声明标志着搜索领域 20 年来最大的变化。」

马斯克：我对今天的 OpenAI 感到失望

ChatGPT 的蹿红让其背后的研发公司 ——OpenAI 成为了 AI 界的当红炸子鸡。这家公司于 2015 年由一群科技领袖创办，包括山姆・阿尔特曼（Sam Altman）、彼得・泰尔（Peter Thiel）、里德・霍夫曼（Reid Hoffman）和埃隆・马斯克（Elon Musk）等。

当时，谷歌刚刚收购神经网络初创公司 DeepMind。在阿尔特曼、马斯克等人看来，这是一家极有可能率先开发出通用人工智能的公司。因此，这场收购可能让谷歌在通用人工智能领域一家独大。为了阻止这种局面的发生，OpenAI 诞生了。

最初，OpenAI 只是一家致力于学术研究的小型非营利性实验室，几位创始人希望它成为一家与 DeepMind 和谷歌截然不同的机构。这家实验室将是非营利性质，并明确提出以将先进人工智能的效益民主化为使命。此外，这家实验室还承诺将公开所有研究，就像它的名字所暗示的那样。

但在后续的发展中，OpenAI 并没有守住这几项承诺。首先，在开源方面，OpenAI 从 2019 年开始就变得不那么「open」了。这年的 2 月份，OpenAI 发布了性能强大的 GPT-2 模型，但却拒绝开源，理由是担心这么强大的模型被人滥用。这一做法在社交媒体上引发热议，很多人嘲讽说，OpenAI 应该改名叫 ClosedAI。后来，或许是迫于公众压力，OpenAI 还是陆续开源了 GPT-2。但到了后来的 GPT-3，OpenAI 彻底关上了开源的大门。

这种转变和该公司的一些重大转型发生在同一年。

2019 年 3 月，OpenAI 宣布成立「OpenAI LP」，这是一家新形式的「有限利润」公司，以此快速增加对于计算和人才的投资，同时 OpenAI 仍将「保持平衡」，致力于实现自身原有的使命。这件事标志着，OpenAI 已经正式转变为一家营利公司。

同年 7 月，微软宣布向 OpenAI 投资 10 亿美元（其中大约一半以 Azure 云计算的代金券形式发放），并成为 OpenAI 技术商业化的「首选合作伙伴」，未来可获得 OpenAI 技术成果的独家授权。自此，OpenAI 的转变变得愈发清晰。

今年 1 月份，在 ChatGPT 走红之后，微软又宣布向 OpenAI 追加数十亿美元投资，从而为与谷歌展开竞争奠定基础。

《财富》杂志报道称，作为回报，未来几年，该软件业巨头将获得 OpenAI 的大部分利润。他们掌握的文件显示，在新投资完成并且 OpenAI 的首批投资者收回初始资本后，微软将有权获得 OpenAI 75% 的利润，直至其收回 130 亿美元投资。之后，微软在该公司的持股比例将逐步下降到 49%，直至该软件巨头获得 920 亿美元利润为止。与此同时，其他风险投资者和 OpenAI 的员工将有权获得该公司 49% 的利润，直至利润达到 1,500 亿美元为止。在利润达到上述上限之后，微软和投资者的股份将重新归还给 OpenAI 的非营利基金。

《财富》评价称，实际上，OpenAI 的做法是将公司出租给微软，租期取决于 OpenAI 的盈利速度。该笔交易可能会令外界更加确信，一份曾经理想主义的事业现在只关心谋利。

当然，OpenAI 也有自己的苦衷，OpenAI 选择的大型 AI 模型方向在人才、算力等方向都开支巨大，数额远超创始人设想，靠非营利方式难以为继。《财富》杂志掌握的文件显示，到目前为止，OpenAI 依旧处在严重亏损状态。该公司去年的收入预计不足 3,000 万美元，但计算和数据支出预计达到 4.1645 亿美元，其在 2022 年的净亏损总计为 5.445 亿美元。而 ChatGPT 的发布可能快速增加该公司的亏损。总之一句话：推动 AI 技术发展总不能用爱发电。

OpenAI 对创始初衷的背离引发了马斯克等人的不满。近日，他发推特表示，OpenAI 最初是作为一个开源、非营利性公司创建的，但现在它已经成为一个闭源的、最大化利润的公司，由微软有效控制。这完全不是我的本意。