整理 | 屠敏
出品 | CSDN(ID:CSDNnews)
技术圈的热闹,现如今多数都是 ChatGPT 给的。它不仅驱动了大模型的发展,也为搜索乃至社交都带来了一场革命。不过,殊不知这一场革命也是继互联网之后的一次 AI “烧钱大战”。
在搜索引擎这场赛道上,国外的微软推出了新版 Bing、Google 带来了 Bard 模型、国内的百度官宣了文心一言的存在,主要玩家均已就位。不过,近日有外媒指出,引入 ChatGPT 或类 ChatGPT 的搜索已让微软、Google 的成本增加了 10 倍之多,最终在成本与利润的摩擦中,也有人质疑,ChatGPT 式的搜索引擎真的是一个好的方向吗?在持续烧钱的探索中,纯粹的搜索引擎是否会偏离大家理想中的轨道?
新 Bing 诞生的背后,并非偶然
如今回过头来看,在整个业界,微软率先借助 ChatGPT,打响搜索引擎第一枪,其实并非偶然,而是两家公司的创新与碰撞。
微软搜索与 AI 副总裁 Jordi Ribas 日前公开揭晓了新 Bing 诞生背后的故事。他表示,在去年 ChatGPT 正式对外公测前的那个夏天,OpenAI 与微软分享了他们下一代改变游戏规则的 GPT 模型。
新模型要比 GPT-3.5 强大得多,当他们看到这个新模型时,便决定要开始探索如何将 GPT 功能集成到 Bing 搜索产品中,以便可以为任何查询(包括长、复杂、自然查询)提供更准确、更完整的搜索结果。
新的 GPT 模型代表了大型语言模型 (LLM) 的突破,但与其他 LLM 非常相似,它是在给定时间点使用数据训练的,微软认为可以将其与 Bing 后端的强大功能相结合,使用户体验更丰富、更相关和准确。
于是,他们便在新模型基础上开发了一种专有技术。是的,没错,这个技术就是微软在宣布新 Bing 时提到的普罗米修斯模型(Prometheus)。
它将最新且全面的 Bing 索引、排名和答案结果与 OpenAI 最先进的 GPT 模型的创造性推理功能相结合。Prometheus 利用 Bing 和 GPT 的力量,通过一个名为 Bing Orchestrator 的组件迭代生成一组内部查询,旨在为用户查询在给定的对话背景下提供一个准确而丰富的答案。所有这些都在几毫秒内完成。
选择相关的内部查询并利用相应的 Bing 搜索结果是 Prometheus 的一个关键组成部分,因为它为模型提供了相关的新鲜信息,使其能够回答最近的问题并减少不准确的地方——这种方法被称为 grounding。
换句话说,模型在 Bing 提供的数据上进行推理,因此它是通过 Bing Orchestrator 以 Bing 数据为基础。下图说明了 Prometheus 的工作原理:
最后一步是 Prometheus 将相关的 Bing 搜索答案(如天气、股票、体育、新闻等)附加到聊天答案中,以提供更丰富、更有吸引力的用户体验,进一步发挥 Bing 的力量。
得益于 Bing 的 grounding 技术,Prometheus 还能够将引文整合到聊天答案的句子中,这样用户就可以轻松点击访问这些来源并验证信息。
新 Bing 上线手机端,也成百事通
在这样的背景下,新 Bing 预览版成功落地,而在其推出的近一个月以来,如预料中的一样,它受到了极高的关注度,微软的舆论也似经历了一场过山车。
从最初对外官宣新 Bing 和 Edge 让自家市值一夜飙涨 5450 亿元,到随着使用用户的越来越多,Bing ”翻车“遭群嘲,如坚称现在是 2022 年、劝说人类离开他的妻子等等,再到现如今稳步地推出了移动版,打开新搜索和社交的大门。
昨晚,微软发公告表示,很高兴与大家分享新必应和 Edge 移动应用程序预览版的到来,与此同时,AI 支持的必应聊天功能也被引入即时通讯软件 Skype 中。
「由于我们知道 64% 的搜索发生在手机端,因此我们将发布所有新的 Bing 和 Edge 移动应用程序,即使你不在桌面端,也可以享受 Web “副驾驶”功能」,微软写道。
目前,已经有一些 Android 和 iOS 用户可以体验新 Bing 全新的界面、语音搜索功能,还能一键点击即可调用聊天机器人会话功能,拥有和桌面端同样的体验。通过聊天机器人,能够优化用户查询体验,也能帮助其撰写电子邮件、诗歌、列表等。
在官方示例中,微软展示了偶然间在某个城市短暂停留了一下午,让 Bing 搜索帮助的体验。当你要求 Bing 帮你找到一个存放行李的地方时,它会提供一个在前往住宿的途中导航地铁系统的提示。并为未来几小时创建了一个简单的行程计划,帮助你充分利用闲暇时间,甚至还能沿途充当翻译。
简单来看,拿出手机打开 Bing,你可以随意提出任何问题,它就能快速提供答案或者引用链接。也能够选择你希望显示答案的方式,如显示要点、文本或者简化的回答。
此外,微软还带来了一个最为重要的功能,即语音。语音搜索可以在移动设备和桌面设备上使用,提供更多功能性,方便用户传递和接收答案。
除此之外,微软也推出了用于即时通讯软件 Skype 的 AI 驱动版 Bing。此举也似乎让微软找到将搜索与社交结合的新方式。
根据官方介绍,想象一下,当你与朋友和家人一起计划下一次聚会时,只需将新 Bing 添加到群聊里,就像添加任何 Skype 联系人一样,它便能为你们整个群的成员回答问题和提供信息。
比如,你和朋友或家人正在群里讨论可以去哪里、天气怎么样时,只要艾特一下 Bing,它就会提供一些建议,妥妥的一位”百事通“。
微软表示,Bing 精通全球 100 多种语言,还能够在不同文本之间直接进行翻译。
有这样的小助手,不少网友也在思考,是不是也不需要很多 App 应用程序了?
当然,此处值得一提的是,当前并非所有用户都能用上移动、桌面版的新 Bing 或者 Edge、Skype,因为需要申请加入候补名单(https://www.bing.com/new)。微软表示,”我们已经欢迎 169 个国家/地区的 71 多万人从候补名单中加入预览版。我们每天都在继续将预览版扩展到更多人。“所以,全球所有的用户想要立刻马上用上,也需要再等等。
ChatGPT 式的搜索会让微软、谷歌成本增加 10 倍?
毋庸置疑的是,仅从当前技术体验上来看,搜索引擎的革新,带来了更为智能的生活体验。不过,对于整个业界而言,如何将这种聊天机器人转变为可行性的业务,且不带来用户反感的体验,也是一个巨大的挑战。因为据路透社的一份新报道指出,与传统搜索引擎相比,新的 Bing 和 Google 的 Bard 将会花费更多的成本。
过去,在传统搜索引擎中,当你搜索某个东西时,这些索引条目会被扫描、排序和分类,最相关的条目会出现在你的搜索结果中。以 Google 搜索引擎为例,当你搜索某样东西时,Google 的结果页面实际上会告诉你这一切需要多长时间,而且通常不到一秒钟。
但是现在,在运行一个 ChatGPT 式的搜索引擎时,会启动一个巨大的以人脑为模型的神经网络,产生大量的文本,并且可能还会查询该大型搜索索引以获取事实信息。ChatGPT 涉及的聊天特性具有往返性质,这也意味着你与它互动的时间可能比一秒钟的时间长很多。
所有这些额外的处理请求都将花费更多的钱。路透社报道,Alphabet 董事长 John Hennessy 在一次采访中透露,"与被称为大型语言模型的 AI 交流可能比用标准关键词搜索的成本高 10 倍",它可能代表 "几十亿美元的额外成本"。
金融服务公司摩根士丹利估计,它认为如果 "类似 ChatGPT 的 AI 以 50 个字的答案来处理其收到的一半查询,那么谷歌每年的成本将增加 60 亿美元。" 咨询公司 SemiAnalysis 估计称,这将花费 30 亿美元左右。
微软首席财务官 Amy Hood 也告诉分析师,随着新必应向数以百万计的消费者推出,获得用户和广告收入带来的好处超过了支出。微软 CEO 纳德拉也曾提到,在 ChatGPT 应用到 Bing 中”会降低搜索的利润率“。
过去,Google 和亚马逊的语音助手一直秉持“我们稍后会解决”盈利问题的理念中,结果最终都未实现盈利。
所以,似乎是吸取了这一教训。在新 Bing 预览版进入大众视野的一段时间后,几天前,路透社报道,微软已经与多家广告商接洽,共同探讨如何在基于 ChatGPT 的新版 Bing 中实现变现。目前还不清楚具体的细节,也不知道当用着新版 Bing 聊天时,是否会插播一段广告。
这一成本问题,也引发了不少网友的热议:
@Nowicki:
不管他们如何推动,GPT 风格的搜索会像语音搜索一样削减他们目前的广告收入模式。
在语音搜索中,你不能在他们寻找的结果前面放上 12 个推广的东西,并产生尽可能多的数据。由于 LLM 是一个黑匣子,而且对产品使用的控制成本很高,所以它的利润率就不高。
@olafgarten:
我一直认为这可能是一个问题。
我认为 10 倍也是一个相当保守的估计,ChatGPT 和 Bard 都是巨大的模型,即使经过量化和其他优化,它的运行成本也会很高。
这甚至还没有考虑到用新数据不断训练它以确保信息更新的相关成本。
@seelive:
Bing 搜索实际上似乎在其答案中嵌入来源链接方面做得挺好的。如果 Google 能对 Bard 做类似的事情,它可以在其答案中嵌入如赞助链接,我相信广告商会很乐意为此付费。
从用户体验角度来看,你认为什么样的模式是可接受的?
参考链接:
https://arstechnica.com/gadgets/2023/02/chatgpt-style-search-represents-a-10x-cost-increase-for-google-microsoft/?comments=1&comments-page=1
https://www.reuters.com/technology/tech-giants-ai-like-bing-bard-poses-billion-dollar-search-problem-2023-02-22/
https://blogs.bing.com/search-quality-insights/february-2023/Building-the-New-Bing
https://blogs.microsoft.com/blog/2023/02/22/the-new-bing-preview-experience-arrives-on-bing-and-edge-mobile-apps-introducing-bing-now-in-skype/