• 💂 个人主页: 同学来啦
• 🤟 版权: 本文由【同学来啦】原创、在CSDN首发、需要转载请联系博主
• 💬 如果文章对你有帮助，欢迎关注、点赞、收藏和订阅专栏哦

🐣 一、ChatGPT风险性和局限性

🔴 1、风险性

ChatGPT最大风险主要来自于：1）内容准确性不足；2）固执坚持错误结果。当然这也是这类语言模型一直以来面临的难题。
在InstructGPT的论文中，明确提到InstructGPT模型会犯非常低级的错误。另外，尽管InstructGPT在不懂的问题上，胡说八道的概率从41降低到21%，但是这个概率仍然非常大。

🟠 2、局限性

• 1️⃣模型边界界定模糊。一旦机器人的回复超越了伦理或者道德的边界，后果就会变得非常不可控。虽然OpenAI有意避免让ChatGPT的回复中包含有违伦理、种族道德要求的内容，但是用户仍然可以轻易地使用假装的方式骗过AI的道德围栏。
• 2️⃣出现有毒内容概率较高。所谓有毒内容是指语言文字中包含仇恨言论、谣言或者歧视性内容，这类内容出现概率仍然较高。（具体可参见2020年关于有毒内容相关研究的论文“RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models”）
• 3️⃣内容及时性不足。在上一文提到过，训练一个如此大规模的语言模型，不仅在资金还是时间上都会有非常大的消耗，因此很难让模型的训练数据囊括最新的资讯。

当我们把ChatGPT当成一个刚诞生的玩具来尝试时，上述错误似乎算不了什么，甚至只会增加传播话题。但是一旦考虑商用，就需要对准确性和可控性有严格的要求，不论是提供了错误的回答，还是在道德上超越了边界，那造成的商业损失都可能是巨量的。

🐤 二、ChatGPT替代搜索引擎？

🔴 1、主要优势

• 直观的交互方式。当问题可以用几句话概括时，ChatGPT可以将问题答案直观地展示在我们面前，跟搜索引擎相比几乎就是降维打击。

🟠 2、局限性验证

在ChatGPT是否替代搜索引擎方面，其局限性也一一应验。

• 内容缺乏准确性：ChatGPT在很多基本事实上都会出现错误。
• 边界模糊：模型边界模糊，结果容易不可控。
• 有毒回答：有毒内容出现频率高。
• 缺乏及时性： 搜索引擎对内容的及时性要求很高。提升及时性可能的选项包括：1）重新训练（时间金钱开销巨大）；2）Fine tuning（Overfitting 过拟合，造成对原有知识的遗忘）。
• 信息可追溯性：一般来说，一个可靠的信息来源会比是否能够回答问题更加重要。然而，在ChatGPT的训练过程中是否会区分内容的真实性或者质量。如果我们依赖ChatGPT目前的交互形式，验证信息来源就回变得更加困难。

延伸内容： 说一说可追溯性对大规模语言或者图像模型的重要性。

• 进一步优化和排序结果。对于搜索引擎而言，如果需要进一步优化和排序ChatGPT的结果，就需要追溯内容的来源。
• 数据剔除，版权追溯。如果有艺术家或者厂商想将自己的作品从数据集中移除，也要追溯作品的来源和版权。

🟡 3、ChatGPT对搜索引擎的影响

• 1️⃣改变搜索引擎交互方式：ChatGPT对搜索引擎长期交互会产生非常巨大的改变。这也就是为什么谷歌内部会在ChatGPT发布之后进入紧急模式，Code Red全面讨论如何应对可能出现的危险。
• 2️⃣商业模式变化： Google 2021年全年的广告收入中有超过70%来自于用户在搜索引擎中的浏览和点击对应的结果，那该部分收入也占据了母公司alphabet 总收入的57%。随着问答模式取代逐行的搜索结果，这种盈利模式就会受到直接的冲击。
• 3️⃣成为搜索引擎架构的一部分：为了平衡大规模语言模型目前在准确性和及时性上的局限，类似于ChatGPT的技术并不会直接取代搜索引擎，而是逐渐成为搜索引擎架构中的一部分。
  

🟢 4、ChatGPT和搜索引擎的比较

• 搜索引擎：对互联网已有的内容做检索和排序
• ChatGPT：擅长对互联网内容吸收后，用自己的语言组织回答内容。

👍理想的组合方式：ChatGPT生成的结果会被传统的搜索引擎交叉验证，并进行比较判断。如果准确性足够高，结果就会直接展示给用户；如果对结果没有十足的把握，就会提高传统搜索引擎结果的比重，综合两者结果，提高给用户足够的参考。

🐥 三、对职业的影响

ChatGPT的出现可能对于 程序员 和 语言工作者 冲击是最大的。很多人认为这些行业可能面临失业，ChatGPT可以直接生成代码，复杂和准确度上在有些情况下会超过人类，同时在写作上又手到擒来，生成的文章看起来也有板有眼。

但是ChatGPT真的会替代工作吗？ 这样要从两个方面来说：

• 能做的：逻辑性较弱的零碎任务

• 不能做的：逻辑性或创造性更强的工作远远无法被替代。

• 🥰好处：ChatGPT在编程和文字行业的功能，更像是高级辅助驾驶，在使用者提供了明确的要求和边界的情况下，能够非常迅速地完成逻辑简单的任务，有助于提升工作效率。

• 😟影响：如果AI作为高级辅助功能帮助某些从业者提升了工作效率，导致公司并不需要这么多人，而裁掉了效率相对较低的岗位。那这种情况下，那是不是可以说AI抢了饭碗？在AI行业的影响下，行业会变得更想金字塔的下层，不断被沙土掩埋的过程，但是金字塔本身在不断升高。更像是协同进步或者末位淘汰。

🐔 四、商业形态

当前业态发展趋势：

• 1️⃣模型训练门槛增加：在模型大小、数据规模和训练成本等方面，ChatGPT都达到了小团队难以企及的高度。
• 2️⃣使用训练好的模型：不同于以往开发者尝试自己训练和部署模型，现在开发者开始考虑使用已经训练好的模型，再基于这些模型做进一步调优。
• 3️⃣直接使用托管平台：直接使用某些公司已经部署好的服务。