精确又优雅，Azure AI 多能力融合（一）

点击上方蓝字

关注我们

（本文阅读时间：6分钟）

微软MVP实验室研究员

王豫翔，Leo

微软圈内人称王公子。微软10年+MVP，大龄程序员。目前核心工作是使用微软 AI 技术设计可以落地的解决方案，也就是写 PPT。虽然热爱代码，但只有午夜时分才是自由敲代码的时间。喜欢微软技术，不喜欢无脑照抄。

我们有个同事一直对 BERT 和 GPT 的能力有点迷迷糊糊，要我用一个段子来说清楚这两者的能力，我现场编了一个段子：

男朋友 A 款 BERT，他总是坚持自己的逻辑，无论你对他投入多少，你总感觉无法把他变成你喜欢的样子；
男朋友 B 款 GPT，你啥都不做，他都能温暖你的心，但除非你真的知道真相，否则你永远不知道他说的是真的还是假的。

我同事笑得前仰后合，然后说，你再编一个段子说说这 BERT 和 GPT 的关系吧，无奈之下，我只能再编一个段子：

某年江湖上出现了一名绝世高手，大名叫 Transformer。这位高手的武功传说深不可测，但大家都不知道其武功到底高到什么境界。这位高人培养出了两名徒弟，这两个徒弟恰恰只会了师傅各一半的武功，就能以一代宗师的身份独立开宗立派。这两个徒弟一个叫 BERT，他继承了师傅 Encoder（编码器）能力；一个叫 GPT，他继承了师傅 Decoder（解码器）能力。

我同事狂乐，同时也迅速明白了两者间的区别，原来任何概念贴近生活的才是最好理解的。我们现在认真的讨论下 BERT 和 GPT 在 NLP 任务领域的各自擅长点，以下的表是根据我的经验进行编写的，仅仅代表我个人立场。

不得不说，作为大师兄 GPT 真的是十八般武艺都会，但是要论具体的能力，BERT 也是有很多自己擅长的场景呢！

在上面的表格中，请大家要特别关注任务的第5和第10。很多人将这两个任务做了混淆，类似冷兵器里面的长枪和长矛，外观构造基本上差不多，都是长长的一根杆，在战场上面的功能也大致相同，同样都有刺杀敌人的功效。但是对比之下，两种冷兵器在功能以及使用技巧及方法上面却截然不同。

同样聊天机器人和问答机器人看上去都是一个对话系统（Dialog Systems），但他们的场景和能力有非常大的区别。

聊天机器人的核心是和对话者愉快地天南海北的闲聊。都闲聊了，谁还关注内容是不是真的绝对正确呢？我们关注的是机器人的知识广度是不是足够的宽，是不是用词修饰让我舒服愉悦，是不是能接的上我的话题，能不能持续的陪伴。

这立马让我想起一位名人说的聊天场景：先得说哲学，然后得说艺术从东方到西方，从法国革命到布尔乔亚到哲学，到福克到所有的这些都谈完了，都到半夜三点了还没谈呢。这时候停下来，又讲了讲人文主义的起源。这时候都三点四十五了，到这个时候才讲到美国前卫小说 Henry Miller，再讲到 Henry Miller 的爱人。这就是聊天系统，这样的系统在乎绝对的对错吗？聊的高兴才是核心。

但是问答机器人就不同，提问者不是来闲聊的，他是带着问题来的，目的是要解决问题，这个场景下我们需要机器人非常严肃的对待。机器人宁愿说不知道，也不能胡说。如果对提问者的表达不完全理解，机器人就会说对不起我不明白你在说什么。或者给与一些可能的选项，让提问者选择以便进一步的理解提问者的意图。

说到了意图，又是一个大问题，ChatGPT 没有意图，假设我们让 GPT 基于我们的资料库为提问者提供问答服务，别怀疑，有时候 GPT 还真的表现不错。在我们能容忍 GPT 的一定瑕疵的情况下，你老板满意的点点头，提出一个问题：能不能统计下，最近大家咨询 GPT 主要集中在哪类问题上。你会顿时手足无措，面露难色。因为 GPT 没有意图的概念，所有的回答都是基于他对提问者的问题理解和对资料的理解自己进行了内容重组和用词修饰。这样我们无法预设用户的意图，就丢失了统计。GPT 帮我们减去了人工整理 FAQ 意图的工作，但这样自由的代价就是我们不再方便的可以对用户的提问进行统计和分析。

那么我们就要考虑，能不能让 GPT 靠谱一点？可惜，目前改造难度极大。但是我们可以让 BERT 学一点 GPT 的沟通技巧，让 BERT 来精确的理解用户的提问，然后用 GPT 来修饰和凝练，这样的系统我们就又具有了 BERT 的精确和可统计，又有了 GPT 的温度和优雅。这就是我们要做的双擎驱动。

在实际的落地过程中，您可以按场景的容错率情况和需要统计的要求，进行平衡 BERT 和 GPT 的能力分布。但是要记住，自由和严谨，轻松和可控，他们是矛盾的，目前您并不能同时获得所有，在您的业务场景下，您需要做出平衡和妥协。