代理与文本生成模型的未来展望

您认为明年代理或文本生成模型会出现通货膨胀点吗？

不，不会。

我听到了类似的观点，尤其是埃里克·科维茨的看法。他有一个很好的方式来阐述这三个趋势。虽然我之前也听说过这些趋势，但将它们整合起来的方式非常有启发性。今天早些时候，我与安德鲁·恩格讨论了代理的问题，安德鲁特别强调了这一点，并且他对2024年的展望有独到的见解。

安德鲁提到，当我们使用大型语言模型撰写文章时，我们可以一字一句地完成，而现在的代理技术则能让我们在写作过程中采取更为系统的步骤。代理首先会建议制定一个大纲，接着填充每个段落，最后检查流程是否合理、语气是否符合受众的需求。这样的迭代过程可以显著提高写作的质量，这是一场真正的革命。

此外，上下文窗口的扩展也是一个重要话题。埃里克·科维茨在上周的讨论中提到，微调模型、扩大上下文窗口和使用检索增强生成（RAG）技术是提升模型定制性的三种主要方式。如今，随着上下文窗口的扩大，我们可以处理更多的信息，这为我们带来了许多以前无法实现的能力，包括提高时效性。

投资与技术突破

关于投资的流向，确实有更多的资金注入到这个领域，但为何这些资金流向某些地方而非其他地方呢？历史上我们常常看到技术的突破是跳跃性的，而非平滑的演进。安德鲁·卡帕西提到，当前人工智能领域正处于一个有许多低垂果实的时代，许多突破性发现正在催生更多的机会。

正如安德鲁所说，我们正处于一个技术飞轮的时代，新发现引发新的发现，吸引了更多的投资。经济学中的一些领域，例如农业或采矿，可能会出现收益递减的现象，但在人工智能领域，额外的工程师和资源投入会带来收益递增。尽管我们无法预测这一趋势会持续多久，但现有技术正处于一个非常肥沃的时期，带来了积极的反馈和增长。

对非技术利益相关者的建议

对于非技术利益相关者，如政策制定者和普通公众，理解人工智能的基础知识及其影响非常重要。技术的快速发展使得这些非技术利益相关者需要具备一定的技术理解力，以便做出明智的决策。然而，单单了解技术还不足以应对这些挑战，还需要理解其对民主、错误信息、权力集中等方面的影响。

例如，通用技术（如电力）的真正力量在于它们引发了众多互补创新。电力的引入并未立即带来显著的生产力提升，直到人们重新思考了生产过程中的组织和布局。类似地，人工智能的真正价值也将体现在其引发的组织和流程创新上，而不仅仅是技术本身的进步。

未来的挑战与机遇

尽管一些技术（如大型语言模型）正在快速改变我们的世界，但生产力的提升不仅仅取决于技术的进步。许多因素，如文化和监管环境，也可能显著影响技术的采用和效益。如果我们能够解决这些瓶颈，可能会比单纯的技术进步带来更大的生产力提升。

大学和研究机构在这一过程中也扮演着重要角色。尽管他们在训练大规模模型方面的资金可能不足，但在算法创新和长期项目上，大学仍具有竞争优势。正如 Sendham Melanathon 提到的，大学的耐心和长期投入是其独特的优势。

关于未来

在技术方面，我们看到的趋势包括更多的计算、数据和算法改进。虽然架构的改进也是重要的，但三者的结合仍然至关重要。尽管一些专家对人工智能达到通用人工智能（AGI）的时间表持保留态度，但大型语言模型已在某种程度上展现了类似AGI的能力。

即便如此，现有技术在某些领域仍无法超越人类的能力，例如身体任务。未来的突破可能不仅仅来自于技术本身，而是通过重新思考现有的生产和组织方式。

下周，我们将有幸邀请 OpenAI 的首席技术官米拉·穆拉蒂来谈论这些话题。如果您有相关问题，欢迎提问。

参考

https://github.com/ociubotaru/transcripts/blob/main/Stanford_ECON295%E2%A7%B8CS323_I_2024_I_The_Age_of_AI%2C_Eric_Schmidt.txt