如何使用 Hugging Face LLM(开源 LLM)与您的文档、pdf 以及网页上的文章交谈。
这是第一步,终于。我一直在到处寻找几个月。
所有的文章、教程和 视频都只教你如何使用 OpenAI 做事。但老实说,这非常令人沮丧。首先,所有 AI 模型的基础都来自学术界:其次,我无法相信当有一个庞大的社区在幕后工作时,我们被迫做一些事情。
在这里,我将展示如何在完全不使用 OpenAI 的情况下使用免费的 Google Colab Notebook 层与任何文档(我将在此处介绍文本文件、pdf 文件和网站 url)进行交互。由于计算限制,我们将使用 Hugging Face API 和完全开源的 LLM 来利用 LangChain 库与我们的文档进行交互。
该项目
我们将使用 Google Colab notebook 对我们的文档集提出问题。你需要什么:
- 在 Hugging Face 网站 (https://huggingface.co/)
- 创建一个 Hugging Face Access Token
谷歌 Colab 笔记本
谷歌 Colab 很棒。即使在免费套餐中,您也可以访问具有 12 Gb RAM 的运行时,并且还有 1 个(