Vercel CEO Guillermo Rauch说,构建AI应用程序是开发人员注册Vercel的第二大原因。Ergo:Vercel AI SDK和加速器。
在 2020 年代,很少有公司比流行的 React 框架 Next.js 的管理者 Vercel 对前端开发人员生态系统产生更大的影响。当我在 2020 年 7 月第一次写关于 Vercel 的文章时,该公司刚刚接受了 Jamstack 趋势,并在其营销中自由地使用“无服务器 Serverless”一词。但是,随着Jamstack的衰落和无服务器现在不再是一个流行语,Vercel锁定了最新的Next Big Thing:生成AI也就不足为奇了。
文章目录
- 什么是Vercel AI SDK?
- 示例 AI 应用: Memorang
- AI 工程师技术栈
- 下一件大事
- 快速上手
Vercel相对较新的AI SDK在JavaScript开发人员中迅速获得了关注 - 它目前在npm上每周下载40,000次。原因当然是 2023 年 AI 应用程序的惊人普及。Vercel的首席执行官吉列尔莫·劳赫(Guillermo Rauch)上周在推特上表示,“根据注册调查,构建AI应用程序是人们注册@vercel的#2原因,领先于社交/营销和电子商务。(虽然他没有具体说明#1是什么,但一位评论者说,Next.js项目很容易部署。
什么是Vercel AI SDK?
Vercel 将 SDK 定义为“一个可互操作、支持流媒体、边缘就绪的软件开发工具包,用于使用 React 和 Svelte 构建的 AI 应用程序”。它支持React/Next.js和Svelte/SvelteKit,对Nuxt/Vue的支持“即将推出”。[更新:Vercel建议Nuxt和Solid.js框架现在都受支持。在LLM方面,SDK“包括对OpenAI,LangChain和Hugging Face Inference的一流支持。为了补充SDK,Vercel提供了一个游乐场,里面有二十多个LLM。
Vercel AI SDK的吸引力类似于Vercel最初在JavaScript开发人员中如此受欢迎的原因:它抽象了应用程序的基础设施部分。
Rauch补充说,AI SDK与LangChain集成在一起。“开发人员可以使用LangChain进行快速工程,然后使用AI SDK在他们的应用程序中流式传输和渲染输出,”他说,通过X / Twitter直接消息。他向我指出了LangChain文档中的页面以供进一步参考。
为了展示其新发现的人工智能能力,Vercel本月举办了人工智能加速器演示日。总冠军是一家名为Memorang的初创公司,Vercel将其描述为“为任何学科构建人工智能课程和学习应用程序的完整平台”。
示例 AI 应用: Memorang
为了展示其新发现的人工智能能力,Vercel本月举办了人工智能加速器演示日。总冠军是一家名为Memorang的初创公司,Vercel将其描述为“为任何学科构建人工智能课程和学习应用程序的完整平台”。
Memorang 目前处于私人测试阶段,但它在演示日的快速介绍让我们一瞥当今基于 AI 的应用程序是什么。创始人兼首席执行官Yermie Cohen博士解释说,Memorang“建立在现代和不断发展的AI堆栈之上,包括Vercel,其中大部分在几个月前还不存在。
Memorang的第一部分是一个名为EdWrite的“AI驱动的无头CMS”,它大量使用生成AI进行内容生成 - 在这种情况下,用于教育材料。科恩指出了将AI用于此类内容的扩展优势。“你的自定义工作流程实际上是一门内容大炮,你可以瞄准并发射它来构建数千个评估,”他说。
使用这些内容,Memorang能够为客户(大概是教育机构)提供“人工智能驱动的网络和移动学习应用程序,这些应用程序是可组合的和白标的。然后,他讨论了这种方法对用户的一些好处。“当用户完成学习课程时,他们会获得对性能行为的个性化AI分析和改进技巧,”他指出。“然后,在查看他们的答案时,我们的人工智能学习助手会帮助他们学习更多内容并更深入地挖掘每个练习题。”
AI 工程师技术栈
虽然科恩没有讨论Memorang用于创建其平台的技术堆栈,但你可以从公司目前的职位空缺中获得线索。具体来说,请查看全栈AI工程师工作的这些要求:
- TypeScript/JavaScript 方面的专业知识
- 快速工程最佳实践的高级知识
- 使用 OpenAI +/- Langchain 完成的项目
- 具有矢量数据库和语义搜索的经验
- 无服务器堆栈方面的专业知识,包括 GraphQL
- 深入了解 NoSQL 数据库设计和访问模式
- 涉及 React 的前端技能(理解钩子、组件)
- 大学学位(技术领域)
该角色的工具、库和框架列表如下:
- Langchain.js
- AWS Lambda
- Pinecone / Weaviate
- DynamoDB / MongoDB
- Neptune/Neo4j
- React + React Native
- GraphQL
- Next.js
显然,React 是构建 Memoang 用户界面并连接到 LLM、矢量数据库和 LangChain 等 AI 堆栈组件的重要组成部分。
下一件大事
对于那些想要查看公开可用的AI应用程序的开发人员,Vercel有一个使用以下工具的Pokedex模板:
- Postgres on Vercel
- Prisma 作为 ORM [对象关系映射]
- 用于矢量相似性搜索的 PGVECTOR
- OpenAI 嵌入-使用 Next.js 应用路由器构建
但开始使用Vercel AI SDK的最佳位置可能是Vercel的快速入门文档。它有Next.js和SvelteKit的说明。如果您仍在寻找想法,请查看 Vercel 的 AI 应用程序模板和示例。
最后一点:显然Vercel尚未完成其AI功能的推出。Vercel开发人员体验副总裁Lee Robinson最近对X的评论总结道:
快速上手
Vercel AI SDK 是 Vercel 提供的一个软件开发工具包,用于在客户端和服务端使用机器学习模型,可以通过以下步骤使用:
-
安装 SDK:可以通过 npm 或 yarn 安装 Vercel AI SDK。
-
导入 SDK:通过 import 或 require 语句导入 Vercel AI SDK 模块。
-
初始化 SDK:使用 Vercel API 密钥以及相关配置项对 SDK 进行初始化。例如:
import { API } from '@vercel/client';const client = new API({token: process.env.VERCEL_TOKEN
});
- 加载模型:使用 SDK 提供的 loadModel 方法加载机器学习模型。例如:
import { loadModel } from '@vercel/ai';const model = await loadModel('model-name');
- 使用模型:使用 SDK 提供的 predict 方法对数据进行预测。例如:
const data = [0.1, 0.2, 0.3];
const prediction = await model.predict(data);
console.log(prediction);
以上是 Vercel AI SDK 的基本用法,详细文档可以参考官方文档。