Meta 刚刚发布了一个名为 Llama 2 的大模型
如果你和我一样迫不及待地想要亲自动手用它来构建自己的应用,那就认真阅读这篇文章吧。
使用任何类型的 LLM 进行构建的第一步是将其托管在某处并通过 API 使用它。 然后可以轻松地将其集成到你的应用程序中
为什么要使用 llama 2?
3个方面:
安全性——让敏感数据远离第三方供应商
可靠性——确保应用程序有较快运行时间
一致性——每次提出问题都会得到相同的结果
本指南包含的内容:
- 在 AWS sagemaker 上托管 Llama 2 模型
- 通过 AWS Lambda 和 AWS API Gateway API 使用模型
登录或注册 AWS 账户
- 转到云计算服务 - Amazon Web Services (AWS) 并登录或注册帐户
如果注册新帐户,你将自动获得免费套餐访问权限
第一部分 — 托管模型
第 1 步:转到 AWS Sagemaker
进入 AWS 仪表板后,在搜索栏中搜索 AWS Sagemaker,然后单击它以转到 AWS Sagemaker
AWS Sagemaker 是 AWS 用于部署和托管机器学习模型的方案。
步骤 2:在 AWS Sagemaker 上设置域
点击左侧边栏上的“域名”
2.创建domain
3. 选中“Quick Setup”框
4.
使用您选择的domain填写下面的表格,并填写其余选项,如屏幕截图中所示。
如果是第一次注册,请在执行角色类别中选择创建新角色。 否则,请选择您之前创建过的角色。