目录
- 简介
- 首次用户
- 功能特点
- 进一步探索
简介
llm 是一个命令行工具和 Python 库,用于与大型语言模型(Large Language Models,简称 LLMs)交互,既可以通过远程 API 访问,也可以在本地机器上运行安装的模型。由 Simon Willison 创建。
首次用户
-
使用
x env use llm
即可自动下载并使用- 在终端运行
eval "$(curl https://get.x-cmd.com)"
即可完成 x 命令安装, 详情参考 x-cmd 官网
- 在终端运行
-
x-cmd 提供1分钟教程,其中包含了 llm 命令常用功能的 demo 示例,可以帮你快速上手 llm 。
-
使用案例:
# 安装 llm x env use llm# 设置 openai_api_key,可以从 https://platform.openai.com/account/api-keys 中获取 llm keys set openai# 使用 llm 默认的模型——openai llm 请简要一句话介绍一下北极熊# 安装 llm-gemini 模型插件 llm install llm-gemini# 设置 gemini_api_key,可以从 https://makersuite.google.com/app/apikey 中获取 llm keys set gemini# 使用 llm-gemini 模型 llm -m gemini-pro 请简要一句话介绍一下北极熊# 进行交互式聊天 llm chat
功能特点
- prompts管理: llm 允许用户从命令行运行语言模型的提示(prompts),并且可以将结果保存到 SQLite 数据库中。
- 多模型交互与管理: llm 允许用户通过命令行与多种大型语言模型(如 OpenAI GPT 系列和 Google PaLM)进行交互,并管理这些模型的API密钥和别名。这使得用户能够方便地切换和使用不同的模型。
- 文本嵌入和分析: 工具支持文本嵌入(embedding)功能,允许用户将文本转化为嵌入式表示,并进行存储或分析。这对于特征提取、文本比较和相关性分析等任务特别有用。
- 扩展性与自定义:通过插件系统,llm 提供了扩展其功能的能力,包括添加新的模型支持和自定义操作。此外,它还提供了管理提示模板和日志的功能,方便用户定制和审查模型的输出。详情请看 llm 插件。
进一步探索
- llm 官网 - 可以从这里了解更多关于 llm 的详细信息信息和技术文档
- llm 源代码 - llm 项目的源代码托管在 GitHub,你可以在这里找到最新版本的 llm 和参与社区贡献。
- Simon Willison’s Weblog - llm 的作者 Simon Willison 的个人博客,也是了解 llm 功能和使用案例的好资源。