Vanna使用ollama分析本地MySQL数据库

上一章节中已经实现了vanna的本地运行，但是大模型和数据库都还是远程的，因为也就没办法去训练，这节一起来实现vanna分析本地mysql数据库，因为要使用本地大模型，所以开始之前需要给本地安装好大模型，我这里用ollama下载了llama3，这节就用llama3作为大模型分析，如果本地没有ollama的可以参考我之前的章节安装一下，同时本地还需要安装mysql数据库，并创建一个表作为接下来用大模型分析的对象。

我这里的数据表如下：

因为需要连接mysql数据库，因此需要安装mysql-connecter-python，同时我们将向量数据库换为ChromDB，在pycharm的命令提示符执行

pip install vanna
pip install ollama
pip install ChromaDB
pip install mysql-connector-python
pip install 'vanna[chromadb,ollama,mysql]'

安装完成后，按照vanna的官方文档，实现MyVanna的方法

class MyVanna(ChromaDB_VectorStore, Ollama):def __init__(self, config=None):ChromaDB_VectorStore.__init__(self, config=config)Ollama.__init__(self, config=config)

然后需要连接本地的ollama中的llama3，输入模型名称llama3:8b，并设置访问地址，然后替换连接的数据库，我的数据库在局域网，因此填写局域网的数据库IP，和账号密码

vn = MyVanna(config={'model': 'llama3:8b','ollama_host':'http://127.0.0.1:11434'})def run_sql(sql: str) -> pd.DataFrame:cnx = mysql.connector.connect(user='root',password='123456',host='192.168.30.169',database='vanna')cursor = cnx.cursor()cursor.execute(sql)result = cursor.fetchall()columns = cursor.column_names# print('columns:',columns)df = pd.DataFrame(result, columns=columns)return df# 将函数设置到vn.run_sql中
vn.run_sql = run_sql
vn.run_sql_is_set = True

此时已经可以连接到大模型，并访问数据库了，但是大模型并不知道数据结构，所以要对vanna进行简单的训练，官方的训练分为三种，DDL，Document，SQL，DDL就是建表语句，告诉大模型表结构，Document存放的是数据库中的一些专业术语，比如你要查询成年人的数量，那就要在document中记录，成年人是指大于18岁的人。SQL就是正常的sql语句了，另外每次的提问也会作为问答记录存到训练数据中，也可以提前手动添加问答训练数据。我们这里就只放一个建表语句，

vn.train(ddl="""
CREATE TABLE `book`  (`id` int NOT NULL AUTO_INCREMENT COMMENT '表唯一ID',`create_time` datetime NULL DEFAULT NULL COMMENT '创建时间',`book_name` varchar(255) CHARACTER SET utf8mb3 COLLATE utf8mb3_general_ci NULL DEFAULT NULL COMMENT '书的名字',`book_code` varchar(255) CHARACTER SET utf8mb3 COLLATE utf8mb3_general_ci NULL DEFAULT NULL COMMENT '书的编号',`book_introduction` varchar(255) CHARACTER SET utf8mb3 COLLATE utf8mb3_general_ci NULL DEFAULT NULL COMMENT '书的简介',`book_publisher` varchar(255) CHARACTER SET utf8mb3 COLLATE utf8mb3_general_ci NULL DEFAULT NULL COMMENT '书的出版社',`book_image` longtext CHARACTER SET utf8mb3 COLLATE utf8mb3_general_ci NULL COMMENT '书的图片',PRIMARY KEY (`id`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 8 CHARACTER SET = utf8mb3 COLLATE = utf8mb3_general_ci COMMENT = 'book表' ROW_FORMAT = Dynamic;
""")

然后运行项目，运行成功后会在控制台打印访问地址：