简介
基于 ChatGPT API 和 OpenMLDB 数据库实现的 openmldb-chatgpt-plugin 项目开源了,作为人类迄今为止最强AI模型之一(GPT4未开放API),集成了 ChatGPT 模型的数据库有多好用,下面将带大家体验一下。
原理
实现原理是在ChatGPT API基础上做了一定的 Prompt engineering ,没有用 fine tune ,在标准SQL场景上效果已经非常不错,具体的 system prompt 设计大家可以看源码实现。
这个插件对于其他 SQL 数据库理论上也适用,不过因为加了一些直接查询数据库内容的集成功能,目前还是推荐使用 OpenMLDB 。使用时需要全程联网,并且需要 OpenAI API key 和特定的网络条件,暂无条件的可以直接看下面的 Prompt 演示效果。
指令演示
自然语言对话能力
openmldb-chatgpt-plugin(后文简称 GPT 插件)有 ChatGPT 本身的自然语言对话能力,可以直接在客户端用中英文来询问数据库的基本用法以及特定SQL语法的介绍,这部分不需要特别的 prompt 优化,只是比 ChatGPT 网页版减少需要打开浏览器提问的步骤。
并且得益于多轮对话的实现,用户可以根据上下文提问,相比传统搜索引擎找到需要的资料效率进一步提高。默认中文输出对国内用户也更加友好。
SQL执行、分析与推荐
用户在 GPT 插件执行的 SQL 代码,实际也会提交到 OpenMLDB 集群执行,并且用户输入( User > )、数据库输出( OpenMLDB > )和 GPT 模型输出( GTP > )都会有不同的前缀和颜色区分。
上图处理按照用户命令执行 SQL 外,还对上表的 SQL 语句进行了概要分析,介绍这个表的名字,以及每一列的类型以及含义,最后还推荐使用 Insert 和 Select 语句进行插入和查询,这就是对 ChatGPT 模型使用 Prompt 工程实现的执行、分析与推荐功能。
后面无论是 Insert 语句还是其他 SQL 语句,在执行后都会经过 AI 模型的解析与推荐,在执行 SQL 过程中不自觉学到了更多知识。这里也有些 Prompt 工程技巧,如果不希望每次推荐的内容接近,可以通过 temperature 参数控制文本生成的“探索性”。
复杂表分析
对于用户创建的一个列较多稍微复杂对表,GPT 插件也会适时地进行数据分析,除了简单统计列数和 Schema 等基础功能,它还会根据表名和列名信息进一步发掘内容,对原始数据表列的含义分析得清清楚楚。例如下面的表中,“乘客上下车时间”、“上下车地点的经纬度”等信息都可以分析和翻译出来,在没有额外信息收集和编程实现的基础上提供这些信息对数据科学家来说也是一种馈赠。
失败SQL调试和更正
前面例子展示的是能够成功执行的 SQL ,对于用户已经编写没有语法错误的 SQL 进行分析只是“锦上添花”,但如果可以快速帮助用户解决执行失败的 SQL 那才是“雪中送炭”。通过 SQL 语句本身以及 OpenMLDB 提供的错误信息,ChatGPT 模型显然是具备这种 SQL 调试以及 SQL 更正的能力。
上面是一个 SQL 语法正确但类型错误的情况,对于有经验的 SQL 工程师通过错误信息也许能猜测出错误的端倪,但能够以自然语言的形式并且无比正确地直接告诉用户错误地方以及后续的更正方案,从我个人测试的多个场景来看,这个能够 7*24 小时工作的工具已经可以媲美身边高级的 DBA 了。
复杂SQL分析能力
下面是 OpenMLDB 官方文档的一个例子,使用 SQL 进行时许特征的抽取并且保存样本文件。
首先 ChatGPT 模型解析的 SQL 语义毫无问题,但更令人惊讶的是,因为这个 SQL 语法确实不是在所有 SQL 都支持的,这里最后面补充的注意事项充分表明”定制化“模型与通用闲聊机器人的区别。本插件提供的 SQL 解析能力都是建立在使用 OpenMLDB 数据库的基础上,对于非通用 SQL 能够解析并且讲清楚与标准 SQL 的区别,目前恐怕除了数据库的核心研发和深度用户也很少人可以“理解”清楚。
数据库内容查询
前面演示的功能主要是 text to sql、SQL 分析等功能,放在 ChatGPT 网页端或者任意公开的 ChatGPT 服务上都可以做,但 OpenMLDB ChatGPT 插件还是做了内容的深度整合,可以以自然语言的形式来查询数据库的内容。
这里还演示了 ChatGPT 无比优秀的连续对话能力,可以以不同粒度、不同角度多次按需查询,查到的内容不仅正确,而且还根据中文语义进一步丰富了内容,格式也工整,可以很容易让它输出我们需要的 CSV 或者任意格式,这是程序员人工写代码无论如何都达不到的效率。
总结
实际上 ChatGPT 插件很多的功能代码也是基于 ChatGPT 模型生成的,虽然不能直接按照个人需要实现整个数据库插件,但它强大的代码搜索和生成能力已经可以简化我们大量搜索学习时间,而基于历史积累的海量 SQL 文献,它的专业能力更是可以得到程序员甚至资深 DBA 的认可。
除了上面的 Prompt 提示词和功能演示,ChatGPT 模型还有非常多可玩、易用、高效的用法等待大家去挖掘。