金融量化交易场景下数据库如何改造?同花顺、弘源泰平真实案例分享

a4adcf4ebf7dc806d0a73ae3617d6ce7.png

⬆️ 点击图片,与专业的解决方案架构师聊一聊

在金融量化交易场景中,每天都会产生大量的交易记录和交易信息需要存储,同时对数据也有较高要求的查询需求,整体需求概括起来就是历史数据的存储、实时数据的接收以及数据的监控和分析。对于这类有典型时序特征的数据,很多企业在业务初期选择了团队熟悉的 HBase、MySQL、MongoDB 等数据库。但是随着业务的快速发展,这些数据库已经无法满足大体量数据的写入、存储、分析监控等业务需求。

为了帮助一众金融企业寻找到合适的数据库解决方案,我们汇总了几个比较有代表性的企业客户案例,希望他们的相关实践经验应该能够给到行业从业者一些解决思路。

TDengine x 同花顺

“目前从大数据监控这个场景看,TDengine 在成本、性能和使用便利性方面都显示出非常大的优势,尤其是在节省成本方面给我们带来了很大惊喜。在预研和项目落地过程中,涛思数据的工程师也提供了专业、及时的帮助,后续我们也将在同花顺的更多场景中尝试应用 TDengine。”

业务背景

同花顺每天需要接收海量交易所行情数据,确保行情数据的数据准确。但由于该部分数据过于庞大,而且使用场景颇多,每天会产生很多的加工数据,整个系统除了对实时数据的读写性能及延时有较高要求外,还需要聚焦历史日级别数据做投资组合的各种分析,在整个分析过程中,涉及巨量的数据集,这对历史数据库的读写性能也提出了很高的要求。之前采用的 Postgres+LevelDB 数据存储方案,除了依赖多、稳定性较差外,性能方面也无法满足需求(点击下方案例链接获取具体业务痛点问题)。通过对 ClickHouse、InfluxDB、TDengine 等时序数据存储方案的调研,最终其选择了 TDengine。

架构图

1d26f14d6e513b4e33908ceeead403e8.png

改造后性能对比

01ef30b547328f6dad829eb34dcfeb79.png

👉 点击案例查看更多技术细节

TDengine x 弘源泰平

“在写入上,单节点TDengine可以轻松实现每秒大概 3 万行数据的写入量,同时消耗服务器资源又比 InfluxDB 与 MySQL 要小很多。目前我们通过 TDengine 录入的两个信号表已经写入了 82 亿条数据,原数据大概为 92GB,实际占用存储空间为 20G 左右,压缩率高达 23%。除了写入与存储,TDengine 进行日常查询的速度也十分优秀,面对几十亿级别的大表,也能实现毫秒级响应。”

业务背景

弘源泰平的量化交易系统每天要接收大量的行情数据,也要基于行情产生大量的决策信号。这些数据都需要及时存下来,供盘中和盘后使用。传统存放行情数据的方式有文件系统、关系型数据库或者文档数据库。此前他们分别尝试了 MySQL 和知名的时序数据库(Time Series Database)InfluxDB,但是性能都没有达到预期,出现了响应时间长、资源浪费等诸多问题(点击下方案例链接获取具体业务痛点问题)。最终,其改用 TDengine 彻底解决了实时写入大量数据点和快速查询的问题。

资源消耗

服务器配置如下:64G内存+40核 1.8GHz CPU+机械硬盘。在业务运行期间,taosd 的 CPU 在 4% 上下浮动,进程使用的物理内存百分比为 11.2%。由于其 vnode 配置较多,而每个 vnode 都有自己固定的内存缓冲区,因此内存占用稍多,但后续即便是继续大量增加新表或者加大写入量,内存占用也不会再有明显的浮动了。

e1d11a50b13988469d698c3914cb6f6e.png

👉 点击案例查看更多技术细节

TDengine x 同心源(三亚)基金

“对入库的总数据量进行下估算,粗略计算为 408*320 亿行,大概 12TB 左右,后面经过统计最终实际占用磁盘空间却只有2T左右,这令我们十分震惊——压缩率高达 16.7%。在查询方面,从TDengine客户端服务器使用Python从服务端拉取连续两个月的期货行情数据,耗时仅需 0.16 秒。”

业务背景

从同心源的业务模式出发,业务人员主要通过数据挖掘和自动模式识别这两种方式来发现市场的交易规律,其工作场景基于大量的金融数据之上。经过多年发展,股票市场数据量越发庞大,随着每日新数据的清洗写入,总量变得更加水涨船高。对于十几 TB 的数据量,单是进行存储已经不易,如果还要对数据进行查询下载等操作,更是难上加难。种种问题叠加,同心源对市面上的主流数据库逐渐丧失信心,尝试使用更有针对性的时序数据库,TDengine 便是他们的选择之一。

👉 点击案例查看更多技术细节

TDengine x 青岛金融研究院

“根据不同类型的业务,我们创建了 7 张不同的超级表,子表数量为 33076 张,目前我们导入的数据总量已经达到了 46 亿之多,其中最大的一张超级表达到了 26 亿行,实际磁盘占用大概在 130GB 左右。”

业务背景

在其业务场景中,TDengine 主要负责三点:一是对回测的数据支持,二是基于以上数据进行的回测数据分析,三是部分盘中策略的数据预加载。目前其数据入库方式是使用 Python 连接器直接写入 TDengine(6030 端口)。具体方式为:会通过券商的直连接口将他们提供的数据做一个 SQL 拼接,利用拼接 SQL 的方式,单个 SQL 写入几千行数据,将大批数据一次性写入到一个表中。

👉 点击案例查看更多技术细节

写在最后

从上述案例中我们也能看到,看似简单的数据处理需求,但由于数据记录条数巨大,导致数据的实时写入成为瓶颈,查询分析极为缓慢,数据存储成本显著,技术挑战层出不穷。而传统的关系型数据库、NoSQL Database 没有针对性去对应时序数据特点,在性能提升上极为有限,只能依靠集群技术,投入更多的计算资源和存储资源来处理,系统的运营维护成本也因此急剧上升。从他们的改造实践出发,选择时序数据库也是真正的实现了“对症下药”。


👇 点击“阅读原文”填写表单,与专业的解决方案架构师聊一聊

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/61669.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

CSO面对面丨对话海通证券,探讨数字金融行业安全运营

新技术的涌现带动了金融行业的数字化转型发展,同时也带来了更多安全挑战。一方面,金融科技大量采用新技术实现业务创新的同时,也给网络安全带来了更多隐性风险。另一方面,金融行业数字化转型的进一步普及,大量个人隐私…

分论坛介绍:涉及数据隐私、金融、互联网

数据隐私下的数据科学论坛 出品人:刘吉 百度研究院 资深研究员 分享嘉宾: 1. 闫树 中国信息通信研究院 云计算与大数据研究所 副主任 演讲主题:隐私计算行业发展及合规发展思考 演讲提纲:隐私计算政策、技术、应用概述-隐私计…

ChatGPT下架官方检测工具,承认AI文字无法鉴别

梦晨 发自 凹非寺量子位 | 公众号 QbitAI 没有公告,OpenAI悄然关闭了AI文本检测工具,页面直接404了。 官方对此没有公开回应,几天后才有人找到一则简短说明,藏在半年前工具发布的博客页面中。 ……AI检测器由于准确率较低而不再可…

让ChatGPT来帮我们写一个贪吃蛇代码,是骡子是马总得拉出来溜溜

ChatGPT实在是太火了,铺天盖地的信息让人不得不好奇,到底有没有网上说的那么厉害呢,就让我们用事实说话,现实测试一下他的代码能力。 刚好前一段时间自己写了一个贪吃蛇的c代码,那么就让GPT也写一个,看看功…

百度网盘怎么取消自动续费

第一步:双击百度网盘快捷键,点击进入,登录网盘账号。 第二步: 点击会员中心,接着点击管理自动续费。 第三步:点击取消选项,出现提示框点击 确定 即可取消自动续费。 最后,自动续费就…

自动续费PHP,Hostwinds 续费教程:管理取消支付宝、PayPal 等付款方式的自动续费...

Hostwinds 付款之后,默认会开通一个扣款协议,就是说到期之后可能会自动续费。但是之前的文章也说过,一般来说续费都是原价续费,是比较贵的,所以我们都是建议一次性多买几年,然后到期之后重新买。如果不小心…

经验分享:爱奇艺关闭自动续费会员的功能

分享一个和技术开发无关的经验,但是对爱奇艺会员续费不熟悉的话,这个经验还是很有作用的,尤其是自动续费这个功能,爱奇艺做的很好,很隐蔽,不刻意找的话基本找不到怎么取消自动续费会员的功能。那么,下面就来介绍一下怎么取消爱奇艺自动续费会员的功能,包括手机端和电脑…

怎么取消手机APP自动续费?详细方法来了,轻松易懂

在使用手机上网的时候,无论是游戏、外卖、看视频、听音乐等等,都拥有会员服务。每次开通会员的时候,平台会推出一种优惠政策,只需要同意自动续费的服务,就能够以极低的价格开通会员服务。可当自己不再需要会员的时候&a…

踩坑笔记 ---- 使用LocalDateTime开通会员到期时间与自动续费业务某天用户突然为0

写在前面 使用LocalDateTime的同学需要注意下,这东西的plusMonth可能会有点点超出你的认知,如果不慎掉坑里,希望这篇笔记可以给你提供思路 业务背景 此业务场景非常简单,自动续费业务,需要在用户会员到期前24小时执…

ChatGPT来了,软件测试工程师距离失业还远吗?

小伙伴们前一段是不是都看到过ChatGPT的相关视频,那它到底是什么?对软件测试行业会有什么影响? 今天汇智妹就用一篇文章来给大家讲清楚。 一、ChatGPT是什么? 简单来说,ChatGPT是一款人工智能聊天机器人,…

ChatGPT会让软件测试人员失业吗?

首先,正视ChatGPT ,它只是一款提升测试效率的工具,并不会让测试失业 ChatGPT 本质上就是一个搜索引擎的二次封装,它更能理解你的输入意图,它更精确的帮你拼接返回结果。但它就是一个辅助工具,用好了可以帮…

抖音视频数据抓取

最近经常有人问我抓取抖音视频的数据,下面就来抓取一下吧。 还是先抓包,获取需要的接口和参数,相关的算法在其它文章里面有介绍。 搜索个视频看看 在抖音搜索框那里任意搜索个什么词。 查看抓的包信息: 可以看到,这里是post请…

抖音视频怎么制作

1、抖音拍摄制作 抖音短视频作为一款视频拍摄、分享软件,自身也带有一些功能可以实现抖音视频制作,做出的抖音视频也很好玩。 步骤: 1、首先安装好抖音并打开软件,点击软件正下方的“”。 2、可以点击“视频”自动拍摄一段视频&…

抖音视频评论采集

总结一下现在采集抖音评论的方法,根据不同的业务可以选择不同的采集方式。 需要代码可查看第4部分网页版评论采集。 文章内容仅供参考学习,如有侵权请联系作者进行删除。 文章目录 1、自动化工具采集2、第三方平台采集3、APP评论采集4、网页版评论采集专…

小程序如何实现抖音视频效果?

1、wxml部分代码 &#xff0c;主要是利用swiper 标签滑动切换&#xff0c;事件处理&#xff0c;具体参数说明可以去小程序官网文档看。https://developers.weixin.qq.com/miniprogram/dev/component/swiper.html <swiper vertical"{{true}}"current"{{curren…

如何开发自动生产爆款抖音视频机器人

这是我这利用技术 自动生成的抖音视频,每个视频都是原创,而且可以基于主题生成对应的视频封面,例如需要制作大海主题的视频,只需要输入 “大海”,就可以生成视频封面为大海且背景音乐为海相关的主题视频。 抖音短视频分解 其实自动化制作视频并不难,我们可以通过一个短视…

微信小程序实现抖音视频效果

当我们进行开发的时候可能会遇到需要实现抖音视频效果的需求&#xff0c;并且网上该效果的开源代码少&#xff0c;找到的开源代码代码量大&#xff0c;很难进行二次开发 对此我将自己的代码进行简化&#xff0c;仅留下可动性高的代码模块 以上是实现效果与此处demo的模板 <…

抖音短视频脚本制作的一些技巧,快快收藏起来!

在抖音上发布一个成功的短视频需要多方面的考虑&#xff0c;其中最重要的是脚本的制作。一个好的脚本不仅可以吸引用户观看&#xff0c;还可以让用户产生共鸣&#xff0c;从而提高视频的传播效果。以下是不若与众科技一些关于抖音短视频脚本制作的技巧。 1. 简短明了 抖音短视…

抖音视频链接数据分析

一、制作背景 目前抖音账号数据只能进入后台查看 对于个人自媒体和工作室管理的账号 数量众多不利于提升效率。特别是工作室 一人管理数个账号每天发布几十条视频 隔天观看后台数据就要数个小时 每天剪辑视频发布视频观看后台 数据一天就过去了&#xff0c;每天还忙的焦头烂额 …

python爬虫+pyqt5制作完成 <在线翻译软件.exe>

#仅供学习参考。 目标网站&#xff1a;网易翻译pyqt5 在线翻译.exe 功能需求&#xff1a;中英互译&#xff0c;其他国家语言也行&#xff0c;如果能用键盘打得出来得话&#xff0c;这部分功能没怎么测试。 界面介绍&#xff1a;因为有时候网络有延迟&#xff0c;所有增加了个…