数据资产入表,这泼天的富贵大数据团队怎样才能接住?

​“ 大数据团队是成本中心还是价值中心?

数据资产入表,国家是怎么说的?

数据平台应具备哪些能力,才能助力企业最大化数据资产价值?”

2022年12月,国务院发文关于发挥数据要素作用的指导意见(俗称数据20条),23年10月份国家大数据管理局的正式挂牌,各地数据要素交易市场纷纷建立,24年1月1日“数据资产入表”正式生效。毋庸置疑,数据在企业数智化运营的大环境趋势下,作为核心生产要素和资产的价值,越来越突显。

但大数据团队是成本中心还是价值中心,近几年来,众多走在降本增效的路上的大数据团队,如何为自己正名?从数据入表的财务角度来看,怎样才能“赚钱”?本文将结合笔者过往的行业经验和大数据领域的最新趋势理念,尝试做一些分析和讨论。

二十一世纪什么最贵,人才!

原本以为,黎叔的这句话,说的是二十一世纪,人才,能赚很多的钱。

深以为然的我,思前想后,在数智化的时代,什么样的人才能挣最多的钱呢?那必须得包括肩负着水电煤一般存在的使命的大数据团队啊,作为大数据团队的人才,也一定是值钱得不能更值钱了!

后来,经过多年的社会毒打,渐渐发觉,是我天真了。

贵,就简单的是“贵”这个字表面的意思,并没有太多的解读空间。而大数据团队,历来在公司老板们的心目中,就是个成本中心,和“值钱”并没有一毛钱的关系。

疫情之后,接触过业内各式各样公司的大数据团队,降本,几乎是所有有一定规模的大数据团队,都逃不过的命题作业。甚至有些团队的负责人直言不讳的说,维稳省钱,就是领导对他们今年唯一的核心KPI指标要求

这也难怪,谁叫你最贵呢 ;)贵的意思不就是成本高么,降的就是你们。连带着各大公有云厂商,大数据方案提供商们,近几年的日子也不太好过,地主家,也没有余粮了。

但,这好像有哪里不对。不是说好了,二十一世纪是数字化,智能化的时代吗?

数据是资产还是负债

那大数据团队到底是成本中心还是盈利部门呢,数据到底是资产还是负债呢?

这种大事,还是得国家权威机构说了算。这不,国家财政部在今年8月发文了 《企业数据资源相关会计处理暂行规定》,说人话,也就是俗称的“资产入表”,2024年1月1日起正式执行。

全文链接在这里:

财政部关于印发《企业数据资源相关会计处理暂行规定》的通知__2023年第28号国务院公报_中国政府网

简单来说,就是数据,做为数字化时代企业的核心生产要素之一,可以,也应该作为“无形资产”,计入上市企业的资产负债表中进行披露。

你看,国家钦定的,大数据团队这不就要咸鱼翻身了嘛

严谨的同学又要问了,数据资产值多钱咋评估呢?是不是像有的同学总结的那样,把故事说好了就可以了呢。你看,獐子岛的扇贝都可以成为玄学,何况这看不见摸不着的 “无形资产”?

同样是数据,为什么比如阿里巴巴的生意参谋里的数据就是金凤凰,很多功能都号称普惠了,每年还能卖个十亿八亿的,自己家那几P的数据,就都是压箱底的石头疙瘩,即费神还烧钱呢?

这,怎么说呢。。。 “无形资产”也是有严肃的定义的,这还是得搬出财政部的官方文档:《企业会计准则第6号——无形资产》: 企业会计准则第6号——无形资产

这里面很关键的一点,简单来说就是做为无形资产,身份成立的前提是得能为企业产生经济利益。

此外,准则中还有这么几条


简单来说,就是你折腾各种开源组件,研究他们的最佳组合,跟进版本,研究特性,趟坑踩坑花的那些钱,在你心目中,是改进架构,是提升团队能力,在财务眼里,那都是纯粹的成本支出。只有最终后续的业务开发中,对生产有实质价值应用的研发投入,才能转化为无形资产的组成部分,但前提还是,你得证明其有用性。

看到这里,也不难理解为什么大数据团队总是被看做“成本中心”了,门槛高,前期投入高,建设周期长,集群和团队维护的成本一目了然。而这些产生了多少经济利益,通常确实很难量化度量。领导看不见数据的价值,只看见维护团队的代价,一旦企业进入到精打细算的阶段,那不妥妥的让你降本吗,降低集群成本不算什么,没有开“猿”节流就算客气了。

那你说不对呀,广告营销运营部门也花那么多钱买流量啊,在你看来,这一点技术含量都没有,咋的不让他们降本呢。我们贵有我们的理由,难度高呀。

问题是你不知道那些部门也有个高端的名称,叫做用户增长部门吗? 所以,关键不在于你贵不贵,关键在于你增不增收。降本增效大体都是降本是实际动作,增效只是个数字计算结果,如果只能增效,那降本还不得降得没边了,毕竟这么计算的话,成本越低,效率越高嘛。而且效率高了,没准还能向社会输送更多更贵的人才呢。合情合理不是。这也怪不得老板们这么想,一众新贵AI人工智们能也琢磨着这事,跃跃欲试,想要为老板们服务呢。

所以,降本增收,才是更有前途的路径,只要投入产出的ROI大于1,降本增收分分钟变成“固本增收”,“扩本增收”。这才是你说的,贵,有贵的理由,只是这个理由从来都和难度无关,只和价值有关。商业社会的逻辑,就是这么简单枯燥。

什么样的数据平台才能最大化数据资产的ROI

数据的价值,首先当然取决于它所在行业的内在业务价值属性。比如对于电商行业来说,消费者的行为偏好数据,显然就比集群机器的日常运行负载日志数据更有价值一些,后者可能更接近于成本开销而非资产(当然,如果你的业务就是专门给企业做运维优化的除外)

毕竟,哪怕“无形资产”的价值评估,一定程度上得靠讲故事,但也得有合情合理的事实作为依托,这个故事才能讲得圆满和持久,而数据的业务价值属性很大程度上就是故事的起点。


在一个特定的行业领域中,你很难改变数据本身的业务价值属性,但是你可以改变数据的加工流转和应用形式,从而放大,复用,甚至挖掘之前尚未充分应用的资产价值,提升投入产出的性价比ROI

一个企业是否具备这样的能力,在很大程度上需要依托其大数据平台的体系建设好坏。

工欲善其事必先利其器,一个能最大化数据资产价值的数据平台,应该具备什么样的能力或者说特点呢?

按提高ROI投入产出的角度来简单归纳,我们可以总结枚举如下:

  • 多 : 一份投入多份产出(用更少的投入赚更多的钱)

    • 可能包括:引擎能力能复用,数据价值能复用,链路流程能复用,人力资源能复用。。。

  • 快 : 今天投入明天见效(更快的赚钱)

    • 可能包括:建设周期短,启动门槛低,数据加工流转快,业务需求响应快。。。

  • 好 : 干别人干不了的事(赚更有壁垒的钱)

    • 可能包括:支持更复杂的业务场景,提供更极致的性能,处理更大规模的数据,支撑更新的应用模式。。。

    • 此外,壁垒越高,数据资产的价值越高,也就衍生出对数据的安全,合规,分享,交易等等方面的能力需求

  • 省 : 省心省力省钱,减少不必要的投入(不该花的钱,坚决不花)

    • 可能包括:免运维,提高集群负载和效率,减少无效数据存储,计算成本,降低重复工作,降低试错成本,按需使用,动态扩缩容。。。

那么如何做到这几点呢,对于各家大数据或BI团队来说,公司所面对的问题和客观条件各不同,方式方法和侧重点自然也不尽相同。但我们还是可以结合业内的先进实践和产品技术理念的发展趋势,做一些普适性的探讨:

= 多 =

经典的大数据业务场景,通常包括:离线批处理,实时流计算,交互式OLAP查询等几种场景,如果进一步和在线业务Serving相关联,甚至可能还包括部分高并发点查询的场景。

如何实现这些场景下的各种计算,存储,人力资源和链路流程复用,一直是近几年大数据领域发展和探索的重点方向之一

最为大家熟悉的,可能就是Flink主推的流批一体能力。希望通过一套计算引擎同时支持批处理和流计算两种语义(其实作为资本家,老板希望的,是用同一批数据开发同学,支持两种业务场景),当然由于其实际实现难度也很高(不光是技术层面,也包括业务逻辑层面,计算成本层面等各方面因素),所以即使作为相关概念的主要倡导者,阿里巴巴数据中台,在其内部数据业务中,也只是在局部链路中实现了相关目标。

除流批一体之外,其实还有很多类似的探索:

  • 统一开发语言,比如:SQL for every thing(Streaming,BI,AI,OPS),各种SQL语法糖,翻译或代理层项目,希望在接口语义层封装不同引擎,简化开发难度

  • 统一流程和数据,比如:尝试用Kappa架构替代Lambda架构,降低多链路存储计算成本。

  • 统一元数据管理,比如:类似Databricks的unity catalog,增强跨源数据处理能力,适应Data and AI融合应用

  • 各种联邦查询,外表支持,比如:通过外部数据源,外表,volume等能力,使用同一计算引擎对接查询多种外部存储计算引擎,支持湖仓一体能力等等

  • OLAP引擎和批处理引擎双向奔赴:OLAP引擎引入更多的批处理特性或加强,批处理引擎也逐步增强其OLAP能力

  • 多场景融合引擎:除了Flink的流批一体,也包括最近业内开始流行的增量计算模式,用于实现离线,实时,和交互式查询的不同场景下,性能,成本和数据新鲜度之间的灵活调配。

总体而言,在过去十几年,大数据各类组件层出不穷,百花齐放的同时,减少大数据平台组件数量,简化技术栈,Single Engine for ALL,一专多能等需求,也是企业在面对日趋复杂的平台体系架构,数据加工流程和高昂的运维成本代价时,必然的趋势选择。

= 快 =

天下武功唯快不破,赚钱也是一个讲究资本周转周期的事项。毕竟时间就是金钱,尤其是在当下社会高速发展的商业环境中


一方面,从大数据引擎的角度来说,各种存储,计算速度的快固然是很重要的因素。(这也是为什么会有那么多层出不穷的计算引擎,各自针对不同业务场景的原因)

另一方面,从数据平台整体宏观能力构建的角度来看,建设和迭代周期短,启动和维护门槛低,业务需求响应快,业务开发成本低,业务方能快速参与到数据业务的应用中来,有时候可能更为重要。

这是因为一个完善的大数据平台,除了面对各式各样的存储,计算引擎,为了更快更好更稳定的支撑业务的需求,往往还需要建设一整套完整的开发环境和数据应用管理链路,构建包括:数据集成、数据开发、任务调度、运维,数据地图,数据质量,监控告警,安全管控,数据可视化和BI报表分析等等在内的能力。

由于其技术和业务的复杂性,同时对系统的稳定性和数据安全等各方面都有较高的要求,所以大数据平台历来都是一个前期投入高,技术门槛高,建设周期长,迭代更新成本高的系统。

国外的企业(特别是美国企业),往往依托各式各样商业公司的产品,组装串联加二次开发,混合应用来支撑业务。AWS,Azure,GCP等公有云,也倾向于提供各类独立的组件,让客户自己组装。而国内则更多的倾向于要不完全基于开源自研,要不服务商提供完整的端到端解决方案。

一方面,是因为欧美国家,IT发展历史更长,人才市场上,有更多成熟的软件类人才储备,企业自身通常都有比较强的产品组装能力,另一方面,也是因为同样的原因,大大小小的,Saas类产品更加丰富,相互之间开放合作互通的氛围也更强。

但即便是在欧美市场客户动手能力相对更强的环境下,类似Snowflake,Databricks这样的产品,也越来越多的开始构建生态伙伴,以便为客户提供完整的一站式产品能力体验。而其它专注于大数据完整链路上具体某个环节组件或服务的厂商,也更倾向于尽可能的对主流云平台产品的链路进行预置适配,实现开箱即用的能力,实现这类能力的厂商,往往也更容易在商业市场上取得成功。

归根到底,分工合作,尽可能采用成熟的解决方案来快速启动业务,让企业自身聚焦在数据创新开发,而非产品集成适配踩坑学习之中,已经成为大家的共识。

而作为大数据平台相关从业者,也需要思考自己创造的增量价值应该是以什么样的方式呈现,在不同的企业环境下,是借助成熟产品,做差异化的数据业务应用类创新,更能体现价值,还是自力更生,做更好的基础平台能力重要(这个问题当然没有绝对,就好比上云还是下云,在大趋势上云的节奏下,也有不少体量很大的公司,选择“逆潮流”下云,前提是如果能力,时间和经济效率都能搞得定的话)

= 好 =

从大数据平台的角度来说,就是要将数据的价值赋能业务使用方,能别人所不能,赚别人不好赚,或者赚不到的钱


一方面,这包括了提供更极致的处理性能,例如:向量化执行引擎,物化视图,智能缓存加速,位图计算,执行计划剪枝,下推优化,增量计算等等各类技术,

另一方面,也包括提供更大规模的数据处理能力,或更新的数据应用模式的支持,比如:能无缝线性水平扩容的能力,存算分离独立伸缩的架构,和AI相关能力的集成,BI/AI数据业务链路的融合应用等等。和Serverless函数式计算服务对接的能力,也能极大拓展传统BI数据分析和在线服务,大语言模型等应用的无缝融合。

这些都是为了让原本无法在合理的成本或时间代价下完成的业务变成可能。

而一旦数据具备了更好的业务价值,构建起其资产属性。也就有了更多的面向内部或外部用户的开放,分享乃至交易的需求。

所以,业界领先的湖仓一体架构体系,都开始强调开放的Open Lakehouse设计理念。

从企业内部使用的角度来说,开放的Open Lakehouse湖仓架构,能够兼容主流开放的数据存储格式,支持多种外部引擎访问。降低企业数据被特定vendor绑定的风险的同时,减少了重复开发的工作量,避免数据孤岛的问题,提高数据生态系统的整体效率和一致性。

从价值复用,数据分享和交易的角度来说,基于开放的体系架构和统一的Catalog管理能力,也能更好的支持Data Sharing等低成本的数据分享,交易售卖体系。

比如,snowflake的data sharing技术,能够在其自身生态环境内,帮助他的用户构建起安全可控的数据交易的能力,使得数据要素的交换流通成为可能。

而Databricks更是期望基于unity catalog和delta sharing这样一套元数据管理和开放标准的数据分享体系,构建起一个开放的非单一Vendor厂商生态绑定的数据分享和交易市场。


= 省 =

虽然说到投入产出比,产出作为企业商业的驱动目标是关键,但投入毕竟是分母,当然也是能省则省。

这里面,既包括各种物理资源成本也包括人力成本和时间成本。既包括未来需要支付的成本,也包括过往已经投入的资产沉淀的保护。(毕竟,你不会希望自己的无形资产,一夜之间统统折旧蒸发了)。

所以,多云,混合云等能力也往往成为企业追求自身数据安全可控,避免云环境锁定,灵活按需复用多云环境资源,保护企业既有资产的述求之一。

此外,在云环境大数据服务Saas化的语境之下,计算和存储引擎提供按量计费的模式,能够帮助企业减少不必要的资源浪费。配合资源秒级动态伸缩的能力,也有利于减少业务早期的成本投入,随时按照业务发展动态调整资源投入,降低前期业务启动成本。

这也是一个合格的存算分离体系结构的大数据引擎应该具备的能力和目标收益,所以这一两年来,各种传统的基于存储一体的数据库,也纷纷开始推进存算分离的架构改造

再有,23年年初以来,越来越为大家所接受的物化视图增量计算解决方案,也是为了进一步在业务场景和数据量都不变的前提下,挖掘降本空间。在保证业务语义正确性的同时,以更低的成本,加快海量数据的实时更新和汇总计算。避免全量数据计算给系统带来了的负载压力,减少数据更新时对全量数据进行扫描带来的额外计算时间和成本。

小结

总结一下,数据是资产负债表中的资产,还是只是现金流量表中的成本支出,大数据团队是降本增效的对象,还是增值创收的驱动引擎。说到底都取决于你是否把业务价值摆在了第一位,是否花最少的钱干最多的事,还能干得又快又好。数据资产入表与否只是一个结果,观察行业趋势,用正确的路径,聪明的方式,多快好省的创造价值,才是大数据团队在公司内部能挺直腰杆的底气所在。


“笔者所在团队的云器Lakehouse产品,作为目前国内唯一的多云及一体化数据平台产品,提供SaaS化全托管服务模式。开放的湖仓架构,自研的C++核心引擎,融合批、流、交互三种计算形态。开箱即用的Studio集成开发环境,为企业大数据业务提供开箱即用的一站式解决方案”

更多大数据相关文章,也可以搜索并关注我的公众号 “大数据与AI杂谈” ,(或通过微信号TalkCheap查找)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/224935.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Java基础回顾——JDBC

文章目录 介绍使用JDBC事务JDBC BatchJDBC连接池 介绍 Java为关系数据库定义了一套标准的访问接口:JDBC(Java Database Connectivity) JDBC是Java程序访问数据库的标准接口 好处: 各数据库厂商使用相同的接口,Java…

动物分类识别教程+分类释义+界面展示

1.项目简介 动物分类教程分类释义界面展示 动物分类是生物学中的一个基础知识,它是对动物进行分类、命名和描述的科学方法。本教程将向您介绍动物分类的基本原则和方法,并提供一些常见的动物分类释义。 动物分类的基本原则 动物分类根据动物的形态、…

分布式事务是什么

分布式事务是企业集成中的一个技术难点,也是每一个分布式系统架构中都会涉及到的一个东西,特别是在微服务架构中,几乎可以说是无法避免,本文就分布式事务来简单聊一下。 数据库事务 我们先从数据库事务说起。数据库事务可能大家…

(001)Unit 编译 UTF8JSON

文章目录 编译 Dll编译报错附录 编译 Dll 新建工程: 注意 UnityEngineDll 的选择!2022 版本的太高了!!! 下载包,导入unity : 3. 将 unf8json 的源码拷贝到新建的工程。 4. 编译发布版本: 编译…

ggkegg玩转KEGG数据 | 富集 | 可视化

本期内容 写在前面 今天分享一个关于KEGG通路图绘制的R包,也许在你后面的分析中可以使用得到。 在KEGG富集分析中,若我们要绘制某一个富集通路,一般回到KEGG官网中寻找该通路的富集图。然后,通过AI,PPT等等一系列手段…

【MySQL】数据库之小题练习(完全备份和增量备份的数据恢复,以及断点恢复)

目录 先创建库,创建表,完成三次数据的录入以及第一次的完全备份,第二次和第三次的增量备份; 第一次完全备份操作 第二次插入后做增量备份操作 第三次 插入后做增量备份操作 1、完全备份恢复,获取一班的人的成绩 …

内网穿透中微子代理搭建使用

内网穿透中微子代理搭建使用 环境准备服务器端部署客户端安装服务器开启端口 环境准备 中微子代理项目地址 最新版是2.0.1版本,需要java21的环境,考虑到现在项目大多数环境都是java8,稳重使用1.9版本搭建,jar下载地址: 准备一台有公网ip的服务器(或云服务器),本文中使用阿里…

【教程】从gitee或者github,下载单个文件或文件夹命令

1.打开git 2.初始化 git init 3.设置允许下载子目录 (不需要修改任何,只要原样复制,需要按照个人状况修改的话我会标注) git config core.sparseCheckout true 4. 选择要下载的单个文件夹的路径 这里单引号内部需要修改&…

redis基本用法学习(C#调用FreeRedis操作redis)

FreeRedis属于常用的基于.net的redis客户端,EasyCaching中也提供适配FreeRedis的包。根据参考文献4中的说法,FreeRedis和CsRedis算是近亲(都是GitHub中账号为2881099下的开源项目),因此其用法特别相似。FreeRedis的主要…

论文阅读<CF-YOLO: Cross Fusion YOLO for Object Detection in Adverse Weather.....>

论文链接:https://arxiv.org/pdf/2309.08152.pdfhttps://arxiv.org/pdf/2206.01381.pdfhttps://arxiv.org/pdf/2309.08152.pdf 代码链接:https://github.com/DiffPrompter/diff-prompter 目前没有完整代码放出。 恶劣天气下的目标检测主要有以下三种解…

docker笔记1-安装与基础命令

docker的用途: 可以把应用程序代码及运行依赖环境打包成镜像,作为交付介质,在各种环境部署。可以将镜像(image)启动成容器(container),并提供多容器的生命周期进行管理(…

iPad绘画之旅:从小白到文创手账设计的萌系简笔画探索

💂 个人网站:【 海拥】【神级代码资源网站】【办公神器】🤟 基于Web端打造的:👉轻量化工具创作平台💅 想寻找共同学习交流的小伙伴,请点击【全栈技术交流群】 iPad的出现,不仅改变了我们对电子设…

孔夫子二手书采集

文章目录 项目演示软件采集单本数据网页搜索数据对比 使用场景概述部分核心逻辑Vb工程图数据导入与读取下拉框选择参数设置线程 使用方法下载软件授权导入文件预览处理后的数据 项目结构附件说明 项目演示 操作视频详见演示视频,以下为图文演示 软件采集单本数据 …

mac传输文件到windows

前言 由于mac系统与windows系统文件格式不同,通过U盘进行文件拷贝时,导致无法拷贝。 几种文件格式说明: NTFS 文件格式:只适用于 windows 系统,不适用于 mac 系统; APFS 文件格式:mac 系统格式…

云HIS源码 云HIS解决方案 支持医保功能

云HIS系统重建统一的信息架构体系,重构管理服务流程,重造病人服务环境,向不同类型的医疗机构提供SaaS化HIS服务解决方案。 云HIS作为基于云计算的B/S构架的HIS系统,为基层医疗机构(包括诊所、社区卫生服务中心、乡镇卫…

Anylogic Pro 8.8.x for Mac / for Linux Crack

Digital twins – a step towards a digital enterprise AnyLogic是唯一一个支持创建模拟模型的方法的模拟建模工具:面向过程(离散事件)、系统动态和代理,以及它们的任何组合。AnyLogic提供的建模语言的独特性、灵活性和强大性使…

IP应用场景的规划

IP地址作为互联网通信的基石,在现代社会中扮演着至关重要的角色。本文将深入探讨IP地址在不同应用场景中的规划与拓展,探讨其在网络通信、安全、商业、医疗和智能城市等领域的关键作用与未来发展趋势。 IP地址的基本原理 IP地址是分配给网络上设备的数…

基于flask和echarts的新冠疫情实时监控系统源码+数据库,后端基于python的flask框架,前端主要是echarts

介绍 基于flask和echarts的新冠疫情实时监控系统 软件架构 后端基于python的flask框架,前端主要是echarts 安装教程 下载到本地,在python相应环境下运行app.py,flask项目部署请自行完成 使用说明 flaskProject文件夹中 app.py是flask项目主运行文…

自动驾驶中的“雷达”

自动驾驶中有好几种雷达,新手可能会混淆,这里统一介绍一下它们。 首先,所有雷达的原理都是发射波,接收回波(可能是声波或电磁波),并通过发射和接收的时间差以及波的速度计算距离。只不过发射的…

普中STM32-PZ6806L开发板(烧录方式)

前言 有两种方式, 串口烧录和STLink方式烧录;串口烧录 步骤 开发板USB转串口CH340驱动板接线到USB连接PC使用自带工具普中自动下载软件.exe烧录程序到开发板 ST Link方式 这种方式需要另外进行供电, 我买的如下,当年用于调试STM8的,也可…