大数据技术闲侃之岗位选择解惑

前言

写下这篇文章是因为五一节前给群友的承诺,当然按照以往的惯例,也是我背后看到的这个现象,我发现大部分同学在投递岗位的时候都是投递数据分析岗位,其实背后并不是很清楚背后的岗位是做啥的,想想我自己的工作生涯,还是觉得可以写一写。

来自大数据专业课程的导向问题

我还特意找了同学问,现在作为大数据的专业都学哪些课程。这个答案下我了解到基本的大数据专业的构成。
![](https://img-blog.csdnimg.cn/img_convert/845d3b025e8036a4d097d07ed2637fc3.png
大数据类的专业,了解比较多的还是会以数据内容分析为方向,从计算机的基础->大数据组件学习Hadooop/Spark之类的->再然后是一些Python加上数据挖掘机器学习这些,可能大数据专业比较新的专业,可以囊括到数据类分析比较前沿的岗位,至少看上去是这样子的,甚至有种专业对口的自信。反而一些非大数据专业的同学,还找工作比较顺利。其实大家稍微留意一下招聘内容就会发现,所有的面向数据相关的岗位都不会强调一定要大数据专业的,而且扩大到其他任何一个岗位,专业方向其实不会作为硬性要求,只不过是一定程度上是优势而已。这就是所谓专业带来的导向问题,大家一直以来的一大误区,需要强调的就是不管是不是大数据专业的,加强本身的技能掌握优势才是,专业不专业干系不会太大。
  这个问题我想再多说一点,和我沟通情况远远不局限岗位方向的问题。因为简历石沉大海,或者面试不顺利,大家在信心上有打击,重拾信心这个事情非常重要,之前专门写了文章聊这个问题,可以参考之前的文章: 大数据技术闲侃之-迈出校门,闲庭信步

大数据岗位的由来

最近啥事情都喜欢找ChatGPT来一下:大数据方向的岗位有哪些?


  我们整理一下,其实是有以下答案:数据分析师/数据科学家、数据工程师、数据架构师、大数据开发工程师、机器学习工程师、数据治理师数据可视化工程师。进一步系分的时候可以很明显的发现,有些岗位和所谓大数据并不是强绑定的,比如数据分析师,数据工程师这类在企业中很早的年代一直就有这类岗位,难道一定要大数据才做数据分析么?没有现在所谓的大数据岗位的时候一样是要做数据分析的呀。机器学习和可视化也是一样的道理,尤其是机器学习,其实几十年前这些就一直有的,但是大家看岗位的时候确实是这些,有必要了解这个过程了。我自己简单写了下面这个发展链路。大数据之路的发展其实就是技术的迭代,而且是不断迭代.


  数据库时代:
这个发展变迁发生在2003年开始一直到现在大家真实体会到的互联网行业高速发展的过程。企业级使用数据比较早期的时候都是以Oracle/Db2这类为准,尤其是财务这类的数据,当然是要花钱的,MYSQL的话是开源的,大家都知道,在和php+linux+mysql的组合上比较多。这个时候基于存储过程和SQL等一系列手段做数据分析,当然大家也知道,这个时候数据容量支撑比较有限,而且在数据集成的时候其实是比麻烦的,有一类中间的数据方案如GreenPlum。
  Hadoop1.x时代:数据量的扩大数据库肯定顶不住,主要是贵啊,GP也有致命弱点,那就是多个sql居然是串行的,这个时候上hadoop的方案是出来了,刚刚开始的时候主要是1.x的版本,比较早期的Hadoop,当然问题是比较多的,而jdk的版本还是1.6的呢,GC没有那么强悍的,其实在这个时候有了hive了,意味着sql可以转化为mapreduce 任务了,这个里程碑的变迁导致未来的走向都是以这套技术作为基础的迭代,尤其是写sql这个事情,就更多的人可以参与进来了。
  上Hadoop2.x时代:这个时候大数据其实是一个主流的状态,这个时候实现了在资源抽象,节点分配,以及多引擎的支持上进一步扩充,即使现在大家看到比较多的是Hadoop3.x,这个阶段可以用大数据生态圈来形容,Hive/Spark/Presto多引擎模式助力各类形态的业务。
  业务量的增加推动了技术系统的迭代进一步对人员要求的细化,主要有以下方面:
  传统数据分析人员的转变:hadoop1.x版本那段时间正是大量的传统bi的分析人员开始转向为从原有数仓中转化到Hive中来,这个时候因为底层有了整合来自多数据源的能力,基于数据的运营也是这个时候开始从简单的看看报表开始逐步决策了。
  数据成本激增:随着数据的规模进一步扩大,1.0时代面临一些瓶颈,一个是性能瓶颈,一个是成本,还有就是稳定性。这个时代其实对人员进行了进一步分工,比如大量的数据冗余,有专门的人就过来搞任务优化和存储治理了,这便开始有了治理工程师。
  大佬依旧是大佬:传统意义上针对Hadoop/Spark/Hive组件开发,以及对应调度平台引擎的开发人员,这类人员就是传统意义上的开发人员了,也就是我们平时最膜拜的大佬,这一类我们叫做大数据开发工程师。
  数据内容上的规范化建设:大数据对企业带来的价值不断扩大,对数据的内容质量要求变高,这个时候出现了对数据结构化、规范化、性能要求、质量保障个方面都有要求,前面的模式大部分是以满足取数目标进行数据逻辑开发,到了这个阶段,是要求从整个企业的角度去进行基础的数仓规范建设,这个时候变有了数据架构师、数据开发工程师、数据质量工程师诞生。
  数据安全隐私:数据泄露,保护不当会给企业和个人直接带来损失,这个相比很好理解,但是实际上不止如此,2021年8月20日《中华人民共和国个人信息保护法》正式通过,换句话说,数据的问题到现在是有是有直接法律保护的,而且也可以看到是比较新的。简单来说就是企业对数据的加工使用,安全都需要依法保障,否则就是犯法。这个时候企业是一定要招聘数据安全相关的人员的,现在行业内还没有这种通用的叫法,大致就大数据隐私工程师,大数据安全工程师,需要注意的是,在安全这个领域上也有传统意义上的这里人员,但是数据规模上完全不一样哦。
  机器学习与算法工程师:这类岗位其实是来自算力和框架的升级,因为机器学习是需要大量的数据和迭代的,对算力要求极高,传统意义上做机器学习的方式其实是跑单机,机器性能可以很好,但是很多算法还不能分布式,效率很低的,也正式有了TensorFlow、Spark和Hadoop的结合之后,还加上对GPU的技术升级,算法带来的实际价值也是对企业极大,比如我们ChatGPT在技术的叫法其实就是叫做大模型技术。现在很多给行业带来兴奋的事情都是因为机器学习深度学习技术的发展带来的。这类岗位一般就是叫做算法工程师,机器学习工程师。

企业的人员的要求

有没有注意到,所谓各种岗位,其实都是因为某一项事情需要处理才有了这种岗位,因为这个事情足够严重了,企业就需要专门人处理了,对我们来说就是机会来了。
  我想解答最开始提到的问题,大数据专业课程导向的问题,其实在大数据专业的课程上覆盖了所有的大数据方向,然而这样另外一个问题是大部分同学对特定的技术能力其实是不精,有时想想其实是有点知识设计内容的问题,世间大才少通才。实际情况是每一个岗位,都是企业内部很多个部门一堆人去负责一个岗位,比如数据开发这种工作,本身就是需要对数据开发的方法论,模型规范,架构方式等专门去学习,然而实际情况只是了解,听说过而已,这便是最直接的原因啊。不过,从我的角度来说,都羡慕哭了好不,现在都有大数据的专业了,想当年我自己学习大数据的技术,真是一把鼻涕十把泪,为了编译一下源码,把自己关在出租屋两周完全不出门,各种手工模拟环境,而且那个时候是因为我本身会Java,不然的话现在是另外的故事了…
  
实际上我们需要理解一个逻辑,不管是未来的任何工作岗位都是一样,那就是说我遇到的这档子事情,你能不能搞定。这个意义上来说,比如数据分析的岗位,这类岗位本身的优势是来自于对数据进行分析,挖掘,从专业的视角捕捉到商业上的信息,再进行决策。招聘来说肯定是在做商业分析,数据挖掘等方面有优势的人,注意哦,这个时候的大数据能力其实不是最关键的,会基础的SQL和Python之类的只是技能上的要求,其实更大的是对业务组织分析框架的理解。再比如说大数据开发工程师,这类人员比较擅长组件开发,任务优化,这种时候其实要求的偏向计算机性能优化方面的技能,以及是否对组件有足够了解。这些都是所谓的大数据工程师,但是要求的方向偏差很大的。再比如做隐私的,估计会去找法律相关专业作为第一专业,会不会写SQL估计不是最关键的了,这还是所谓大数据的岗位。

让自己发光

面试的岗位竞争肯定是激烈的,总体下来,大家应该是可以感受到通才类的方式求职其实是不合适的。其实我很多次给大家强说过,每个生命都是第一无二的,作为现在的你首先需要找到自己最有优势的地方,然后去强化,变成你独一无二的优势。一般国内外好的企业招聘远远不会限制在精通几个技能,会几个SQL那么直接,更加会侧重你解决过往问题的方式方法。尤其是现在ChatGPT这类技术那么火,为什么有些人就焦虑会被取代,当然我和身边大部分人日常就会去使用,更多的看到很多让人兴奋的点,另外一个角度来说,我们把很多传统的工作用计算机处理,不也没有把自己做没么。这件事情其实是需要大家去想的那就是未来将会选择什么样的年轻人。五一的时候回老家,把家里的老三国拿了过来,被我搞得有点烂了。


找工作这个事情,三国里面一堆,真是完全可以学习,比如徐庶,主要是他前一回就遇英主,后一回就被曹老板用计离开了,这个体验卡太快了点。我们看看他找工作的方式


皇叔骑着的卢过了檀溪之后路过了司马徽的住处,后面就有徐庶在路上的自荐了,当然皇叔这时候本身求贤若渴,主要问题是刚好在路上遇到,还要唱歌,那岂不是皇叔不经过这里就白等白唱了,其实后面他走的时候才了解到,徐庶找了司马徽,看似缘分偶遇,实际都是刻意安排呀。这类情况就是对应猎头推荐,需要找一个和目标岗位比较熟悉的猎头推荐一吧。


后面的孔明出山,看起来确实是皇叔三顾茅庐,但是前面的事情是有徐庶推荐,司马徽给悬念也算是推荐,还有三顾的时候孔明身边的朋友都给大家营造一种高级人才的感觉,这样子其实是直接可以影响入职之后待遇的。还有就是最后一顾的时候那个精彩的隆中对,这不就是早就给领导准备好了PPT么,相当于入职第一天就直接没有任何的熟悉过程就直接上手,这妥妥的待遇再提升一个层次啊。可以说这个求职的方式实在是高明。这一类情况实际有很多呀,比如现在大家有github starts个数,行业内牛逼的论文,以及各大论坛曝光,这便是提前放出光芒,基本就是人肯定很喜欢,这个的目标是求一个好点的最后待遇。还有张辽、庞统、太史慈太多了,仔细看就发现这部分人清一色先散出自己的光芒,最后的时候就很顺利。

结尾

大数据工作看似很多岗位,实际只是一些岗位做了一层包装而已,需要看清岗位背后的要求,以及找到自己最有优势的地方,然后发起猛攻!!!有点长了,就这样!!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/17680.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

给AI降温!多国机构出手开启ChatGPT调查,立法、监管一个不落

自从硅谷科技大佬们公开呼吁暂停AI训练的提议之后,人类与超强AI之间的争议直接被摆上了台面。 围绕着支持与反对的态度,多方展开了激烈辩论,这一网络论战甚至惊动了各国的监管部门。 3月底,意大利数据保护局率先行动下线了当地的…

chatgpt赋能python:Python破解wifi:真相与方法探讨

Python破解wifi:真相与方法探讨 作为一种通用、易学、灵活的编程语言,Python已经在各种领域得到了广泛应用,其中一项重要应用是网络安全。在网络安全方面,Python可以被用来进行许多操作,包括破解wifi密码。本文将探讨…

开发者-ChatGPT meets Web3.0 用AI赋能去中心化应用

ChatGPT meets Web3.0: 用AI赋能去中心化应用 随着Web3.0的到来,去中心化应用(dApps)正在成为新的热点。与传统的Web2.0应用相比,Web3.0应用具有更高的安全性、更好的隐私保护、更好的用户掌控和更广阔的应用场景等优势。作为一种…

GPT能给审计带来什么

ChatGPT的出现,让人工智能再次站在了聚光灯下,引发持续性的热议和关注。GPT模型作为重要的支撑,国内外近段时间密集性地发布了众多的大语言模型,OpenAI推出GPT-4、谷歌推出LaMDA和PaLM等大模型、Meta推出开源大模型LLaMA&#xff…

一次小破站JS代码审计出XSS漏洞思路学习

今天看了小破站一个大佬的分析,感觉思路很有意思,感兴趣的xdm可以到大佬视频下提供的链接进行测试(传送门)这类社交平台的XSS漏洞利用起来其实危害是特别大的,利用XSS能在社交平台上呈现蠕虫式的扩散,大部分…

自动化代码审计工具-ChatGPT-codeReview

今天体验了一下自动化审计工具-ChatGPT-CodeReview。https://github.com/anc95/ChatGPT-CodeReview/blob/main/README.zh-CN.md 首先说一下体验感,不太行。只能作为一个编程基本代码补充工具,在安全这块的功能不太突出。 缺点: 它是一个文件…

ChatGPT爆火的时代,教育的路怎么选?

最近热门的一个话题就是ChatGPT,那么你知道ChatGPT是什么吗?它有多强大?对教育带来了多大的影响呢? ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型。它的强大不止于搜索引擎,可以搜索…

在教育领域中使用ChatGPT有哪些优点?

人工智能在教育领域的应用正在迅速增加。OpenAI于2022年11月开发的聊天机器人ChatGPT在全球范围内广受欢迎。 由于其受欢迎程度以及生成类似人类问题的回答的能力,ChatGPT正在成为许多学习者和教育工作者值得信赖的伴侣。然而,与任何新兴技术一样&#x…

二月券商金工精选

✦研报目录✦ ✦简述✦ 按发布时间排序 中信期货 组合优化专题(一):截面回归与因子正交的二重奏——【中信期货金融工程】 发布日期:2023-02-01 关键词:期货、截面回归、因子正交 主要内容:本报告处理“…

LCHub:网易数帆汪源:低代码仍然被“误会”,市场明年会迎拐点

LCHub:2023年四月底,在北京见到网易副总裁、网易杭州研究院执行院长、网易数帆总经理汪源,他展现出对于低代码、生成式AI技术非常开放的分享状态。汪源是网易杭州研究院执行院长,他负责的研究院在2006年已经成立,早期的网易数帆就是研究院的技术团队,支撑网易公司的数个主…

msn邮箱在哪里登录?

MSN是微软公司旗下的门户网站,涵盖了我们生活的方方面面,沟通、社交、出行、娱乐等等。下面,我就给大家介绍一下MSN邮箱的登陆方法。如果你也想知道,就一起来详细了解下吧。 1、网页搜索MSN官网将其打开,如果你有账号&…

outlook邮箱收件服务器密码,微软邮箱(hotmail+outlook):应用密码获取+STARTTLS加密...

本文针对hotmail/outlook邮箱的登录进行详细说明 微软邮箱官网(HOTMAIL/OUTLOOK):http://outlook.com # 一、畅邮设置 # 1.1、输入邮箱 # 1.2、输入密码 部分账户开启了 两步验证 ,请使用 应用密码 登陆 # 1.2.1、应用密码 创建新应用密码 创建其他应用密…

微软邮箱(hotmail/outlook):应用密码获取+STARTTLS加密

本文针对hotmail/outlook邮箱的登录进行详细说明 微软邮箱官网(HOTMAIL/OUTLOOK):http://outlook.com 一、畅邮设置 1.1、输入邮箱 1.2、输入密码 请先开启 双重验证 ,请使用 应用密码 登陆 。 1.2.1、双重验证 开启入口&…

hotmail接收邮件服务器(pop),Microsoft微软邮箱 outlook、hotmail 打开pop和imap的方法

分享个微软邮箱 outlook、hotmail 打开pop和imap的方法 只有打开了pop或者imap , foxmail一类的邮件管理客户端才能正常收邮件;打开了smtp才能正常发邮件。 设置方法如图: 1.登录进去账户以后,点击右上角的设置,齿轮图…

ChatGPT爆火 Meta有哪些新举动?

2023年初,人工智能聊天程序ChatGPT爆火,随后国内外众多科技行业巨头都开始纷纷入局人工智能赛道,这其中也包括Meta。近日,Meta创始人扎克伯格宣称正在整合团队力量,致力于构建生成式人工智能。Mete究竟在人工智能领域有…

“目前水平最高”!Meta 挑战 ChatGPT

来源:数据观综合 编辑:蒲蒲 Meta发布全新大型语言模型LLaMA,加入硅谷AI竞赛。 继微软、谷歌之后,Facebook母公司Meta也宣布加入AI军备竞赛。 Meta 推出全新大语言模型 北京时间2月25日,脸书母公司 Meta CEO 扎克伯格在…

《流浪地球》让人细思极恐的是什么?

问:《流浪地球》让人细思极恐的一句话是什么? 答:交通第三交通委提醒您:道路千万条,安全第一条。行车不规范,亲人两行泪。 问:【闪拍生活】APP让人细思极恐的一句话是什么? 答&…

假期观影|《流浪地球》观后感

早上带着儿子一起去看了这场电影,电影里面描述的是不幸的事情,但现在的孩子是幸福的,想想自己这个年龄的时候只有《地道战》《地雷战》《上甘岭战役》还有《铁道游击队》等等爱国教育片。现在他们都是这类科幻大片。科幻题材的电影我看过《后…

北大教授雷奕安质疑《流浪地球》的69个不合理之处

数据猿导读 说不得,摸不得,更打不得!似乎所有人都在小心翼翼地活着、看着,被裹挟着、被引领着、被正确着、被... 来源:科学网博客丨作者:雷奕安 数据猿官网 | www.datayuan.cn 今日头条丨一点资讯丨腾讯丨搜…

从ChatGPT到MOSS,《流浪地球2》是否会照进现实?

要说热点的话,那么2023年开年至今,从流浪地球的MOSS引发的巨大讨论与争议,到ChatGPT的爆火引发的全民跟风热潮,至微软推出的新必应在测试中出现的“暴雷”,一切的舆论,一切的争议,都终归出于“人…