手记

大数据开发、大数据分析、大数据运维主要工作各是什么?哪个好?

首先,工作本身没有好坏之分,只有门槛高低之别。大数据开发、大数据分析、大数据运维都围绕着大数据展开。如果我们把大数据去掉,就只剩下,开发,分析,运维。当然还有其它的工作,例如运营,产品,讲师,测试等。 加上了大数据,只是我们的工作内容,或者说是工作方式发生了变化。

大数据是传统行业,传统技术逐步发展的产物。但是并没有打破我们在传统行业的工作模式,和我们的一些基础知识的储备。革新的只有处理技术,工作手段。在这里我们更详细的说说大数据开发、大数据分析、大数据运维 的工作内容,已经门槛,不做好坏评价。

非大数据 开发,分析,运维干什么呢?

开发日常工作是干什么了 ? 围绕着产品经理,进行产品开发,升级,迭代。加班熬夜,赶进度。每日的工作就是编码,和产品沟通或者撕X,和测试沟通或者斯X,最终确保产品上线,保证产品正常使用,以及后续迭代升级。

分析日常工作是什么了?数据整理,制作报表,最后就是报告,会议,阐述结论,最后就是说服对方接受观点,的确很多时候,分析出来的结论,对方无法接受。

运维日常工作是什么了?最核心的就是监控,机器是否正常运转,资源是否够用,产品应用是否都正常,开发相关的工具,保证异常能够及时发现。

在介绍大数据相关的工作前我们先了解下大数据的处理流程

处理流程

我们在看看hadoop的大数据生态圈。当然大数据生态圈不是在只有hadoop。

生态圈

大数据开发的主要工作

开发数据收集工具,数据清洗和整理,开发数据应用;当然这些不是一个人去完成,都会落在各个团队中去完成。

完整这些工作需要哪些技能?从这些技能我们也能看出来大数据开发的主要工作,就是这些工具打交道。一门开发语言(java/python/c#/scala 等),大数据下的一些框架:MapReduce,Spark,Hdfs,Storm,Hbase,Zookeeper 等,只会其中的2到三项基本找份工作没有问题,如何进阶在这不详细讨论。我们来看图吧。

必备技能

大数据分析的主要工作

有大表哥,专门做各种报表。取数机器人,提取各种数据。当然也有做数据分类,特征提取等数据挖掘,机器学习等高等玩家。

这里一并概括了,大数据分析的主要工作是:基于现有的数据进行数据分析得出一个结论,最后进行商业决策。当然现实不是这样的。大多数人成了大表哥,取数机器人,高端玩家也不列外,挖出来的东西,在没有找到落地场景前,都是一坨一坨的。这里都只是调侃。

大数据分析需要哪些技能呢?我们不管具体的工作内容,看看我们每天要面对那些工具,工具是我们每天要接触的东西。 Excel,SPSS,SQL,数据库,R,Python 等。当然我们不用都会。

我们还是看图吧,看看数据分析师的能力体系:

分析师能力体系

在看看每个阶段需要的技能,分析师和开发的区别在于,核心在于处理数据和清洗数据,达到自己可用的状态。开发是收集数据和整理数据,让数据变得统一。

阶段能力对应图

大数据运维的工作

对大数据集群进行监控和维护升级,保障集群正常运行,从而保证 数据收集服务能正常运行,保证集群资源够用,监控集群资源消耗情况。

他们是职业背锅侠,也是一群默默无闻的伙伴。无论开发,还是分析,还是其它的岗位,都有在人前显摆的时候,我们的运维永远只能在人后做好保障。

我们来看看运维的能力体系吧:

运维能力体系

以上是我对这个问题的理解,有些调侃,但都想表达和传递一种正能量,每个行业,每个岗位都有其特定的属性和特点,既然选择了,就只顾风雨兼程,管它花开花落,最终中能到达理想的彼岸。



作者:数据僧
链接:https://www.jianshu.com/p/71c3ebf82c6f


0人推荐
随时随地看视频
慕课网APP