大数据工程师是做什么的?需要具备什么能力?

如何成为大数据工程师 640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

  由于目前大数据人才匮乏,由于18年是各个大学第一年开设大数据专业,所以暂时也没有相关专业的大数据专业人才投入到社会中。对于公司来说,很难招聘到合适的人才。

  阿里巴巴曾经举办了一个大数据竞赛,通过这个竞赛来激励内部员工,同时也发现外部人才,让各行业的大数据工程师涌现出来。各个领域的达人只要学会运用数据,也可以成为大数据工程师。

  如果曾经没有大数据相关经验而又想加入大数据这个高薪的行业那么很多的人就会选择通过培训来进行系统的学习,从而真正的进入到大数据这个高薪的行业。但是当今社会培训机构种类繁多,培训的内容也有诸多不同,大家务必要擦亮眼睛认真选择,避免选错导致人财两失。


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1薪酬待遇640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1作为IT类职业中的“大熊猫”,大数据工程师的收入待遇可以说达到了同类的顶级。根据观察,国内IT、通讯、行业招聘中,有10%都是和大数据相关的,且比例还在上升。“大数据时代的到来很突然,在国内发展势头激进,而人才却非常有限,现在完全是供不应求的状况。”在美国,大数据工程师平均每年薪酬高达17.5万美元,而据了解,在国内顶尖互联网类公司,同一个级别大数据工程师的薪酬可能要比其他职位高20%至30%,且颇受企业重视。



640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1职业发展路径640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1互联网科技发展蓬勃兴起,人工智能时代来临,抓住下一个风口。为帮助那些往想互联网方向转行想学习,却因为时间不够,资源不足而放弃的人。我自己整理的一份最新的大数据进阶资料和高级开发教程,大数据学习群: 957205962就可以找到组织学习 欢迎进阶中和进想深入大数据的小伙伴加入640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1由于大数据人才数量较少,因此大多数公司的数据部门一般都是扁平化的层级模式,大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队,而在小公司则需要身兼数职。有些特别强调大数据战略的互联网公司则会另设最高职位—如阿里巴巴的首席数据官。“这个职位的大部分人会往研究方向发展,成为重要数据战略人才。”另一方面,大数据工程师对商业和产品的理解,并不亚于业务部门员工,因此也可转向产品部或市场部,乃至上升为公司的高级管理层。

扫描二维码关注公众号,回复: 6412564 查看本文章



640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1在一个成熟的数据驱动型公司,“大数据工程师”往往是一个团队,它意味着从数据的收集、整理展现、分析和商业洞察、以至于市场转化的全过程。这个团队中可能包括数据工程师、分析师、产品专员、市场专员和商业决策者等角色,共同完成从原始数据到商业价值的转换—概括来讲,这是一个支持企业做出商业决策、发掘商业模式的重要群体。


一个优秀的大数据工程师要具备一定的逻辑分析能力,并能迅速定位某个商业问题的关键属性和决定因素。“他得知道什么是相关的,哪个是重要的,使用什么样的数据是最有价值的,如何快速找到每个业务最核心的需求。”联合国百度大数据联合实验室数据科学家沈志勇说。学习能力能帮助大数据工程师快速适应不同的项目,并在短时间内成为这个领域的数据专家;沟通能力则能让他们的工作开展地更顺利,因为大数据工程师的工作主要分为两种方式:由市场部驱动和由数据分析部门驱动,前者需要常常向产品经理了解开发需求,后者则需要找运营部了解数据模型实际转化的情况。



你可以将以上这些要求看做是成为大数据工程师的努力方向,因为根据万宝瑞华管理合伙人的观察,这是一个很大的人才缺口。目前国内的大数据应用多集中在互联网领域,有超过56%的企业在筹备发展大数据研究,“未来5年,94%的公司都会需要数据工程师”




640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1大数据工程师做什么?640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1用阿里巴巴集团研究员薛贵荣的话来说,大数据工程师就是一群“玩数据”的人,玩出数据的商业价值,让数据变成生产力。大数据和传统数据的最大区别在于,它是在线的、实时的,规模海量且形式不规整,无章法可循,因此“会玩”这些数据的人就很重要。



640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1如果把大数据想象成一座不停累积的矿山,那么大数据工程师的工作就是,“第一步,定位并抽取信息所在的数据集,相当于探矿和采矿。第二步,把它变成直接可以做判断的信息,相当于冶炼。最后是应用,把数据可视化等。”



640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1因此分析历史、预测未来、优化选择,这是大数据工程师在“玩数据”时最重要的三大任务。通过这三个工作方向,他们帮助企业做出更好的商业决策。



640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1找出过去事件的特征640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1大数据工程师一个很重要的工作,就是通过分析数据来找出过去事件的特征。比如,腾讯的数据团队正在搭建一个数据仓库,把公司所有网络平台上数量庞大、不规整的数据信息进行梳理,总结出可供查询的特征,来支持公司各类业务对数据的需求,包括广告投放、游戏开发、社交网络等。



640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1找出过去事件的特征,最大的作用是可以帮助企业更好地认识消费者。通过分析用户以往的行为轨迹,就能够了解这个人,并预测他的行为。“你可以知道他是什么样的人、他的年纪、兴趣爱好,是不是互联网付费用户、喜欢玩什么类型的游戏,平常喜欢在网上做什么事情。”腾讯云计算有限公司北京研发中心总经理郑立峰对《第一财经周刊》说。下一步到了业务层面,就可以针对各类人群推荐相关服务,比如手游,或是基于不同特征和需求衍生出新的业务模式,比如微信的电影票业务。




640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1预测未来可能发生的事情640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

通过引入关键因素,大数据工程师可以预测未来的消费趋势。在阿里妈妈的营销平台上,工程师正试图通过引入气象数据来帮助淘宝卖家做生意。“比如今年夏天不热,很可能某些产品就没有去年畅销,除了空调、电扇,背心、游泳衣等都可能会受其影响。那么我们就会建立气象数据和销售数据之间的关系,找到与之相关的品类,提前警示卖家周转库存。”

在百度,支持“百度预测”部分产品的模型研发,试图用大数据为更广泛的人群服务。已经上线的包括世界杯预测、高考预测、景点预测等。以百度景点预测为例,大数据工程师需要收集所有可能影响一段时间内景点人流量的关键因素进行预测,并为全国各个景点未来的拥挤度分级—在接下来的若干天时间里,它究竟是畅通、拥挤,还是一般拥挤?



640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1找出最优化的结果640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1640?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

  根据不同企业的业务性质,大数据工程师可以通过数据分析来达到不同的目的。

以腾讯来说,郑立峰认为能反映大数据工程师工作的最简单  直接的例子就是选项测试(AB Test),即帮助产品经理在A、B两个备选方案中做出选择。在过去,决策者只能依据经验进行判断,但如今大数据工程师可以通过大范围地实时测试—比如,在社交网络产品的例子中,让一半用户看到A界面,另一半使用B界面,观察统计一段时间内的点击率和转化率,以此帮助市场部做出最终选择。

  作为电商的阿里巴巴,则希望通过大数据锁定精准的人群,帮助卖家做更好的营销。“我们更期待的是你能找到这样一批人,比起现有的用户,这些人对产品更感兴趣。”一个淘宝的实例是,某人参卖家原来推广的目标人群是产妇,但工程师通过挖掘数据之间的关联性后发现,针对孕妇群体投放的营销转化率更高。


640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1




640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1需要具备的能力640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


逻辑思维能力强

计算机编码能力

特定应用领域或行业的知识

                  



大数据技术学习主要是分三部分

、编程基础

、大数据技术


三、实训项目(真实的大数据项目)


猜你喜欢

转载自blog.51cto.com/14078334/2407210
今日推荐