大数据和Hadoop什么关系？为什么大数据要学习Hadoop？

这是一个非常好的问题，作为一名IT从业者，我来回答一下这个问题。

首先，大数据本身涉及到一个庞大的技术体系，从学科的角度来看，涉及到数学、统计学和计算机三大学科，同时还涉及到社会学、经济学、医学等学科，所以大数据本身的知识量还是非常大的。

从当前大数据领域的产业链来看，大数据领域涉及到数据采集、数据存储、数据分析和数据应用等环节，不同的环节需要采用不同的技术，但是这些环节往往都要依赖于大数据平台，而Hadoop则是当前比较流行的大数据平台之一。

Hadoop平台经过多年的发展已经形成了一个比较完善的生态体系，而且由于Hadoop平台是开源的，所以很多商用的大数据平台也是基于Hadoop搭建的，所以对于初学大数据的技术人员来说，从Hadoop开始学起是不错的选择。

当前Hadoop平台的功能正在不断得到完善，不仅涉及到数据存储，同时也涉及到数据分析和数据应用，所以对于当前大数据应用开发人员来说，整体的知识结构往往都是围绕大数据平台来组织的。随着大数据平台逐渐开始落地到传统行业领域，大数据技术人员对于大数据平台的依赖程度会越来越高。

当前从事大数据开发的岗位可以分为两大类，一类是大数据平台开发，这一类岗位往往是研发级岗位，不仅岗位附加值比较高，未来的发展空间也比较大，但是大数据平台开发对于从业者的要求比较高，当前有不少研究生在毕业后会从事大数据平台开发岗位。

另一类是大数据应用开发岗位，这类岗位的工作任务就是基于大数据平台（Hadoop等）来进行行业应用开发，在工业互联网时代，大数据应用开发岗位的数量还是比较多的，而且大数据应用开发岗位对于从业者的要求也相对比较低。

我从事互联网行业多年，目前也在带计算机专业的研究生，主要的研究方向集中在大数据和人工智能领域，我会陆续写一些关于互联网技术方面的文章，感兴趣的朋友可以关注我，相信一定会有所收获。

如果有互联网、大数据、人工智能等方面的问题，或者是考研方面的问题，都可以在评论区留言，或者私信我！

大数据主要涉及的内容有哪些？可以从事哪些岗位？

记得大学毕业的第一份工作，我们公司的业务就是做BI产品研发。哪时候互联网没有今天这样火热，也没有大数据、移动互联网的概念。记得有一次和同事去华师后门买书，同事买了一本javascript,我买了一个ajax。那时候，我们产品的客户端是用Delphi开发的，其实买书就是为了补充一点新知识，工作中基本用不到。在公司的第三年，公司要转做web的BI展示界面，我帮公司用svg做了两个展示组件，心里还是美滋滋的。

随着时间的推移、电商的发展，大数据、云计算似乎成了每个互联网公司对外宣传的标准说法。如果不讲点这些概念，似乎给人感觉缺少些逼格。记得10年在公司的一次培训上，有个同事问，云计算是不是你搞出来的，就因为我姓云。听到这个问题，我哭笑皆非。

大数据这个概念喊了这么多年了，很多人还是不清楚大数据指的是什么？为了回答好这个问题，我还去专门搜索了大数据的概念。老实说百科的解释，连我从事了这么多年互联网的人，也没看懂。

“大数据（big data），IT行业术语，是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。”

什么是大数据？

大数据说的直白点，就是运用一套技术手段，把数据变成信息和知识的过程。数据对我们来说是没有价值的东西，我们要把数据加工成信息或者知识，才能被人类理解。举个例子：公司一天的考勤数据是意义不大的东西，但是我们通过一月考勤数据的分析和比较，我们发现张三这个员工老是迟到。那么，张三老是迟到这个信息就对公司的管理有帮助了，领导需要去了解下，是不是张三家有什么事？或者张三最近出现别的状况？

大数据的“大”又如何理解呢？所谓“大”，一层含义指数据的体量大，在数据库时代数据以GB为单位，但在互联网时代以TB为单位，数据的体量升了一个数量级。另一层含义指数据形式的多样化。在传统BI应用中，数据大多是存储在关系型数据库中，但在互联网时代，数据的形式变得多样化了，例如:文本、视频及数据库。明白了大数据的概念，我们下来看，大数据包含哪些内容。

大数据的内涵

大数据从技术的角度去看，包含两大分支：数据分析和数据挖掘。数据分析是对历史数据的分析，为管理提供辅助决策信息。数据挖掘是研究趋势和未来的问题，主要应用在预测方面。从业务的时效性要求去看，分为：实时在线分析系统和离线分析系统。例如:网站的实时用户区域分佈狀況就是实时分析應用；2019年全國各省GDP排名分析就是離綫分析應用。

从大数据项目的过程看，大数据包含：数据采集、数据收集、数据转化与存储、数据建模分析、上层应用展示等。大数据的难点，在于海量数据的分析，这又涉及到海量数据存储及分析架构等问题。

按照Hadoop的技术体系来讲，flume用来收集和转化存储在服务器各处的日志及数据，存储在以hdfs文件系统或者hive或者hbase等数据仓库中，再利用hadoop架构的规范，编写mapreduce作业，再把分析结果展示给用户。当然，这里面设计到数据分析的各种算法。

大数据相关的工作岗位

下面介绍下，大数据相关的核心岗位：

业务专家或者顾问：为大数据提供研发方向和确定研究主题，并为技术人员提供业务支持。

数据分析师：从事数据收集、整理、分析并依据数据做出评估和预测的专业人员。

数据挖掘工程师：从海量数据中发现规律，需要较好的算法和数学基础。

可视化工程师：提供美观、便于人们理解的分析的结果展示界面。

维护工程师：负责服务器环境的配置、搭建和运维。

每个公司采用的大数据技术线路不同，工作岗位会有所差距。感兴趣的朋友，可以自己去了解下，现有的几种大数据方案。

随着5G网络的建设，接入网络的iot设备会越来越多，互联网所积累的数据，还会成级数增加。在未来几年，大数据行业依然是朝阳行业，需要的大数据人才会越来越多，希望本文对有意愿加入大数据行业的朋友，有所启发和帮助，也希望大家能对大数据的概念，有更清晰的认识。谢谢！

大数据是IT行业的专业数据，目前被大家片面的理解为“很多很多的数据”，这是一个错误的认知！

大数据是人工智能时代的基础特点之一，根据《大数据时代》一书介绍，大数据需要具备以下五个特点：

1、大量（Volume）

2、告诉（Velocity)

3、多样（Variety）

4、低价值密度（Value）

5、真实性（Veractiy）大数据之所以被称之为“大”，主要是指数量比较大。只有数据体量达到PB级别以上，才能被称为大数据。我们日常听到的部分企业建个数据库，收集了几个GB的图像或用户信息，就称为大数据，要知道1PB=1024TB=1024*1024GB，也就是说，这些企业建设的数据量，很多连大数据的零头都算不上！

从以上几个特点，我们可初步分析出大数据的应用场景，然后再从应用场景去分析大数据主要涉及的内容和在这些应用场景中的岗位有那些。

场景1、大数据量的交易。如互联网行业的大型电商平台，需要通过交易大数据进行客户行为分析、商品广告分析等；

场景2、大数据量加工。如供应链、生产过程优化、生产计划等；

场景3、服务智能分析。人类衣食住行方面的服务场景非常多，如：娱乐、城市出行、服装、餐饮等，对这些数据进行综合清洗，从人的维度、货的维度、交易的维度来进行分析，可提升服务价值和优化服务方向；

场景4、科技智能化处理。如生物技术、基因技术、医疗技术等科技领域，会产生大数据了的基础数据，通过对基础数据的解读和处理，来提升生命科技的研究；

其他场景还可根据不同的行业做细分，此处不一一列举，感兴趣的读者可通过下面的大数据应用矩阵图进行分析：

从上面的应用场景，我们不难看出和大数据相关的一些岗位：

1、大数据工程师。从事大数据系统实现的开发工程师，通过脚本、SQL、编程语言等方式加工处理原始收集到的大数据，使原本杂乱无章的大数据变得系统化、结构化；

2、大数据管理员。对已经沉淀的大数据进行管理和维护，使数据访问性能得到最大化，存储最优化；

3、数据架构师。通过大数据平台（如Hadoop），对数据需求分析、技术架构设计、应用开发设计等进行指导和实现，该职位要求从业者精通大数据相关算法，并掌握大数据平台相关重要组件；

4、数据分析师。需要精通所在行业业务，能按照业务需求进行大数据归纳整理，并掌握基本的数据分析工具，然后对数据分析形成具有行业指导意见的分析报告；

5、商业智能分析师。和数据分析师类似，但商业智能分析师毕数据分析师更加有针对性和具体性，如：市场竞争需求的商业智能分析；某一产品发展前景的商业智能分析等。

大数据分析在信息技术日益发展和广泛应用的今天，随着数据产生爆发式增长，涉及大数据相关工作将越来越渗透到我们日常生活中，大数据相关岗位也将越来越得到尊重。