大数据即海量的数据，一般至少要达到TB级别才能算得上大数据，相比于传统的企业内数据，大数据的内容和结构要更加多样化，数值、文本、视频、语音、图像、文档、XML、HTML等都可以作为大数据的内容。目前大数据可以分成很多具体的方向：大数据平台开发、大数据分析师(BI)、大数据运维、大数据处理(ETL)、大数据组件开发(偏大数据组件底层)。
大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据的特征应该有以下几个方面（4V）。首先是量特别大（Volume），现在的数据计算单位，已经从GB到达了TB、PB，甚至是EB了；其次是多样性（Variety），绝大多数大数据是非结构性的，其种类十分复杂，我们现在的技术手段还没法对此进行处理；再次是速度（Velocity），数据产生和传送的频率非常快；最后是价值（Value），从大量的低质量、低价值的数据中获取知识，犹如从大海中捞针，获取数据成本很高，但有待挖掘价值大。
几年前，在中国科协主办的“科学家与媒体面对面”活动中，中国联通网络技术研究院首席专家唐雄燕举例说，百度掌握你的隐私，微信知道你的社交圈子，淘宝了解你的购物习惯，移动电信联通三大运营商存有你的通话记录和上网记录，银联知道你在哪里用了信用卡，定位软件则知道你现在何方……专家们认为利用大数据可以有效地实现“智慧医疗”，为全面的个人健康管理进行服务；个人可以方便获取医院的就诊信息、检查数据、医疗影像等，以及个人健康的历史数据；为慢性病患者提供远程数据分析和服务；辅助临床诊断和用药决策；为公共卫生机构提供及时的统计分析；以及为药品研发、治疗方案设计提供数据分析。
大数据开发主要做哪些工作？
大家好，我是Lake，专注大数据技术、程序员经验、互联网科技见解分享。作为一个软件工程师，我个人目前从事的就是大数据方向。目前大数据可以分成很多具体的方向：大数据平台开发、大数据分析师(BI)、大数据运维、大数据处理(ETL)、大数据组件开发(偏大数据组件底层)。不同的工作方向，其工作内容还是有一定差异的，下面我来说下不同工作岗位具体的工作内容：大数据平台开发更偏向对整体数据平台功能性开发，比如离线计算平台、实时计算平台、算法推荐平台等等。
平时用的较多的语言是Java，其更偏向于Java开发。如果用户是上层用户，大数据相关组件作为最低层，大数据平台就桥接着用户和大数据组件，方便用户使用大数据组件的功能。大数据分析师(BI同学)更多的是对我们已有的线上数据进行价值分析，从相关的线上用户所产生的数据中，发现出一些潜在的商业价值，能够更好的去辅助决策层的战略决定。
BI需要对数据敏感、细心，善于从数据中发现业务价值，平常很多工作就是数据可视化、简单化、深入化、PPT化。大数据运维同学主要是保障公司相关机器集群的稳定，使得它们不能出现故障。当申请到新的机器时，会在新机器上面部署各种大数据组件组成的集群。同样，当有业务同学需要用到机器时，可以给大数据运维同学提需求。
当大数据组件集群突然因为什么变得集群不稳定时，运维同学需要去定位问题和解决问题，运维同学平时用的较多的Linux Shell脚本和命令行等，其职位更偏向于为其他同学提供机器稳定保障。ETL同学(数仓同学)则是对我们的线上数据进行数据加工，形成DWD层(公共明细层)、DWS层(公共汇总层)，形成统一的指标口径。
ETL同学会根据不同的业务需求，一般使用SQL进行数据指标的加工，指导业务同学更好的运营相关业务。同时ETL同学更关注业务指标的口径，在指标开发的过程中，使用数仓模型对业务数据进行建模，便于开发的指标数据更加统一，减少口径偏差。大数据组件开发，更多的是结合公司业务，对大数据基础组件进行定制化开发、性能优化、BUG修复等等。
同时，也需要对业务方接入进行问题答疑，指导他们使用大数据组件满足业务需求。同时，你也需要运维你的大数据组件，当出现故障BUG时，需要你能及时修复，保证大数据组件的稳定。大数据组件开发需要对你自己运维的组件原理掌握的很全很深，只有这样，你才能够更好的指导别人。总结大数据开发有很多方向，你可以结合你自己的兴趣，选择一个从事方向。
大数据具体是做什么？有哪些应用？
大数据即海量的数据，一般至少要达到TB级别才能算得上大数据，相比于传统的企业内数据，大数据的内容和结构要更加多样化，数值、文本、视频、语音、图像、文档、XML、HTML等都可以作为大数据的内容。提到大数据，最常见的应用就是大数据分析，大数据分析的数据来源不仅是局限于企业内部的信息化系统，还包括各种外部系统、机器设备、传感器、数据库的数据，如：政府、银行、国计民生、行业产业、社交网站等数据，通过大数据分析技术及工具将海量数据进行统计汇总后，以图形图表的方式进行数据展现，实现数据的可视化，在此基础上结合机器学习算法，对数据进行深度挖掘，发掘数据的潜在价值。
应用部分，大数据不仅包括企业内部应用系统的数据分析，还包括与行业、产业的深度融合，大数据分析的应用场景具有行业性，不同行业所呈现的内容与分析维度各不相同，具体场景包括：互联网行业、政府行业、金融行业、传统企业中的地产、医疗、能源、制造、电信行业等等。1. 互联网行业大数据的应用代表为电商、社交、网络检索领域，可以根据销售数据、客户行为（活跃度、商品偏好、购买率等）数据、交易数据、商品收藏数据、售后数据等、搜索数据刻画用户画像，根据客户的喜好为其推荐对应的产品。
2. 政府行业在大数据分析部分包括质检部门、公安部门、气象部门、医疗部门等，质检部门包括对商品生产、加工、物流、贸易、消费全过程的信息进行采集、验证、检查，保证食品物品安全；气象部门通过构建大气运动规律评估模型、气象变化关联性分析等路径，精准地预测气象变化，寻找最佳的解决方案，规划应急、救灾工作。3. 金融行业的大数据分析多应用于银行、证券、保险等细分领域，在大数据分析方面结合多种渠道数据进行分析，客户在社交媒体上的行为数据、在网站上消费的交易数据、客户办理业务的预留数据，结合客户年龄、资产规模、消费偏好等对客户群进行精准定位，分析其在金融业的需求等。
4. 传统行业包括：能源、电信、地产、零售、制造等。电信行业借助大数据应用分析传感器数据异常情况，预测设备故障，提高用户满意度；能源行业利用大数据分析挖掘客户行为特征、消费规律，提高能源需求准确性；地产行业通过内外部数据的挖掘分析，使管理者掌握和了解房地产行业潜在的市场需求，掌握商情和动态，针对细分市场实施动态定价和差别定价等；制造行业通过大数据分析实现设备预测维护、优化生产流程、能源消耗管控、发现潜在问题并及时预警等。
文章TAG：干货 内容 数据 投资 超级
