大数据平台开发大数据平台工程师主要专注于提供大数据基础设施和工具。数据库，大数据平台类，星环，还有一家做Hadoop生态系列的大数据平台公司。大数据领域大概有四大工作方向。除了大数据平台的应用开发、大数据分析应用、大数据平台的整合运维，还有大数据平台架构和研发，除了以上四大工作方向，还有一个工作方向就是大数据技术的推广和培训，目前很多人都在从事。
大数据采集平台有哪些？
谢邀，据我所知，大数据采集平台根据数据来源大致有这几种1系统日志采集平台。大部分企业都是有系统日志采集平台的，在企业的业务平台下，每天都会产生大量的日志数据。企业通过采集这些日志数据并对它清洗整理后进行数据分析，从而挖掘出这些日志数据中的潜在价值。2网络数据采集平台。这种数据采集平台一般都是通过爬虫去采集的，在服务器上搭建一个对目标网站集进行爬取的爬虫，然后将每天爬取到的数据进行清洗整理，最终得到企业所需的数据。
大数据平台的软件有哪些？
这个要分好几块来讲，首先我要说明的是大数据项目也是要有很多依赖的模块的。每个模块的软件不一样，下面分别聊一下。一大数据处理这个是所谓大数据项目中最先想到的模块。主要有spark，hadoop，es，kafka，hbase，hive等。当然像是flume，sqoop也都很常用。这些软件主要是为了解决海量数据处理的问题。
软件很多，我只列几个经典的，具体可以自行百度。二机器学习相关大部分大数据项目都和机器学习相关。因此会考虑到机器学习的一些软件，比如说sklearn，spark的ml，当然还有自己实现的代码。三web相关技术大部分项目也都跑不了一个web的展示，因此web就很重要的，java的ssh，python的django都可以，这个看具体的项目组习惯了。
四其它还有一些很常用的东西，个人感觉不完全算是大数据特定使用范围。反正我在做大数据项目的时候也都用到了。比如说数据存储redis，mysql。数据可视化echart，d3js。图数据库neo4j。再来说说大数据平台的软件或者工具1 数据库，大数据平台类，星环，做Hadoop生态系列的大数据平台公司。
Hadoop是开源的，星环主要做的是把Hadoop不稳定的部分优化，功能细化，为企业提供Hadoop大数据引擎及数据库工具。2 大数据存储硬件类，浪潮，很老牌的IT公司，国资委控股，研究大数据方面的存储，在国内比较领先。3 云计算，云端大数据类，阿里巴巴，明星产品-阿里云，与亚马逊AWS抗衡，做公有云私有云混合云。
实力不差，符合阿里巴巴的气质，很有野心。4 数据应用方面这个有很多，比如帆软旗下的FineReport报表系统和FineBI大数据分析平台等。帆软是商业智能和数据分析平台提供商，从报表工具到商业智能，有十多年的数据应用的底子，在这个领域很成熟，目前处于快速成长期，但是很低调，是一家有技术有实力而且对客户很真诚的公司。
有哪些好的数据来源或者大数据平台？
花了两天时间整理了以下40个平台，大部分可以免费获取数据。官方发布的数据多以社会民生为主。1国家数据-主要用户的社会状况研究人员。国家统计局建立了一个网站，发布中国各领域的宏观经济形势。2国家统计局-主要用户社情研究员链接各省市区统计网站，提供更多官方统计报告。3中国裁判文书网——主要用户法律从业者/学习者/爱好者。它由中国最高人民法院设立，权威可信。可以用来查询国内的裁判文书，也可以作为统计的来源。4中国互联网信息研究中心——主要用户互联网研究者经国家主管部门批准成立的管理和服务机构，经常发布一些有价值的互联网信息报告。5中国信通院-主要用户互联网研究员针对众多互联网行业发展趋势发布白皮书。宏观视角6国土资源部公开的信息报告-主要用户相关研究员，权威内容7中国气象局公开的年度报告-中国气象局主要用户相关研究员，支持下载查看网络趋势分析15118/Chinaz-主要用户SEO专员支持查询网站排名及发展趋势、百度收录等。2艾瑞指数——主要用户互联网从业者艾瑞的/包括手机APP指数PC网页指数影视指数广告指数移动设备指数五种指数查询工具
文章TAG：大数据开发者平台有哪些 平台 开发者 数据 采集
