大数据分析工具有哪些.pdf
大数据分析工具有哪些--第1页
大数据分析工具有哪些
大数据分析工具有哪些
大数据分析Storm:ApacheStorm是一种开源的分布式实时计算系
统。Storm加速了流数据处理的过程,为Hadoop批处理提供实时数
据处理。
Spark:Spark是一个兼容Hadoop数据源的内存数据处理平台,
运行速度相比于HadoopMapReduce更快。Spark适合机器学习以及
交互式数据查询工作,包含Scala、Python和JavaAPI,这更有利
于开发人员使用。
Twitter流处理工具Summingbird:与Storm和Scalding相似,
开发者可以使用非常接近原生的Scala或者Java在Summingbird上
执行MapReduce作业。
AWSKinesis:AmazonKinesis是一种实时数据流处理管理服务。
它可以收集和处理来自不同数据源的数据,允许开发者编写可处理
实时信息的应用程序,来源网站click-streams、营销和财务信息、
制造工具和社交媒体,和操作日志和计量数据。
DataTorrent:DataTorrent是实时流媒体平台,可使企业执行
数据处理或转换结构化与非结构化数据、实时数据流到数据中心。
该产品主要利用Hadoop2.0和YARN技术。
SpringXD:通过任意数量的处理器,SpringXD架构支持事件驱
动的数据流摄入。流是由Spring集成适配器支持。
SQLStream:SQLStream为流媒体分析、可视化和机器数据持续集
成提供了一个分布式流处理平台。大数据(Hadoop)即服务
ElasticMapReduce:AmazonElasticMapReduce(亚马逊EMR)是一个
web服务,提供大量数据处理。通过一个大小可调整的AmazonEC2
实例集群,EMR使用Hadoop来分配并处理数据。
大数据分析工具有哪些--第1页
大数据分析工具有哪些--第2页
Qubole:Qubote的大数据服务提供Hadoop集群内置数据连接器
和大数据项目图形编辑器。
Mortar:Mortar是一个通用的大规模科学数据平台。它建立在
AmazonWeb服务云,使用弹性MapReduce(EMR)启动Hadoop集群并处
理大型数据集。Mortar可运行ApachePig,这是一个构建在Hadoop
上的数据流语言。此外,Mortar还可运行Hadoop]、Pig、Java、
Python和Luigi等,让用户专注于研究科学数据,无需担心IT基
础设施。
Rackspace:RackspaceHadoop集群可运行HadoopRackspace托管
专用服务器,自旋向上Hadoop公共云,或配置自己的私有云。
Joyent:JoyentHadoop是一个基于ApacheHadoop项目大数据托
管环境云的解决方案。提供数据存储服务获取、分析和访问任何数
据格式、数据管理服务以处理、监控和运行Hadoop及数据平台服务
安全、存档和规模一致的可用性。
Google:Hadoop在谷歌的云平台上使用开源的ApacheHadoop谷
歌计算引擎的虚拟机。SQL-in-Hadoop解决方案
ApacheHive:ApacheHive优化了大型数据集分布式存储的查询和管
理过程。Mapreduce开发者也可以插入自定义映射器和还原剂。
Impala:Cloudera的Impala是