大数据分析是现在的流行趋势,大数据分析是通过研究大量的数据,寻找模式、相关性和其他有用信息,让企业和公司可以知道更多的相关知识,适应变化,做出更有利于公司的决策。大数据的分析肯定不可能是通过人脑,更多的是需要借助分析处理工具。所以今天我们就来说说大数据分析处理常用工具吧!
一、HPCC
HPCC是美国实施信息高速公路而上实施的计划,该计划的实施将耗资百亿美元,其主要目标要达到:开发可扩展的计算系统及相关软件,以支持太位级网络传输性能,开发千兆 比特网络技术,扩展研究和教育机构及网络连接能力。这个项目包括五个部分:高性能计算机系统、国家科研与教育网格、信息基础结构和应用、先进软件技术与算法、基本研究与人类资源。
二、Hadoop
Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的,因为它假设计算元素和存储会失败,因此它维护多个工作数据副本,确保能够针对失败的节点重新分布处理。Hadoop 是高效的,因为它以并行的方式工作,通过并行处理加快处理速度。Hadoop 还是可伸缩的,能够处理 PB 级数据。此外,Hadoop 依赖于社区服务器,因此它的成本比较低,任何人都可以使用。Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。Hadoop带有用 Java 语言编写的框架,因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写,比如 C++。
优点主要有:高可靠性、高效性、高扩展性、高容错性。
三、Storm
Storm是自由的开源软件,一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流,用于处理Hadoop的批量数据。Storm很简单,支持许多种编程语言,使用起来非常有趣。Storm由Twitter开源而来,其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、 Admaster等等。
Storm有许多应用领域:实时分析、在线机器学习、不停顿的计算、分布式、RPCETL(即数据抽取、转换和加载)等等。Storm的处理速度惊人,Storm是可扩展、容错,很容易设置和操作。
四、RapidMiner
RapidMiner是世界领先的数据挖掘解决方案,在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛,包括各种数据艺术,能简化数据挖掘过程的设计和评价。可以被应用在许多不同的应用领域,包括文本挖掘,多媒体挖掘,功能设计,数据流挖掘,集成开发的方法和分布式数据挖掘。
主要功能和优点:免费提供数据挖掘技术和库;100%用Java代码(可运行在操作系统);数据挖掘过程简单,强大和直观;内部XML保证了标准化的格式来表示交换数据挖掘过程;可以用简单脚本语言自动进行大规模进程;多层次的数据视图,确保有效和透明的数据;图形用户界面的互动原型;命令行(批处理模式)自动大规模应用; Java API(应用编程接口); 简单的插件和推广机制;强大的可视化引擎,许多尖端的高维数据的可视化建模;400多个数据挖掘运营商支持。
五、Pentaho BI
Pentaho BI 平台是一个以流程为中心的,面向解决方案的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来,方便商务智能应用的开发。它的出现,使得一系列的面向商务智能的独立产品如Jfree、Quartz等等,能够集成在一起,构成一项项复杂的、完整的商务智能解决方案。
Pentaho BI 平台,Pentaho Open BI 套件的核心架构和基础,是以流程为中心的,因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI 平台上执行的商业智能流程。流程可以很容易的被定制,也可以添加新的流程。BI 平台包含组件和报表,用以分析这些流程的性能。目前,Pentaho的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过 J2EE、WebService、SOAP、HTTP、Java、JavaScript、Portals等技术集成到Pentaho平台中来。 Pentaho的发行,主要以Pentaho SDK的形式进行。