Hadoop 是一个开�的分布�计算和存储框架,由 Apache 基金会开�和维护。

Hadoop 为庞大的计算机集群�供��的��伸缩的应用层计算和存储支�,它�许使用简�的编程模型跨计算机群集分布�处�大型数�集,并且支�在��计算机到几��计算机之间进行扩展。

Hadoop 使用 Java 开�,所以�以在多���硬件平�的计算机上部署和使用。其核心部件包括分布�文件系统 (Hadoop DFS,HDFS) 和 MapReduce。

Hadoop 历�

2003 年和 2004 年,Google 公�先��表了两篇著�的论文 GFS 和 MapReduce。

这两篇论文和 2006 年�表的 BigTable �为了现在著�的"Google 三大论文"。

Doug Cutting 在�到了这些�论的影��开始了 Hadoop 的开�。

Hadoop 包�了两大核心组件。在 Google 的论文中,GFS 是一个在庞大的计算机集群中�行的分布�文件系统,在 Hadoop 中 HDFS 实现了它的功能。MapReduce 是一个分布�计算的方�,Hadoop 用��称的 MapReduce 框架实现了它的功能。我们会在之�的 MapReduce 章节中详细介�它。 从 2008 年开始,Hadoop 作为 Apache 顶级项目存在。它与它的众多�项目广泛应用于包括 Yahoo�阿里巴巴�腾讯等大型网络�务�业,并被 IBM�Intel�Microsoft 等平�公�列为支�对象。

Hadoop 的作用

Hadoop 的作用�常简�,就是在多计算机集群环境中�造一个统一而稳定的存储和计算环境,并能为其他分布�应用�务�供平�支�。

也就是说, Hadoop 在��程度上将多�计算机组织�了一�计算机(��一件事),那么 HDFS 就相当于这�计算机的硬盘,而 MapReduce 就是这�计算机的 CPU 控制器。