发布于 2014-11-15 00:29:59 | 231 次阅读 | 评论: 0 | 来源: 网友投递
Hadoop分布式系统
一个分布式系统基础架构,由Apache基金会所开发。
用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。
Spring for Apache Hadoop 2.1.0.M2 发布,此版本现已提供在 Spring IO repository。
Spring for Apache Hadoop 2.1.0.M2 包括大量的版本更新: Spring Framework 4.1.2, Spring Boot 1.2.0.RC1 等等,更多内容请看完整更新日志。
Spring for Apache Hadoop 2.1.0.M2 更新了 Kite SDK 数据集,支持 0.17.0 版本,意味着对 API 做一些改动;basePath 现在强制性使用一个命名空间;DatasetTemplate
现在使用 ViewCallback
s 来替代用分区表达式来查询数据。
Spring for Apache Hadoop 2.1 仅支持 Hadoop 2.0 APIs,不再提供 Hadoop v1 版本的向后兼容。如果你需要支持旧版本的 Hadoop,请使用 Spring for Apache Hadoop 2.0.3 或者 1.1.0 版本。
提供以下的风情版本支持:
Apache Hadoop 2.4.1 (2.1.0.M2-hadoop24)
Apache Hadoop 2.5.1 (2.1.0.M2)
Pivotal HD 2.1 (2.1.0.M2-phd21)
Cloudera CDH5 (2.1.0.M2-cdh5)
Hortonworks HDP 2.1 (2.1.0.M2-hdp21)
默认的发布版本为 Apache Hadoop 2.5.1,支持 Pivotal HD 2.1;更新 Cloudera CDH 版本到 CDH 5.2;下个版本将会继续支持这些版本,并且计划要支持 Apache Hadoop 2.6.0 和 Hortonworks HDP 2.2 版本。
更多内容请看 project page。
Spring for Apache Hadoop 提供了 Spring 框架用于创建和运行 Hadoop MapReduce、Hive 和 Pig 作业的功能,包括 HDFS 和 HBase。如果你需要简单的基于 Hadoop 进行作业调度,你可添加 Spring for Apache Hadoop 命名空间到你的 Spring 项目即可快速使用 Hadoop 了,使用该项目无需了解过多 Hadoop 技巧。
Spring for Apache Hadoop 是 Spring Data 的子模块之一。