提交作业到队列 用户将作业提交到队列。队列是作业的集合，允许系统添加特定的功能，比如，队列通过ACL决定哪些用户可以提交作业。通常主要由Hadoop调度器使用队列。 Hadoop的配置信息使用了一个单独的托管队列，被称为“default”。
[阅读更多...]-
关于MapReduce5 – 一些有用的特性
-
关于MapReduce4 – 作业的输入输出
作业的输入 InputFormat InputFormat描述了MapReduce作业的输入规范。 MapReduce框架根据MapReduce作业的InputFormat来做这些事情： 校验作业的输入配置； 把输入文件切分成多个逻辑上的I
[阅读更多...] -
关于MapReduce3 – 作业的配置和执行
配置 一个Job就表示了一个MapReduce的作业配置。 Job是用户向Hadoop框架描述一个MapReduce作业如何执行的最主要的接口。框架会尽力按Job的描述去忠实地执行一个作业，但是： 一些配置参数可能会被管理员标记为final
[阅读更多...] -
关于MapReduce2 – Job主体
这一部分内容会适当深入说明用户即将面对的MapReduce框架的各个环节。这有助于用户从一个更细的粒度地去实现、配置、调优作业。 我们先看看Mapper和Reducer接口。通常应用程序实现这两个接口需要提供map和reduce方法。 然后
[阅读更多...] -
kafka简介
简介 kafka是一个分布式的、可分区的、可复制的日志提交服务。它提供了消息传递的功能，但是有着独特的设计。 首先，先了解一些基础概念： Kafka将消息源的分类称为topic； 向Kafka的topic发送消息的进程被称为producer
[阅读更多...] -
关于MapReduce1 – QuickStart
概述 Hadoop Mapreduce是一个简单易用的框架。基于MapReduce写出来的程序能够运行在由上千台商用机器组成的大型集群上，以一种可靠的容错的方式并行处理T级别的海量数据。 一个MapReduce作业通常会把输入的数据集拆分成
[阅读更多...] -
使用PyMySQL
适用环境 python版本 >=2.6或3.3，mysql版本>=4.1。 安装 可以使用pip安装也可以手动下载安装。 使用pip安装，在命令行执行如下命令： 如需要手动安装，请先下载，下载地址：https://github.
[阅读更多...] -
搭建Hadoop运行环境
准备工作 安装JDK JDK版本一般要求是JDK1.7。JDK1.6较新的版本也可以使用。这里使用的是JDK1.8。 官方有一个JDK与Hadoop版本对照表，可以参考一下：http://wiki.apache.org/hadoop/Had
[阅读更多...] -
基于JMeter进行分布式测试
我工作中的笔记本配置还可以。但是在测试一个简单的TCP连接时，发现把线程数设置为10000时，我的笔记本会很快死掉。最终实验出我的笔记本可以承受的安全线程数是5000。可是对应用的最低性能要求就是能承受1w的并发。此时可以采用基于JMete
[阅读更多...] -
JMeter监听器说明
JMeter的监听器可以理解为JMeter提供的测试分析工具（或者测试结果报告）。JMeter监听器的监听范围是当前节点及其子节点。JMeter提供了多种测试监听器，这里简单说几个用过的监听器。 创建测试计划 为了演示监视器的作用，我这里做
[阅读更多...]