什么是Hadoop？请简要解释其架构和组件。
Hadoop是一个开源的分布式计算框架，用于处理和存储大规模数据集。它的设计目标是在廉价的硬件上提供高容错性，并且能够处理大量的数据。Hadoop的架构由两个核心组件组成：Hadoop Distributed File System（HDFS）和MapReduce。
- Hadoop Distributed File System（HDFS）：
HDFS是Hadoop的分布式文件系统，用于存储大规模数据集。它的设计目标是在廉价的硬件上提供高容错性。HDFS将大文件分割成多个块，并在多台机器上进行分布式存储。这样可以实现数据的高可靠性和高可扩展性。HDFS的架构包括以下组件：
- NameNode：NameNode是HDFS的主节点，负责管理文件系统的命名空间和存储块的元数据。它维护了整个文件系统的目录树和文件块的位置信息。
- DataNode：DataNode是HDFS的工作节点，负责存储实际的数据块。它接收来自NameNode的指令，并管理本地存储的数据块。DataNode还负责数据的复制和容错处理。
- Secondary NameNode：Secondary NameNode是NameNode的辅助节点，负责定期合并和检查文件系统的编辑日志，并生成新的镜像文件。它帮助减轻了NameNode的负载压力，并提高了系统的可靠性。
- MapReduce：
MapReduce是Hadoop的计算模型和执行框架。它将计算任务分为两个阶段：Map阶段和Reduce阶段。MapReduce的架构包括以下组件：
- JobTracker：JobTracker是MapReduce的主节点，负责调度和监控作业的执行。它接收来自客户端的作业请求，并将作业分配给可用的TaskTracker进行执行。
- TaskTracker：TaskTracker是MapReduce的工作节点，负责执行具体的任务。它接收来自JobTracker的指令，并运行Map任务和Reduce任务。TaskTracker还负责监控任务的进度和状态，并将结果报告给JobTracker。
- Map任务：Map任务是MapReduce的第一个阶段，负责将输入数据转换为键值对的形式，并生成中间结果。每个Map任务独立地处理输入数据的一个子集，并生成中间结果。
- Reduce任务：Reduce任务是MapReduce的第二个阶段，负责对中间结果进行聚合和计算，并生成最终结果。每个Reduce任务处理一个或多个Map任务生成的中间结果。
下面是一个使用Hadoop的MapReduce框架统计输入文本文件中每个单词出现次数的示例代码：
import java.io.IOException;
import java.util.StringTokenizer;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
public class WordCount {
// Mapper class
public static class TokenizerMapper
extends Mapper<Object, Text, Text, IntWritable>{
private final static IntWritable one = new IntWritable(1);
private Text word = new Text();
public void map(Object key, Text value, Context context
) throws IOException, InterruptedException {
StringTokenizer itr = new StringTokenizer(value.toString());
while (itr.hasMoreTokens()) {
word.set(itr.nextToken());
context.write(word, one);
}
}
}
// Reducer class
public static class IntSumReducer
extends Reducer<Text,IntWritable,Text,IntWritable> {
private IntWritable result = new IntWritable();
public void reduce(Text key, Iterable<IntWritable> values,
Context context
) throws IOException, InterruptedException {
int sum = 0;
for (IntWritable val : values) {
sum += val.get();
}
result.set(sum);
context.write(key, result);
}
}
public static void main(String[] args) throws Exception {
Configuration conf = new Configuration();
Job job = Job.getInstance(conf, "word count");
job.setJarByClass(WordCount.class);
job.setMapperClass(TokenizerMapper.class);
job.setCombinerClass(IntSumReducer.class);
job.setReducerClass(IntSumReducer.class);
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);
FileInputFormat.addInputPath(job, new Path(args[0]));
FileOutputFormat.setOutputPath(job, new Path(args[1]));
System.exit(job.waitForCompletion(true) ? 0 : 1);
}
}
在上述示例中，我们定义了一个名为WordCount的Java类。它包含了一个Mapper类（TokenizerMapper）和一个Reducer类（IntSumReducer）。Mapper类负责将输入的文本数据拆分成单词，并将每个单词作为键，将值设置为1。Reducer类负责对相同单词的计数进行求和，并将结果输出。
在main()函数中，我们创建了一个Job对象，并设置了作业的名称、Mapper和Reducer类，以及输入和输出的数据类型。我们还指定了输入和输出的路径，并调用job.waitForCompletion()方法来运行作业。
通过适当的输入数据和自定义的Mapper和Reducer类，我们可以处理各种类型的大规模数据，并进行相应的分析和计算。使用Hadoop的分布式文件系统HDFS和计算框架MapReduce，我们可以构建出高可靠性和高可扩展性的大数据处理系统。