hadoop基于底层大量物理服务器组成的集群对海量数据进行“分布式”处理。Hadoop是用于处理大规模数据的强大工具，它利用了分布式计算的概念，通过将数据分割成小块并在多个物理服务器上进行处理，从而大大提高了数据处理的速度和效率。
Hadoop是一个开源框架，用于分布式处理海量数据。它通过将数据分散存储在多个节点上，实现了高可用性和高扩展性。Hadoop采用了MapReduce模型，将数据划分为小块，由多个节点并行处理，最终将结果汇总得到最终结果。Hadoop还支持数据压缩、数据加密、容错处理等功能，保证了数据的安全性和可靠性。
Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。
Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。
Hadoop是一个开源的分布式计算框架，主要用于处理和存储大规模数据集的问题，特别是在传统数据处理应用软件无法应对的情况下。Hadoop最初是为了解决网络搜索引擎产生的海量数据的存储和计算问题而设计的。随着大数据时代的到来，企业和研究机构面临着处理PB级别数据的挑战。
非结构化数据库是指其字段长度可变，并且每个字段的记录又可以由可重复或不可重复的子字段构成的数据库，用它不仅可以处理结构化数据（如数字、符号等信息）而且更适合处理非结构化数据（全文文本、图像、声音、影视、超媒体等信息）。
Hadoop的工作原理是将一个非常大的数据集切割成一个较小的单元，以能够被查询处理。同一个节点的计算资源用于并行查询处理。当任务处理结束后，其处理结果将被汇总并向用户报告，或者通过业务分析应用程序处理以进行进一步分析或仪表盘显示。
Hadoop MapReduce - MapReduce是负责数据处理的Hadoop层。它编写了一个应用程序来处理存储在HDFS中的非结构化和结构化数据。它负责通过将数据划分为独立任务来并行处理大量数据。处理分两个阶段完成Map和Reduce。Map是指定复杂逻辑代码的第一个处理阶段，Reduce是指定轻量级操作的第二阶段处理。
Hadoop可以处理各种类型的数据，包括结构化数据、半结构化数据和非结构化数据。Hadoop处理的这些数据可以来自各种来源，例如传感器、日志、社交媒体、文本文档等等。通过使用Hadoop，可以轻松地处理这些数据，并从中提取有价值的信息。
还要购买商业软体，搭个DPF环境需要费挺大力气的。hadoop能处理半结构化，非结构化资料。但hadoop要写mapreduce函式，这个比起SQL来，方便灵活性差太多了。Hbase作为Hadoop下的一个子项目，目前发展比较强大，和传统的关系型数据库oracle来比，两者各有优缺点，我们先看一个简单的表格。
Spark：Spark 在 Hadoop 的基础上进行了架构上的优化。与 Hadoop 主要使用硬盘存储数据不同，Spark 更倾向于使用内存来存储数据，这使得 Spark 在处理大数据时能够提供比 Hadoop 快100倍的速度。然而，由于内存中的数据在断电后会丢失，Spark 不适合处理需要长期存储的数据。
实际流计算和批处理系统没有本质的区别，像storm的trident也有批概念，而mapreduce可以将每次运算的数据集缩小（比如几分钟启动一次），facebook的puma就是基于hadoop做的流计算系统。高性能并行计算引擎Storm和Spark比较Spark基于这样的理念，当数据庞大时，把计算过程传递给数据要比把数据传递给计算过程要更富效率。
相比于Hadoop的MapReduce模型，Spark提供了更为快速的数据处理能力，尤其是在内存计算方面表现卓越。它支持多种编程语言和库，允许开发者在集群上执行复杂的分析计算任务，包括机器学习、实时数据流处理等。由于其快速迭代能力和灵活的编程模型，Spark得到了广泛的应用。
hadoop基于底层大量物理服务器组成的集群对海量数据进行“分布式”处理。Hadoop是用于处理大规模数据的强大工具，它利用了分布式计算的概念，通过将数据分割成小块并在多个物理服务器上进行处理，从而大大提高了数据处理的速度和效率。
Hadoop是一个开源框架，用于分布式处理海量数据。它通过将数据分散存储在多个节点上，实现了高可用性和高扩展性。Hadoop采用了MapReduce模型，将数据划分为小块，由多个节点并行处理，最终将结果汇总得到最终结果。Hadoop还支持数据压缩、数据加密、容错处理等功能，保证了数据的安全性和可靠性。
Hadoop是一个由Apache基金会所开发的分布式系统基础架构，一个能够对大量数据进行分布式处理的软件框架； Hadoop以一种可靠、高效、可伸缩的方式进行数据处理；用户可以在不了解分布式底层细节的情况下，开发分布式程序。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。
Hadoop Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。
Hadoop是基于谷歌的MapReduce和分布式文件系统原理而专门设计的，其可在通用的网络和服务器硬件上进行部署，并使之成为计算集群。Hadoop模型 Hadoop的工作原理是将一个非常大的数据集切割成一个较小的单元，以能够被查询处理。同一个节点的计算资源用于并行查询处理。
Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载（ETL）方面上的天然优势。Hadoop的分布式架构，将大数据处理引擎尽可能的靠近存储，对例如像ETL这样的批处理操作相对合适，因为类似这样操作的批处理结果可以直接走向存储。
