《Learning Spark》与《图解Spark核心技术与案例实战》两本书是深入了解和学习Apache Spark的重要资源，它们分别从英文和中文角度提供了丰富的Spark知识。Spark作为一个分布式计算框架，以其高效、易用和多模态处理能力在大数据处理领域备受推崇。 《Learning Spark》是Spark的官方入门教材，由Databricks的团队编写，详细介绍了Spark的核心概念和技术。这本书分为多个部分，首先讲解了Spark的基础，包括Spark架构、RDD（弹性分布式数据集）以及Spark Shell的使用。接着，深入讨论了DataFrame和Dataset API，这是Spark 2.x引入的重要特性，使得数据处理更加高效且类型安全。此外，书中还涵盖了Spark SQL、Spark Streaming、MLlib（机器学习库）和GraphX（图处理）等模块，为读者提供了一个全面的Spark视角。 《图解Spark核心技术与案例实战》则是面向中文读者的Spark指南，通过图形化的方式和实际案例，让读者更直观地理解Spark的工作原理和应用。书中的案例涵盖了数据处理的各个阶段，如数据加载、转换、聚合以及结果输出。书中详细解析了Spark作业的执行流程，包括Stage划分、Task调度以及 Shuffle过程，这些是理解Spark性能优化的关键。此外，书中还涉及了Spark与Hadoop、Hive等其他大数据组件的集成，以及如何在实际项目中运用Spark进行数据挖掘和分析。 Spark的核心技术主要包括以下几个方面： 1. RDD：作为Spark的基本数据抽象，RDD提供了容错性和并行计算的能力。通过创建和操作RDD，用户可以实现分布式计算任务。 2. DataFrame和Dataset：这两种API是Spark SQL的一部分，提供了更高级别的抽象，使得数据处理更加方便，同时也支持SQL查询。 3. Spark SQL：Spark SQL将SQL与Spark的编程模型融合，允许用户通过SQL语句或DataFrame/Dataset API来处理结构化数据。 4. Spark Streaming：Spark Streaming提供了一种处理实时数据流的方法，它将数据流划分为微批次，然后使用Spark的核心API进行处理。 5. MLlib：Spark的机器学习库，提供了各种常见的机器学习算法，如分类、回归、聚类和协同过滤，并支持管道和模型选择。 6. GraphX：Spark的图处理库，用于处理和分析图形数据，支持图算法的实现。 7. 性能优化：Spark支持动态资源调度、宽依赖优化、Shuffle管理、数据本地性等策略，以提高计算效率。 通过这两本书的学习，读者可以系统地掌握Spark的核心概念和技术，了解如何在实践中应用Spark解决大数据问题，无论是数据分析、实时流处理还是机器学习，都能找到相应的解决方案。同时，对于想要深入研究Spark的开发者，这两本书也提供了丰富的参考资料和实践指导。

hive-exec-1.2.1.spark2.jar spark2-shell 支持 hive2 hadoop3

1.Spark及其生态圈简介.pdf 2.Spark编译与部署（上）--基础环境搭建.pdf 2.Spark编译与部署（下）--Spark编译安装.pdf 2.Spark编译与部署（中）--Hadoop编译安装.pdf 3.Spark编程模型（上）--概念及SparkShell实战.pdf 3.Spark编程模型（下）--IDEA搭建及实战.pdf 4.Spark运行架构.pdf 5.Hive（上）--Hive介绍及部署.pdf 5.Hive（下）--Hive实战.pdf 6.SparkSQL（上）--SparkSQL简介.pdf 6.SparkSQL（下）--Spark实战应用.pdf 6.SparkSQL（中）--深入了解运行计划及调优.pdf 7.SparkStreaming（上）--SparkStreaming原理介绍.pdf 7.SparkStreaming（下）--SparkStreaming实战.pdf 8.SparkMLlib（上）--机器学习及SparkMLlib简介.pdf 8.SparkMLlib（下）--SparkMLlib实战.pdf 9.SparkGraphX介绍及实例.pdf 10.分布式内存文件系统Tachyon介绍及安装部署.pdf

.Spark及其生态圈简介

ERROR : FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. 前言报错信息异常分析配置改动后记 前言 在成功消除Cloudare管理界面上那些可恶的警告之后，我又对yarn的一些参数进行调优，最后重启了集群。当我提个任务（spark on yarn）并且看到并发及资源的分配情况正如自己先前所料的时候，我长舒了一口气，端起杯子拿上手机起身打算去接杯水消遣一下。 然而我一杯温水接完凑在嘴边，眼睛扫了一下手机刚打算痛饮一番的时候，同事在群里惊呼报错的消息就

Big Data Analytics with Spark is a step-by-step guide for learning Spark, which is an open-source fast and general-purpose cluster computing framework for large-scale data analysis. You will learn how to use Spark for different types of big data analytics projects, including batch, interactive, graph, and stream data analysis as well as machine learning. In addition, this book will help you become a much sought-after Spark expert. Spark is one of the hottest Big Data technologies. The amount of data generated today by devices, applications and users is exploding. Therefore, there is a critical need for tools that can analyze large-scale data and unlock value from it. Spark is a powerful technology that meets that need. You can, for example, use Spark to perform low latency computations through the use of efficient caching and iterative algorithms; leverage the features of its shell for easy and interactive Data analysis; employ its fast batch processing and low latency features to process your real time data streams and so on. As a result, adoption of Spark is rapidly growing and is replacing Hadoop MapReduce as the technology of choice for big data analytics. This book provides an introduction to Spark and related big-data technologies. It covers Spark core and its add-on libraries, including Spark SQL, Spark Streaming, GraphX, and MLlib. Big Data Analytics with Spark is therefore written for busy professionals who prefer learning a new technology from a consolidated source instead of spending countless hours on the Internet trying to pick bits and pieces from different sources. The book also provides a chapter on Scala, the hottest functional programming language, and the program that underlies Spark. You’ll learn the basics of functional programming in Scala, so that you can write Spark applications in it. What's more, Big Data Analytics with Spark provides an introduction to other big data technologies that are commonly used along with Spark, like Hive, Avro

1.Spark及其生态圈简介.pdf 2.Spark编译与部署（上）--基础环境搭建.pdf 2.Spark编译与部署（下）--Spark编译安装.pdf 2.Spark编译与部署（中）--Hadoop编译安装.pdf 3.Spark编程模型（上）--概念及SparkShell实战.pdf 3.Spark编程模型（下）--IDEA搭建及实战.pdf 4.Spark运行架构.pdf 5.Hive（上）--Hive介绍及部署.pdf 5.Hive（下）--Hive实战.pdf 6.SparkSQL（上）--SparkSQL简介.pdf 6.SparkSQL（下）--Spark实战应用.pdf 6.SparkSQL（中）--深入了解运行计划及调优.pdf 7.SparkStreaming（上）--SparkStreaming原理介绍.pdf 7.SparkStreaming（下）--SparkStreaming实战.pdf 8.SparkMLlib（上）--机器学习及SparkMLlib简介.pdf 8.SparkMLlib（下）--SparkMLlib实战.pdf 9.SparkGraphX介绍及实例.pdf 10.分布式内存文件系统Tachyon介绍及安装部署.pdf

Learning Spark， pdf格式, 为数不多的spark著作，值得细看