Spark SQL是Spark的一个组件，用于结构化数据的计算。Spark SQL提供了一个称为DataFrames的编程抽象，DataFrames可以充当分布式SQL查询引擎。
DataFrame是一个分布式的数据集合，该数据集合以命名列的方式进行整合。DataFrame可以理解为关系数据库中的一张表，也可以理解为R/Python中的一个data frame。DataFrames可以通过多种数据构造，例如：结构化的数据文件、hive中的表、外部数据库、Spark计算过程中生成的RDD等。
DataFrame的API支持4种语言：Scala、Java、Python、R。
入口：SQLContext（Starting Point: SQLContext）
Spark SQL程序的主入口是SQLContext类或它的子类。创建一个基本的SQLContext，你只需要SparkContext，创建代码示例如下：
-
Scala
-
Java
除了基本的SQLContext，也可以创建HiveContext。SQLContext和HiveContext区别与联系为：
- SQLContext现在只支持SQL语法解析器（SQL-92语法）
- HiveContext现在支持SQL语法解析器和HiveSQL语法解析器，默认为HiveSQL语法解析器，用户可以通过配置切换成SQL语法解析器，来运行HiveSQL不支持的语法。
- 使用HiveContext可以使用Hive的UDF，读写Hive表数据等Hive操作。SQLContext不可以对Hive进行操作。
- Spark SQL未来的版本会不断丰富SQLContext的功能，做到SQLContext和HiveContext的功能容和，最终可能两者会统一成一个Context
HiveContext包装了Hive的依赖包，把HiveContext单独拿出来，可以在部署基本的Spark的时候就不需要Hive的依赖包，需要使用HiveContext时再把Hive的各种依赖包加进来。
SQL的解析器可以通过配置spark.sql.dialect参数进行配置。在SQLContext中只能使用Spark SQL提供的”sql”解析器。在HiveContext中默认解析器为”hiveql”，也支持”sql”解析器。
创建DataFrames（Creating DataFrames）
使用SQLContext，spark应用程序（Application）可以通过RDD、Hive表、JSON格式数据等数据源创建DataFrames。下面是基于JSON文件创建DataFrame的示例：
-
Scala
-
Java
DataFrame操作（DataFrame Operations）
DataFrames支持Scala、Java和Python的操作接口。下面是Scala和Java的几个操作示例：
-
Scala
-
Java
运行SQL查询程序（Running SQL Queries Programmatically）
Spark Application可以使用SQLContext的sql()方法执行SQL查询操作，sql()方法返回的查询结果为DataFrame格式。代码如下：
-
Scala
-
Java
DataFrames与RDDs的相互转换（Interoperating with RDDs）
Spark SQL支持两种RDDs转换为DataFrames的方式：
- 使用反射获取RDD内的Schema
- 当已知类的Schema的时候，使用这种基于反射的方法会让代码更加简洁而且效果也很好。
- 通过编程接口指定Schema
- 通过Spark SQL的接口创建RDD的Schema，这种方式会让代码比较冗长。
- 这种方法的好处是，在运行时才知道数据的列以及列的类型的情况下，可以动态生成Schema
Spark SQL支持将JavaBean的RDD自动转换成DataFrame。通过反射获取Bean的基本信息，依据Bean的信息定义Schema。当前Spark SQL版本（Spark 1.5.2）不支持嵌套的JavaBeans和复杂数据类型（如：List、Array）。创建一个实现Serializable接口包含所有属性getters和setters的类来创建一个JavaBean。通过调用createDataFrame并提供JavaBean的Class object，指定一个Schema给一个RDD。示例如下：
当JavaBean不能被预先定义的时候，编程创建DataFrame分为三步：
- 从原来的RDD创建一个Row格式的RDD
- 创建与RDD中Rows结构匹配的StructType，通过该StructType创建表示RDD的Schema
- 通过SQLContext提供的createDataFrame方法创建DataFrame，方法参数为RDD的Schema
示例如下：
Original: https://www.cnblogs.com/zlslch/p/6041020.html
Author: 大数据和ai躺过的坑
Title: 转】Spark SQL 之 DataFrame
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/560087/
转载文章受原作者版权保护。转载请注明原作者出处！