- 元数据（Meta Date），主要记录数据仓库中模型的定义、各层级间的映射关系、监控数据仓库的数据状态及 ETL 的任务运行状态。一般会通过元数据资料库（Metadata Repository）来统一地存储和管理元数据，其主要目的是使数据仓库的设计、部署、操作和管理能达成协同和一致。
- 元数据包括表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等。
-
元数据包含用Hive创建的database、table等的元信息。元数据存储在关系型数据库中。如Derby、MySQL等。
-
客户端连接metastore服务，metastore再去连接MySQL数据库来存取元数据。有了metastore服务，就可以有多个客户端同时连接，而且这些客户端不需要知道MySQL数据库的用户名和密码，只需要连接metastore 服务即可。
-
1、hive自带的derby数据库进行元数据的存储
- 2、mysql数据库来进行hive元数据的存储
补充：推荐使用Mysql进行存储。
1、内置derby存储
- 不同路径启动 hive，每一个 hive 拥有一套自己的元数据，无法共享
- hive服务和metastore服务运行在同一个进程中，derby服务也运行在该进程中.内嵌模式使用的是内嵌的Derby数据库来存储元数据，也不需要额外起Metastore服务。
- 在哪个目录下启动,就会在对应的目录下生成 derby.log 和 metastore.db,只有在此目录下再次启动才可以继续使用上次的元数据库。
- 这个是默认的，配置简单，但是一次只能一个客户端连接，适用于用来实验，不适用于生产环境。
2、本地模式（Local）:本地安装mysql 替代derby存储元数据
- 不再使用内嵌的Derby作为元数据的存储介质，而是使用其他数据库比如MySQL来存储元数据。hive服务和metastore服务运行在同一个进程中，mysql是单独的进程，可以同一台机器，也可以在远程机器上。
- 这种方式是一个多用户的模式，运行多个用户client连接到一个数据库中。这种方式一般作为公司内部同时使用Hive。每一个用户必须要有对MySQL的访问权利，即每一个客户端使用者需要知道MySQL的用户名和密码才行。
<?xml</p>
<p>hive.metastore.warehouse.dir
/user/hive_remote/warehouse</p>
<p>hive.metastore.local
true</p>
<p>javax.jdo.option.ConnectionURL
jdbc:mysql://localhost/hive_remote?createDatabaseIfNotExist=true</p>
<p>javax.jdo.option.ConnectionDriverName
com.mysql.jdbc.Driver</p>
<p>javax.jdo.option.ConnectionUserName
hive</p>
<p>javax.jdo.option.ConnectionPassword
password</p>
<pre><code>
3、远程模式（Remote）: 远程安装mysql 替代derby存储元数据
* Hive服务和metastore在不同的进程内，可能是不同的机器，该模式需要将hive.metastore.local设置为false，将hive.metastore.uris设置为metastore服务器URL
* 远程元存储需要单独起metastore服务，然后每个客户端都在配置文件里配置连接到该metastore服务。将metadata作为一个单独的服务进行启动。各种客户端通过beeline来连接，连接之前无需知道数据库的密码
* 仅连接远程的mysql并不能称之为"远程模式"，是否远程指的是metastore和hive服务是否在同一进程内
<?xml
hive.metastore.warehouse.dir
/user/hive/warehouse
javax.jdo.option.ConnectionURL
jdbc:mysql://192.168.1.214:3306/hive_remote?createDatabaseIfNotExist=true
javax.jdo.option.ConnectionDriverName
com.mysql.jdbc.Driver
javax.jdo.option.ConnectionUserName
hive
javax.jdo.option.ConnectionPassword
password
hive.metastore.local
false
hive.metastore.uris
thrift://192.168.1.188:9083
- Hive元数据库中一些重要的表结构及用途，方便Impala、SparkSQL、Hive等组件访问元数据库的理解。
1、存储Hive版本的元数据表(VERSION)
该表比较简单，但很重要。
2、Hive数据库相关的元数据表(DBS、DATABASE_PARAMS)
DBS：该表存储Hive中所有数据库的基本信息，字段如下:
DATABASE_PARAMS：该表存储数据库的相关参数，在CREATE DATABASE时候用WITH
DBPROPERTIES(property_name=property_value, …)指定的参数。
3、Hive表和视图相关的元数据表
主要有TBLS、TABLE_PARAMS、TBL_PRIVS，这三张表通过TBL_ID关联。
TBLS:该表中存储Hive表，视图，索引表的基本信息
TABLE_PARAMS:该表存储表/视图的属性信息
TBL_PRIVS：该表存储表/视图的授权信息
4、Hive文件存储信息相关的元数据表
主要涉及SDS、SD_PARAMS、SERDES、SERDE_PARAMS，由于HDFS支持的文件格式很多，而建Hive表时候也可以指定各种文件格式，Hive在将HQL解析成MapReduce时候，需要知道去哪里，使用哪种格式去读写HDFS文件，而这些信息就保存在这几张表中。
SDS:
该表保存文件存储的基本信息，如INPUT_FORMAT、OUTPUT_FORMAT、是否压缩等。TBLS表中的SD_ID与该表关联，可以获取Hive表的存储信息。
SD_PARAMS: 该表存储Hive存储的属性信息，在创建表时候使用STORED BY’storage.handler.class.name’ [WITH SERDEPROPERTIES (…)指定。
SERDES:该表存储序列化使用的类信息
SERDE_PARAMS:该表存储序列化的一些属性、格式信息，比如:行、列分隔符
5、Hive表字段相关的元数据表
主要涉及COLUMNS_V2
COLUMNS_V2：该表存储表对应的字段信息
6、Hive表分分区相关的元数据表
主要涉及PARTITIONS、PARTITION_KEYS、PARTITION_KEY_VALS、PARTITION_PARAMS
PARTITIONS:该表存储表分区的基本信息
PARTITION_KEYS:该表存储分区的字段信息
PARTITION_KEY_VALS:该表存储分区字段值
PARTITION_PARAMS:该表存储分区的属性信息
7、其他不常用的元数据表
DB_PRIVS：数据库权限信息表。通过GRANT语句对数据库授权后，将会在这里存储。
IDXS：索引表，存储Hive索引相关的元数据
INDEX_PARAMS：索引相关的属性信息
TBL_COL_STATS：表字段的统计信息。使用ANALYZE语句对表字段分析后记录在这里
TBL_COL_PRIVS：表字段的授权信息
PART_PRIVS：分区的授权信息
PART_COL_PRIVS：分区字段的权限信息
PART_COL_STATS：分区字段的统计信息
FUNCS：用户注册的函数信息
FUNC_RU：用户注册函数的资源信息Original: https://blog.csdn.net/H_hello_world/article/details/123858087
Author: 新-农
Title: Hive的元数据存储与元数据表
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/817979/
转载文章受原作者版权保护。转载请注明原作者出处！