温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

hive数据库怎么连spark

发布时间:2026-11-06 20:22:56 来源:亿速云 阅读:94 作者:小樊 栏目:数据库

在大数据生态中,Hive 与 Spark 的连接常见有几种方式,取决于你是“用 Spark 读写 Hive 表”还是“用 Spark 替代 Hive 执行引擎”。下面系统地给你讲一下。


一、Spark 读取 / 写入 Hive 表(最常用)

1️⃣ 前提条件

  • 已安装 Hive
  • 已安装 Spark(建议 Spark 2.x / 3.x)
  • Hive 的 hive-site.xml 存在

2️⃣ 核心原理

Spark 通过 Hive Metastore 获取表结构,通过 HDFS 读取数据。

只要 Spark 能找到 hive-site.xml,就能连 Hive。


3️⃣ 配置方式(关键)

方法一:把 hive-site.xml 放到 Spark 的 conf 目录(推荐)

cp $HIVE_HOME/conf/hive-site.xml $SPARK_HOME/conf/

确保包含:

<property>
  <name>hive.metastore.uris</name>
  <value>thrift://metastore-host:9083</value>
</property>

4️⃣ Spark SQL 连接 Hive 示例

Spark Shell

spark-shell \
  --master yarn \
  --conf spark.sql.warehouse.dir=/user/hive/warehouse
spark.sql("show databases").show()
spark.sql("select * from default.test_table").show()

PySpark

from pyspark.sql import SparkSession

spark = Spark
向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI
助
手