在大数据生态中,Hive 与 Spark 的连接常见有几种方式,取决于你是“用 Spark 读写 Hive 表”还是“用 Spark 替代 Hive 执行引擎”。下面系统地给你讲一下。
hive-site.xml 存在Spark 通过 Hive Metastore 获取表结构,通过 HDFS 读取数据。
只要 Spark 能找到 hive-site.xml,就能连 Hive。
cp $HIVE_HOME/conf/hive-site.xml $SPARK_HOME/conf/
确保包含:
<property>
<name>hive.metastore.uris</name>
<value>thrift://metastore-host:9083</value>
</property>
spark-shell \
--master yarn \
--conf spark.sql.warehouse.dir=/user/hive/warehouse
spark.sql("show databases").show()
spark.sql("select * from default.test_table").show()
from pyspark.sql import SparkSession
spark = Spark
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。