Spark Thrift在会话中维护缓存

时间:2017-11-21 13:32:09

标签: apache-spark spark-thriftserver

在Spark Thrift中,当使用beeline客户端时,是否可以:

  1. 用户使用beeline连接到服务器并创建缓存表。
  2. 用户使用beeline(不同会话)再次连接到服务器,并可以使用在上一个会话中创建的缓存表。
  3. 我测试了这个工作流程,并且在1.我可以在Spark UI中看到缓存表就在那里。当我在1完成会话时,表仍然存在。但是当我与同一个用户重新连接时,我无法使用它。

1 个答案:

答案 0 :(得分:1)

据我所知,你不能这样做。在应用程序之间共享RDD,DataFrame和数据集(Spark上下文或Spark会话)是Alluxio的用武之地。https://www.alluxio.org/在Spark目录中包含Spark SQL表。但是,您始终可以将其写入配置单元表。