与spark共享变量

时间:2015-02-25 15:47:34

标签: scala apache-spark

来自Spark的官方文档: “ Spark确实为两种常见的使用模式提供了两种有限类型的共享变量:广播变量和累加器。

http://spark.apache.org/docs/1.2.0/programming-guide.html#shared-variables

但是,“广播变量允许程序员在每台计算机上保留一个只读变量,而不是随副本一起发送它的副本。

我想要的是“广播读写变量”,(我的意思是:所有工人和司机都可以访问和修改的共享变量!)有办法吗?!谢谢

2 个答案:

答案 0 :(得分:5)

您不能完全这样做,因为同步成本太高,不允许每个工作者拥有变量的一致视图。您可以选择使用广播变量,可以根据spark中的操作结果进行修改,也可以在累加器中调用getLocal值,但这只显示对变量进行的本地修改。

使用大量额外资源实现此目的的一种方法是使用外部数据存储,如voldemort,cassandra或Hbase

答案 1 :(得分:0)

与任何map-reduce或MPP应用程序一样,有多个容器/任务,上下文。您了解到,这就像X独立服务器,前面有负载均衡器!

所以,就像网络负载均衡器一样:

  • 1)您可以在Spark =>中使用粘性会话按要分发的密钥对数据进行分组
  • 2)或者使用Redis拥有一个常见的内存存储,速度慢但非常强大(或https://accumulo.apache.org/

这很“有趣”,因为它是一个非常常见的问题,MR,Storm,PIG等......从未真正解决过; - (