火花简单选择作业非常慢

时间:2020-01-14 12:01:42

标签: apache-spark cassandra apache-spark-sql

我有一个简单的工作,可以从表中选择所有条目。这项工作大约需要40秒。去完成。 cassandra数据库上的相同查询(从用户中选择*)立即返回所有结果。

表格中有〜180个条目。
Spark master具有约64 GB的ram和10个内核。

我做错什么了吗?

public static void main(String[] args) {
    SparkConf conf = new SparkConf(true)
            .setMaster("spark://172.16.0.179:7077")
            .setJars(new String[] { "spark-cassandra-connector_2.11-2.4.0.jar" })
            .set("spark.driver.extraJavaOptions", "-Dhttp.proxyHost=172.16.0.179 -Dhttp.proxyPort=3128 -Dhttps.proxyHost=172.16.0.179 -Dhttps.proxyPort=3128 ")
            .setAppName("test")
            .set("spark.cassandra.connection.host", "172.16.0.179")
            .set("spark.executor.memory", "64g")
            .set("spark.driver.memory", "6g")

    SparkSession spark = SparkSession.builder()
            .config(conf)
            .getOrCreate();

    SQLContext sqlContext = new org.apache.spark.sql.SQLContext(spark);

    HashMap<String, String> options = new HashMap<String, String>();
    options.put("keyspace", "testkeyspace");
    options.put("table", "users");
    sqlContext.read()
            .format("org.apache.spark.sql.cassandra")
            .options(options)
            .load()
            .show(10);

    spark.stop();
}

0 个答案:

没有答案