DSE Analytics Spark中的列名无效

时间:2019-03-01 10:24:46

标签: apache-spark cassandra apache-spark-sql datastax spark-cassandra-connector

我有一张表,其结构大致如下->

CREATE TABLE keyspace_name.table_name (
  id text PRIMARY KEY,
  type text,
  bool_yn boolean,
  created_ts timestamp,
  modified_ts timestamp
)

最近我在表格中添加了新列->

alter table keyspace_name.table_name first_name text;

当我从cqlsh中的表中查询给定的列时,它给了我结果。例如。

select first_name from keyspace_name.table_name limit 10;

但是如果我尝试在dse spark-sql中执行相同的查询

这给了我以下错误。

  

查询错误:给定输入列,无法解析“ first_name”:[id,type,bool_yn,created_ts,modified_ts];

我不知道spark-sql有什么问题。我已经尝试过nodetool修复,但问题仍然存在

任何帮助将不胜感激。谢谢

1 个答案:

答案 0 :(得分:3)

如果表架构发生更改,Spark Metastore不会自动刷新架构更改,因此请使用DROP TABLE命令从spark sql手动删除旧表,然后运行SHOW TABLES。具有最新架构的新表将自动创建。这不会更改Cassandra中的数据。