RJDBC dbGetQuery()ERROR创建外部表HIVE

时间:2017-02-22 22:18:02

标签: r create-table rjdbc

我遇到这个问题:DB调用只创建一个表,它有检索JDBC结果集的问题。

.verify.JDBC.result中的错误(r,"无法检索JDBC结果集 调用:dbGetQuery ... dbSendQuery - > dbSendQuery - > .local - > .verify.JDBC.result 执行暂停

    options( java.parameters = "-Xmx32g" )
    library(rJava)
    library(RJDBC)
    drv <- JDBC("org.apache.hive.jdbc.HiveDriver", "/tmp/r_jars/hive-jdbc.jar")
    for(jar in list.files('/tmp/r_jars/')){
        .jaddClassPath(paste("/tmp/r_jars/",jar,sep=""))
    }

    conn <- dbConnect(drv, "jdbc:hive2://10.40.51.75:10000/default", "myusername", "mypassword")

    createSCOREDDL_query <- "CREATE EXTERNAL TABLE hiveschema.mytable (
       myvariables
    )
    ROW FORMAT SERDE
    'com.bizo.hive.serde.csv.CSVSerde'
     STORED AS INPUTFORMAT
    'org.apache.hadoop.mapred.TextInputFormat'
     OUTPUTFORMAT
     'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
     LOCATION
    's3://mybucket/myschema/'"

    dbGetQuery(conn, createSCOREDDL_query)
    dbDisconnect(conn)

2 个答案:

答案 0 :(得分:2)

您可以尝试使用 dbSendUpdate 而不是dbGetQuery吗?我有类似的问题,并使这个开关解决了这个问题。

答案 1 :(得分:0)

我按照@KaIC的建议尝试使用以下代码并且它有效:

dbSendUpdate(conn, "CREATE EXTERNAL TABLE hiveschema.mytable ( col_A  string, col_B  string) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE")

对于多个表,您可以在函数中创建列表或循环,并使用apply()构造将其应用于整个循环。