在Click-house中导入大文件的问题

时间:2017-03-30 06:53:15

标签: docker clickhouse

以下语句仅加载部分数据(几乎是实际的40%)。错误如下所述:

cat  dr_201604.csv | docker run -i --rm \
  --link clickhouse-server:clickhouse-server \
  yandex/clickhouse-client \
  clickhouse-client --host clickhouse-server \
    --query="INSERT INTO dlr FORMAT CSV"
  

代码:117。DB ::异常:预期的行尾

     

阅读unix @ - > /var/run/docker.sock:读取:通过对等方重置连接

这必须是一个泊坞问题,因为clickhouse网站没有提及可以摄取多少数据的任何限制。 dr_201604.csv超过4 GB的文件。如果我只选择10行(sample.csv),那么它加载没有任何问题。

head dr_201604.csv > sample.csv

是否有任何限制,只能传输大约800 MB的数据?

更新

我尝试在容器中安装卷,但仍然能够像以前一样加载完全相同的行数:

docker run -i --rm \
      --volume /home/ec2-user/:/tmp/  --entrypoint=/bin/sh \
      --link clickhouse-server:clickhouse-server \
      yandex/clickhouse-client \
       -c "cat /tmp/dr_201604.csv | clickhouse-client --host clickhouse-server --query='INSERT INTO dlr FORMAT CSV' " 

0 个答案:

没有答案