Question

在postgreSQL 9.5中：

我有一个名为：sheetheight（由file_fdw创建）的外表和一个名为：dzlog的外表（由postgres_fdw创建）。

1-对于加入外国表格，我有以下查询：

SELECT * from dzlog INNER JOIN sheetheight ON dzlog.ullid = sheetheight.ullid;

并且EXPLAIN ANALYZE会针对上述查询返回此内容：

-------------------------------------------------
 Hash Join  (cost=111.66..13688.18 rows=20814 width=2180) (actual time=7670.872.
.8527.844 rows=2499 loops=1)
   Hash Cond: (sheetheight.ullid = dzlog.ullid)
   ->  Foreign Scan on sheetheight  (cost=0.00..12968.10 rows=106741 width=150)
(actual time=0.116..570.571 rows=223986 loops=1)
         Foreign File: D:\code\sources\sheetHeight_20151025_221244_0000000004987
6878996.csv
         Foreign File Size: 18786370
   ->  Hash  (cost=111.17..111.17 rows=39 width=2030) (actual time=7658.661..765
8.661 rows=34107 loops=1)
         Buckets: 2048 (originally 1024)  Batches: 32 (originally 1)  Memory Usa
ge: 4082kB
         ->  Foreign Scan on dzlog  (cost=100.00..111.17 rows=39 width=2030) (ac
tual time=47.162..7578.990 rows=34107 loops=1)
 Planning time: 8.755 ms
 Execution time: 8530.917 ms
(10 rows)

查询的输出有两列名为ullid。

ullid，日期，颜色，sheetid，DZ0，DZ1，DZ2，DZ3，DZ4，DZ5，dz6，DZ7，ullid，sheetid，传球，...

2-为了从python应用程序直接访问csv文件和sql本地表，我有： 我通过不使用FDW但使用Pandas merge dataframe从python应用程序直接访问csv文件和postgreSQL本地表来完成相同的查询。这个连接是原始连接，所以我首先获取csv文件，然后使用python中的pandas库获取sql表，然后根据公共列合并两个数据帧

import pandas as pd
def rawjoin(query,connection=psycopg2.connect("dbname='mydb' user='qfsa' host='localhost' password='123' port=5433")):
query=("SELECT * FROM dzlog;")
    firstTable= pd.read_csv('.\sources\sheetHeight_20151025_221244_000000000498768789.csv', delimiter=';', header=0)
    secondTable =pd.read_sql(query,connection)
    merged= pd.merge(firstTable, secondTable, on= 'ullid', how='inner')
    return merged

结果是带有一个ullid列的连接数据框。

对于这种差异有什么想法吗？我做了其他类型的连接，RAW访问和FDW访问的结果是相同的，其他查询如下：

 q7=("SELECT dzlog.color FROM dzlog,sheetheight WHERE dzlog.ullid = sheetheight.ullid;")
 q8=("SELECT sheetheight.defectfound FROM dzlog, sheetheight WHERE dzlog.ullid = sheetheight.ullid;")
 q9=("SELECT dzlog.color, sheetheight.defectfound FROM dzlog, sheetheight WHERE dzlog.ullid= sheetheight.ullid;")

Answer 1

我不知道你的第二个例子是做什么的，所以很难说。使用哪个库？它是生成SQL还是在应用程序中执行的连接（几乎总是性能损失）？如果这导致了SQL语句，那么语句是什么？

第一个查询返回列两次，因为您要求它从所有所涉及的表中返回所有列，并且两个表都有此列，连接条件强制是平等的。

您可以编写一个SQL语句，只会输出一次这样的列：

SELECT *
FROM dzlog
   JOIN sheetheight
      USING (ullid);

这看起来很像第二个例子中的代码，不是吗？

加入file_fdw外表和postgres_fdw外表

1 个答案: