PostgreSQL 9.5.10,RAM = 8GB
我有一个包含三列(ID,类别,anzahl(= Count))的表。该表大约有1.32亿行。类别列中有58个唯一值,即:58个不同的类别。
类似于此处PostgreSQL Crosstab Query所示的示例,我想创建一个枢轴,在该枢轴上我具有ID和58个类别作为列(因此在所有59列中),并用相应的Count值填充行。下面是查询:
select * into sde.demographie100m_transposed
from crosstab(
'select gitter_id_100m, category, anzahl
from sde.demographie100m_3col
order by 1,2',
'select distinct category from sde.demographie100m_3col order by 1'
)
AS ct
("gitter_id_100m" text,
"INSGESAMT_Einheiten insgesamt" integer,
"ALTER_10JG_10 - 19" integer,
"ALTER_10JG_20 - 29" integer,
"ALTER_10JG_30 - 39" integer,
"ALTER_10JG_40 - 49" integer,
"ALTER_10JG_50 - 59" integer,
"ALTER_10JG_60 - 69" integer,
"ALTER_10JG_70 - 79" integer,
"ALTER_10JG_80 und älter" integer,
"ALTER_10JG_Unter 10" integer,
"ALTER_KURZ_18 - 29" integer,
"ALTER_KURZ_30 - 49" integer,
"ALTER_KURZ_50 - 64" integer,
"ALTER_KURZ_65 und älter" integer,
"ALTER_KURZ_Unter 18" integer,
"FAMSTND_AUSF_Eingetr. Lebenspartner/-in verstorben" integer,
"FAMSTND_AUSF_Eingetr. Lebenspartnerschaft" integer,
"FAMSTND_AUSF_Eingetr. Lebenspartnerschaft aufgehoben" integer,
"FAMSTND_AUSF_Geschieden" integer,
"FAMSTND_AUSF_Ledig" integer,
"FAMSTND_AUSF_Ohne Angabe" integer,
"FAMSTND_AUSF_Verheiratet" integer,
"FAMSTND_AUSF_Verwitwet" integer,
"GEBURTLAND_GRP_Deutschland" integer,
"GEBURTLAND_GRP_EU27-Land" integer,
"GEBURTLAND_GRP_Sonstige" integer,
"GEBURTLAND_GRP_Sonstige Welt" integer,
"GEBURTLAND_GRP_Sonstiges Europa" integer,
"GESCHLECHT_Männlich" integer,
"GESCHLECHT_Weiblich" integer,
"RELIGION_KURZ_Evangelische Kirche (öffentlich-rechtlich)" integer,
"RELIGION_KURZ_Römisch-katholische Kirche (öffentlich-rechtlich)" integer,
"RELIGION_KURZ_Sonstige, keine, ohne Angabe" integer,
"STAATSANGE_GRP_Deutschland" integer,
"STAATSANGE_GRP_EU27-Land" integer,
"STAATSANGE_GRP_Sonstige" integer,
"STAATSANGE_GRP_Sonstige Welt" integer,
"STAATSANGE_GRP_Sonstiges Europa" integer,
"STAATSANGE_HLND_Bosnien und Herzegowina" integer,
"STAATSANGE_HLND_Deutschland" integer,
"STAATSANGE_HLND_Griechenland" integer,
"STAATSANGE_HLND_Italien" integer,
"STAATSANGE_HLND_Kasachstan" integer,
"STAATSANGE_HLND_Kroatien" integer,
"STAATSANGE_HLND_Niederlande" integer,
"STAATSANGE_HLND_Österreich" integer,
"STAATSANGE_HLND_Polen" integer,
"STAATSANGE_HLND_Rumänien" integer,
"STAATSANGE_HLND_Russische Föderation" integer,
"STAATSANGE_HLND_Sonstige" integer,
"STAATSANGE_HLND_Türkei" integer,
"STAATSANGE_HLND_Ukraine" integer,
"STAATSANGE_KURZ_Ausland" integer,
"STAATSANGE_KURZ_Deutschland" integer,
"STAATZHL_Eine Staatsangehörigkeit" integer,
"STAATZHL_Mehrere Staatsangehörigkeiten, deutsch und ausländisch" integer,
"STAATZHL_Mehrere Staatsangehörigkeiten, nur ausländisch" integer,
"STAATZHL_Nicht bekannt" integer
);
但是会导致如下错误:
ERROR: invalid memory alloc request size 1073741824
SQL Status:XX000
Kontext:SQL statement "select gitter_id_100m, category, anzahl
from sde.demographie100m_3col
order by 1,2"
答案 0 :(得分:1)
尝试使用规范形式:
SELECT gitter_id_100m,
SUM(CASE when category='INSGESAMT_Einheiten insgesamt' then anzahl END) AS "INSGESAMT_Einheiten insgesamt",
SUM(CASE when category='ALTER_10JG_10 - 19' then anzahl END) AS "ALTER_10JG_10 - 19",
...etc...
FROM sde.demographie100m_3col
GROUP BY 1
ORDER BY 1; -- remove the ORDER BY if you can do without it.
如果有必要的话,相对于在内存中生成整个结果,该格式可能比服务器更容易(比交叉表更容易)洒到磁盘上。
您还可以使用SQL cursor以块的形式检索结果。在某些情况下,它可以极大地减少客户端和服务器端的内存消耗。
使用游标的客户端代码:
BEGIN; -- open transaction
DECLARE mycursor CURSOR FOR SELECT ... rest of the query;
FETCH mycursor; -- retrieve 1 line
-- FETCH mycursor repeatedly
CLOSE mycursor;
COMMIT;
在github上还有一个dynamic_pivot function可用于自动执行上述操作(创建数据透视查询并向其返回游标),但是我不确定在132M情况下其实现将如何表现性能行。