雅典娜:按比例系数查询耗尽的资源

时间:2019-01-26 05:30:43

标签: sql amazon-web-services query-optimization amazon-athena presto

我正在运行如下查询:

SELECT f.*, p.countryName, p.airportName, a.name AS agentName
FROM (
    SELECT 
        f.outboundlegid, 
        f.inboundlegid,
        f.querydatetime,
        cast(f.agent as bigint) as agent,
        cast(f.querydestinationplace as bigint) as querydestinationplace,
        f.queryoutbounddate,
        f.queryinbounddate,
        f.quoteageinminutes,
        f.price
    FROM flights f
    WHERE querydatetime >= '2018-01-02'
    AND querydatetime <= '2019-01-10'
) f
INNER JOIN (
  SELECT airportId, airportName, countryName
  FROM airports
  WHERE countryName IN ('Philippines', 'Indonesia', 'Malaysia', 'Hong Kong', 'Thailand', 'Vietnam')
) p
ON f.querydestinationplace = p.airportId
INNER JOIN agents a
ON f.agent = a.id
ORDER BY f.outboundlegid, f.inboundlegid, f.agent, querydatetime DESC

这是怎么了?或如何优化它?它给了我

  

以此比例系数查询耗尽的资源

我有一个航班表,我想查询特定国家/地区内的航班

1 个答案:

答案 0 :(得分:7)

自雅典娜成立以来,我一直在面对这个问题,问题是ORDER BY子句。 Athena只是安装了hive和prestodb的EMR集群。您面临的问题是:即使查询分布在X个节点上,排序阶段也必须仅由一个节点(在这种情况下为主节点)完成。因此,最后,您可以订购与主节点一样多的数据。

您可以通过减少查询返回的数据量(可能会缩短时间范围)来进行测试。我希望这会有所帮助:)