我有一个带有这种结构的大表(> 2千万行)
[ Id, IdUser (int), Latitude(double), Longitude (double), EventDateTime (datetime) ]
我需要找到用户在同一区域(500米范围内)的所有时刻。
最佳解决方案是什么?
答案 0 :(得分:1)
首先,我们不必编写充满超越函数的疯狂复杂的SQL查询,让我们定义一个存储函数distance(lat1, lon1, lat2, lon2)
,让我们自己在两对点之间保持距离。 / p>
DELIMITER $$
DROP FUNCTION IF EXISTS distance$$
CREATE FUNCTION distance(
lat1 FLOAT, lon1 FLOAT,
lat2 FLOAT, lon2 FLOAT
) RETURNS FLOAT
NO SQL DETERMINISTIC
COMMENT 'Returns the distance in metres on the Earth
between two known points of latitude and longitude'
BEGIN
RETURN 111045 * DEGREES(ACOS(
COS(RADIANS(lat1)) *
COS(RADIANS(lat2)) *
COS(RADIANS(lon2) - RADIANS(lon1)) +
SIN(RADIANS(lat1)) * SIN(RADIANS(lat2))
));
END$$
DELIMITER ;
现在我们需要比较表格中的项目对以找到巧合。让我们说我们想要一分钟的时间比较分辨率。这个查询可以解决问题,但需要一段时间。
SELECT DISTINCT a.IdUser, b.IdUser,
DATE_FORMAT (a.EventDateTime, '%Y-%m-%d %H:%i:00) AS EventDateTime
FROM table a
JOIN table b
ON a.IdUser < b.IdUser /* compare different users */
AND a.EventDateTime >= b.EventDateTime - INTERVAL 1 HOUR
AND a.EventDateTime <= b.EventDateTime + INTERVAL 1 HOUR
AND distance(a.Latitude, a.Longitude, b.Latitude, b.Longitude) <= 500.0
这将有效,给出一对用户列表以及他们彼此靠近的小时数。但它不会很快。
您将尝试索引。可能(EventDateTime, IdUser)
上的索引会有所帮助。你可能应该通过添加像这样的时间限制来试验这个查询......
WHERE a.EventDateTime >= CURDATE - INTERVAL 2 DAY
AND a.EventDateTime < CURDATE - INTERVAL 1 DAY
因此您无需花费数小时来运行查询。
现在,让我们尝试对自联接进行优化传递,以尝试减少distance
函数的使用,并更好地使用索引。为了做到这一点,我们需要知道每度(北 - 南)纬度~11045m,因此500m是500/111045度。
此查询将生成彼此从北到南500米范围内的观察对,然后使用WHERE
子句进一步消除仍然相距太远的点。这将减少distance
功能的使用。
SELECT a.IdUser, b.IdUser,
DATE_FORMAT (a.EventDateTime, '%Y-%m-%d %H:%i:00) AS EventDateTime
FROM table a
JOIN table b
ON a.IdUser < b.IdUser /* compare different users */
AND a.EventDateTime >= b.EventDateTime - INTERVAL 1 HOUR
AND a.EventDateTime <= b.EventDateTime + INTERVAL 1 HOUR
AND a.Latitude >= b.Latitude - (500.0/111045.0)
AND a.Latitude <= b.Latitude + (500.0/111045.0)
WHERE distance(a.Latitude, a.Longitude, b.Latitude, b.Longitude) <= 500.0
值得尝试在(IdUser, EventDateTime, Latitude, Longitude)
上覆盖索引,以尝试优化此查询。