以下查询非常简单。它从消息表中选择最后20条记录,以便在分页方案中使用。第一次运行此查询时,需要15到30秒。后续运行只需不到一秒钟(我预计会涉及一些缓存)。我试图确定为什么第一次这么长时间。
以下是查询:
SELECT DISTINCT ID,List,`From`,Subject, UNIX_TIMESTAMP(MsgDate) AS FmtDate
FROM messages
WHERE List='general'
ORDER BY MsgDate
LIMIT 17290,20;
MySQL版本:4.0.26-log
这是表格:
messages CREATE TABLE `messages` (
`ID` int(10) unsigned NOT NULL auto_increment,
`List` varchar(10) NOT NULL default '',
`MessageId` varchar(128) NOT NULL default '',
`From` varchar(128) NOT NULL default '',
`Subject` varchar(128) NOT NULL default '',
`MsgDate` datetime NOT NULL default '0000-00-00 00:00:00',
`TextBody` longtext NOT NULL,
`HtmlBody` longtext NOT NULL,
`Headers` text NOT NULL,
`UserID` int(10) unsigned default NULL,
PRIMARY KEY (`ID`),
UNIQUE KEY `List` (`List`,`MsgDate`,`MessageId`),
KEY `From` (`From`),
KEY `UserID` (`UserID`,`List`,`MsgDate`),
KEY `MsgDate` (`MsgDate`),
KEY `ListOnly` (`List`)
) TYPE=MyISAM ROW_FORMAT=DYNAMIC
以下是解释:
table type possible_keys key key_len ref rows Extra
------ ------ ------------- -------- ------- ------ ------ --------------------------------------------
m ref List,ListOnly ListOnly 10 const 18002 Using where; Using temporary; Using filesort
当我在所有相关列上都有索引时,为什么要使用filesort?我添加了ListOnly索引,看看它是否有用。我原本以为List索引会处理列表选择和MsgDate上的排序,但事实并非如此。现在我添加了ListOnly索引,这是它使用的索引,但它仍然在MsgDate上执行一个文件排序,这是我怀疑花了这么长时间。
我尝试使用FORCE INDEX如下:
SELECT DISTINCT ID,List,`From`,Subject, UNIX_TIMESTAMP(MsgDate) AS FmtDate
FROM messages
FORCE INDEX (List)
WHERE List='general'
ORDER BY MsgDate
LIMIT 17290,20;
这似乎迫使MySQL使用索引,但它根本不会加速查询。
以下是此查询的说明:
table type possible_keys key key_len ref rows Extra
------ ------ ------------- ------ ------- ------ ------ ----------------------------
m ref List List 10 const 18002 Using where; Using temporary
更新
我从查询中删除了DISTINCT。它根本没有帮助。
我删除了UNIX_TIMESTAMP调用。它也没有影响性能。
我在我的PHP代码中创建了一个特例,这样如果我检测到用户正在查看结果的最后一页,我会添加一个仅返回结果的最后7天的WHERE子句:
SELECT m.ID,List,From,Subject,MsgDate
FROM messages
WHERE MsgDate>='2009-11-15'
ORDER BY MsgDate DESC
LIMIT 20
这要快得多。但是,只要我导航到另一个结果页面,它就必须使用旧的SQL并且需要很长时间才能执行。我想不出一个实用,现实的方法来为所有页面执行此操作。此外,执行此特殊情况会使我的PHP代码更复杂。
奇怪的是,只有第一次运行原始查询需要很长时间。后续运行相同的查询或显示不同结果页面的查询(即,只有LIMIT子句发生变化)非常快。如果查询尚未运行约5分钟,则查询会再次变慢。
SOLUTION:
我提出的最佳解决方案是基于Jason Orendorff和Juliet的想法。
首先,我确定当前页面是否更接近总页数的开头或结尾。如果它更接近结尾,我使用ORDER BY MsgDate DESC,应用适当的限制,然后反转返回记录的顺序。
这使得检索页面接近结果集的开头或结尾的速度要快得多(第一次现在需要4-5秒而不是15-30秒)。如果用户想要导航到中间附近的页面(当前在第430页左右),那么速度可能会下降。但那是一种罕见的情况。
因此,虽然似乎没有完美的解决方案,但这比大多数情况要好得多。
谢谢你,杰森和朱丽叶。
答案 0 :(得分:3)
而不是ORDER BY MsgDate LIMIT 17290,20
,请尝试ORDER BY MsgDate DESC LIMIT 20
。
当然结果将以相反的顺序出现,但这应该很容易处理。
编辑:您的MessageId
值是否会随着时间的推移而增加?它们是独特的吗?
如果是这样,我会做一个索引:
UNIQUE KEY `ListMsgId` ( `List`, `MessageId` )
并根据消息ID进行查询,而不是根据可能的日期进行查询。
-- Most recent messages (in reverse order)
SELECT * FROM messages
WHERE List = 'general'
ORDER BY MessageId DESC
LIMIT 20
-- Previous page (in reverse order)
SELECT * FROM messages
WHERE List = 'general' AND MessageId < '15885830'
ORDER BY MessageId DESC
LIMIT 20
-- Next page
SELECT * FROM messages
WHERE List = 'general' AND MessageId > '15885829'
ORDER BY MessageId
LIMIT 20
我认为您还要支付varchar
列,其中int
类型的速度要快得多。例如,List
可以是ListId
,指向单独表格中的条目。您可能想在测试数据库中尝试一下,看看是否真的如此;我不是MySQL专家。
答案 1 :(得分:2)
您可以删除ListOnly
键。复合索引List
已包含其中的所有信息。
对于List
- 索引查询的EXPLAIN看起来好多了,缺少文件排序。您可以通过交换Jason建议的ORDER来获得更好的实际性能,并且可能会丢失UNIX_TIMESTAMP调用(您可以在应用程序层中执行此操作,或者只使用在架构中存储为INTEGER的Unix时间戳)。
答案 2 :(得分:1)
您使用的是哪种版本的SQL?一些旧版本使用LIMIT子句作为后处理过滤器(意味着获取服务器请求的所有记录,但只显示您请求的20个)。
你可以从你的解释中看到18002行正在回归,即使你只显示了20行。有没有办法调整你的选择标准,以确定你要返回的20行,而不是返回18000行,只显示其中的20行???