Pagerfanta和Doctrine2 COUNT优化

时间:2014-04-18 17:22:02

标签: php mysql symfony doctrine-orm pagerfanta

我正在使用Pagerfanta和Doctrine Adapters与Symfony2和Silex。随着我的数据库变得越来越大,我发现管理员统计信息页面上的大量负载会显示带有分页的大数据。我查看了分析器并看到了令人难以置信的低效查询:

SELECT DISTINCT id16
FROM (
    SELECT f0_.username AS username0, ..., f0_.added_on AS added_on20
    FROM fos_user f0_ ORDER BY f0_.id DESC
) dctrn_result
LIMIT 50 OFFSET 0;

SELECT COUNT(*) AS dctrn_count
FROM (
    SELECT f0_.username AS username0, ..., f0_.added_on AS added_on20
    FROM fos_user f0_ ORDER BY f0_.id DESC
) dctrn_result
LIMIT 50 OFFSET 0;`

通过创建DoctrineORMAdapter类的固定版本,可以轻松修复第一个查询。生成COUNT()查询的代码更复杂,因此我决定询问是否有任何解决方案。

那么有没有办法让Pagerfanta不运行嵌套查询?

2 个答案:

答案 0 :(得分:7)

迟到总比没有好:今天我用> 200k记录击中了同一面墙并找到了解决方案。

Pagerfanta在内部使用Doctrine \ ORM \ Tools \ Pagination \ CountOutputWalker计算导致计数查询的对象,如下所示:

SELECT 
  COUNT(*) AS dctrn_count 
FROM 
  (
    SELECT 
      DISTINCT id_0 
    FROM 
      (
        SELECT 
          m0_.id AS id_0, 
          ...
        FROM 
          messaging_messages m0_ 
        ORDER BY 
          m0_.id DESC
      ) dctrn_result
  ) dctrn_table

要绕过CountOutputWalker,我们可以在实例化DoctrineORMAdapter时传递一个标志。 所以不是简单的

$adapter = new DoctrineORMAdapter($qb);
你做了

$adapter = new DoctrineORMAdapter($qb, true, false);

(第三个参数)。这会将计数查询转换为更有效的查询:

SELECT 
  count(DISTINCT m0_.id) AS sclr_0 
FROM 
  messaging_messages m0_

你必须将whiteoctober / Pagerfanta更新为1.0.3。

Issue

Related commit

答案 1 :(得分:0)

在你的情况下,执行子查询的不是pagerfanta。它是您的查询构建器实例的来源。

我通常在实体存储库中有一个函数,它返回一个普通的查询构建器实例而不是结果。您可以编写一个高效的查询构建器。然后我将该查询构建器提供给DoctrineORMAdapter。

我在整个项目中都使用了这个辅助函数:

/**
 * Pass an array, entity or a custom QueryBuilder instance to paginate.
 * Takes an array of parameters as a second argument.
 * Default parameter values:
 *
 * $params = array(
 *     'curPage' => 1,
 *     'perPage' => 15,
 *     'order' => 'DESC'
 * );
 *
 * @param mixed $object
 * @param array $params
 *
 * @return Pagerfanta
 */
public function paginate($object, $params = array())
{
    if (is_array($object)) {
        $adapter = new ArrayAdapter($object);
    } elseif ($this->isEntity($object)) {
        $qb      = $this->em->createQueryBuilder()
            ->select('s')
            ->from($this->getEntityName($object), 's')
            ->orderBy('s.id', isset($params['order']) ? $params['order'] : 'DESC');
        $adapter = new DoctrineORMAdapter($qb);
    } elseif ($object instanceof QueryBuilder) {
        $adapter = new DoctrineORMAdapter($object);
    }
    $pager = new Pagerfanta($adapter);
    $pager->setMaxPerPage(isset($params['perPage']) ? $params['perPage'] : 15);
    $pager->setCurrentPage(isset($params['curPage']) ? $params['curPage'] : 1);

    return $pager;
}

您可以传递数组,实体或查询构建器实例,它将返回一个准备好使用的适当分页对象。

你可能知道它是如何完成的,但无论如何,这是我在我的实体存储库中的内容 - 一个函数返回查询构建器实例(适用于pagerfanta),另一个函数返回一个要在别处使用的数组:

public function getMessageQueryBuilder($campaignId, $eqCriteriaArray = array(), $neqCriteriaArray = array())
{
    $qb = $this->createQueryBuilder('m');
    $qb->select('m')
        ->leftJoin('m.campaign', 'c')
        ->leftJoin('m.sentBy', 'u')
        ->where($qb->expr()->eq('m.campaign', $campaignId));
    foreach ($eqCriteriaArray as $property => $value) {
        $qb->andWhere($qb->expr()->eq($property, $qb->expr()->literal($value)));
    }
    foreach ($neqCriteriaArray as $property => $value) {
        $qb->andWhere($qb->expr()->neq($property, $qb->expr()->literal($value)));
    }

    return $qb->orderBy('m.id', 'DESC');
}

public function filterMessages($campaignId, $eqCriteriaArray = array(), $neqCriteriaArray = array())
{
    return $this->getMessageQueryBuilder($campaignId, $eqCriteriaArray, $neqCriteriaArray)->getQuery()->getResult();

然后我将这两个结合起来得到实际的寻呼机对象:

$singleSmsPager = $this->pagerUtil->paginate(
    $this->em->getRepository('TreasureForgeMessageBundle:Message')
        ->getMessageQueryBuilder(CcToolSender::CAMPAIGN_ID, array(), array('u.username' => 'admin')),
    array(
        'curPage' => $singleSmsPage,
        'perPage' => 10
    )
);