XQUERY:优化涉及大集合的查询

时间:2018-10-08 20:08:25

标签: xml xpath xquery exist-db

我在ExistDB中运行以下XQUERY(针对遵循TEI模式的XML文档):

xquery version "3.1";

declare namespace tei="http://www.tei-c.org/ns/1.0";

let $data-collection := "/db/apps/deheresi/resources/documents"
let $people-collection := "/db/apps/deheresi/resources/documents/codes_people.xml"

for $msdoc in collection($data-collection)/tei:TEI[contains(@xml:id,'ms609')]

for $ordinal in $msdoc/tei:text/tei:front//tei:div[@type='registry_ordinal']/replace(@n, '#', '')

for $doctype in $msdoc/tei:text/tei:front//tei:div[@type='doc_type']/replace(@subtype, '#', '')

for $folio in $msdoc/tei:text/tei:front//tei:div[@type='folio']/replace(@n, '#', '')

for $nameref in $msdoc/tei:text/tei:body[1]/tei:p[1]/tei:seg[1]/tei:persName[@role = 'dep']/replace(@nymRef, '#', '') 

for $persname in normalize-space(string-join(doc($people-collection)//tei:person[@xml:id = $nameref]))

return concat('<td>',$ordinal,'</td><td>',$folio,'</td><td>',$doctype,'</td><td>',$persname,'</td>')

XML文档的组织:

  • 有700多个TEI文档,每个文档都以<TEI xml:id="foo_1.xml">作为根节点(文档标识符递增foo_1.xml,foo_2.xml,foo_3.xml等)(始终在同一位置)

  • 每个TEI文档都包含一个唯一的标识人<persName role="dep" nymRef="#unique_foo_name">的元素(并非总是在文档中的同一位置)

  • 一个单独的XML文档codes_people.xml,其中包含1500多个xml:id不同的人

该函数执行以下操作:

  1. 从每个xml文档中获取标识tei:TEI/@xml:idtei:persName[@role="dep"]/@nymRef

  2. 使用tei:persName[@role="dep"]/@nymRefcodes_people.xml/tei:person/xml:id="unique_foo_name"中查找姓名

这一切都会返回预期的结果...除了它真的非常慢(4秒)。显然,我正在本地计算机而非服务器上进行测试,但是我想在功能更强大的服务器上进行测试之前先优化查询。

按请求添加:

ExistDB版本:3.3.0

示例输出(最终目标是HTML表)

<td>0001</td><td>1r</td><td>Deposition</td><td>Arnald Garnier</td> 
<td>0002</td><td>1r</td><td>Deposition</td><td>Guilhem de Rosengue</td> 
<td>0003</td><td>1r</td><td>Deposition</td><td>Hugo de Mamiros</td> 
<td>0004</td><td>1r</td><td>Deposition</td><td>P Lapassa senior</td>

非常感谢。

编辑:我在下面的自我回答中添加了更多信息,并在注释中添加了指向Dropbox中所有文件的链接。

2 个答案:

答案 0 :(得分:2)

因此,您的代码存在一些影响性能的问题。首先是您处理字符串而不是xml路径的事实。例如使用replace()而不是some/@path[. = 'xyz']时。只需使用fn:id()而不是replace(),将执行时间减少到1秒以下。

第二个是索引配置文件中缺少xmlschema名称空间声明,而不是使用那些索引,因为您强迫存在处理字符串而不是xml的情况。

第三点是您的xquery代码不会返回格式正确的xml片段的事实,出于性能原因,这始终是一个坏主意。

xquery version "3.1";
declare namespace tei="http://www.tei-c.org/ns/1.0";

declare variable $data-collection := "/db/apps/so-52709411/data";

(:always return a well-formed fragment:)
 <table>{

 let $people-collection := doc($data-collection || "/codes_people.xml")

 let $msdoc := collection($data-collection)//tei:TEI[contains(@xml:id,'ms609')]

 for $n in $msdoc
 let $registry := $n//tei:div[@type='registry_ordinal']/data(@n)
 let $type := $n//tei:div[@type='doc_type']/data(@subtype)
 let $folio := $n//tei:div[@type='folio']/data(@n)
 let $nym := substring-after($n//tei:persName[@role = 'dep']/data(@nymRef), '#') 
 let $persName := $people-collection//id($nym)/tei:persName

 return
<tr>
<td>{$registry}</td>
<td>{$type}</td>
<td>{$folio}</td>
<td>{$persName/string()
}</td>
</tr>

}
 </table>

组合
<collection xmlns="http://exist-db.org/collection-config/1.0">
<index xmlns:tei="http://www.tei-c.org/ns/1.0" xmlns:xs="http://www.w3.org/2001/XMLSchema">
    <range>
       <create qname="tei:persName" type="xs:string"/>
       <create qname="tei:person" type="xs:string"/>
       <create qname="@type" type="xs:string"/>
       <create qname="@role" type="xs:string"/>
       <create qname="@nymRef" type="xs:string"/>
    </range>
</index>
<triggers>
    <trigger class="org.exist.extensions.exquery.restxq.impl.RestXqTrigger"/>
</triggers>
 </collection>

得出实际上可用的索引

/Users/HALmob/pCloud Drive/Screenshots/Screen Shot 2018-10-15 at 01.30.42.png

,但是数据样本实际上还不够大,无法对重写的xquery产生很大的性能影响。因此,即使没有索引,您也应该在不到1s的范围内运行(取决于内存,硬件等,YMMV)

您可以下载使用您的代码here运行的可运行应用程序

答案 1 :(得分:0)

我试图通过用forlet替换某些concat()循环来简化Xquery:

xquery version "3.1";

declare namespace tei="http://www.tei-c.org/ns/1.0";

declare variable $people-collection := doc("/db/apps/deheresi/resources/documents/codes_people.xml");

let $data-collection := "/db/apps/deheresi/resources/documents"

for $msdoc in collection($data-collection)/tei:TEI[contains(@xml:id,'ms609')]

    let $concat1 := concat('<td>',
               $msdoc//tei:div[@type='registry_ordinal']/replace(@n, '#', ''), 
               '</td><td>', 
               $msdoc//tei:div[@type='doc_type']/replace(@subtype, '#', ''), 
               '</td><td>',
               $msdoc//tei:div[@type='folio']/replace(@n, '#', ''),
               '</td><td>')

    (:  obtain the attribute value of persName[@role = 'dep']/@nymRef   :)
    let $nameref := $msdoc//tei:persName[@role = 'dep']/replace(@nymRef, '#', '') 

    (:  now use the attribute value to lookup a printable name using xml:id in document codes_people.xml :)
    let $persname := normalize-space(string-join($people-collection//tei:person[@xml:id = $nameref]))

return concat($concat1,$persname,'</td>')

这些调整从查询执行时间(现在为3.5秒)中删除了0.5秒。

如果我删除了最终查询($persname),查询将在.17秒内执行。对文件codes_people.xml的查找似乎是瓶颈。

编辑:我添加了以下影响相关元素的索引,它们没有产生任何优化

<collection xmlns="http://exist-db.org/collection-config/1.0">
    <index xmlns:tei="http://www.tei-c.org/ns/1.0">
        <range>
           <create qname="tei:persName" type="xs:string"/>
           <create qname="tei:person" type="xs:string"/>
        </range>
    </index>
    <triggers>
        <trigger class="org.exist.extensions.exquery.restxq.impl.RestXqTrigger"/>
    </triggers>
</collection>

从查询探查器查看:

View from Query Profiler