使用html5-parser和xmls Common Lisp导航网页

时间:2016-01-28 15:36:29

标签: lisp common-lisp

我正在尝试获取标题为“Name”的列下的第一行,例如对于https://en.wikipedia.org/wiki/List_of_the_heaviest_people,我想返回名称“Jon Brower Minnoch”。到目前为止,我的代码如下,但我认为必须有更通用的方法来获取名称:

border-radius

然后调用函数:

(defun find-tag (tag doc)
 (when (listp doc)
  (when (string= (xmls:node-name doc) tag)
   (return-from find-tag doc))
  (loop for child in (xmls:node-children doc)
   for find = (find-tag tag child)
   when find do (return-from find-tag find)))
  nil)

(defun parse-list-website (url)
  (second (second (second (third (find-tag "td" (html5-parser:parse-html5 (drakma:http-request url) :dom :xmls)))))))

我对xmls不是很好,也不知道如何在某个列标题下得到一个td。

1 个答案:

答案 0 :(得分:4)

html5-parser:parse-html5返回的文档中的元素采用以下格式:

("name" (attribute-alist) &rest children)

您可以使用标准列表操作函数访问这些部分,但xmls还提供函数node-namenode-attrsnode-children来访问这三个部分。使用它们会更清楚一些。 修改:还有函数xmlrep-attrib-value,用于获取属性的值,xmlrep-tagmatch用于匹配标记名称。子项是纯字符串,或者是相同的元素格式。

例如,带有2x2表的html文档如下所示:

(defparameter *doc*
  '("html" ()
     ("head" ()
       ("title" ()
         "Some title"))
     ("body" ()
       ("table" (("class" "some-class"))
         ("tr" (("class" "odd"))
           ("td" () "Some string")
           ("td" () "Another string"))
         ("tr" (("class" "even"))
           ("td" () "Third string")
           ("td" () "Fourth string"))))))

为了遍历dom-tree,我们可以像这样定义递归深度优先搜索(请注意if-let取决于alexandria库(导入它,或将其更改为{ {1}})):

alexandria:if-let

使用谓词函数和文档调用它。谓词函数用两个参数调用;匹配的元素和它的祖先列表。为了找到第一个(defun find-tag (predicate doc &optional path) (when (funcall predicate doc path) (return-from find-tag doc)) (when (listp doc) (let ((path (cons doc path))) (dolist (child (xmls:node-children doc)) (if-let ((find (find-tag predicate child path))) (return-from find-tag find)))))) ,您可以这样做:

<td>

或者找到偶数行中的第一个(find-tag (lambda (el path) (declare (ignore path)) (and (listp el) (xmls:xmlrep-tagmatch "td" el))) *doc*) ; => ("td" NIL "Some string")

<td>

在偶数行上获取第二个(find-tag (lambda (el path) (and (listp el) (xmls:xmlrep-tagmatch "td" el) (string= (xmls:xmlrep-attrib-value "class" (first path)) "even"))) *doc*) ; => ("td" NIL "Third string") 需要这样的内容:

<td>

您可以定义辅助函数来查找第n个标记:

(let ((matches 0))
  (find-tag (lambda (el path)
              (when (and (listp el)
                         (xmls:xmlrep-tagmatch "td" el)
                         (string= (xmls:xmlrep-attrib-value "class" (first path))
                                  "even"))
                (incf matches))
              (= matches 2))
            *doc*))

您可能希望有一个简单的帮助程序来获取节点的文本:

(defun find-nth-tag (n tag doc)
  (let ((matches 0))
    (find-tag (lambda (el path)
                (declare (ignore path))
                (when (and (listp el)
                           (xmls:xmlrep-tagmatch tag el))
                  (incf matches))
                (= matches n))
              doc)))
(find-nth-tag 2 "td" *doc*) ; => ("td" NIL "Another string")
(find-nth-tag 4 "td" *doc*) ; => ("td" NIL "Fourth string")

您可以定义类似的帮助程序,以便在您的应用程序中执行任何操作。使用这些,您给出的示例如下所示:

(defun node-text (el)
  (if (listp el)
      (first (xmls:node-children el))
      el))