Question

我正在尝试使用Node.js，request和cheerio在我学校的课程安排网站上搜索链接。但是，我的代码未达到所有主题链接。

链接至课程安排网站here。

以下是我的代码：

var express = require('express');
var request = require('request');
var cheerio = require('cheerio');

var app = express();

app.get('/subjects', function(req, res) {
  var URL = 'http://courseschedules.njit.edu/index.aspx?semester=2016s';

  request(URL, function(error, response, body) {
    if(!error) {
      var $ = cheerio.load(body);

      $('.courseList_section a').each(function() {
        var text = $(this).text();
        var link = $(this).attr('href');

        console.log(text + ' --> ' + link);
      });
    }
    else {
      console.log('There was an error!');
    }
  });
});

app.listen('8080');
console.log('Magic happens on port 8080!');

我的输出可以找到here。

从输出中可以看出，缺少一些链接。更具体地说，来自“A”，“I（续）”和“R”（续）的部分的链接。这些也是每一栏的第一部分。

每个部分都包含在自己的div中，类名为“courseList_section”，所以我不明白为什么'.courseList_section a'不会遍历所有链接。我错过了一些明显的东西吗任何和所有见解都非常感激。

提前谢谢！

Answer 1

问题不在于您的代码，而是您尝试解析的网站问题。 HTML标记无效。您正在尝试解析.courseList_section内的所有内容，但标记看起来像这样。

<span> <!-- Opening tag -->
    <div class='courseList_section'>
      <a href='index.aspx?semester=2016s&ƒ=ACC '>ACC  - Accounting/Essex CC</a>
      </span> <!-- Invalid closing tag for the first span, menaing that .courseList_section will be closed instead

<!-- Suddenly this link is outside the .courseList_section tag, meaning that it will be ignored by cheerio -->
<a href='index.aspx?semester=2016s&subjectID=ACCT'>ACCT - Accounting</a>
  <!-- and so on -->

解决方案。获取所有链接并忽略那些与任何课程无关的链接。

var request = require('request');
var cheerio = require('cheerio');

var URL = 'http://courseschedules.njit.edu/index.aspx?semester=2016s';

request(URL, function(error, response, body) {
  if(error) { return  console.error('There was an error!'); }

  var $ = cheerio.load(body);

  $('a').each(function() {
    var text = $(this).text();
    var link = $(this).attr('href');

    if(link && link.match(/subjectID/)){
      console.log(text + ' --> ' + link);
    };
  });
});

下次尝试直接查看HTML，看看它是否合适。如果它看起来像****，则通过HTML beautifier传递并再次检查。甚至美化者也无法处理这个标记，这表明标签出了问题。

使用Node.js，request和cheerio从网站上搜索链接？

1 个答案: