Node.js와 Redis를 사용하여 웹 크롤러 구축: 데이터를 효율적으로 스크랩하는 방법

npm install request cheerio --save

const request = require('request');
const cheerio = require('cheerio');

class Crawler {
  constructor(url) {
    this.url = url;
  }

  getData(callback) {
    request(this.url, (error, response, body) => {
      if (!error && response.statusCode === 200) {
        const $ = cheerio.load(body);
        // 解析HTML代码，获取数据
        // ...
        callback(data);
      } else {
        callback(null);
      }
    });
  }
}

const crawler = new Crawler('http://www.example.com');
crawler.getData((data) => {
  if (data) {
    console.log(data);
  } else {
    console.log('获取数据失败');
  }
});

npm install redis --save

const redis = require('redis');
const client = redis.createClient();

class Crawler {
  constructor(url) {
    this.url = url;
  }

  getData(callback) {
    client.get(this.url, (err, reply) => {
      if (reply) {
        console.log('从缓存中获取数据');
        callback(JSON.parse(reply));
      } else {
        request(this.url, (error, response, body) => {
          if (!error && response.statusCode === 200) {
            const $ = cheerio.load(body);
            // 解析HTML代码，获取数据
            // ...
            // 将数据保存到缓存中
            client.set(this.url, JSON.stringify(data));
            callback(data);
          } else {
            callback(null);
          }
        });
      }
    });
  }
}