node.js - nodejs大批量下载图片自动中断的问题如何解决
黄舟
黄舟 2017-04-17 14:35:48
0
3
975

图片列表大概有1万个图片地址,
使用nodejs下载的时候,莫名其妙就会出现错误。

基本代码如下:

var downloadImage2 = function (src) {
          var iArr = src.split("/");
        var imageName = iArr[iArr.length - 1];
        //console.log("Download begin: " + imageSrc);

        var download = function(uri, filename, callback) {
            request.head(uri, function(err, res, body) {
                // console.log('content-type:', res.headers['content-type']);
                // console.log('content-length:', res.headers['content-length']);
if (uri) {request(uri).pipe(fs.createWriteStream(filename)).on('close', callback);}
                
            });
        };

        download(src, "./images/" + imageName, function() {
            console.log('done: ' + index++);

        });
    
}

出现的错误也有点莫名其妙,有时候是:

events.js:160
      throw er; // Unhandled 'error' event
      ^

Error: Invalid URI "undefined"
    at Request.init (/Users//dirread/node_modules/request/request.js:275:31)
    at new Request (/Users/dirread/node_modules/request/request.js:129:8)
    at request (/Users/dirread/node_modules/request/index.js:55:10)
    at Request._callback (/Users//down.js:21:11)
    at self.callback (/Users//dirread/node_modules/request/request.js:187:22)
    at emitOne (events.js:96:13)
    at Request.emit (events.js:188:7)
黄舟
黄舟

人生最曼妙的风景,竟是内心的淡定与从容!

répondre à tous(3)
Ty80

Invalid URI "undefined"
给src容个错,传错的地址就不要下载了。

迷茫

改成用fs.writeFile的方式试试。

洪涛

其实给URI加一个判空处理很简单,但是以我的经验来看,问题是出现了在了解析URL的时候出现了错误,导致有些资源URL没有拿到正确的地址。建议从这个角度出发排查一下。

Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal