2016-10-07 5 views
1

大量のデータを処理するのにasync queueを使用しています。キューは、MongoDB findOneAndUpdateメソッドでデータベース内の更新を実行しようとするまで機能します。コールバックが非同期キューで起動しないのはなぜですか?

私が最初のキューを確立し、ノードストリームから、それにオブジェクトをプッシュスタート:

//Create queue to process all items 
let q = async.queue(processLink, 2); 

// Create Node Stream 
let createStream = function() { 
    let stream = fs.createReadStream(LinkData, {encoding: 'utf8'}); 
    let parser = JSONStream.parse('RECDATA.*'); 
    return stream.pipe(parser); 
}; 

//Listen to 'data' event on stream and add object to queue 
createStream().on('data', function(link){ 
    q.push(link) 
}); 

は、ここに私のタスク機能、「processLink」です。ここでは、問題を追跡するのに問題があります。 findOneAndUpdateコールバックが呼び出されるたびに条件ブロックの1つが入力され、コンソールにログアウトされたメッセージが表示されますが、非同期コールバックprocessComplete()を呼び出すと、タスクは期待どおりに終了しません。

タイトルに示されているように、私の非同期コールバックが各タスクを完了しないのはなぜですか?

function processLink(link, processComplete){ 
    if(_.includes(link.URL, 'www.usda.gov') && _.includes(link.URL, '?recid=')){ 
     let url_items = _.split(link.URL, '=',2); 
     let facilityOrgID = url_items[1]; 
     let update = {$push: {"links": link}}; 

     if(_.isNumber(parseInt(facilityOrgID)) && facilityOrgID.length > 4){ 

      Facility.findOneAndUpdate({facilityOrgID: parseInt(facilityOrgID)}, update, (err, result) => { 

       if(err !== null){ 
        console.log("Error:",err); 
        return processComplete(err); /** NOT FIRING **/ 
       } else if(err === null && result !== null){ 

        console.log("Link added to:", result.name); 
        return processComplete(); /** NOT FIRING **/ 
       }else if(err === null && result === null){ 

        console.log('Facility not in database'); 
        processComplete(); /** NOT FIRING **/ 
       }else{ 
        console.log('Something has gone terrible wrong'); 
       } 
      }); 

     }else{ 
      console.log("Invalid facilityID"); 
      return processComplete(); 
     } 

    }else{ 
     console.log('Link Discarded:', link.URL); 
     processComplete(); /** Fires normally **/ 
    } 
} 

答えて

0

私は今朝問題を解決しました。コールバックはうまくいきましたが、私が気づいていないデータの条件付き状態があったため、コードがprocessComplete()コールバックを決して呼び出さない状態になっていました。

他の人が同様のバインドで自分自身を見つけていて、膨大なデータがある場合は、データが正確に報告されていることを確認して、期待通りに処理されていないエッジケースはありません。

関連する問題