0
通過支持優先級我的意思是當你從物品管道中彈出一個物品時,它返回一個具有最高優先級的物品。scrapy項目出口商支持優先?如果是的話如何?
通過支持優先級我的意思是當你從物品管道中彈出一個物品時,它返回一個具有最高優先級的物品。scrapy項目出口商支持優先?如果是的話如何?
也許你可以自己定製它。
pipelines.py
class PriorityPipeline(object):
def __init__(self):
self.ids_seen = set()
def process_item(self, item, spider):
if item['id'] in self.ids_seen:
raise DropItem("Duplicate item found: %s" % item)
else:
self.ids_seen.add(item['id'])
return item
settings.py
ITEM_PIPELINES = [
'soufun.pipelines.PriorityPipeline',
]