项目:爬取房天下网站全国所有城市的新房和二手房信息
网站url分析
1.获取所有城市url
2.新房url
3.二手房url
4.北京新房和二手房url规则不同
sfw_spider.py
tems.py
pipelines.py
middleware.py 设置随机User-Agent
settings.py
start.py
fromscrapyimport cmdline
cmdline.execute("scrapy crawl sfw_spider".split())