文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:89日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. python - Pycharm的Debug用不了2. 安全性測試 - nodejs中如何防mySQL注入3. Python中使用超長的List導致內存占用過大4. javascript - 關于apply()與call()的問題5. python - pandas按照列A和列B分組,將列C求平均數,怎樣才能生成一個列A,B,C的dataframe6. python文檔怎么查看?7. javascript - axios請求回來的數據組件無法進行綁定渲染8. javascript - JS變量被清空9. html - eclipse 標簽錯誤10. javascript - 有適合開發手機端Html5網頁小游戲的前端框架嗎?
排行榜
