色综合图-色综合图片-色综合图片二区150p-色综合图区-玖玖国产精品视频-玖玖香蕉视频

您的位置:首頁技術文章
文章詳情頁

Python Scrapy框架:通用爬蟲之CrawlSpider用法簡單示例

瀏覽:4日期:2022-07-30 13:12:21

本文實例講述了Python Scrapy框架:通用爬蟲之CrawlSpider用法。分享給大家供大家參考,具體如下:

步驟01: 創建爬蟲項目

scrapy startproject quotes

步驟02: 創建爬蟲模版

scrapy genspider -t quotes quotes.toscrape.com

步驟03: 配置爬蟲文件quotes.py

import scrapyfrom scrapy.spiders import CrawlSpider, Rulefrom scrapy.linkextractors import LinkExtractorclass Quotes(CrawlSpider): # 爬蟲名稱 name = 'get_quotes' allow_domain = [’quotes.toscrape.com’] start_urls = [’http://quotes.toscrape.com/’]# 設定規則 rules = ( # 對于quotes內容頁URL,調用parse_quotes處理, # 并以此規則跟進獲取的鏈接 Rule(LinkExtractor(allow=r’/page/d+’), callback=’parse_quotes’, follow=True), # 對于author內容頁URL,調用parse_author處理,提取數據 Rule(LinkExtractor(allow=r’/author/w+’), callback=’parse_author’) )# 提取內容頁數據方法 def parse_quotes(self, response): for quote in response.css('.quote'): yield {’content’: quote.css(’.text::text’).extract_first(), ’author’: quote.css(’.author::text’).extract_first(), ’tags’: quote.css(’.tag::text’).extract() } # 獲取作者數據方法 def parse_author(self, response): name = response.css(’.author-title::text’).extract_first() author_born_date = response.css(’.author-born-date::text’).extract_first() author_bron_location = response.css(’.author-born-location::text’).extract_first() author_description = response.css(’.author-description::text’).extract_first() return ({’name’: name, ’author_bron_date’: author_born_date, ’author_bron_location’: author_bron_location, ’author_description’: author_description })

步驟04: 運行爬蟲

scrapy crawl quotes

更多相關內容可查看本站專題:《Python Socket編程技巧總結》、《Python正則表達式用法總結》、《Python數據結構與算法教程》、《Python函數使用技巧總結》、《Python字符串操作技巧匯總》、《Python入門與進階經典教程》及《Python文件與目錄操作技巧匯總》

希望本文所述對大家基于Scrapy框架的Python程序設計有所幫助。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 女人张开腿让男人捅视频 | 成人在免费视频手机观看网站 | 亚洲偷 | 亚洲国产精品久久日 | 日本一级高清片免费 | 天天拍拍夜夜出水 | 亚洲国产综合人成综合网站00 | 久久受www免费人成看片 | 国产激情久久久久久影院 | 蝴蝶成人世界第八影院 | 波多野结衣一区二区三区在线观看 | 中文字幕在线观看亚洲日韩 | 成人在线播放 | 手机看片国产欧美日韩高清 | 免费人成网站免费看视频 | 久草精品视频 | 欧美一级片观看 | 中国一级毛片在线观看 | 国产日韩欧美精品在线 | 国产一区中文字幕在线观看 | 欧美一级黄色毛片 | 美女被爆免费视频软件 | 九九热播视频 | 日本欧美精品 | 免费人成在线观看网站品爱网 | 精品免费在线视频 | 国产一级片观看 | 怡红院在线视频观看 | 欧美一区二区在线观看免费网站 | 久久精品道一区二区三区 | a免费网站 | 男人女人真曰批视频播放 | 久久国产一区二区 | 亚洲免费久久 | 91成人国产 | 欧美一级毛片在线播放 | 九九视频高清视频免费观看 | 国内偷自第一二三区 | 欧美一级影院 | 日本红怡院亚洲红怡院最新 | 亚洲专区视频 |