蜜桃精品成人影片_99热在线精品免费_日韩亚洲中字无码一区二区三区_亚洲中文字幕久久精品无码一区

您現(xiàn)在所在的位置:首頁 >常見問題 > 課程問題 > 網(wǎng)絡爬蟲有哪些分類

網(wǎng)絡爬蟲有哪些分類

來源:奇酷教育 發(fā)表于:

網(wǎng)絡爬蟲有哪些分類

?  網(wǎng)絡爬蟲有哪些分類?



  通用網(wǎng)絡爬蟲:爬行對象從一些種子 URL 擴充到整個 Web,主要為門戶站點搜索引擎和大型 Web 服務提供商采集數(shù)據(jù)。 通用網(wǎng)絡爬蟲的爬取范圍和數(shù)量巨大,對于爬行速度和存儲空間要求較高,對于爬行頁面的順序要求較低,通常采用并行工作方式,有較強的應用價值。
 
  聚焦網(wǎng)絡爬蟲:  又稱為主題網(wǎng)絡爬蟲:是指選擇性地爬行那些與預先定義好的主題相關的頁面,和通用爬蟲相比,聚焦爬蟲只需要爬行與主題相關的頁面,極大地節(jié)省了硬件和網(wǎng)絡資源,保存的頁面也由于數(shù)量少而更新快,可以很好地滿足一些特定人群對特定領域信息的需求。
 
  增量網(wǎng)絡爬蟲:對已下載網(wǎng)頁采取增量式更新和只爬行新產(chǎn)生的或者已經(jīng)發(fā)生變化網(wǎng)頁的爬蟲,它能夠在一定程度上保證所爬行的頁面是盡可能新的頁面,歷史已經(jīng)采集過的頁面不重復采集。增量網(wǎng)絡爬蟲避免了重復采集數(shù)據(jù),可以減小時間和空間上的耗費。通常在設計網(wǎng)絡爬蟲時,需要在數(shù)據(jù)庫中,加入時間戳,基于時間戳上的先后,判斷程序是否繼續(xù)執(zhí)行。 常見的案例有:論壇帖子評論數(shù)據(jù)的采集(如論壇的帖子,它包含400多頁,每次啟動爬蟲時,只需爬取最近幾天用戶所發(fā)的帖子);天氣數(shù)據(jù)的采集;新聞數(shù)據(jù)的采集;股票數(shù)據(jù)的采集等。
 
  Deep Web 爬蟲:指大部分內容不能通過靜態(tài)鏈接獲取,只有用戶提交一些表單信息才能獲取的 Web 頁面。例如,需要模擬登陸的網(wǎng)絡爬蟲便屬于這類網(wǎng)絡爬蟲。另外,還有一些需要用戶提交關鍵詞才能獲取的內容,如京東淘寶提交關鍵字、價格區(qū)間獲取產(chǎn)品的相關信息。
阜新市| 崇文区| 绥江县| 连城县| 当阳市| 南昌市| 苏尼特左旗| 灵石县| 新乡市| 大名县| 建水县| 平潭县| 昭觉县| 延边| 嘉祥县| 驻马店市| 林芝县| 巨鹿县| 沽源县| 甘南县| 百色市| 德钦县| 双流县| 页游| 盐亭县| 海原县| 禄丰县| 手游| 巴彦县| 贵德县| 民丰县| 福州市| 盐亭县| 肇州县| 长春市| 锡林浩特市| 乌恰县| 富阳市| 油尖旺区| 高安市| 闻喜县|