問題描述

最近在爬股票的相關(guān)新聞，一開始設(shè)想的是，當(dāng)有新的新聞動態(tài)發(fā)布，程序通過郵件發(fā)送最新內(nèi)容到郵箱。

所以我想把新聞標(biāo)題，內(nèi)容存到數(shù)據(jù)庫里，當(dāng)內(nèi)容更新時，把新的內(nèi)容和數(shù)據(jù)庫的標(biāo)題列表對比，看是不是已存在的，如果已存在，那就不發(fā)送，如果沒有，那發(fā)送到郵箱。

但數(shù)量大了以后，列表查詢速度就會變慢，請問各位還有什么方法可以傳授下嗎？

問題解答

爬蟲任務(wù)去重

抓過的鏈接存到一個set中，檢查新鏈接是否在集合中即可。

去重有很多方法，比如樓上的set或者布隆過濾器都可以有效的使用內(nèi)存，提升效率