更新数据库时,如何快速验证数据并进行删添?

我在爬取别人的数据并存入库
假设爬取的是1个页面有25个数据。我爬取了50个页面。
由于网站每过一段时间就有添加数据和删除数据
所以我每过一段时间就要进行一次爬取,同样也是50个页面,一个页面有25个数据。
第一次与第二次数据相比,如果第一次的数据没再出现则把数据库中对应的数据标记为过期
如果第二次的数据有新增的数据则加入到数据库中

请问我该如何过滤这些数据库中的数据

阅读 1.9k
1 个回答

直接全部替换呗,何必这么麻烦。。。

或者:用第三方的唯一id来判断