一只爬虫(一)

2019-11-30
阅读 3 分钟
2.4k
本篇无标题,都说爬虫写得好,牢饭吃到饱,本来不想写爬虫的,毕竟风险有点高,但是作为一个搞搜索的人,怎么能不了解一下爬虫呢,怎么能不自己深入了解一下爬虫的原理呢,而且,知道了爬虫的一般性原理和一些开源的爬虫框架以后,写出一个自己的小爬虫并不是一件很难的事情,而一个自己的小爬虫,有时候还是很有用的,...

我爬了价值1800亿的商品信息

2017-03-18
阅读 5 分钟
4k
好久没来了,今天来聊聊个有意思的吧,这些天由于一些原因,自己撸了个爬虫框架,因为要测试一下效果,于是到处爬东西,爬了不少有意思的数据,后面也会说一些别的数据,那天,连爬了四天绿中介的网站,说句实在的,绿中介反爬做得还行,阵亡好多代理ip,而且有些个代理还没用就已经被封了,当然,对于这种不需要登录的...