python爬虫程序的原理是什么？PHP不能写爬虫吗？

Question

python爬虫程序的原理是什么？PHP不能写爬虫吗？

Answer 1

爬虫的原理是从一个起始种子链接开始，发http请求这个链接，得到该链接中的内容，然后大多使用正则匹配出页面里面的有效链接，然后将这些链接保存到待访问队列中，等待爬取线程取这个待访队列，一旦链接访问过了，为了有效的减少不必要的网络请求，我们应该把访问过的链接放到一个已访问map中，已防止重复抓取及死循环。我以上提到的过程可能是一个比较简单的爬虫实现，复杂的可能不会这么简单，但这里面有几个概念，一个是发http请求，一个是正则匹配你感兴趣的链接，一个是多线程，另外还有两个队列，理论上，任何能实现这么些概念的编程语言去写爬虫都是可以的，期间取舍还是看自己对熟练成都。

Answer 2

先看看这个如何入门 Python 爬虫？

---

PHP也是可以写爬虫的：https://github.com/search?l=PHP&o=desc&q=spider&ref=searchresults&s=stars&type=Repositories&utf8=%E2%9C%93

Answer 3

爬虫的原理都是HTTP请求和应答，底层基于TCP/IP协议。
PHP也可以写爬虫，不过Python写起来更方便，内置很多模块可以直接使用。

Answer 4

不管php还是python都可以写爬虫。
原理：
获取整个网页,然后用正则匹配出自己需要的内容
大概原理就是这样

python比php多了多线程 多进程
现有的python scrapy框架专门为爬虫设计的 据说很厉害。。
http://jinri.info 我自己的网站 python爬的信息

Answer 5

看这里哪种语言合适写爬虫程序
另外推荐一本书webbots spiders 和 screen scrapers,主要讲php的爬虫

Answer 6

php有curl和simple xml，完全可以做到获取网页之后解析dom树。

但是php不方便做多线程，需要三方扩展，可能会麻烦一些。当然你也可以用单线程，慢一点就是了。

Answer 7

笼统的来说，爬虫就是你向目标服务器发送一个请求，他会给你页面，但是页面不经过浏览器解析，他就是html源码，然后你解析对方服务器发过来的源码，提取你需要的信息，这就是爬虫。

Answer 8

关注这个博客很久了，写的爬虫教程很多，关键是教程好细致，特色适合初学者
推荐给你看看

youmumzcs的专栏
http://blog.csdn.net/youmumzc...

Answer 9

用javascript也可以写爬虫 在云端编写和执行 源码地址：
https://github.com/ShenJianSh...