pyspider 如果从网页的输入框中往 pyspider传值?

如果从网页的输入框中往 pyspider传值?
如,我有一个机票搜索网页类似携程去哪儿,在网页上填写出发城市、抵达城市和出发日期,点击搜索按钮,怎么去调用 pyspider,并将这些参数传给 pyspider呢?
初学者跪求答案,谢谢!

阅读 3.4k
3 个回答

实时爬取不推荐使用pyspider,改用scrapy可解决

pyspider 不关心页面行为,只关心 http 层行为。
你要搞清楚页面行为是怎么映射到 http 请求的。

如果从网页的输入框中往 pyspider传值?
  • 如果:估计是笔误,应该是如何

需要搞懂:

输入框输入了内容 + 触发搜索 + 返回结果 + 页面加载显示

这套操作背后的逻辑,即调用了哪些http的接口,传递了哪些参数,然后才能去把相关的逻辑,转换为,写成PySpider中的Python爬虫代码

如,我有一个机票搜索网页类似携程去哪儿,在网页上填写出发城市、抵达城市和出发日期,点击搜索按钮,怎么去调用 pyspider,并将这些参数传给 pyspider呢?
初学者跪求答案,谢谢!

基于你的需求,如果只是想要模拟浏览器操作抓取返回结果的话,其实更适合用Selenium

但是不论用Selenium还是你说的PySpider,都先要搞懂如何分析内部逻辑。

其实作为一个,你自己也提到了的,初学者,在此之前需要搞懂整个爬虫的爬虫的核心逻辑,知道了爬虫是啥,一般包含哪些步骤,然后你才知道,要先去抓包分析,搞懂内部逻辑后才涉及到写Python的爬虫代码,以及如何写成PySpider的代码,最后才能抓取到你要的数据。

总结:

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题