前言
一直对web爬虫充满了兴趣,搜索一番,决定从scrapy开发,此系列文章分两篇,安装与实例编写。
我的软件环境与版本为:windows7、Python3.5
安装
Python的安装就不说了,直接进入scrapy的相关安装。安装前阅读安装文档。
1.Anaconda or Miniconda
按照文档说明,其推荐安装 Anaconda or Miniconda,可能会避免一些不必要的麻烦,虽然不知道为什么,但照做应该是不会错的 heihei)
打开 https://conda.io/docs/user-guide/install/index.html,找到下图,点击windows的;在自后的网页上部分找到Installing on Windows,点击Miniconda for Windows;周后选择适合于自己Windows的版本下载就好了(我的是64位的)。
下载完成后,按照一般Windows上安装软件的流程安装就好了,一路next即可。安装完成后,会发现开始菜单中多了一个
以后关于scrapy的命令行操作在这个提示符里完成即可。
2.virtualenv安装
接下来,文档又建议在开发时尽量使用虚拟环境,virtualenv是啥?
开发多个Python项目时,不同项目可能用的Python版本不同或者依赖的第三方包也不同,但是系统安装的Python版本只有一个(比如3.5),肿么办?那么virtualenv就派上用场了,virtualenv可以隔离各个项目,不同项目可以拥有自己的运行环境。
打开前面提到的Anaconda Prompt,输入pip install virtualenv
即可安装
3.Scrapy安装
Scrapy既可以全局安装也可以局部安装,我这里是局部安装,只安装在了爬虫的项目中
打开Anaconda Prompt,定位到项目目录(D:\py\scrapytest)
通过virtualenv --no-site-packages venv
命令,创建该目录的虚拟环境,环境名为venv。
然后通过venv\Scripts\activate
激活该环境,注意到命令前有(venv)
表示该虚拟环境下。
然后通过conda install -c conda-forge scrapy
安装scrapy,安装完成过后输入scrapy,若显示版本号,则证明以安装成功
下一节
用Scrapy编写一个爬取豆瓣8.9评分以上军事类图书的小爬爬
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。