1

前言

一直对web爬虫充满了兴趣,搜索一番,决定从scrapy开发,此系列文章分两篇,安装与实例编写。
我的软件环境与版本为:windows7、Python3.5

安装

Python的安装就不说了,直接进入scrapy的相关安装。安装前阅读安装文档

1.Anaconda or Miniconda

按照文档说明,其推荐安装 Anaconda or Miniconda,可能会避免一些不必要的麻烦,虽然不知道为什么,但照做应该是不会错的 heihei)
打开 https://conda.io/docs/user-guide/install/index.html,找到下图,点击windows的;在自后的网页上部分找到Installing on Windows,点击Miniconda for Windows;周后选择适合于自己Windows的版本下载就好了(我的是64位的)。
Miniconda Windows

download the installer for windows

download the installer for windows

下载完成后,按照一般Windows上安装软件的流程安装就好了,一路next即可。安装完成后,会发现开始菜单中多了一个
图片描述

以后关于scrapy的命令行操作在这个提示符里完成即可。

2.virtualenv安装

接下来,文档又建议在开发时尽量使用虚拟环境,virtualenv是啥?

开发多个Python项目时,不同项目可能用的Python版本不同或者依赖的第三方包也不同,但是系统安装的Python版本只有一个(比如3.5),肿么办?那么virtualenv就派上用场了,virtualenv可以隔离各个项目,不同项目可以拥有自己的运行环境。

打开前面提到的Anaconda Prompt,输入pip install virtualenv即可安装

3.Scrapy安装

Scrapy既可以全局安装也可以局部安装,我这里是局部安装,只安装在了爬虫的项目中
打开Anaconda Prompt,定位到项目目录(D:\py\scrapytest)
生成名为venv的虚拟环境
通过virtualenv --no-site-packages venv命令,创建该目录的虚拟环境,环境名为venv。
然后通过venv\Scripts\activate激活该环境,注意到命令前有(venv)表示该虚拟环境下。
然后通过conda install -c conda-forge scrapy安装scrapy,安装完成过后输入scrapy,若显示版本号,则证明以安装成功
scrapy安装

下一节

用Scrapy编写一个爬取豆瓣8.9评分以上军事类图书的小爬爬


TAG_WW
55 声望6 粉丝

龟速前行的ZZ


引用和评论

0 条评论