爬虫中的图片该怎么处理?

如题,比如爬取新闻类,该新闻中含图片,图片该怎么处理,如果有多张图片呢

类似

     [文字]  
     [图片]  
     [文字]

或者

     [文字]  
     [图片]  
     [文字]
     [图片]
     [文字]

需要下载图片到本地?还是直接用该网站的图片源,如果要下载到本地,文字内容上又该怎么处理。


多谢各位的回答,其实我想问得一点是怎么将图片保持在原位置,比如scrapy中可以使用

div.xpath('p/text()').extract()

得到文字内容

div.xpath('p/img/@src').extract()

定位图片,那么怎么保证图片的位置和原来的位置一样呢

阅读 5k
5 个回答

如果沒有保存或收藏的必要(比如說害怕該網站關閉或是原圖失效),直接使用該網站的圖片源即可,空間上,管理上,或是版權上都比較沒有問題.當然這樣做的難度也比較低.

如果能外链就外链,但是注意防盗链。最稳妥还是下载到本地

你可以用Bs4选择对应的节点就可以了啊,xpath也可以,可以提取任何你想要的东西

下载到本地,然后将网页中的src替换为本地的相对目录

新闻?门户类站点基本上都有反盗链吧

还是伪造Referer先下载到本地,然后把原文中的图片地址替换成本地地址吧

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题