python3 BeautifulSoup方面问题

from collections import Counter
import requests
from bs4 import BeautifulSoup
from urllib import request
import urllib
url = 'http://www.baidu.com.cn/s?wd=' + urllib.parse.quote('BeautifulSoup') + '&pn='  # word为关键词,pn是百度用来分页的..
headers = {    
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36',    
'Connection': 'keep-alive',       
'accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8'}

r=requests.get(url,headers=headers)
soup = BeautifulSoup(r.text.replace('<b>', '').replace('</b>', ''),'lxml')
print(soup.find(id="3").find('a', 'c-showurl').string)
#for i in range(1, 11):
#    print(soup.find(id=i).find('a', 'c-showurl').string)

问题主要在最后三行,如果find(id="3")就行find(id=i)就报错,请问如何解决?
还有个问题,就是为何通过python取的搜索结果与电脑搜索到的结果不同?

阅读 2.1k
2 个回答

第一个问题,id="3" 是str,id=i是int,当然不一样了,改成id=str(i)
第二个问题,页面是不是有js加载的数据,你是想说要获取这样的吗
图片描述
如果是这样你代码中元素定位就要改一下

当url为:url = 'https://www.baidu.com.cn/s?wd=' + urllib.parse.quote('python3') + '&pn='
时获取结果为
https://www.python.org/
www.runoob.com/python3...
https://www.liaoxuefeng.com/w...
https://www.python.org/downloads
www.runoob.com/python3...
www.runoob.com/python3...
https://jecvay.com/category/s...
https://www.python.org/downlo...
https://docs.python.org/
https://www.yiibai.com/python...
直接用浏览中的url:https://www.baidu.com/s?wd=py...

结果如下:
https://www.python.org/
www.runoob.com/python3...
https://www.liaoxuefeng.com/w...
www.runoob.com/python3...
https://jecvay.com/category/s...
www.runoob.com/python3...
https://www.python.org/downloads
https://www.python.org/downlo...
https://www.yiibai.com/python...
https://docs.python.org/

本身两种结果就不同,然后也都不同于手动在浏览器查询的结果,这是什么原因呢?

实际结果如图
图片描述

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
推荐问题