使用python3 bs4爬取电影天堂的最新电影http://www.dytt8.net/
可是爬出来都是网页数据,很乱,可以使用soup.findAll直接找到链接的标签进行提取<a herf=。。。吗?,我的代码如下:
import urllib.request
from bs4 import BeautifulSoup
html = urllib.request.urlopen('http://www.dytt8.net/')
bsObj = BeautifulSoup(html,'html.parser')
a = bsObj.findAll('div',{'class':'co_content8'})
list1 = []
for i in a:
j = i.findAll('a')
print(type(j))
print('###')
print(list1.append(str(j)))
print('list1 is :',list1)
print(type(list1))
print(len(list1))
for n in list1:
print(n.split(','))
网页部分源码如下:
推荐使用CSS选择或者xpath、pyjquery
传统都用的正则,findall也可以,不过效果不好,