今天给大家介绍的是Python爬取漫画数据，在这里给需要的小伙伴们代码，并且给出一点小心得。
首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫，基本的是加请求头，但是这样的纯文本数据爬取的人会很多，所以我们需要考虑更换代理IP和随机更换请求头的方式来对漫画数据进行爬取。
在每次进行爬虫代码的编写之前，我们的第一步也是最重要的一步就是分析我们的网页。
通过分析我们发现在爬取过程中速度比较慢，所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。
Python版本：
3.6
相关模块：
requests模块
time模块
bs4模块
tqdm模块
contextlib模块
安装Python并添加到环境变量，pip安装需要的相关模块即可。
文中完整代码及文件，评论留言获取
浏览器中打开我们要爬取的页面
按F12进入开发者工具，查看我们想要的漫画数据在哪里
这里我们需要页面数据就可以了
漫画下载代码实现
for i, url in enumerate(tqdm(chapter_urls)):
print(i,url)
download_header = {
'Referer':url,
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'
name = chapter_names[i]
while '.' in name:
name = name.replace('.', '')
chapter_save_dir = os.path.join(save_dir, name)
if name not in os.listdir(save_dir):
os.mkdir(chapter_save_dir)
r = requests.get(url=url)
html = BeautifulSoup(r.text, 'lxml')
script_info = html.script
pics = re.findall('\d{13,14}', str(script_info))
for j, pic in enumerate(pics):
if len(pic) == 13:
pics[j] = pic + '0'
pics = sorted(pics, key=lambda x: int(x))
chapterpic_hou = re.findall('\|(\d{5})\|', str(script_info))[0]
chapterpic_qian = re.findall('\|(\d{4})\|', str(script_info))[0]
for idx, pic in enumerate(pics):
if pic[-1] == '0':
url = 'https://images.dmzj.com/img/chapterpic/' + chapterpic_qian + '/' + chapterpic_hou + '/' + pic[
:-1] + '.jpg'
else:
url = 'https://images.dmzj.com/img/chapterpic/' + chapterpic_qian + '/' + chapterpic_hou + '/' + pic + '.jpg'
pic_name = '%03d.jpg' % (idx + 1)
pic_save_path = os.path.join(chapter_save_dir, pic_name)
print(url)
response = requests.get(url,headers=download_header)
print(response)
if response.status_code == 200:
with open(pic_save_path, "wb") as file:
file.write(response.content)
else:
print('链接异常')
time.sleep(2)
本篇介绍了主要使用 requests模块来请求数据，使用起来也是非常简单感兴趣的可以自己尝试一下。本篇源码已上传至公众号。
我是戴沐白，微信公众号：Python工程狮。
👍🏻：觉得有收获请点个赞鼓励一下！
🌟：收藏文章，方便回看哦！
💬：评论交流，互相进步！
运营 @热爱技术，热爱生活，更爱关注我的
粉丝
