用Python爬取了妹子网100G的套图，值得收藏

admin管理员组

文章数量:1794759

用Python爬取了妹子网100G的套图，值得收藏

前言最近在做监控相关的配套设施，发现很多脚本都是基于Python的。很早之前就听说其大名，人生苦短，我学Python，这并非一句戏言。随着人工智能、机器学习、深度学习的崛起，目前市面上大部分的人工mba报考条件智能的代码 大多使用Python 来编写。所以人工智能时代，是时候学点Python了。进军指南对于没有任何语言开发经验的同学，建议从头系统的学起，无论是书、视频还是文字教程都可以。 另外注意：不管你是为了Python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你缺新项目练习或者没有python精讲教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新教程套路情话项目，还可以跟老司机交流讨教！如果是有其他语言开发经验的同学，建议从一个案例入手，比如爬取某个网站的套图。因为语言都是想通的，语法之类的只要你要语感，代码基本能读个八九不离十。所以不建议有经验的开发者从头学起，无论是视频还是书，对于开始学一门语言来说都是太浪费时间了。当然，等你深入进去以后，动物资料还是要系统的去学习，这是后话。软件工具Python3这里选择的是最新版 Python 3.7.1安装教程推荐：www.runoob/python3/python3-install.htmlWin下载地址：www.python/downloads/windowsLinux下载地址：www.python/downloads/sourcePyCharm可视化开发工具：www.jetbrains/pycharm案例实现步骤以妹子图为例，其实很简单，分以下四步：

获取首页的页码数，并创建与页码对应的文件夹获取页面的栏目地址进入栏目，获取栏目页码数(每个栏目下有多张图片，分页显示)获取到栏目下对用标签中的图片并下载

注意事项爬取过程中，还需要注意以下几点，可能对你有所帮助：1）导库，其实就类似于Java中框架或者是工具类，底层都被封装好了安装第三方库

# Win下直接装的 python3pip install bs4、pip install requests# Linux python2 python3 共存pip3 install bs4、pip3 install requests

导入第三方库

# 导入requests库import requests# 导入文件操作库import o定义独一无二s# bs4全名BeautifulSoup，是编写python爬虫常用库之一，主要用来解析html标签。import bs4from bs4 impo高压电工证查询rt BeautifulSoup# 基础类库import sys# Python 3.x 解决中文编码问题import importlibimportlib.reload(sys)

2）定义方法函数，一个爬虫可能会几百行，所以尽量不要写成一坨

def download(page_no, file_path):# 这里写代码逻辑

3）定义全局变量

# 给请求指定一个请求头来模拟chrome浏览器global headers # 告诉编译器这是全局变量 headers headers =考博英语 {'User-Agent': 'Mozi虚开增值税专用发票罪lla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}# 函数内使用之前需要# 告诉编译器我在这个方法中使用的a是刚才定义的全局变量 headers ，而不是方法内部的局部变量。global headers

4）防盗链有些网站加入了防盗链，无所不能的 python 解决方案

headers = {'Referer': href}img = requests.get(url, headers=headers)

5）切换版本Linux服务器使用的是阿里云服务器，默认版本 python2，python3 自行安装

[root@AY140216131049Z mzitu]# python2 -VPython 2.7.5[root@AY140216131049Z mzitu]# python3 -VPython 3.7.1# 默认版本[root@AY140216131049Z mzitu]# python -VPython 2.7.5# 临时切换版本 <whereis python>[root@AY140216131049Z mzitu]# alias python='/usr/local/bin/python3.7'[root@AY140216131049Z mzitu]# python -VPython 3.7.1

6）异常捕获在爬取的过程中可能存在异常页面，这里我们进行捕获，不影响后续操作

try:# 业务逻辑except Exception as e:print(e)

代码实现编辑脚本：vi mzitu.py

#coding=utf-8#!/u协同过滤sr/bin/python# 导入requests库import reques毛发生长周期ts# 导入文件操作库import osimport bs4from bs4 import BeautifulSoupimport sysimport importlibimportlib.reload(sys)# 给请求指定台山玉一个请求头来模拟chrome浏览器global headersheaders = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebK秋季型人it/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}# 爬图地址mziTu = 'www.mzitu/'# 定义存储位置global save_pathsave_path = '/mnt/data/mzitu'# 创建文阿里鱼卡件夹def createFile(file_path):if os.path.exists(file_path) is False: os.makedirs(file_path)# 切换路径至上面创建的文件夹 os.chdir(file_path)# 下载文件def download(page_no, file_path):global headers res_sub = requests.get(page_no, headers=headers)# 解析html soup_sub = BeautifulSoup(res_sub.text, 全棉'html.parser')# 获取页面的栏目地址 all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank') count = 0fo保育员是什么r a in all_a: count = count + 1if (count % 2) == 0:print("内页第几页：" + str(count))# 提取href href = a.attrs['href']print("套图地址：" + href) res_sub_1 = requests.get(href, headers=headers) soup_sub_1 = BeautifulSoup(res_sub_1.text, 'html.parser')# ------ 这里最好使用异常处理 ------try:# 获取套图的最大数量 pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].textprint("套图数量：" + pic_max)for j in range(1, int(pic_max) + 1):# print(&台式一体机#34;子内页第几页：" + str(j))# j int类型需要转字符串 href_sub = href + "/" + str(j)print(href_sub) res_sub_2 = requests.get(href_sub, headers=headers) soup_sub_2 = BeautifulSoup(res_sub_2.text, "html.parser") img = soup_sub_2.find('div', class_='main-image').find('img')if isinstance(img, bs4.element.Tag):# 提取src url = img.attrs['src'] array = url.split('/') 许诺销售 file_name = array[len(array)-1]# print(file_name)# 防盗链加入Referer headers = {'Referer': href} img = requests.get(url, headers=headers)# print('开始保存图片') f = open(file_name, 'ab') f.write(img.content)# print(file_name, '图片保存成功！') f.close()except Exception as e:print(e)# 主方法def main(): res = request阴茎癌s.get(mziTu, headers=headers)# 使用自带的html.parser解析 soup = BeautifulSoup(res.text, 'html.parser')# 创建文件夹 createFile(save_path)# 获取首页总页数 img_max = soup.find('div', cl加湿器什么牌子好ass_=面部色斑9;nav-links').find_all('a')[3].text# print("总页数:"+img_max)for i in range(1, int(img_max) + 1):# 获取每页的URL地址if i == 1: page = mziTuelse: page = mziTu + 'page结婚纪念日送什么花/' + str(i) file = save_path + '/' + str(i) createFile(file)# 下载每页的图片print("套图页码：" + page) download(page, file)if __name__ == '__main__': main()

脚本在Linux服务器下运行，执行以下命令

python 3 mzitu.py # 或者后台执行nohup python3 -u mzitu.py > mzitu.log 2>&1 &

目前只爬取了一个栏目的套图，一共17G，5332张图片。

[root@itstyle mzitu]# du -sh 17G .[root@itstyle mzitu]# ll -stotal 5332

下面，请小伙伴们睁大眼睛，鸡冻人心的套图时刻来了。

小结作为一个初学者，脚本肯定多多少少有一些问题或者待优化的地方，另外注意不管你是为了Python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你缺新项目练习或者没有python精讲教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新教程项目，还可以跟老司机交流讨教！本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

本文标签： 妹子套图收藏Python