移动端Python爬虫实战

介绍课程目标、通过课程能学习到的内容、学会这些技能能做什么，对公司业务有哪些帮助，对个人有哪
些帮助。介绍目前app数据抓取有哪些困难，面临的挑战，本实战课程会利用哪些工具来解决这些问
题，以及本实战课程的特点 ......
1-1 移动端python爬虫进阶实战-2020版导学 (11:46)

介绍uiautomator2移动端自动化工具包含的核心模块，移动端自动化抓取开发环境的搭建，
分别介绍windows平台和ubuntu平台通过uiautomator2连接移动设备，并介
绍离线安装uiautomator2安装包
2-1 u2自动化抓取工具介绍 (09:22)
2-2 u2通信流程介绍 (09:21)
2-3 u2自动化抓取开发环境搭建-1 (15:49)
2-4 u2自动化抓取开发环境搭建-2 (16:50)
2-5 u2自动化抓取开发环境搭建-3 (19:29)
2-6 u2自动化抓取开发环境搭建-4 (16:48)
2-7 u2自动化抓取开发环境知识点回顾 (07:15)
2-8 如何连接真实移动设备并安装apk-windows环境-1 (09:22)
2-9 如何连接真实移动设备并安装apk-windows环境-2 (02:30)
2-10 如何连接真实移动设备并安装apk-ubuntu环境 (06:40)
2-11 u2项目初始化 (06:16)
2-12 u2连接移动设备的三种方式-1 (05:20)
2-13 u2连接移动设备的三种方式-2 (16:58)

介绍uiautomator2移动端自动化工具的使用，如何操作设备，如何操作app，介绍通过w
editor可视化工具获取app控件属性，介绍6中定位app控件方法，实战通过uiauto
mator2解锁移动设备九宫格，自动化登录考研app并滑动操控考研咨询信息
3-1 u2自动化工具基本操作-操作设备 (13:17)
3-2 u2自动化工具基本操作-操作app (19:12)
3-3 APP activity和控件,weditor工具的安装 (08:13)
3-4 weditor工具介绍和常见问题-1 (13:39)
3-5 weditor工具介绍和常见问题-2 (07:48)
3-6 UiSelector和控件定位介绍 (08:56)
3-7 UiSelector文本定位方式 (11:14)
3-8 UiSelector class定位方式-1 (01:10)
3-9 UiSelector class定位方式-2 (04:31)
3-10 UiSelector resourceId定位方式 (08:40)
3-11 UiSelector混合定位方式-1 (04:52)
3-12 UiSelector混合定位方式-2 (06:40)
3-13 UiSelector 坐标定位方式 (02:27)
3-14 控件操作和操作超时 (10:57)
3-15 通过U2实现移动设备九宫格解锁 (12:54)
3-16 xpath定位方式 (25:33)
3-17 实现自动化登录考研帮app并滑动资讯信息-1 (12:57)
3-18 实现自动化登录考研帮app并滑动资讯信息-2 (11:37)
3-19 实现自动化登录考研帮app并滑动资讯信息-3 (11:45)

本章着重介绍两款抓包工具的使用fiddler和mitmproxy。 首先介绍了fiddler
抓包工具的工作界面、断点拦截、重定向、移动端设备抓包等功能 其次介绍了mitmproxy抓
包工具的三个组件mitmproxy，mitmdump，mitmweb，介绍了三种常见无法抓
包原因及解决方案...
4-1 fiddler抓包工具介绍，file&&edit功能使用 (13:20)
4-2 tooles功能使用 (12:55)
4-3 rules功能使用&工具栏详讲 (11:09)
4-4 会话列表-请求头、响应头介绍 (09:39)
4-5 请求前断点设置，响应后断点，命令行请求前后断点设置，网页重定向 (12:45)
4-6 手机安装证书，设置fiddler抓取移动端数据包 (11:03)
4-7 mitmproxy软件移动设备安装证书、移动设备抓包 (11:40)
4-8 mitmproxy数据包过滤 (08:10)
4-9 mitmdump详讲。 (18:12)
4-10 app无法抓包探秘-1 (21:54)
4-11 app无法抓包探秘-2 (11:12)
4-12 app无法抓包探秘-3 (02:47)

介绍通过fiddler对短视频app视频接口，发布者信息接口进行了抓取和分析，通过uiaut
omator2操控短视频app滑动和点击，并通过mitmdump编写解析数据脚本
5-1 短视频抓取需求分析 (06:48)
5-2 安装vmware tools (09:46)
5-3 通过U2实现滑动短视频-1 (07:39)
5-4 通过U2实现滑动短视频-2 (08:23)
5-5 通过U2实现滑动短视频-3 (06:44)
5-6 通过mitmproxy解析短视频App返回数据-接口分析 (12:52)
5-7 通过mitmproxy解析短视频App返回数据-编写mitmdump解析文件 (11:43)
5-8 通过mitmproxy解析短视频App返回数据-运行并查看 (05:09)

对多设备管理平台atxserver2进行了介绍，介绍atxserver核心组件，如何在ubu
ntu操作系统中通过手动方法安装atxserver2，并演示了如何通过atxserver2
管理多台移动设备，实现了多设备同时抓取app应用数据
6-1 atxserver2库介绍 (06:13)
6-2 atxserver2通过pip安装部署 (18:30)
6-3 atxserver2多设备管理库的使用 (22:51)
6-4 实现多任务端app应用数据抓取系统 (20:24)

对实时的分布式搜索分析引擎elasticsearch进行了介绍，介绍了在ubuntu操作系统
中安装elasticsearch和kibana组件，介绍了elasticsearch引擎的
索引，mapping映射以及通过python增删改查文档数据，最终操作短视频数据存储到el
asticsearch
7-1 elasticsearch介绍和安装 (21:06)
7-2 数据可视化组件kibana的安装和在elasticsearch基本的增删改查 (25:11)
7-3 elasticsearch查询进阶 (10:48)
7-4 elasticsearch查询排序 (02:56)
7-5 elasticsearch分页查询 (03:00)
7-6 布尔查询 (14:51)
7-7 结果过滤 (02:24)
7-8 高亮显示 (06:25)
7-9 聚合函数查询 (08:42)
7-10 分组查询 (07:59)
7-11 _doc是用来做什么的 (05:39)
7-12 elasticsearch mappings的三种模式 (22:39)
7-13 elasticsearch的分词器 (21:00)
7-14 修改elasticsearch的分词器 (07:33)
7-15 倒排索引 (07:41)
7-16 通过python操作elasticsearch增删改查 (18:21)
7-17 通过python对elasticsearch批量添加数据 (15:25)

对开源的数据分析和可视化平台kibana进行了介绍，介绍了基本图表，data图表，map图表
，Timelion，通过Dashboard展现相关数据
8-1 向elasticsearch导入示例数据 (19:25)
8-2 kibana的index-pattern (06:27)
8-3 kibana的discover (15:51)
8-4 elasticsearch聚合分析-Pipeline (14:43)
8-5 kibana的visualize基本图形-折线图 (18:17)
8-6 kibana的visualize基本图形-热力图 (05:01)
8-7 kibana的visualize基本图形-饼图 (04:15)
8-8 kibana的visualize基本图形-数据图 (03:32)
8-9 kibana的visualize基本图形-仪表盘 (03:15)
8-10 kibana的visualize基本图形-目标图 (02:57)
8-11 kibana的visualize的timelion (23:42)

通过对elasticsearch中存储的数据进行分析，通过kibana绘制地域分布图表分析，
实时数据图表分析，短视频标签图表分析，热门背景音乐图表分析等等，同时举一反三，对租房数据，
新闻资讯进行了大数据可视化分析
9-1 短视频数据解析入库 (23:10)
9-2 短视频数据分析项目实战 (18:16)

回顾常用的APP抓包工具的使用技巧，uiautomator2自动化抓取技巧及APP界面定位技
巧 ，atxserver2多设备监控平台难点及项目中开发技巧，项目开发逻辑及项目中遇到的难点等
10-1 课程总结 (08:11)

介绍课程目标、通过课程能学习到的内容、学会这些技能能做什么，对公司业务有哪些帮助，对个人有哪
些帮助。介绍目前app数据抓取有哪些困难，面临的挑战，本实战课程会利用哪些工具来解决这些问
题，以及本实战课程的特点 ...
11-1 python爬虫工程师必备技能--App数据抓取实战课程导学 (08:35)

介绍项目开发需要安装的开发软件，讲解了安卓模拟器对比以及夜神安卓模拟器安装、介绍、简单使用和
Genymotion安卓模拟器简单分析等等
12-1 夜神模拟器安装&介绍 (09:18)
12-2 夜神模拟器设置介绍&在夜神模拟器内部安装App (06:41)
12-3 介绍genymotion和模拟器的安装(选择观看) (08:57)
12-4 fiddler软件介绍&下载&安装&软件设置 (15:49)
12-5 mitmproxy介绍&安装&如何在linux操作系统中安装 (09:59)
12-6 mitmproxy在Linux操作系统中的使用 (12:10)
12-7 packet capture开头，抓包工具介绍，安装，使用 (12:41)
12-8 介绍appium环境搭建的两种方法 (18:15)
12-9 安装docker以及docker运行ubuntu以及简单命令维护 (13:51)

本章着重介绍两款抓包工具的使用fiddler和mitmproxy。 首先介绍了fiddler
抓包工具的工作界面、断点拦截、重定向、移动端设备抓包等功能 其次介绍了mitmproxy抓
包工具的三个组件mitmproxy，mitmdump，mitmweb，介绍了mitmpro
xy工作界面、断点拦截、重定向、移动端设备抓包等功能 ...
13-1 fiddler抓包工具介绍，file&&edit功能使用 (13:20)
13-2 tooles功能使用 (12:55)
13-3 rules功能使用&工具栏详讲 (11:09)
13-4 会话列表-请求头、响应头介绍 (09:39)
13-5 请求前断点设置，响应后断点，命令行请求前后断点设置，网页重定向 (12:45)
13-6 手机安装证书，设置fiddler抓取移动端数据包 (11:03)
13-7 mitmproxy软件移动设备安装证书、移动设备抓包 (11:40)
13-8 mitmproxy数据包过滤 (08:10)
13-9 mitmdump详讲- (18:12)

通过fiddler抓包工具分析 豆果美食app应用的数据请求接口以及app响应的数据，使用P
ython多线程编写爬虫抓取豆果美食app应用数据，并将数据保存到mongodb中
14-1 、抓取前设置,启动豆果美食app并抓包1，2 (09:46)
14-2 分析fiddler抓取的豆果美食数据包 (07:31)
14-3 编写爬虫脚本1-项目需求、请求函数编写、请求头伪造_ (12:20)
14-4 编写爬虫脚本2-食材页面解析、队列逻辑编写_ (09:09)
14-5 编写爬虫脚本3-获取菜谱列表数据逻辑编写_ (12:39)
14-6 编写爬虫脚本4-详情页数据抓取逻辑编写_ (09:58)
14-7 编写爬虫脚本5-数据入库逻辑编写_ (07:50)
14-8 编写爬虫脚本6-多线程逻辑编写_ (03:41)
14-9 编写爬虫脚本7-伪装爬虫-编写代理逻辑_ (05:15)
14-10 本章爬虫总结- (06:28)

本章讲解了：自动化工具uiautomatorviewer、appium-desktop，讲解
了通过python+appium-desktop工具对安卓模拟器进行控制，编写打开手机中的
app应用以及登录demo
15-1 安装JDK环境 (08:54)
15-2 安装sdk工具包 (06:55)
15-3 adb工具详讲1_ (09:28)
15-4 adb工具详讲2_ (07:09)
15-5 adb工具详讲3_ (08:12)
15-6 sdk下uiautomatorviewer工具使用 (09:18)
15-7 appium介绍_ (07:23)
15-8 inspector介绍_ (06:31)
15-9 inspector录制功能_ (15:58)
15-10 登陆考研帮app并实现模拟滑动操作 (28:44)

本章讲解：短视频项目应用数据抓取、通过使用fiddler抓包工具对应用数据接口进行分析，分析
获取数据请求接口及构造参数等，使用python+mitmdump解析，通过编写python
爬虫逻辑，appium-desktop工具控制app翻页滑动等操作，使用mitmdump对
数据包进行解析，并将数据保存到mongodb中 ...
16-1 短视频抓取实战介绍_ (06:55)
16-2 解析短视频项目分享页面数据 (09:40)
16-3 解析短视频分享页面数据 (06:38)
16-4 解析短视频的分享页面数据 (16:22)
16-5 分享id存储数据库逻辑代码编写1 (07:28)
16-6 分享id存储数据库逻辑代码编写2 (05:27)
16-7 ssl pining技术分析与xponsed框架安装 (11:21)
16-8 分析接口数据 (20:07)
16-9 appium模拟滑动操作1 (22:01)
16-10 appium模拟滑动操作2 (12:07)
16-11 多设备端并发抓取粉丝数据 (31:39)
16-12 视频抓取&signarure加密字段破解-1 (17:02)
16-13 视频抓取&signarure加密字段破解-2 (21:03)
16-14 视频抓取&signarure加密字段破解-3 (18:12)
16-15 第六章总结 (09:07)

本章介绍多任务app抓取系统架构系统的、组件、功能介绍、实现原理等，接下来讲解了在Docke
r中安装appium环境容器，用于模拟多个appium服务端抓取多个安卓模拟器中应用数据
17-1 打造多任务端app应用数据抓取系统-介绍篇 (04:09)
17-2 Docker系统管理-基础 (24:20)
17-3 Docker系统管理-基础命令1 (16:05)
17-4 Docker系统管理-基础命令2 (10:01)
17-5 Docker系统管理-基础命令以及Docker-appium镜像下载_ (11:30)
17-6 创建appium容器以及设置appium容器连接安卓模拟器-1 (14:27)
17-7 Docker镜像创建使用Docker commit命令 (12:21)
17-8 Docker镜像创建使用Dockerfile (13:44)
17-9 打造多任务端app应用数据抓取系统-1 (12:48)
17-10 打造多任务端app应用数据抓取系统-2 (13:10)
17-11 打造多任务端app应用数据抓取系统-3_x264 (10:04)
17-12 打造多任务端app应用数据抓取系统-4 (06:55)
17-13 第七章小结 (02:43)

课程总结与回顾：常用的APP抓包工具的使用技巧、appium desktop服务端设置及AP
P界面定位技巧、appium+docker多任务APP抓取系统的难点及项目中开发技巧和项目
开发逻辑及项目中遇到的难点等
18-1 第八章总结 (02:42)
18-2 【讨论题】：爬虫的法律红线有哪些？
18-3 eslasticsearch 的优点有哪些？
18-4 移动端app应用数据获取工具有哪些，他们的优缺点有哪些？
18-5 【讨论题】：APP 应用控件定位工具有哪些？
18-6 移动端 APP 应用如何自动化操作？