如何用Python爬虫技术获取腾讯VIP视频内容？

本文共计846个文字，预计阅读时间需要4分钟。

一、伪原创开头内容：使用第三方库进行网络请求和进度条显示

二、伪原创内容：

1.使用requests库进行发送请求和访问网站

2.利用tqdm模块实现进度条功能

3.开发环境配置：Python 3.8，PyCharm 2021.2

4.遇到模块安装问题，可通过Windows命令提示符（cmd）执行安装命令

一、第三方库

requests >>> pip install requests 发送请求 访问网站

tqdm >>> pip install tqdm 进度条 模块

二、开发环境

版 本： python 3.8

编辑器：pycharm 2021.2

三、模块安装问题

win + R 输入cmd 输入安装命令 pip install 模块名 (如果你觉得安装速度比较慢, 你可以切换国内镜像源)

模块安装问题:

- 如何安装python第三方模块:

1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车

2. 在pycharm中点击Terminal(终端) 输入安装命令

- 安装失败原因:

- 失败一: pip 不是内部命令

解决方法: 设置环境变量

- 失败二: 出现大量报红 (read time out)

解决方法: 因为是网络链接超时, 需要切换镜像源

清华：pypi.tuna.tsinghua.edu.cn/simple

阿里云：mirrors.aliyun.com/pypi/simple/

中国科技大学 pypi.mirrors.ustc.edu.cn/simple/

华中理工大学：pypi.hustunique.com/

山东理工大学：pypi.sdutlinux.org/

豆瓣：pypi.douban.com/simple/

例如：pip3 install -i pypi.doubanio.com/simple/ 模块名

- 失败三: cmd里面显示已经安装过了, 或者安装成功了, 但是在pycharm里面还是无法导入

解决方法: 可能安装了多个python版本 (anaconda 或者 python 安装一个即可) 卸载一个就好

或者你pycharm里面python解释器没有设置好

四、配置pycharm里面的python解释器

1. 选择file(文件) >>> setting(设置) >>> Project(项目) >>> python interpreter(python解释器)

2. 点击齿轮, 选择add

3. 添加python安装路径

五、pycharm如何安装插件

1. 选择file(文件) >>> setting(设置) >>> Plugins(插件)

2. 点击 Marketplace 输入想要安装的插件名字 比如:翻译插件 输入 translation / 汉化插件 输入 Chinese

3. 选择相应的插件点击 install(安装) 即可

4. 安装成功之后 是会弹出 重启pycharm的选项 点击确定, 重启即可生效

六、爬虫基本思路

爬视频

m3u8: 视频流格式

ts片段 网站链接 总和 m3u8 网站链接(所有的ts片段链接)

省流

mp4 访问一个网站 视频网站

解放 服务器压力

实现一个视频爬虫

分析数据来源(m3u8网站链接)

​​ vd6.l.qq.com/proxyv.qq.com',
'Referer': 'v.qq.com/',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/103.0.0.0 Safari/537.36',
}
# 你需要什么数据
data = '{"buid":"vinfoad","vinfoparam":"charge=0&otype=ojson&defnpayver=1&spau=1&spaudio=0&spwm=1&sphls=2&host=v.qq.com&refer=v.qq.com&ehost=vd6.l.qq.com/proxyapd-068027621e9db154d1513aa430f4bd34.v.smtcdns.com/vhqts.tc.qq.com/AqWFyP9ZQE3sR_8eQqVkUN1N3Y1i-wBcovpMsF4yQ-fs/svp_50112/6Z8LbqHnpGer8cKogKCE-QY0CrsQQ9apcCt8s2QZ9L9cQTxH6Y1aRRiF3_oRpsFnpsTIDLVFc5IwlLF5rpWrBaIXLOs1gcOrVlfyChrmJWeg94k-r37UoxuygxHlhQ1YaPy32bh--YcS_Wc7YbMvh-uO6ZLjhBbpgS-8flAgkz5r_fOeFgtDDw/' + ts
# 4. 保存数据
video_data = requests.get(url=ts_url).content
with open('硬糖少女.mp4', mode='ab') as f:
f.write(video_data)