如何用Python编写爬虫高效抓取酷我音乐资源？

本文共计814个文字，预计阅读时间需要4分钟。

1. 使用第三方库requests

2.安装requests库：pip install requests

3.开发环境配置

- Python版本：3.8 - 编辑器：PyCharm 2021.2

4.模块安装问题

- 在Windows中，使用Win+R打开命令提示符 - 输入cmd - 输入安装命令：pip install 模块名 - 如安装速度慢，可能需要调整。

一、第三方库

requests >>> pip install requests

二、开发环境

版 本： python 3.8

编辑器：pycharm 2021.2

三、模块安装问题

win + R 输入cmd 输入安装命令 pip install 模块名 (如果你觉得安装速度比较慢, 你可以切换国内镜像源)

模块安装问题:

- 如何安装python第三方模块:

1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车

2. 在pycharm中点击Terminal(终端) 输入安装命令

- 安装失败原因:

- 失败一: pip 不是内部命令

解决方法: 设置环境变量

- 失败二: 出现大量报红 (read time out)

解决方法: 因为是网络链接超时, 需要切换镜像源

清华：pypi.tuna.tsinghua.edu.cn/simple

阿里云：mirrors.aliyun.com/pypi/simple/

中国科技大学 pypi.mirrors.ustc.edu.cn/simple/

华中理工大学：pypi.hustunique.com/

山东理工大学：pypi.sdutlinux.org/

豆瓣：pypi.douban.com/simple/

例如：pip3 install -i pypi.doubanio.com/simple/ 模块名

- 失败三: cmd里面显示已经安装过了, 或者安装成功了, 但是在pycharm里面还是无法导入

解决方法: 可能安装了多个python版本 (anaconda 或者 python 安装一个即可) 卸载一个就好

或者你pycharm里面python解释器没有设置好

四、配置pycharm里面的python解释器

1. 选择file(文件) >>> setting(设置) >>> Project(项目) >>> python interpreter(python解释器)

2. 点击齿轮, 选择add

3. 添加python安装路径

五、pycharm如何安装插件

1. 选择file(文件) >>> setting(设置) >>> Plugins(插件)

2. 点击 Marketplace 输入想要安装的插件名字 比如:翻译插件 输入 translation / 汉化插件 输入 Chinese

3. 选择相应的插件点击 install(安装) 即可

4. 安装成功之后 是会弹出 重启pycharm的选项 点击确定, 重启即可生效

六、爬虫基本思路

实现爬虫: 1. 分析数据来源 ​​www.kuwo.cn/api/v1/www/music/playUrl?mid=227872325&type=music&q.qlogo.cn/qqapp/100243533/92BBD7D4B7F9106BA10CBE2CD0A7FA92/100"; t3=qq; _gid=GA1.2.1802350254.1658145192; Hm_lvt_cdb524f42f0ce19b169a8071123a4797=1657262849,1657263532,1657281650,1658145192; Hm_lpvt_cdb524f42f0ce19b169a8071123a4797=1658148882; kw_token=FCYM14UDCJ; _gat=1',
'csrf': 'FCYM14UDCJ',
'Host': 'www.kuwo.cn',
'Referer': 'www.kuwo.cn/search/list?key=%E5%91%A8%E6%9D%B0%E4%BC%A6',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/103.0.0.0 Safari/537.36',
}
key = input('请输入你要搜索的歌曲或者歌手名:')
url = f'www.kuwo.cn/api/www/search/searchMusicBykeyWord?key={key}&pn=1&rn=30&www.kuwo.cn/api/v1/www/music/playUrl?mid={rid}&type=convert_url3&br=320kmp3'
# 1. 发送请求
music_url = requests.get(url=info_url).json()['data']['url']
# 4. 保存数据
music_data = requests.get(url=music_url).content
open(f'music/{name}-{artist}.mp3', mode='wb').write(music_data)