如何用Python编写网络爬虫高效抓取穷游攻略信息？

本文共计1157个文字，预计阅读时间需要5分钟。

IT资源共享之家，关注回复，资料可获取Python学习福利，【一、项目背景】穷游网提供原创实用的出游指南、攻略，旅行社区和问答交流。

​“​IT共享之家​”，进行关注​

​回复“​资料​”可获赠Python学习福利​

​​

​ 穷游网提供原创实用的出境游旅行指南、攻略，旅行社区和问答交流平台，以及智能的旅行规划解决方案，同时提供签证、保险、机票、酒店预订、租车等在线增值服务。穷游“鼓励和帮助中国旅行者以自己的视角和方式体验世界”。 ​

​今天教大家获取穷游网的城市信息，使用Python将数据写入csv文档。​

​​

​实现将获取对应的城市、图片链接、热点、批量下载 保存csv文档。​

​​

1、网址如下：

place.qyer.com/south-korea/citylist-0-0-{}

​2、涉及的库：​requests​、​l​​xml、fake_useragent、time、csv​​

​​

​首先需要解决如何对下一页的网址进行请求的问题。可以点击下一页的按钮，观察到网站的变化分别如下所示：​

- place.qyer.com/south-korea/citylist-0-0-1


- place.qyer.com/south-korea/citylist-0-0-2


- place.qyer.com/south-korea/citylist-0-0-3

​观察到只有citylist-0-0-{}/变化，变化的部分用{}代替，再用for循环遍历这网址，实现多个网址请求。