如何通过伪装用户代理（UA）实现长尾关键词的Python爬虫实例？

本文共计688个文字，预计阅读时间需要3分钟。

在Python爬取网站信息时，查看爬取完毕后的数据发现，数据并没有被爬取下来。这是由于网站中有检测用户代理（UA）的身份识别机制。如果请求不是基于某种浏览器的爬取，则请求通常是不正常的。

在使用python爬取网站信息时，查看爬取完后的数据发现，数据并没有被爬取下来，这是因为网站中有UA这种请求载体的身份标识，如果不是基于某一款浏览器爬取则是不正常的请求，所以会爬取失败。本文介绍Python爬虫采用UA伪装爬取实例。

一、python爬取失败原因如下：

UA检测是门户网站的服务器会检测对应请求的载体身份标识，如果检测到请求的载体身份标识为某一款浏览器，说明该请求是一个正常的请求。如果检测到请求的载体身份标识不是基于某一款浏览器的。则表示该请求为不正常的请求，则服务器端就很有可能会拒绝该次请求。

二、解决方法：采用UA伪装

让爬虫对应的请求载体身份标识伪装成某一款浏览器，这里采用的伪装成Chrome浏览器。