如何用Python Selenium实现爬取知乎内容的具体示例？

本文共计901个文字，预计阅读时间需要4分钟。

描述爬虫时，可以简化如下：

爬虫通常使用Python的requests库获取网页内容，再通过beautifulSoup进行标签和内容的筛选。但问题在于，这种做法容易被反爬机制拦截。

说起爬虫一般想到的情况是，使用 python 中都通过 requests 库获取网页内容，然后通过 beautifulSoup 进行筛选文档中的标签和内容。但是这样有个问题就是，容易被反扒机制所拦住。

反扒机制有很多种，例如知乎：刚开始只加载几个问题，当你往下滚动时才会继续往下面加载，而且在往下滚动一段距离时就会出来一个登陆的弹框。

这样的机制对于通过获取服务器返回内容的爬虫方式进行了限制，我们只能获得前几个回答，而没办法或许后面的回答。

所以需要使用 selenium 模拟真实浏览器进行操作。