从大多数网站收集公共数据可能不是什么难事。
但还有许多网站是动态的,并且使用JavaScript加载其内容。
使用JavaScript动态加载内容,又被称为
AJAX
(非同步的JavaScript与XML技术)。面对这种情况,我们就需要用到不同的方法来从这些网站上收集所需的数据。今天,
Oxylabs将为您重点介绍使用Beautiful Soup抓取AJAX动态网站的相关内容。
如何检测网站是否是动态的?
本期视频选择了quotes.toscrape.com这个公共网站进行抓取演示。首先,判断一个网站是否是动态网站的最简单方法是使用
Google Chrome
或
Edge,
因为这两种浏览器内部都使用
Chromium。
按
F12键
打开“开发者工具”,接着按下
CTRL+SHIFT+P组合键
打开“命令菜单”。
现在,我们可以看到很多命令。
先输入禁用,
将命令过滤之后,会出现
禁用JavaScript
的命令,选择此选项禁用JavaScript。
在某些情况下,网站仍然会显示数据,
但只具有基本功能。
例如,一个网站可以无限滚动。但在禁用JavaScript之后,
就会显示常规分页。
Beautiful Soup可以渲染JavaScript吗?
首先答案是不可以。具体来说,
我们必须要了解“解析”和“渲染”的含义。
解析就是将Python对象的字符串表示转换为实际对象。而渲染本质上是将HTML、JavaScript、层叠样式表(CSS)和图像解释成我们在浏览器中看到的东西。
Beautiful Soup是一个用于从HTML文件中提取数据的Python库。
这包括将HTML字符串解析为Beautiful Soup对象。解析时,我们首先需要HTML字符串。
动态网站不会直接将数据保存在HTML中。因而,Beautiful Soup不能用于动态网站。
那么如何从动态网站中抓取数据?
Selenium库
可以在Google Chrome或Firefox等浏览器中自动加载和渲染网站。尽管Selenium支持从HTML中提取数据,
但也可以提取完整的HTML,并使用Beautiful Soup来代替提取数据。如想继续了解,可
通过
Oxylabs
获得更多多详细信息
!