电子商务网站建设方案目录,泊头做网站的有哪些,宁波外贸行业现状,wordpress和ss一起目录二、Python爬虫的User-Agent用户代理2.1 常见的 User-Agent 请求头2.2 爬虫程序UA信息2.3 重构爬虫UA信息二、Python爬虫的User-Agent用户代理
User-Agent 即用户代理#xff0c;简称“UA”#xff0c;它是一个特殊字符串头。网站服务器通过识别 “UA”来确定用户所使用…
目录二、Python爬虫的User-Agent用户代理2.1 常见的 User-Agent 请求头2.2 爬虫程序UA信息2.3 重构爬虫UA信息二、Python爬虫的User-Agent用户代理
User-Agent 即用户代理简称“UA”它是一个特殊字符串头。网站服务器通过识别 “UA”来确定用户所使用的操作系统版本、CPU 类型、浏览器版本等信息。而网站服务器则通过判断 UA 来给客户端发送不同的页面。
我们知道网络爬虫使用程序代码来访问网站而非人类亲自点击访问因此爬虫程序也被称为“网络机器人”。绝大多数网站都具备一定的反爬能力禁止网爬虫大量地访问网站以免给网站服务器带来压力。本节即将要讲解的 User-Agent 就是反爬策略的第一步。
网站通过识别请求头中 User-Agent 信息来判断是否是爬虫访问网站。如果是网站首先对该 IP 进行预警对其进行重点监控当发现该 IP 超过规定时间内的访问次数 将在一段时间内禁止其再次访问网站。
2.1 常见的 User-Agent 请求头
常见的 User-Agent 请求头如下所示
系统浏览器User-Agent字符串MacChromeMozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.75 Safari/537.36MacFirefoxMozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0MacSafariMozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0.3 Safari/605.1.15Windows EdgeMozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/18.17763Windows IEMozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like GeckoWindows ChromeMozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36iOSChromeMozilla/5.0 (iPhone; CPU iPhone OS 7_0_4 like Mac OS X) AppleWebKit/537.51.1 (KHTML, like Gecko) CriOS/31.0.1650.18 Mobile/11B554a Safari/8536.25iOSSafariMozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4AndroidChromeMozilla/5.0 (Linux; Android 4.2.1; M040 Build/JOP40D) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.59 Mobile Safari/537.36AndroidWebkitMozilla/5.0 (Linux; U; Android 4.4.4; zh-cn; M351 Build/KTU84P) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30
查看本机的浏览器版本以及 UA 信息,可以通过UA查看。
2.2 爬虫程序UA信息
下面通过向 HTTP 测试网站发送 GET 请求来查看请求头信息从而获取爬虫程序的 UA。代码如下所示
#导入模块
import urllib.request#向网站发送get请求
responseurllib.request.urlopen(http://httpbin.org/get)
html response.read().decode()
print(html)程序运行后输出的请求头信息如下所示
{args: {}, headers: {Accept-Encoding: identity, Host: httpbin.org, User-Agent: Python-urllib/3.10, X-Amzn-Trace-Id: Root1-642b2303-5dfdedb61621dbd92db9945f}, origin: 36.59.25.170, url: http://httpbin.org/get
}
从输出结果可以看出User-Agent 竟然是 Python-urllib/3.10 这显然是爬虫程序访问网站。因此就需要重构 User-Agent将其伪装成“浏览器”访问网站。 注意httpbin.org 这个网站能测试 HTTP 请求和响应的各种信息比如 cookie、IP、headers 和登录验证等且支持 GET、POST 等多种方法对 Web 开发和测试很有帮助。 2.3 重构爬虫UA信息
下面使用urllib.request.Request()方法重构 User-Agent 信息代码如下所示
from urllib import request# 定义变量URL 与 headers
url http://httpbin.org/get # 向测试网站发送请求
# 重构请求头伪装成 Mac火狐浏览器访问可以使用上表中任意浏览器的UA信息
headers {User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0}
# 1、创建请求对象包装ua信息
req request.Request(urlurl, headersheaders)
# 2、发送请求获取响应对象
res request.urlopen(req)
# 3、提取响应内容
html res.read().decode(utf-8)
print(html)
程序运行后输出的请求头信息如下所示
{args: {}, headers: {Accept-Encoding: identity, Host: httpbin.org, User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0, X-Amzn-Trace-Id: Root1-642b23b5-7934d1e8150cfbc1041b0120}, origin: 36.59.25.170, url: http://httpbin.org/get
}
上述代码重构了 User-Agent 字符串信息这样就解决了网站通过识别 User-Agent 来封杀爬虫程序的问题。当然这只是应对反爬策略的第一步。重构 UA 也可以通过其他模块实现比如 requests 模块这在后续内容会做相应介绍。
