【0基础学爬虫】爬虫基础之网络请求库的使用

追风猎人

大数据时代，各行各业对数据采集的需求日益增多，网络爬虫的运用也更为广泛，越来越多的人开始学习网络爬虫这项技术，K哥爬虫此前已经推出不少爬虫进阶、逆向相关文章，为实现从易到难全方位覆盖，特设【0基础学爬虫】专栏，帮助小白快速入门爬虫，本期为网络请求库的使用。

网络请求库概述

作为一名爬虫初学者，熟练使用各种网络请求库是一项必备的技能。利用这些网络请求库，我们可以通过非常简单的操作来进行各种协议的模拟请求。我们不需要深入底层去关注如何建立通信与数据如何传输，只需要调用各种网络请求库封装好的方法。Python提供了很多功能强大的网络请求库，如urllib、requests、httpx、aiohttp、websocket等，下文中会对这些库做一一介绍。
urllib

安装与介绍

安装

urllib是Python的内置请求库，不需要再额外安装。
介绍

urllib库包含四个模块：
urllib.request： 向目标url发起请求并读取响应信息。
urllib.error： 负责异常处理，捕获urllib.request抛出的异常。
urllib.parse： 解析url，提供了一些url的解析方法。
urllib.robotparser： 解析网站robots.txt文件，判断网站是否允许爬虫程序进行采集。

使用方法

请求与响应

使用到了urllib.request模块中的urlopen方法来打开一个url并获取响应信息。urlopen默认返回的是一个HTTPResponse对象，可以通过read方法得到它的明文信息。

1. import urllib.request
3. response = urllib.request.urlopen('http://httpbin.org/get')
5. print(response)  #打印：<http.client.HTTPResponse object at 0x0000013D85AE6548>
6. print(response.read().decode('utf-8'))  #响应信息
7. print(response.status)                  #返回状态码
8. print(response.getheaders())            #返回响应头信息

复制代码

设置请求头与参数

当请求需要设置请求头时，就需要用到urllib.request模块中的另一个方法Request，它允许传递如下几个参数：

1. def __init__(self, url, data=None, headers={},origin_req_host=None, unverifiable=False,method=None)

复制代码

url：目标url
data：请求参数，默认为None
headers：请求头信息，字典类型
origin_req_host：请求的主机地址
unverifiable：设置网页是否需要验证
method：请求方式

1. from urllib import request,parse
3. url = 'https://httpbin.org/post'  #目标URL
4. headers = {
5.     'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'
6. }                           #请求头信息
7. params = {
8.     'test':'test01'         #请求参数
9. }
11. data = bytes(parse.urlencode(params),encoding='utf-8')  #解析为bytes类型
12. res = request.Request(url,data=data,headers=headers,method='POST')  #实例化Request
13. response = request.urlopen(res)         #发起请求
15. print(response.read().decode('utf-8'))  #响应信息

复制代码

异常捕获
在发起请求时，可能会因为网络、url错误、参数错误等问题导致请求异常，程序报错。为了应对这种情况，我们需要添加异常处理功能。

1. from urllib import request,error
3. try:
4.     response = request.urlopen('http://httpbin.org/get')
5. except error.HTTPError as e:    #捕获异常
6.     print(e)  #打印异常信息

复制代码

requests

requests是Python爬虫开发中最常使用到的库，它提供了简单易用的API，使得在Python中发送HTTP请求变得非常容易，它比urllib模块更加简洁，使用更加方便。
安装与介绍

安装

requests是Python的第三方库，使用 pip install requests 进行安装
介绍

requests包含了许多模块，这里只介绍主要模块：
requests： 主模块，提供了HTTP请求方法。
requests.session： 会话模块，提供了Session类，用于多个请求中共享请求信息。
requests.adapters： 适配器模块，提供了不同协议的适配器类，用于处理不同协议的请求。
requests.cookie： Cookie模块，用于处理cookie信息。
requests.exceptions： 异常处理模块，用于处理请求中会出现的各种异常。
requests.status_codes： 状态码模块，提供了HTTP状态码常量和状态码解释。
使用方法

请求与响应

1. import requests   #导入requests模块
3. get_response = requests.get('http://httpbin.org/get')   #发送get请求
4. post_response = requests.post('http://httpbin.org/post')   #发送post请求
6. print(get_response)   #<Response [200]>
7. print(post_response)   #<Response [200]>

复制代码

requests库发送请求非常简单，并支持多种请求方式，如：get、post、put、delete等。发起请求后requests会返回一个Response对象，可以使用多种方法来解析Response对象。

1. import requests
3. response = requests.get('http://httpbin.org/get')
5. print(response.status_code)   #返回响应状态码
6. print(response.encoding)   #返回响应信息的编码
7. print(response.text)   #返回响应的文本信息
8. print(response.content)   #返回响应的字节信息
9. print(response.json())   #将JSON响应信息解析为字典，如果响应数据类型不为JSON则会报错
10. print(response.headers)   #返回响应头信息
11. print(response.cookies)   #返回响应cookie

复制代码

设置请求头与参数

1. request(self,method,url,params=None,data=None,headers=None,cookies=None,files=None,auth=None,timeout=None,allow_redirects=True,proxies=None,hooks=None,stream=None,verify=None,cert=None,json=None)

复制代码

requests中设置请求头可以通过headers参数来设置，headers是一个字典类型，键为请求头的字段名，值为对应请求头的值。
请求参数可以通过params方法进行设置，类型为字典。键为参数名，值为对应参数的值。
在网络请求中，携带的参数可以分为两个类型，它们在python中对应的字段名如下：
查询字符串参数： params
请求载荷： data/json
查询字符串参数params是拼接在url中的参数，常用于get请求，作为查询参数使用。而data与json一般使用与post请求中，它是要发送到服务器的实际数据。

1. import requests
3. headers = {
4.     'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'
5. }
7. params = {'key':'value'}
8. data = {'username':'user','passowrd':'password'}
10. get_response = requests.get(url,params=params,headers=headers)
11. post_response = requests.post(url,data=data,headers=headers)

复制代码

Session的使用

当一个网站我们需要多次请求时，如我需要登录 -> 请求个人页面，在面对这种场景时，我们可以使用到Session方法。因为通过requests发送到的请求是独立，我们请求登录接口与请求个人页面之间是没有联系的，我们需要请求登录接口后获取它返回的cookie，然后设置cookie进行下一次请求。每次请求后都需要设置一次cookie，如果请求流程更多的话那么过程就会显得很繁琐。使用Session方法就能更好的模拟一次请求流程，不需要频繁的设置cookie。
Session的作用类似于浏览器中的cookie与缓存，它可以用于在多次请求中维护一些状态信息，避免重复发送相同的信息和数据，使用Session可以优化HTTP请求的性能与可维护性，它的使用也非常简单。

1. import requests
3. session = requests.Session()       #创建session对象
4. session.get('http://httpbin.org/cookies/set/username/test')   #发起请求，模拟一次登录
5. response = session.get('http://httpbin.org/cookies')   #获取cookie
7. print(response.text)   #{"cookies": {"username": "test"}}

复制代码

异常捕获

requests.exceptions 中提供了一系列请求异常。

ConnectTimeout：连接超时
ReadTimeout：服务器在指定时间内没有应答
ConnectionError：未知的服务器
ProxyError：代理异常
URLRequired：无效URL
TooManyRedirects：重定向过多
MissingSchema：URL缺失，如缺少：http/https
InvalidSchema：提供的URL方案无效或不受支持
InvalidURL：提供的URL不知何故无效
InvalidHeader：提供的请求头无效
InvalidProxyURL：提供的代理URL无效
ChunkedEncodingError：服务器声明了编码分块，但发送了无效分块
ContentDecodingError：无法对响应信息解码
StreamConsumedError：此响应内容已被使用
RetryError：自定义重试逻辑错误
UnrewindableBodyError：请求在尝试倒带正文时遇到错误
HTTPError：出现HTTP错误
SSLError：发生SSL错误
Timeout：请求超时

httpx

前面讲到了requests库，它功能强大、使用简单，并且提供session会话模块，似乎requests库已经可以满足所有的应用场景了。但是requests也有一些致命的缺点：

• 同步请求，不支持异步，requests默认使用同步请求，在网络请求中同步请求到导致性能问题。
  
• 不支持HTTP2.0，如今已经有少部分网站采用HTTP2.0协议来进行数据传输，面对这类网站无法使用requests。
  

而httpx是一个基于异步IO的Python3的全功能HTTP客户端库，旨在提供一个快速、简单、现代化的HTTP客户端，它提供同步与异步API，而且支持HTTP1.1和HTTP2.0。并且httpx功能也很齐全，requests支持的功能httpx也基本同样支持。因此，在爬虫开发中使用httpx也是一个非常不错的选择。
安装与介绍

安装

httpx是Python的第三方库，使用 pip install httpx 进行安装
如果需要httpx支持https2.0，则需要安装它的可选依赖项， pip install httpx[http2]
介绍

httpx是建立在requests的成熟可用性之上的，提供的模块与requests大同小异，因此不做介绍。
使用方法

httpx用法与requests基本一致，这里主要介绍httpx的Client实例。
httpx Client

Client作用与requests的session方法一致，但用法有些区别。
常见用法是使用上下文管理器，这样可以确保在请求完成后能够正确清理连接。

1. import httpx
3. with httpx.Client() as client:
4.     response = client.get('https://httpbin.org/get')
5.    
6. print(response)   #<Response [200 OK]>

复制代码

在设置请求头、传递参数时也有新的写法。

1. import httpx
3. headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'}
4. params = {'key':'value'}
6. with httpx.Client(headers=headers,params=params) as client:
7.     response = client.get('https://httpbin.org/get')
8.    
9. print(response)

复制代码

aiohttp

aiohttp是基于Python异步IO的HTTP客户端/服务器库，它与httpx相似，同样支持HTTP1.1和HTTP2.0协议，aiohttp是基于asyncio实现的，它支持WebSocket协议。
安装

aiohttp是Python的第三方库，使用 pip install aiohttp 进行安装
使用

1. import aiohttp
2. import asyncio
4. async def main():
5.     async with aiohttp.ClientSession() as session:
6.         async with session.get('https://httpbin.org/get') as response:
7.             print(response) #<ClientResponse(https://httpbin.org/get) [200 OK]>
9. loop = asyncio.get_event_loop()
10. loop.run_until_complete(main())

复制代码

aiohttp不支持同步，需要与asyncio一起使用，与前文中讲到的库对比，aiohttp显得异常复杂，requests两行代码就能完成的功能aiohttp却需要5行。为什么aiohttp代码如此冗余我们却要使用它呢？因为aiohttp是异步的，它的api旨在充分利用非阻塞网络操作，在实例代码中，请求将阻塞三次，这为事件循环提供了三次切换上下文的机会。aiohttp可以实现单线程并发IO操作，它在处理大量网站请求时的速度远超于requests，但在涉及到文件读写操作时，它发挥的作用就没有预期的那么大，因此aiohttp库的使用需要爬虫开发者自行斟酌。
websocket

Python websocket库是专门用于创建WebSocket服务的库。WebSocket是一种在客户端与服务端之间进行双向通信的协议，服务端可以向客户端推送数据，客户端也可以向服务端推送数据，这样就能实现数据的及时通信，它与HTTP协议一样，由socket实现。WebSocket通常使用在直播、弹幕等场景中。
安装

websocket是Python的内置库，不需要手动安装。当你在运行下文中的实例时，如果报错cannot import name 'WebSocketApp' from 'websocket'，你可以卸载现有的websocket库，安装websocket-client==0.53.0版本的包。
使用

websocket用于客户端与服务端通信，爬虫开发中一般只会进行客户端的开发，所有这里只介绍客户端的开发。
使用WebSocketApp可以快速的建立一个Websocket连接。

1. from websocket import WebSocketApp
3. def on_message(ws, message):  #接收到消息时执行
4.     print(message)
5. def on_error(ws, error):  #异常时执行
6.     print(error)
7. def on_close(ws):   #关闭连接时执行
8.     print("WebSocket closed")
9. def on_open(ws):  #开启连接时执行
10.     ws.send("Hello, WebSocket!")  #发送信息
11.    
12. if __name__ == "__main__":
13.     ws = WebSocketApp("ws://echo.websocket.org/",
14.                                 on_message=on_message,
15.                                 on_error=on_error,
16.                                 on_close=on_close)
17.     ws.on_open = on_open
18.     ws.run_forever()

复制代码

可以看到websocket提供了四个模块：
on_message： 接收服务器推送来的数据
on_error：  连接异常时会触发on_error
on_close：  连接关闭时触发on_close
on_open：  连接开启时触发on_open
归纳

上文中讲到了urllib、requests、httpx、aiohttp、websocket这五个库的使用，这五个库基本能够满足爬虫开发中的请求需求。urllib是python的内置库，使用起来较为繁琐，可以只做了解。requests是爬虫开发中最常使用的库，功能齐全，使用简单，需要认真学习。httpx在requests的基础上支持异步处理、HTTP2.0与Websocket协议，requests的功能httpx都支持，但在性能方面httpx弱于其他请求库，httpx也需要爬虫初学者好好学习。aiohttp用于编写异步爬虫，开发效率低于其它库，但是执行效率远高与其它库，也是一个需要好好掌握的请求库。websocket是专门用于Websocket协议的库，使用也较为简单，可以在需要时再做了解。

来源:https://www.cnblogs.com/ikdl/p/17247717.html
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！