有几种方法可以获取 python 爬虫的 headers：手动指定 headers使用库（例如 fake_useragent 和 requests_toolbelt）从浏览器中提取 headers
如何获取 Python 爬虫的 Headers
在 python 爬虫中，Headers 是发送给目标服务器的 http 请求中的元数据。它们提供有关客户端设备和请求的信息，服务器使用这些信息来决定如何响应请求。获取 Headers对于爬虫非常重要，因为它可以帮助伪装爬虫并使其看起来像来自普通浏览器。
获取 Headers 的方法
有几种方法可以获取 Python 爬虫的 Headers：
立即学习“Python免费学习笔记（深入）”；
- 手动指定 Headers：您可以手动创建 Headers 字典，并将其传递给 requests.get() 或 urllib.request.Request() 函数。
- 使用库：您可以使用第三方库，例如 fake_useragent 和 requests_toolbelt，来自动生成 Headers。
- 从浏览器中提取 Headers：您可以使用 Selenium 或 Puppeteer 等工具从浏览器中提取 Headers。
示例：
- 手动指定 Headers：
import requests headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36', 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9', 'Accept-Language': 'en-US,en;q=0.9' } response = requests.get(url, headers=headers)
- 使用 fake_useragent 库：
import requests from fake_useragent import UserAgent ua = UserAgent() headers = {'User-Agent': ua.random} response = requests.get(url, headers=headers)
- 从浏览器中提取 Headers：
from selenium import webdriver driver = webdriver.Chrome() driver.get(url) headers = driver.execute_script("return window.navigator.userAgent") driver.quit()
