本文旨在解决传统网页抓取方法在处理动态加载数据时的局限性，特别是针对NBA官网等通过JavaScript异步加载数据的场景。我们将深入探讨如何通过分析网络请求，直接调用其后端API接口，配合requests库和pandas库，高效、稳定地获取并结构化NBA选秀体测数据，提供完整的代码示例和实践建议。
本文旨在解决传统网页抓取方法在处理动态加载数据时的局限性，特别是针对NBA官网等通过JavaScript异步加载数据的场景。我们将深入探讨如何通过分析网络请求，直接调用其后端API接口，配合`requests`库和`pandas`库，高效、稳定地获取并结构化NBA选秀体测数据，提供完整的代码示例和实践建议。
在现代网页应用中，许多数据并非直接嵌入在HTML源代码中，而是通过JavaScript在页面加载后异步获取并渲染。这使得传统的基于BeautifulSoup解析HTML的方法往往无法直接抓取到所需数据。对于NBA官网这类动态网站，例如NBA选秀体测数据页面，尝试直接使用requests获取页面内容再用BeautifulSoup查找表格，通常会发现目标表格并不存在于初始的HTML响应中。
传统网页抓取方法的局限性
考虑以下尝试抓取NBA选秀体测数据的常见代码片段：
import requests
import pandas as pd
from bs4 import BeautifulSoup
url = "https://www.nba.com/stats/draft/combine-anthro?SeasonYear=2021-22"
response = requests.get(url)
soup = BeautifulSoup(response.content, "html.parser")
# 尝试查找表格，但通常会返回空列表
print(soup.find_all("table"))这段代码的问题在于，当requests.get(url)获取页面内容时，它只拿到了服务器返回的原始HTML。页面上最终呈现的数据表格是由浏览器执行JavaScript代码后，向后端API发起请求并获取数据，再动态渲染到页面上的。因此，在response.content中，我们找不到包含实际数据的
标签。识别并利用后端API接口
解决这类问题的关键在于“逆向工程”网页的请求流程，找出其向后端请求数据的API接口。这通常通过浏览器的开发者工具（F12）的“网络”（Network）选项卡来完成。
- 打开开发者工具： 在目标网页（例如https://www.nba.com/stats/draft/combine-anthro?SeasonYear=2022-23）上按F12打开开发者工具。
- 切换到“网络”选项卡： 刷新页面，观察网络请求。
- 筛选XHR/Fetch请求： 通常，动态加载的数据会通过XHR（XMLHttpRequest）或Fetch API请求。筛选这些类型的请求可以帮助我们快速定位数据源。
- 查找数据请求： 寻找那些响应内容为JSON格式，且包含页面上显示的数据的请求。对于NBA数据，通常会发现类似https://stats.nba.com/stats/draftcombineplayeranthro的请求。
- 分析请求详情： 点击找到的请求，查看其“请求头”（Request Headers）、“查询参数”（Query Parameters）和“响应”（Response）内容。
通过分析，我们可以发现NBA选秀体测数据是通过一个特定的API端点获取的，并且需要一些参数和特定的HTTP头信息。
通过API获取NBA选秀体测数据
一旦确定了API端点和必要的请求参数，我们就可以使用requests库直接向该API发起请求，绕过前端渲染过程。
1. 构建API请求
API请求通常需要以下几个关键部分：
- API URL： 数据接口的地址。
- 请求参数 (payload)： 对应网页上的筛选条件（如赛季年份、联盟ID）。
- 请求头 (headers)： 模拟浏览器行为，避免被服务器识别为爬虫。特别是Referer（来源页面）和User-Agent（用户代理）通常是必需的。
import requests
import pandas as pd
# NBA选秀体测数据的API端点
url = "https://stats.nba.com/stats/draftcombineplayeranthro"
# 构建请求参数，模拟网页上的筛选条件
# LeagueID: "00" 通常代表NBA
# SeasonYear: 目标赛季年份
payload = {
"LeagueID": "00",
"SeasonYear": "2022-23" # 可以修改为其他赛季，例如 "2021-22"
}
# 模拟浏览器请求头，防止被服务器拒绝
headers = {
"Referer": "https://www.nba.com/", # 模拟请求来源
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36" # 模拟用户代理
}
# 发送GET请求，并传入参数和请求头
# params参数会自动将payload字典转换为URL查询字符串
response = requests.get(url, params=payload, headers=headers)
# 检查请求是否成功
response.raise_for_status() # 如果请求失败（非200状态码），则抛出HTTPError2. 解析JSON响应
API通常返回JSON格式的数据。requests库提供了方便的.json()方法来解析响应内容。
# 将响应内容解析为JSON对象
data = response.json()
# 检查JSON结构，通常数据位于 'resultSets' 列表的第一个元素中
# 'rowSet' 包含实际的数据行
# 'headers' 包含列名
df = pd.DataFrame(data["resultSets"][0]["rowSet"],
columns=data["resultSets"][0]["headers"])3. 结果展示
将解析后的数据转换为pandas DataFrame，可以方便地进行数据分析和处理。
# 打印DataFrame的前几行
print(df.head())
# 打印DataFrame的形状（行数，列数）
print(f"\nDataFrame 形状: {df.shape}")输出示例：
TEMP_PLAYER_ID PLAYER_ID FIRST_NAME LAST_NAME ... BODY_FAT_PCT HAND_LENGTH HAND_WIDTH
0 1630534 1630534 Ochai Agbaji ... 5.40 8.75 9.50
1 1631116 1631116 Patrick Baldwin ... 8.90 8.75 9.50
2 1631094 1631094 Paolo Banchero ... NaN NaN NaN
3 1631105 1631105 MarJ Beaucha ... 5.40 8.50 10.00
4 1630560 1630560 Malaki Branham ... 6.60 8.50 9.00
[5 rows x 18 columns]
DataFrame 形状: (83, 18)
完整代码示例
import requests
import pandas as pd
def get_nba_combine_anthro_data(season_year="2022-23"):
"""
通过NBA官方API获取指定赛季的选秀体测数据。
Args:
season_year (str): 目标赛季年份，例如 "2022-23"。
Returns:
pandas.DataFrame: 包含选秀体测数据的DataFrame，如果获取失败则返回None。
"""
url = "https://stats.nba.com/stats/draftcombineplayeranthro"
payload = {
"LeagueID": "00",
"SeasonYear": season_year
}
headers = {
"Referer": "https://www.nba.com/",
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36"
}
try:
response = requests.get(url, params=payload, headers=headers, timeout=10)
response.raise_for_status() # 如果请求失败，抛出HTTPError
data = response.json()
# 检查返回数据结构，确保包含 'resultSets'
if "resultSets" in data and len(data["resultSets"]) > 0:
row_set = data["resultSets"][0]["rowSet"]
headers = data["resultSets"][0]["headers"]
df = pd.DataFrame(row_set, columns=headers)
return df
else:
print(f"API响应中未找到数据或数据结构不符合预期。响应: {data}")
return None
except requests.exceptions.HTTPError as e:
print(f"HTTP错误发生: {e}")
print(f"响应状态码: {e.response.status_code}")
print(f"响应内容: {e.response.text}")
return None
except requests.exceptions.ConnectionError as e:
print(f"连接错误发生: {e}")
return None
except requests.exceptions.Timeout as e:
print(f"请求超时: {e}")
return None
except requests.exceptions.RequestException as e:
print(f"发生未知请求错误: {e}")
return None
except KeyError as e:
print(f"解析JSON数据时键错误: {e}。可能API响应结构发生变化。")
return None
if __name__ == "__main__":
print("获取2022-23赛季NBA选秀体测数据...")
df_2022_23 = get_nba_combine_anthro_data("2022-23")
if df_2022_23 is not None:
print(df_2022_23.head())
print(f"\n2022-23赛季数据共 {df_2022_23.shape[0]} 条记录。")
print("\n获取2021-22赛季NBA选秀体测数据...")
df_2021_22 = get_nba_combine_anthro_data("2021-22")
if df_2021_22 is not None:
print(df_2021_22.head())
print(f"\n2021-22赛季数据共 {df_2021_22.shape[0]} 条记录。")注意事项与最佳实践
- 尊重网站政策： 在进行任何形式的数据抓取时，务必查阅网站的robots.txt文件和使用条款。NBA官方提供了API供开发者使用，通常直接调用API比解析HTML更受推荐和稳定。
- User-Agent和Referer： 模拟常见的浏览器User-Agent和正确的Referer头是避免被服务器拒绝的关键。如果这些信息不正确，服务器可能会返回403 Forbidden错误。
- 错误处理： 网络请求可能因多种原因失败（如网络问题、超时、服务器拒绝）。在代码中加入try-except块来捕获requests.exceptions，可以提高程序的健壮性。
- 请求频率限制 (Rate Limiting)： 频繁地向同一API发送请求可能会触发服务器的限流机制，导致IP被封禁。在实际应用中，应加入适当的延迟（例如使用time.sleep()）来控制请求频率。
- API稳定性： 网站的API结构可能会随时间变化。如果代码突然失效，首先检查API端点、参数或响应JSON结构是否发生了改变。
- 数据清洗： 获取到的数据可能包含NaN值或其他不规范的数据，需要进一步使用pandas进行清洗和预处理。
总结
当传统网页抓取方法无法获取动态加载的数据时，通过分析浏览器的网络请求，直接调用网站的后端API是一种更高效、更稳定的解决方案。这种方法不仅能够准确获取所需数据，还能避免处理复杂的JavaScript渲染逻辑。掌握API请求的技巧，是现代数据抓取不可或缺的能力。
本文内容来源于互联网，如有侵权请联系删除。
装机必备
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
Windows
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
macOS软件
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
IOS软件
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
AI
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
PDF教程
PDF教程适合刚接触PDF文件的用户,本文整理PDF打开、编辑、转换、合并、压缩等常见基础操作。通过这些教程可以快速了解PDF文件怎么处理,解决办公、学习和资料科整理中的常见问题。使用极轻PDF可在线完成多种PDF操作，适合新手快速上手。
灵活计算器
灵活计算器是一款笔记式算数应用，支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然，适合长期写作、做笔记或持续沉淀个人内容。
赤友清理大师
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
图几
图几是一款适用于 macOS 的截图、标注与美化工具，支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑，桌面或窗口内容一多时，管理起来会更省心。
密码键盘
密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。
思源笔记
思源笔记是一款本地笔记软件，提供所见即所得的编辑方式，为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然，适合长期写作、做笔记或持续沉淀个人内容。
Office 365 简体中文
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
WALTR PRO
WALTR是一款电脑至iOS文件传输转换工具，操作简单，快速实现文件识别与传送。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
CodeExpander
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Menuist
Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具，主要用来补充新建文件、快捷导航等常用操作，让日常文件管理和访问路径时更高效、更顺手。
Mole
Mole 是一款专为 Mac 设计的深度清理优化工具，涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Windows 10
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
密码键盘
密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。
思源笔记
思源笔记是一款本地笔记软件，提供所见即所得的编辑方式，为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然，适合长期写作、做笔记或持续沉淀个人内容。
傲梅轻松备份
傲梅轻松备份是一款专业易用的数据备份软件，为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。
Office 365 简体中文
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
WALTR PRO
WALTR是一款电脑至iOS文件传输转换工具，操作简单，快速实现文件识别与传送。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
CodeExpander
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
PinStack
PinStack是一款轻量级的Windows平台剪贴板管理工具，优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
Mountain Duck
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Seer
Seer是一款在Win平台下的空格键功能增强效率工具，只需轻敲空格键，就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用，处理高频琐碎任务时会更省事。
