本文旨在解决传统网页抓取方法在处理动态加载数据时的局限性，特别是针对NBA官网等通过JavaScript异步加载数据的场景。我们将深入探讨如何通过分析网络请求，直接调用其后端API接口，配合requests库和pandas库，高效、稳定地获取并结构化NBA选秀体测数据，提供完整的代码示例和实践建议。
本文旨在解决传统网页抓取方法在处理动态加载数据时的局限性，特别是针对NBA官网等通过JavaScript异步加载数据的场景。我们将深入探讨如何通过分析网络请求，直接调用其后端API接口，配合`requests`库和`pandas`库，高效、稳定地获取并结构化NBA选秀体测数据，提供完整的代码示例和实践建议。
在现代网页应用中，许多数据并非直接嵌入在HTML源代码中，而是通过JavaScript在页面加载后异步获取并渲染。这使得传统的基于BeautifulSoup解析HTML的方法往往无法直接抓取到所需数据。对于NBA官网这类动态网站，例如NBA选秀体测数据页面，尝试直接使用requests获取页面内容再用BeautifulSoup查找表格，通常会发现目标表格并不存在于初始的HTML响应中。
传统网页抓取方法的局限性
考虑以下尝试抓取NBA选秀体测数据的常见代码片段：
import requests
import pandas as pd
from bs4 import BeautifulSoup
url = "https://www.nba.com/stats/draft/combine-anthro?SeasonYear=2021-22"
response = requests.get(url)
soup = BeautifulSoup(response.content, "html.parser")
# 尝试查找表格，但通常会返回空列表
print(soup.find_all("table"))这段代码的问题在于，当requests.get(url)获取页面内容时，它只拿到了服务器返回的原始HTML。页面上最终呈现的数据表格是由浏览器执行JavaScript代码后，向后端API发起请求并获取数据，再动态渲染到页面上的。因此，在response.content中，我们找不到包含实际数据的
标签。识别并利用后端API接口
解决这类问题的关键在于“逆向工程”网页的请求流程，找出其向后端请求数据的API接口。这通常通过浏览器的开发者工具（F12）的“网络”（Network）选项卡来完成。
- 打开开发者工具： 在目标网页（例如https://www.nba.com/stats/draft/combine-anthro?SeasonYear=2022-23）上按F12打开开发者工具。
- 切换到“网络”选项卡： 刷新页面，观察网络请求。
- 筛选XHR/Fetch请求： 通常，动态加载的数据会通过XHR（XMLHttpRequest）或Fetch API请求。筛选这些类型的请求可以帮助我们快速定位数据源。
- 查找数据请求： 寻找那些响应内容为JSON格式，且包含页面上显示的数据的请求。对于NBA数据，通常会发现类似https://stats.nba.com/stats/draftcombineplayeranthro的请求。
- 分析请求详情： 点击找到的请求，查看其“请求头”（Request Headers）、“查询参数”（Query Parameters）和“响应”（Response）内容。
通过分析，我们可以发现NBA选秀体测数据是通过一个特定的API端点获取的，并且需要一些参数和特定的HTTP头信息。
通过API获取NBA选秀体测数据
一旦确定了API端点和必要的请求参数，我们就可以使用requests库直接向该API发起请求，绕过前端渲染过程。
1. 构建API请求
API请求通常需要以下几个关键部分：
- API URL： 数据接口的地址。
- 请求参数 (payload)： 对应网页上的筛选条件（如赛季年份、联盟ID）。
- 请求头 (headers)： 模拟浏览器行为，避免被服务器识别为爬虫。特别是Referer（来源页面）和User-Agent（用户代理）通常是必需的。
import requests
import pandas as pd
# NBA选秀体测数据的API端点
url = "https://stats.nba.com/stats/draftcombineplayeranthro"
# 构建请求参数，模拟网页上的筛选条件
# LeagueID: "00" 通常代表NBA
# SeasonYear: 目标赛季年份
payload = {
"LeagueID": "00",
"SeasonYear": "2022-23" # 可以修改为其他赛季，例如 "2021-22"
}
# 模拟浏览器请求头，防止被服务器拒绝
headers = {
"Referer": "https://www.nba.com/", # 模拟请求来源
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36" # 模拟用户代理
}
# 发送GET请求，并传入参数和请求头
# params参数会自动将payload字典转换为URL查询字符串
response = requests.get(url, params=payload, headers=headers)
# 检查请求是否成功
response.raise_for_status() # 如果请求失败（非200状态码），则抛出HTTPError2. 解析JSON响应
API通常返回JSON格式的数据。requests库提供了方便的.json()方法来解析响应内容。
# 将响应内容解析为JSON对象
data = response.json()
# 检查JSON结构，通常数据位于 'resultSets' 列表的第一个元素中
# 'rowSet' 包含实际的数据行
# 'headers' 包含列名
df = pd.DataFrame(data["resultSets"][0]["rowSet"],
columns=data["resultSets"][0]["headers"])3. 结果展示
将解析后的数据转换为pandas DataFrame，可以方便地进行数据分析和处理。
# 打印DataFrame的前几行
print(df.head())
# 打印DataFrame的形状（行数，列数）
print(f"\nDataFrame 形状: {df.shape}")输出示例：
TEMP_PLAYER_ID PLAYER_ID FIRST_NAME LAST_NAME ... BODY_FAT_PCT HAND_LENGTH HAND_WIDTH
0 1630534 1630534 Ochai Agbaji ... 5.40 8.75 9.50
1 1631116 1631116 Patrick Baldwin ... 8.90 8.75 9.50
2 1631094 1631094 Paolo Banchero ... NaN NaN NaN
3 1631105 1631105 MarJ Beaucha ... 5.40 8.50 10.00
4 1630560 1630560 Malaki Branham ... 6.60 8.50 9.00
[5 rows x 18 columns]
DataFrame 形状: (83, 18)
完整代码示例
import requests
import pandas as pd
def get_nba_combine_anthro_data(season_year="2022-23"):
"""
通过NBA官方API获取指定赛季的选秀体测数据。
Args:
season_year (str): 目标赛季年份，例如 "2022-23"。
Returns:
pandas.DataFrame: 包含选秀体测数据的DataFrame，如果获取失败则返回None。
"""
url = "https://stats.nba.com/stats/draftcombineplayeranthro"
payload = {
"LeagueID": "00",
"SeasonYear": season_year
}
headers = {
"Referer": "https://www.nba.com/",
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36"
}
try:
response = requests.get(url, params=payload, headers=headers, timeout=10)
response.raise_for_status() # 如果请求失败，抛出HTTPError
data = response.json()
# 检查返回数据结构，确保包含 'resultSets'
if "resultSets" in data and len(data["resultSets"]) > 0:
row_set = data["resultSets"][0]["rowSet"]
headers = data["resultSets"][0]["headers"]
df = pd.DataFrame(row_set, columns=headers)
return df
else:
print(f"API响应中未找到数据或数据结构不符合预期。响应: {data}")
return None
except requests.exceptions.HTTPError as e:
print(f"HTTP错误发生: {e}")
print(f"响应状态码: {e.response.status_code}")
print(f"响应内容: {e.response.text}")
return None
except requests.exceptions.ConnectionError as e:
print(f"连接错误发生: {e}")
return None
except requests.exceptions.Timeout as e:
print(f"请求超时: {e}")
return None
except requests.exceptions.RequestException as e:
print(f"发生未知请求错误: {e}")
return None
except KeyError as e:
print(f"解析JSON数据时键错误: {e}。可能API响应结构发生变化。")
return None
if __name__ == "__main__":
print("获取2022-23赛季NBA选秀体测数据...")
df_2022_23 = get_nba_combine_anthro_data("2022-23")
if df_2022_23 is not None:
print(df_2022_23.head())
print(f"\n2022-23赛季数据共 {df_2022_23.shape[0]} 条记录。")
print("\n获取2021-22赛季NBA选秀体测数据...")
df_2021_22 = get_nba_combine_anthro_data("2021-22")
if df_2021_22 is not None:
print(df_2021_22.head())
print(f"\n2021-22赛季数据共 {df_2021_22.shape[0]} 条记录。")注意事项与最佳实践
- 尊重网站政策： 在进行任何形式的数据抓取时，务必查阅网站的robots.txt文件和使用条款。NBA官方提供了API供开发者使用，通常直接调用API比解析HTML更受推荐和稳定。
- User-Agent和Referer： 模拟常见的浏览器User-Agent和正确的Referer头是避免被服务器拒绝的关键。如果这些信息不正确，服务器可能会返回403 Forbidden错误。
- 错误处理： 网络请求可能因多种原因失败（如网络问题、超时、服务器拒绝）。在代码中加入try-except块来捕获requests.exceptions，可以提高程序的健壮性。
- 请求频率限制 (Rate Limiting)： 频繁地向同一API发送请求可能会触发服务器的限流机制，导致IP被封禁。在实际应用中，应加入适当的延迟（例如使用time.sleep()）来控制请求频率。
- API稳定性： 网站的API结构可能会随时间变化。如果代码突然失效，首先检查API端点、参数或响应JSON结构是否发生了改变。
- 数据清洗： 获取到的数据可能包含NaN值或其他不规范的数据，需要进一步使用pandas进行清洗和预处理。
总结
当传统网页抓取方法无法获取动态加载的数据时，通过分析浏览器的网络请求，直接调用网站的后端API是一种更高效、更稳定的解决方案。这种方法不仅能够准确获取所需数据，还能避免处理复杂的JavaScript渲染逻辑。掌握API请求的技巧，是现代数据抓取不可或缺的能力。
本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系bd@zhengruan.com
装机必备
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
Windows
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
PDF教程
正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。
macOS软件
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
IOS软件
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
AI
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
Shapr3D macOS版
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER macOS版
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live macOS版
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects macOS版
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition macOS版
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge macOS版
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator macOS版
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign macOS版
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Media Encoder macOS版
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop macOS版
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Adobe Premiere Pro macOS版
Adobe Premiere Pro 是面向专业视频制作的非线性剪辑软件，提供多轨时间线、调色、音频处理、字幕、代理工作流和多格式输出能力，并可与 After Effects、Audition、Photoshop 及 Frame.io 协同
3dmax（3ds max）
Autodesk 3ds Max 是一款专业的三维建模、动画与渲染软件，广泛应用于建筑可视化、游戏开发、影视动画、广告设计和产品展示等领域。
photoshop
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Windows 10
Windows 10 是一款微软推出的经典操作系统，拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起，适合需要持续观察和微调设备状态的场景。
极度公式
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
密码键盘
密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。
思源笔记
思源笔记是一款本地笔记软件，提供所见即所得的编辑方式，为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然，适合长期写作、做笔记或持续沉淀个人内容。
傲梅轻松备份
傲梅轻松备份是一款专业易用的数据备份软件，为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出，适合把安全控制放进长期使用流程中的场景。
Office 365 简体中文
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
WALTR PRO
WALTR是一款电脑至iOS文件传输转换工具，操作简单，快速实现文件识别与传送。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
CodeExpander
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
