sklearn 中的两个半监督标签传播算法 LabelPropagation和LabelSpreading
标签传播算法是一种半监督机器学习算法，它将标签分配给以前未标记的数据点。要在机器学习中使用这种算法，只有一小部分示例具有标签或分类。在算法的建模、拟合和预测过程中，这些标签被传播到未标记的数据点。LabelPropagationLabelPropagation是一种在图中查找社区的快速算法。它只使用网络结构作为指导来检测这些连接，不需要预定义的目标函数或关于群体的先验信息。标签传播通过在网络中传播标签并基于标签传播过程形成连接来实现。接近的标签通常会被赋予相同的标签。单个标签可以在密集连接的节点组中占主导
标签传播算法是一种半监督机器学习算法，它将标签分配给以前未标记的数据点。要在机器学习中使用这种算法，只有一小部分示例具有标签或分类。在算法的建模、拟合和预测过程中，这些标签被传播到未标记的数据点。
LabelPropagation
LabelPropagation是一种在图中查找社区的快速算法。它只使用网络结构作为指导来检测这些连接，不需要预定义的目标函数或关于群体的先验信息。标签传播通过在网络中传播标签并基于标签传播过程形成连接来实现。
接近的标签通常会被赋予相同的标签。单个标签可以在密集连接的节点组中占主导地位，但在稀疏连接的区域中会遇到麻烦。标签将被限制在一个紧密连接的节点组中，当算法完成时，那些最终具有相同标签的节点可以被视为同一连接的一部分。该算法使用了图论，具体如下:-
LabelPropagation算法以下列方式工作：-
- 每个节点都使用唯一的标签进行初始化。
- 这些标签通过网络传播。
- 在每次传播迭代中，每个节点都会将其标签更新为最大邻居数所属的标签。
- 当每个节点具有其邻居的多数标签时，标签传播算法达到收敛。
- 如果达到收敛或用户定义的最大迭代次数，则标签传播算法停止。
为了演示LabelPropagation算法的工作原理，们使用 Pima Indians 的数据集，创建程序时，我导入了运行它所需的库
复制一份数据并且将lable列作为训练目标
使用matplotlib可视化：
使用随机数生成器随机化数据集中70%的标签。然后随机标签被分配-1:-
在对数据进行预处理之后，定义因变量和自变量，分别为y和X。y变量是最后一列，X变量是剩下的所有部分:-
使用sklearn的LabelPropagation数来标记所有未标记的数据点:-
准确率为发现它是76.9%。
下面我们看看另外一个算法LabelSpreading。
LabelSpreading
LabelSpreading也是一种流行的半监督学习方法。创建一个连接训练数据集中样本的图，并通过图的边缘传播已知的标签来标记未标记的示例。
LabelSpreading是由 Dengyong Zhou 等人在他们 2003 年题为“Learning with Local and Global Consistency”的论文中提出的的。半监督学习的关键是一致性的先验假设，这意味着：附近的点可能具有相同的标签，并且同一结构上的点(通常称为簇流形)很可能具有相同的标签。
LabelSpreading可以认为是LabelPropagation的正则化形式。在图论中，拉普拉斯矩阵是图的矩阵表示，拉普拉斯矩阵的公式为:
L是拉普拉斯矩阵，D是度矩阵，A是邻接矩阵。
下面是一个简单的无向图标记的例子和它拉普拉斯矩阵的结果
本文将使用sonar数据集演示如何使用sklearn的LabelSpreading函数。
这里的库比上面的多，所以简单解释一下：
- Numpy执行数值计算并创建Numpy数组
- Pandas处理数据
- Sklearn执行机器学习操作
- Matplotlib和seaborn来可视化数据，为可视化数据提供统计信息
- Warning，用于忽略程序执行期间出现的警告
导入完成后使用pandas将读入数据集:
我使用seaborn创建了热图:-
先做一个就简单的预处理，删除具有高度相关性的列，这样将列数从 61 减少到 58：
然后对数据进行打乱重排，这样在打乱的数据集中预测通常更准确，复制一个数据集的副本，并将 y_orig 定义为训练目标：
使用matplotlib来绘制数据点的2D散点图:-
使用随机数生成器随机化数据集中60%的标签。然后随机标签被分配-1:-
在对数据进行预处理之后，定义因变量和自变量，分别为y和X。y变量是最后一列，X变量是剩下的所有部分:-
然后使用sklearn的LabelSpreading算法对未标记的行进行训练和预测。
使用这种方法，能够达到87.98%的准确率:-
简单对比
1、labelspreading中含有alpha=0.2，alpha称为夹紧系数，指的是采用其邻居的信息而不是其初始标签的相对量，若为0，表示保留初始标签信息，若为1，表示替换所有初始信息；设置alpha=0.2，意味着始终保留80%的原始标签信息；
2、labelpropagation使用从数据中构造的原始相似矩阵，不做修改；labelspreading最小化具有正则化特性的损失函数，对噪声更加稳健，迭代了原始图的修改版，并通过计算归一化拉普拉斯矩阵来标准化边权重。
3、同时LabelSpreading非常占用CPU，物理内存占用率还好；LabelPropagation 的CPU占用率还好，非常占用物理内存，高纬度数据可能会有一些问题。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。