- 1
- 2
- 3
- 4
- 5
标签平滑技术原理与应用
资料介绍
一、基本概念
标签平滑（Label Smoothing）是一种正则化技术，主要用于解决分类任务中标签过于绝对化导致的模型过拟合问题。在传统的硬标签（Hard Label）设置中，样本被明确分配到单一类别（如独热编码：[1,0,0,…]），这可能使模型对自身预测过度自信，降低泛化能力。标签平滑通过将目标标签的概率分布“软化”，在真实标签的基础上引入一定的不确定性，促使模型学习更鲁棒的特征表示。
二、核心思想
标签平滑的核心在于对目标标签进行概率调整，具体表现为：
· 降低真实标签的概率值，从1.0调整为接近1的数值（如0.9）；
· 将剩余概率（如0.1）均匀分配给其他类别，形成“平滑后的软标签”；
· 通过这种方式，引导模型不仅关注当前类别，同时考虑其他类别的可能性，避免过度拟合训练数据中的噪声。
三、数学原理
假设类别总数为K，真实标签为y（独热向量），平滑参数为ε（通常取0.1~0.2），则平滑后的标签概率q(k|x)定义为：
q(k|x) = 
·δ(k,y) + ε/K
其中，δ(k,y)为克罗内克函数（当k=y时为1，否则为0）。模型训练时，使用交叉熵损失函数优化平滑后的标签分布。
部分文件列表
| 文件名 | 大小 |
| 标签平滑技术原理与应用.docx | 14K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏5.00元 3天前
资料：数控电子负载-CH552
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：zhengdai
-
21ic下载 打赏310.00元 3天前
用户：liqiang9090
-
21ic下载 打赏330.00元 3天前
用户：jh0355
-
21ic下载 打赏210.00元 3天前
用户：小猫做电路
-
21ic下载 打赏240.00元 3天前
用户：jh03551
-
21ic下载 打赏210.00元 3天前
用户：gsy幸运
-
21ic下载 打赏70.00元 3天前
用户：w178191520
-
21ic下载 打赏60.00元 3天前
用户：sun2152
-
21ic下载 打赏80.00元 3天前
用户：江岚
-
21ic下载 打赏60.00元 3天前
用户：xuzhen1
-
21ic下载 打赏20.00元 3天前
用户：kk1957135547
-
21ic下载 打赏40.00元 3天前
用户：潇潇江南
-
21ic下载 打赏20.00元 3天前
用户：w993263495
-
21ic下载 打赏20.00元 3天前
用户：w1966891335
-
21ic下载 打赏70.00元 3天前
用户：有理想666
-
21ic下载 打赏35.00元 3天前
用户：xzxbybd
-
21ic下载 打赏15.00元 3天前
用户：x15580286248
-
21ic下载 打赏25.00元 3天前
用户：铁蛋锅
-
21ic下载 打赏35.00元 3天前
用户：mulanhk
-
21ic下载 打赏25.00元 3天前
用户：曲鹏
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏5.00元 3天前
全部评论(0)