- 1
- 2
- 3
- 4
- 5
Sigmoid激活函数
资料介绍
基本定义与数学形式
Sigmoid激活函数是人工神经网络中最早被广泛使用的非线性激活函数之一，是一个在生物学中类似于神经元“激活”特性的S型函数，也常被称为逻辑斯蒂函数（Logistic Function）。它的数学形式可以表示为：
其中，$x$是神经元的输入加权和，$e$是自然常数。从公式可以看出，Sigmoid函数会将任意实数输入映射到**(0, 1)**区间内，当输入$x$趋近于正无穷时，输出趋近于1；当输入$x$趋近于负无穷时，输出趋近于0，完美符合概率输出的区间要求。
核心性质
1. 非线性与平滑性
Sigmoid是连续可导的非线性函数，整个定义域内曲线平滑，不存在断点，这一特性保证了反向传播过程中可以正常计算梯度，不会出现梯度不存在的问题。它的导数形式非常简洁，可以通过自身输出推导得到：
这一性质大大降低了神经网络反向传播的计算量，仅需要保存Sigmoid的输出结果，就可以快速计算出导数，是其早期被广泛应用的重要原因。
2. 输出范围归一化
Sigmoid的输出被严格限制在0到1之间，天然符合概率输出的需求，也可以让输出值被解释为神经元的激活概率，非常适合用于二分类任务的输出层。同时，输出的有界性也使得模型对输入噪声的鲁棒性相对较好，过大的输入不会导致输出发生爆炸式增长。
3. 单调递增性
Sigmoid函数在整个定义域内是单调递增的，这意味着输入越大，输出也越大，符合我们对激活函数“越强输入对应越强输出”的基本预期，不会出现多对一的映射问题，保证了分类和回归任务中的单调性逻辑。
部分文件列表
| 文件名 | 大小 |
| Sigmoid激活函数.docx | 15K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏10.00元 4小时前
-
21ic小能手 打赏5.00元 4小时前
-
21ic下载 打赏310.00元 2天前
用户：江岚
-
21ic下载 打赏310.00元 2天前
用户：mulanhk
-
21ic下载 打赏320.00元 2天前
用户：jh03551
-
21ic下载 打赏220.00元 2天前
用户：jh0355
-
21ic下载 打赏210.00元 2天前
用户：潇潇江南
-
21ic下载 打赏210.00元 2天前
用户：小猫做电路
-
21ic下载 打赏60.00元 2天前
用户：gsy幸运
-
21ic下载 打赏60.00元 2天前
用户：zhengdai
-
21ic下载 打赏60.00元 2天前
用户：lanmukk
-
21ic下载 打赏60.00元 2天前
用户：烟雨
-
21ic下载 打赏20.00元 2天前
用户：w993263495
-
21ic下载 打赏30.00元 2天前
用户：sun2152
-
21ic下载 打赏20.00元 2天前
用户：w178191520
-
21ic下载 打赏20.00元 2天前
用户：liqiang9090
-
21ic下载 打赏20.00元 2天前
用户：xuzhen1
-
21ic下载 打赏35.00元 2天前
用户：有理想666
-
21ic下载 打赏15.00元 2天前
用户：w1966891335
-
21ic下载 打赏15.00元 2天前
用户：x15580286248
-
21ic下载 打赏25.00元 2天前
用户：qiufeng0299
-
21ic下载 打赏15.00元 2天前
用户：kk1957135547
-
21ic下载 打赏10.00元 2天前
用户：qingsong08
-
21ic下载 打赏10.00元 2天前
用户：电工老刘
-
21ic小能手 打赏5.00元 2天前
-
21ic小能手 打赏5.00元 2天前
-
21ic小能手 打赏5.00元 2天前
-
ZENGYIBIN 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：STM32的数字万用表
-
21ic小能手 打赏5.00元 3天前
-
kuangwy 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：51单片机的汽车雨刷器
-
21ic小能手 打赏5.00元 3天前
全部评论(0)