各大网站做推广广告排名优化公司案例

Sigmoid和Hard Sigmoid是两种常用的激活函数，它们在神经网络中起到非线性变换的作用。以下是它们之间的对比和优缺点总结：

Sigmoid激活函数：

优点：

1. 输出范围是0到1之间，可以用于二分类问题。
2. 函数形状相对平滑，有助于减小梯度消失问题。
   缺点：

在输入非常大或非常小的值时，会出现梯度消失的情况，导致网络训练困难。
计算量大，因为需要计算指数函数。
输出不是以0为中心，有时会影响网络的训练。

Hard Sigmoid激活函数：

优点：
计算量较小，因为不需要计算指数函数。
输出是以0为中心的，有助于网络的训练。
输出范围是[0,1]，可以用于二分类问题。

缺点：
相对于Sigmoid函数，其输出不是非常平滑，可能导致梯度消失问题。
在输入值接近于0时，其梯度接近于0，可能会影响网络的训练。
在处理多分类问题时，需要使用Softmax函数作为输出层，而Hard Sigmoid与Softmax的组合可能不如Sigmoid与Softmax的组合稳定。

总结：
选择激活函数需要根据具体的应用场景和需求来决定。如果需要处理二分类问题并且对计算量要求较高，可以考虑使用Hard Sigmoid。如果对网络的稳定性和平滑性要求较高，可以选择使用Sigmoid激活函数。

import torch
import torch.nn as nn
import matplotlib.pyplot as plt
# Sigmoid激活函数
sigmoid = nn.Sigmoid()
sigmoid_inputs = torch.arange(-10, 10, 0.1)
sigmoid_outputs = sigmoid(sigmoid_inputs)
print("Sigmoid Function Input :: {}".format(sigmoid_inputs))
print("Sigmoid Function Output :: {}".format(sigmoid_outputs))plt.subplot(1, 2, 1)
plt.plot(sigmoid_inputs,sigmoid_outputs)
plt.title('Sigmoid')# Hard Sigmoid激活函数
hard_sigmoid = nn.Hardsigmoid()
hard_sigmoid_inputs = torch.arange(-10, 10, 0.1)
hard_sigmoid_outputs = hard_sigmoid(hard_sigmoid_inputs)
print("Hard Sigmoid Function Input :: {}".format(hard_sigmoid_inputs))
print("Hard Sigmoid Function Output :: {}".format(hard_sigmoid_outputs))
plt.subplot(1, 2, 2)
plt.plot(hard_sigmoid_inputs,hard_sigmoid_outputs)plt.title('Hard Sigmoid')
plt.show()