torch.nn.Hardtanh
原型
CLASS torch.nn.Hardtanh(min_val=- 1.0, max_val=1.0, inplace=False, min_value=None, max_value=None)
参数
- min_val ([float]) – 线性区域的最小值,默认为 -1
- max_val ([float]) – 线性区域的最大值,默认为 1
- inplace ([bool]) – 默认为 False
torch.nn.Hardtanh 是 PyTorch 中的一个类,用于实现一个带有固定边界的硬性切割激活函数(HardTanh)。HardTanh 函数对输入进行逐元素操作,并将大于上边界值的输入截断为上边界值,将小于下边界值的输入截断为下边界值,处于边界值之间的输入保持不变。
HardTanh 的定义如下:
HardTanh(x) = max(min_val, min(max_val, x))
其中 min_val 和 max_val 分别是下边界值和上边界值。
使用 torch.nn.Hardtanh 类可以方便地在神经网络模型中引入 HardTanh 激活函数。以下是一个简单的示例:
在上述示例中,我们首先创建了一个大小为 5 的输入张量 x,然后实例化了 nn.Hardtanh,并将其赋值给变量 hardtanh。接下来,我们调用 hardtanh 的 call 方法,对输入张量 x 进行 HardTanh 运算,得到输出张量 output。最后,我们打印输出张量的值。
Lnton 羚通是专注于音视频算法、算力、云平台的高科技人工智能企业。 公司基于视频分析技术、视频智能传输技术、远程监测技术以及智能语音融合技术等, 拥有多款可支持 ONVIF、RTSP、GB/T28181 等多协议、多路数的音视频智能分析服务器 / 云平台。
标签:Hardtanh,nn,val,min,边界值,torch,HardTanh,PyTorch From: https://blog.51cto.com/LNTON/7341530