PReluGradUpdate
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | × |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | × |
| Atlas 200I/500 A2 推理产品 | × |
| Atlas 推理系列产品 | × |
| Atlas 训练系列产品 | × |
功能说明
- 算子功能:激活函数,返回与输入tensor shape相同的tensor,tensor中value大于等于0时,取该value,小于0,取0。
- 计算公式:
$$ gradInput
\begin{cases} gradOutput, & self > 0 \ weight \times gradOutput, & self \le 0 \end{cases} $$
$$ update
\begin{cases} 0, & self > 0 \ self \times gradOutput, & self \le 0 \end{cases} $$
参数说明
| 参数名 | 输入/输出 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| grads | 输入 | prelu正向的输出y反向传播的梯度 | FLOAT、FLOAT16、BFLOAT16 | ND |
| features | 输入 | prelu正向的输入features | FLOAT、FLOAT16、BFLOAT16 | ND |
| weights | 输入 | prelu正向的输入weights | FLOAT、FLOAT16、BFLOAT16 | ND |
| dx | 输出 | features的梯度 | FLOAT、FLOAT16、BFLOAT16 | ND |
| updates | 输出 | weights梯度计算的中间结果,用于后续reduce计算 | FLOAT、FLOAT16、BFLOAT16 | ND |
约束说明
无
调用说明
| 调用方式 | 调用样例 | 说明 |
|---|---|---|
| aclnn调用 | test_aclnn_prelu_backward | 通过aclnnPReluBackward接口方式调用PReluGradUpdate算子。 |
| 图模式 | - | 通过算子IR构图方式调用PReluGradUpdate算子。 |
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考