企业官网建设流程全解析

MaskedScale 算子 API 描述

【免费下载链接】cann-bench评测AI在处理CANN领域代码任务的能力，涵盖算子生成、算子优化等领域，支撑模型选型、训练效果评估，统一量化评估标准，识别Agent能力短板，构建CANN领域评测平台，推动AI能力在CANN领域的持续演进。项目地址: https://gitcode.com/cann/cann-bench

1. 算子简介

MaskedScale 算子对输入张量进行掩码缩放操作，支持输入张量 x 和掩码张量 mask 的不同数据类型组合。

主要应用场景：

• Transformer 中的注意力掩码缩放
• Dropout 的掩码乘法实现
• 条件计算中的选择性缩放

算子特征：

• 难度等级：L1（MaskPredicate）
• 双输入单输出，逐元素运算，输入 x、mask 和输出 y 的 shape 需一致

2. 算子定义

数学公式

$$ y = x \cdot mask \cdot scale $$

3. 接口规范

算子原型

cann_bench.masked_scale(Tensor x, Tensor mask, float scale) -> Tensor y

输入参数说明

输出

数据类型

x 与 mask 支持不同 dtype 的组合：

规则与约束

• 输入 x、mask 的 shape 必须完全一致，输出 y 的 shape 也与之相同
• 输出 dtype 与输入 x 的 dtype 一致
• mask 通常取值 0 或 1，但不限于此（也支持连续值掩码）

4. 精度要求

采用生态算子精度标准进行验证。

误差指标：

1. 平均相对误差（MERE）：采样点中相对误差平均值

   $$ \text{MERE} = \text{avg}(\frac{\text{abs}(actual - golden)}{\text{abs}(golden)+\text{1e-7}}) $$

2. 最大相对误差（MARE）：采样点中相对误差最大值

   $$ \text{MARE} = \max(\frac{\text{abs}(actual - golden)}{\text{abs}(golden)+\text{1e-7}}) $$

通过标准：

当平均相对误差 MERE < Threshold，最大相对误差 MARE < 10 * Threshold 时判定为通过。

5. 标准 Golden 代码

import torch def masked_scale( x: torch.Tensor, mask: torch.Tensor, scale: float = 1.0 ) -> torch.Tensor: """ 对输入张量进行掩码缩放，支持x和mask的不同数据类型组合 公式: y = x * mask * scale Args: x: 输入张量 mask: 掩码张量 scale: 缩放因子 Returns: 掩码缩放结果 """ y = x * mask * scale return y

6. 额外信息

算子调用示例

import torch import cann_bench x = torch.randn(1024, 1024, dtype=torch.float16, device="npu") mask = torch.randint(0, 2, (1024, 1024), dtype=torch.int8, device="npu") y = cann_bench.masked_scale(x, mask, scale=2.0)

【免费下载链接】cann-bench评测AI在处理CANN领域代码任务的能力，涵盖算子生成、算子优化等领域，支撑模型选型、训练效果评估，统一量化评估标准，识别Agent能力短板，构建CANN领域评测平台，推动AI能力在CANN领域的持续演进。项目地址: https://gitcode.com/cann/cann-bench