基于Ray-LLM的大模型分布式推理与服务部署实战指南
2026/5/11 4:31:38
SetInput
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
功能说明
设置特征矩阵Input。
函数原型
__aicore__ inline void SetInput(const AscendC::GlobalTensor<InputT>& input)参数说明
Input在Global Memory上的首地址。类型为GlobalTensor。特征矩阵Input支持的数据类型为：half、bfloat16_t。 |
返回值说明
无
约束说明
无
调用示例
GlobalTensor<half> inputGm; inputGm.SetGlobalBuffer(reinterpret_cast<__gm__ half *>(input)); conv3dApi.SetInput(inputGm);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考