CANN/asc-devkit ReduceSum临时空间大小接口
GetReduceSumMaxMinTmpSize
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
功能说明
kernel侧ReduceSum接口的计算需要开发者预留/申请临时空间，本接口用于在host侧获取预留/申请的最大最小临时空间大小，开发者基于此范围选择合适的空间大小作为Tiling参数传递到kernel侧使用。
- 为保证功能正确，预留/申请的临时空间大小不能小于最小临时空间大小。
- 在最小临时空间-最大临时空间范围内，随着临时空间增大，kernel侧接口计算性能会有一定程度的优化提升。为了达到更好的性能，开发者可以根据实际的内存使用情况进行空间预留/申请。该接口最大临时空间当前等于最小临时空间。
函数原型
void GetReduceSumMaxMinTmpSize(const ge::Shape& srcShape, const ge::DataType dataType, ReducePattern pattern, bool isSrcInnerPad, bool isReuseSource, uint32_t& maxValue, uint32_t& minValue)参数说明
表1接口参数列表
| 接口 | 输入/输出 | 功能 |
|---|---|---|
| srcShape | 输入 | 输入的shape信息，参数取值与ReduceSum接口的srcShape参数保持一致。 |
| dataType | 输入 | 输入的数据类型，ge::DataType类型，当前支持的数据类型与ReduceSum接口的模板参数T保持一致。 |
| pattern | 输入 | 用于指定ReduceSum的计算轴。ReducePattern类型，该类型的定义如下代码所示，包括Reduce轴和Normal轴。pattern由与输入向量维度数量相同的A、R字母组合形成，字母A表示Normal轴，R表示Reduce轴。该参数的取值与ReduceSum接口的pattern参数保持一致，当前只支持取值为AscendC::ReducePattern::AR，AscendC::ReducePattern::RA。 |
| isSrcInnerPad | 输入 | 表示实际需要计算的最内层轴数据是否32Bytes对齐，参数取值与ReduceSum接口的isSrcInnerPad参数保持一致。 |
| isReuseSource | 输入 | 是否复用源操作数输入的空间，参数取值与ReduceSum接口的isReuseSource参数保持一致。 |
| maxValue | 输出 | ReduceSum接口能完成计算所需最大临时空间大小，超出该值的空间不会被该接口使用。 说明： maxValue仅作为参考值，有可能大于Unified Buffer剩余空间的大小，该场景下，开发者需要根据Unified Buffer剩余空间的大小来选取合适的临时空间大小。 |
| minValue | 输出 | ReduceSum接口能完成计算所需最小临时空间大小。为保证功能正确，接口计算时预留/申请的临时空间不能小于该数值。 |
enum class ReducePattern : uint32_t { AR = 0, RA = 1, R, ARA, ARAR, ARARA, ARARAR, ARARARA, ARARARAR, ARARARARA, RAR, RARA, RARAR, RARARA, RARARAR, RARARARA, };返回值说明
无
约束说明
无
调用示例
完整的调用样例请参考更多样例。
// 输入shape信息为1024;算子输入的数据类型为float;不允许修改源操作数 auto shape = ge::Shape({16, 32}); uint32_t maxValue = 0; uint32_t minValue = 0; bool isSrcInnerPad = true; bool isReuseSource = false; AscendC::GetReduceSumMaxMinTmpSize( shape, ge::DataType::DT_FLOAT, AscendC::ReducePattern::AR, isSrcInnerPad, isReuseSource, maxValue, minValue);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考