当前位置: 首页 > news >正文

CANN/asc-devkit:reg数据类型定义

reg数据类型定义

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

矢量数据寄存器

矢量数据寄存器用于存储矢量数据,其位宽为VL(Vector Length),可存储VL/sizeof(T)的数据(T表示数据类型)。在Ascend 950PR/Ascend 950DT版本中, VL = 256B。例如对于矢量数据类型vector_float,该寄存器可存储的元素数量为256B / sizeof(float) = 64个。

以下是以位宽为分类,列举的所有矢量数据寄存器的数据类型:

位宽矢量数据类型
b8vector_int8_t/vector_uint8_t/vector_int4x2_t/vector_fp4x2_e2m1_t/vector_fp4x2_e1m2_t/vector_hifloat8_t/vector_fp8_e4m3fn_t/vector_fp8_e5m2_t/vector_fp8_e8m0_t
b16vector_int16_t/vector_uint16_t/vector_half/vector_bfloat16_t
b32vector_int32_t/vector_uint32_t/vector_float
b64vector_int64_t/vector_uint64_t

注意:vector_int4x2_t、vector_fp4x2_e2m1_t、vector_fp4x2_e1m2_t这三个矢量数据类型在内存中的排布需要将两个元素打包为一个字节的存储单元。

调用示例

vector_half dst; half index = 0; asc_arange(dst, index);

掩码寄存器

掩码寄存器的数据类型为vector_bool,用于矢量计算中选择参与计算的元素,其位宽为VL/8。当搬运掩码寄存器时,ubuf中地址偏移单位为字节。

调用示例

uint32_t length = 255; vector_bool mask = asc_create_mask_b16(PAT_ALL); // 创建一个所有元素为True的掩码寄存器 vector_bool mask = asc_update_mask_b16(length); // 根据矢量计算需要操作的元素的具体数量,生成对应的掩码寄存器

非对齐寄存器

非对齐寄存器包括vector_load_unalign和vector_store_unalign。这些寄存器作为缓冲区,用于在UB和矢量数据寄存器之间进行连续的非对齐数据搬运,其中非对齐特指数据起始地址未按32字节对齐。在搬运过程中,非对齐数据首先被加载到专用的非对齐寄存器,随后通过相应的搬运接口完成数据的分块读取或写入。

在读非对齐地址前,vector_load_unalign应该通过asc_loadunalign_pre初始化,然后再使用asc_loadunalign。在写非对齐地址时,应先使用asc_storeunalign,再使用asc_storeunalign_post进行处理。

调用示例

constexpr uint32_t one_repeat_size = 256 / sizeof(int8_t); // VL / sizeof(T) uint32_t total_length = 255; uint32_t repeat_time = (total_length + one_repeat_size - 1) / one_repeat_size; __simd_vf__ inline void neg_vf(__ubuf__ int8_t* dst_addr, __ubuf__ int8_t* src_addr, uint32_t count, uint32_t one_repeat_size, uint16_t repeat_time) { vector_int8_t src; vector_int8_t dst; vector_load_unalign ureg0; vector_store_unalign ureg1; vector_bool mask; for (uint16_t i = 0; i < repeat_time; ++i) { mask = asc_update_mask_b8(count); asc_loadunalign_pre(ureg0, src_addr + i * one_repeat_size); // 非对齐搬入前的初始化 asc_loadunalign(src, ureg0, src_addr + i * one_repeat_size); // 配合vector_load_unalign的使用,非对齐搬入源数据 asc_neg(dst, src, mask); asc_storeunalign(dst_addr + i * one_repeat_size, ureg1, dst, one_repeat_size); // 配合vector_store_unalign的使用,非对齐搬出目的数据 asc_storeunalign_post(dst_addr + i * one_repeat_size, ureg1, 0); // 处理非对齐搬出的尾块 } }

地址寄存器

地址寄存器的数据类型为addr_reg,用于存储地址偏移量。addr_reg通过asc_create_addr_reg初始化,然后在循环之中使用addr_reg存储地址偏移量。addr_reg在每层循环中根据所设置的步长进行自增。

调用示例

单参数版本
constexpr uint32_t one_repeat_size = 256 / sizeof(int8_t); // VL / sizeof(T) uint32_t total_length = 256; uint32_t repeat_time = total_length / one_repeat_size; __simd_vf__ inline void add_vf(__ubuf__ int8_t* dst_addr, __ubuf__ int8_t* src0_addr, __ubuf__ int8_t* src1_addr, uint32_t count, uint32_t one_repeat_size, uint16_t repeat_time) { vector_int8_t src0; vector_int8_t src1; vector_int8_t dst; vector_bool mask; addr_reg addr_reg; for (uint16_t i = 0; i < repeat_time; ++i) { addr_reg = asc_create_addr_reg_b8(one_repeat_size); // 通过初始化addr_reg,每一次循环,地址偏移one_repeat_size mask = asc_update_mask_b8(count); asc_loadalign(src0, src0_addr, addr_reg); asc_loadalign(src1, src1_addr, addr_reg); asc_add(dst, src0, src1, mask); asc_storealign(dst_addr, dst, addr_reg, mask); } }
多参数版本(以4参数为例)
__simd_vf__ inline void add_4d_vf( __ubuf__ float* dst_addr, __ubuf__ float* src_addr, uint32_t n_stride, // N间偏移 = C×H×W (float元素数) uint32_t c_stride, // C间偏移 = H×W (float元素数) uint32_t h_stride, // H间偏移 = W (float元素数) uint32_t w_stride, // W间偏移 = 64 (一个VL的float数) uint16_t N, uint16_t C, uint16_t H, uint16_t W) { vector_float src_reg, dst_reg; vector_bool mask = asc_create_mask_b32(PAT_ALL); addr_reg a_reg; for (uint16_t n = 0; n < N; n++) { for (uint16_t c = 0; c < C; c++) { for (uint16_t h = 0; h < H; h++) { for (uint16_t w = 0; w < W; w++) { a_reg = asc_create_addr_reg_b32(n_stride, c_stride, h_stride, w_stride); asc_loadalign(src_reg, src_addr, a_reg); asc_add(dst_reg, src_reg, src_reg, mask); asc_storealign(dst_addr, dst_reg, a_reg, mask); } } } } }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.cnnetsun.cn/news/3434234.html

相关文章:

  • 原神抽卡记录导出工具终极指南:3步轻松备份分析你的抽卡历史
  • Mac Mouse Fix:如何让10美元鼠标超越苹果触控板体验?
  • 5分钟搭建终极个人数字图书馆:Talebook完整指南
  • 《Java 100 天进阶之路》第31.1篇:Java常用API与底层原理对比集(2026版)
  • CANN Ascend C SIMD掩码更新函数
  • MPL_ROS与ROS 2迁移指南:从ROS Kinetic到ROS 2 Foxy的完整迁移方案
  • DNABERT-2全面升级:多物种基因组模型如何提升预测性能?
  • jspm美食推荐系统
  • 校园一卡通密钥管理系统
  • 智能卤菜销售平台
  • 企业级即时通讯:以IM为中心重塑业务协同体验
  • GPT-5.6 重构 20 万行遗留代码实践:开发提效 82% 的完整复盘与经验总结
  • Vibe语音转文字:新手也能轻松上手的免费转录工具终极指南
  • 独立站建设与外贸GEO:乐云SEO探索海外流量新路径
  • Home Assistant Floor Plan Generator性能优化:缓存机制与渲染效率提升方法
  • 界面组件Kendo UI for Angular教程 - 构建强大的PDF阅读器(二)
  • 「Qt Widget中文示例指南」如何实现一个简单的RHI小部件示例(一)
  • 如何提升Jenkins构建效率?Build Monitor Plugin核心功能全解析 [特殊字符]
  • Rainbow-delimiters与其他Emacs括号插件的对比分析
  • AI批量写代码后期摆烂?底层原理和落地对策讲透了 ​
  • 解锁Microsoft 365完整功能:Ohook钩子技术的三个关键突破
  • 终极Mac鼠标滚动优化指南:让外接鼠标如丝般顺滑的完整教程
  • 墨西哥各类自然资源与支柱产业完整梳理
  • 如何快速上手Optuna Dashboard?5分钟搭建你的优化监控平台
  • 3分钟上手Reactive Resume:免费开源简历构建器终极指南
  • Loop macOS窗口管理工具:用优雅的径向菜单重新定义工作效率
  • 告别数据混乱:bytebuffer.js的Base64、UTF8与Hex编码转换实战技巧
  • AltoClef:终极Minecraft自动化机器人 - 第一个完全自主通关的AI助手
  • Invoke-WCMDump源码深度剖析:从C到PowerShell的完整实现
  • 为什么选择Vegas?对比Scala生态中的5个数据可视化库