asc_copy_l12l0b_mx【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径c_api/cube_datamove/cube_datamove.h。将Mx scale矩阵从L1 Buffer搬运到L0B Buffer。函数原型常规搬运__aicore__ inline void asc_copy_l12l0b_mx(uint64_t dst, __cbuf__ fp8_e8m0_t* src, uint16_t x_start_pos, uint16_t y_start_pos, uint8_t x_step, uint8_t y_step, uint16_t src_stride, uint16_t dst_stride)同步搬运__aicore__ inline void asc_copy_l12l0b_mx_sync(uint64_t dst, __cbuf__ fp8_e8m0_t* src, uint16_t x_start_pos, uint16_t y_start_pos, uint8_t x_step, uint8_t y_step, uint16_t src_stride, uint16_t dst_stride)参数说明参数名输入/输出描述dst输出目的操作数的地址。src输入源操作数Mx scale矩阵的起始地址数据类型为fp8_e8m0_t。x_start_pos输入源操作数X轴方向的起始位置即M维度方向单位为1个分形1个单位代表一个32B的分形。y_start_pos输入源操作数Y轴方向的起始位置即K维度方向单位为32B。x_step输入源操作数X轴方向搬运长度即M维度方向单位为1个分形1个单位代表一个32B的分形。取值范围[0, 255]。y_step输入源操作数Y轴方向搬运长度即K维度方向单位为32B。取值范围[0, 255]。src_stride输入源操作数X轴方向前一个分形起始地址与后一个分形起始地址的间隔单位为32B。dst_stride输入目的操作数X轴方向前一个分形起始地址与后一个分形起始地址的间隔单位为32B。返回值说明无流水类型PIPE_MTE1约束说明scale矩阵的分形固定为(16, 2, 16)对应L0B Buffer的分形为(16, 32, 16)占L0B Buffer地址的1 / 16需要按照这种地址约束存放地址。dstL0B Buffer的地址的数据类型支持fp4x2_e2m1_t、fp4x2_e1m2_t、fp8_e5m2_t、fp8_e4m3fn_tsrc的数据类型支持fp8_e8m0_t。dst、src的起始地址需要32字节对齐。调用示例__cbuf__ fp8_e8m0_t src[1024]; __cb__ fp8_e5m2_t dst[1024]; uint16_t x_start_pos 0; uint16_t y_start_pos 0; uint8_t x_step 0; uint8_t y_step 0; uint16_t src_stride 8; uint16_t dst_stride 8; uint64_t mx_dst_addr static_castuint64_t(reinterpret_castuintptr_t(dst)) / 16; asc_copy_l12l0b_mx(mx_dst_addr, src, x_start_pos, y_start_pos, x_step, y_step, src_stride, dst_stride);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考