CANN/asc-devkit:int32转half量化函数 asc_deq_int322half【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径c_api/vector_compute/vector_compute.h。对输入的int32_t类型的数据按元素做量化并转换为half类型。计算公式如下 $$ dst_i Cast(src_i * scale) $$ 其中的scale可通过asc_set_deq_scale设置。函数原型前n个数据计算__aicore__ inline void asc_deq_int322half(__ubuf__ half* dst, __ubuf__ int32_t* src, uint32_t count)高维切分计算__aicore__ inline void asc_deq_int322half(__ubuf__ half* dst, __ubuf__ int32_t* src, uint8_t repeat, uint16_t dst_block_stride, uint16_t src_block_stride, uint8_t dst_repeat_stride, uint8_t src_repeat_stride)同步计算__aicore__ inline void asc_deq_int322half_sync(__ubuf__ half* dst, __ubuf__ int32_t* src, uint32_t count)参数说明参数名输入/输出描述dst输出目的操作数矢量的起始地址。src输入源操作数矢量的起始地址。count输入参与计算的元素个数。repeat输入迭代次数。dst_block_stride输入目的操作数单次迭代内不同DataBlock间地址步长。src_block_stride输入源操作数单次迭代内不同DataBlock间地址步长。dst_repeat_stride输入目的操作数相邻迭代间相同DataBlock的地址步长。src_repeat_stride输入源操作数相邻迭代间相同DataBlock的地址步长。返回值说明无流水类型PIPE_V约束说明需配合asc_set_deq_scale接口的非向量模式使用该接口用于设置量化参数。dst、src的起始地址需要32字节对齐。操作数地址重叠约束请参考通用地址重叠约束。调用示例constexpr uint64_t total_length 128; // total_length指参与计算的数据长度 __ubuf__ int32_t src[total_length]; __ubuf__ half dst[total_length]; asc_set_deq_scale(2.0); …… // 数据搬运及同步操作 asc_deq_int322half(dst, src, total_length);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

最新新闻

5款VeLoCity皮肤:让你的VLC播放器焕然一新的终极美化方案

5款VeLoCity皮肤:让你的VLC播放器焕然一新的终极美化方案

5款VeLoCity皮肤:让你的VLC播放器焕然一新的终极美化方案 【免费下载链接】VeLoCity-Skin-for-VLC Castom skin for VLC Player 项目地址: https://gitcode.com/gh_mirrors/ve/VeLoCity-Skin-for-VLC 厌倦了VLC播放器单调的默认界面?VeLoCity皮肤…

2026/7/16 20:22:15
camera方案(三)max96712

camera方案(三)max96712

概述: 将GMSL2/GMSL1的串行输入转换成MIPI CSI-2 的D-PHY/C-PHY接口输出正向视频传输正在进行中时,同时允许每个链路传输双向控制通道数据MAX96712可以接收多达四个远端传感器,使用行业标准的同轴电缆(COAX)或双绞线(STP)互连每一个GMSL2串行…

2026/7/16 20:22:15
大模型tools机制的多级分类优化实践

大模型tools机制的多级分类优化实践

1. 问题背景与核心挑战在大模型应用开发中,tools机制是一种常见的功能扩展方式。它允许开发者通过预定义的工具集,让大模型能够调用外部功能或执行特定任务。然而随着业务复杂度的提升,tools数量会急剧增加,每个tool的描述、参数定…

2026/7/16 20:22:15
Dify平台实战:AI工作流引擎部署与应用指南

Dify平台实战:AI工作流引擎部署与应用指南

1. Dify平台概述:从零开始认识AI工作流引擎Dify是一个面向生产环境的AI工作流平台,它让构建智能体(Agent)、知识流水线(Knowledge Pipeline)和模型工具链变得像搭积木一样简单。我第一次接触Dify是在为一个…

2026/7/16 20:22:15
2026年呼叫外包公司怎么找?呼叫外包公司哪家靠谱?

2026年呼叫外包公司怎么找?呼叫外包公司哪家靠谱?

呼叫中心外包(电话销售、客户回访、售后支持交由第三方BPO执行)是中小企业降低自建团队招聘与场地成本的主流方式,但市场存在无证经营、AI冒充真人、数据黑箱等风险。本文基于2026年工信部与《个人信息保护法》监管要求、第三方行业调研&…

2026/7/16 20:22:15
大学生第一次降 AI 用哪个软件不踩坑?知网选这款

大学生第一次降 AI 用哪个软件不踩坑?知网选这款

大学生第一次降 AI 用哪个软件不踩坑?知网选这款 你现在大概是这样:初稿写完了,自己也知道有些段落是 AI 帮着攒出来的,学校马上要拿去知网查 AIGC,你心里没底。打开搜索框敲下"降 AI 软件哪个好"&#xff…

2026/7/16 20:17:14

月新闻