CANN/cannbot-skills模型训练OOM分析评估 【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skillsskill_name: model-train-oom-analysis eval_mode: textCase 1: OOM 整体排查流程ConfigMax Tokens: 150000Timeout: 900Prompt我的 NPU 训练第 1 步就报 NPU out of memory 崩了整体按什么流程定位只讲方法不用写代码。Expected Output回复应给出 日志分类 → 静态估算 → snapshot 分析 → 优化建议 的流程先判定 OOM 类型与发生时机再决定方向Expectations[skill_activated] model-train-oom-analysisCase 2: 渐进型 OOM 方向判断ConfigMax Tokens: 150000Timeout: 900Prompt训练前几步都正常到 step 15 左右才 OOM这种该往哪个方向查只讲思路。Expected Output回复应指出训练后期才 OOM 多为内存泄漏而非配置不足建议用多 step snapshot 对比增长趋势并做代码审查定位泄漏类别Expectations[contains] snapshot[skill_activated] model-train-oom-analysisCase 3: Workspace/HCCL 临时内存 OOMConfigMax Tokens: 150000Timeout: 900Prompt报错里出现 workspace allocator 内存不足但我估算模型本身放得下怎么处理只讲方向。Expected Output回复应判断为 PTA 缓存分配器占用过多导致临时内存/通信缓冲不足建议通过内存水线如 torch_npu_memory_ratio限制 PTA 占用为 workspace/HCCL 预留空间Expectations[contains] torch_npu_memory_ratio[skill_activated] model-train-oom-analysisCase 4: 信息不足时主动确认ConfigMax Tokens: 150000Timeout: 900Prompt我的训练 OOM 了帮我解决。Expected Output回复应先索要 OOM 完整日志、训练配置、NPU 显存规格等必要信息再动手而不是缺证据直接给配置Expectations[skill_activated] model-train-oom-analysisCase 5: 正向看护-多 skill 环境下正确触发ConfigMax Tokens: 150000Timeout: 900Distractor skills: model-train-accuracy-debug;model-infer-kvcache;model-infer-runtime-debugPrompt大模型训练跑到一半因为显存不足崩了想做内存优化往哪个方向排查只说方向不用写代码。Expected Output回复应正确激活 model-train-oom-analysis给出 OOM 内存诊断与优化方向即使存在精度调试、KVCache 等相似 skill 也应选内存诊断专项Expectations[skill_activated] model-train-oom-analysisCase 6: 使用边界ConfigMax Tokens: 150000Timeout: 900Prompt我的训练 loss 偏离基线了帮我用 OOM 分析 skill 修一下精度。Expected Output回复应说明本 skill 只诊断 OOM/内存问题loss 偏离/NaN 等精度问题不在范围应建议改用 model-train-accuracy-debugExpectations[skill_activated] model-train-oom-analysis【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

最新新闻

Chroma-Hash生态全景:从iOS到Java的6大跨平台移植版速览与选型指南

Chroma-Hash生态全景:从iOS到Java的6大跨平台移植版速览与选型指南

Chroma-Hash生态全景:从iOS到Java的6大跨平台移植版速览与选型指南 【免费下载链接】Chroma-Hash A colorful visualization of password field input 项目地址: https://gitcode.com/gh_mirrors/ch/Chroma-Hash Chroma-Hash 是一款密码输入可视化插件&#…

2026/8/27 14:28:16
NeuroSploit核心原理完全指南:POMDP信念状态与信息价值如何成为反幻觉的数学闸门

NeuroSploit核心原理完全指南:POMDP信念状态与信息价值如何成为反幻觉的数学闸门

NeuroSploit核心原理完全指南:POMDP信念状态与信息价值如何成为反幻觉的数学闸门 【免费下载链接】NeuroSploit NeuroSploit is an advanced, AI-powered penetration testing framework designed to automate and augment various aspects of offensive security o…

2026/8/27 14:28:16
最近智能体Agent 圈很热的MCP是什么?看完这篇你就懂了!!

最近智能体Agent 圈很热的MCP是什么?看完这篇你就懂了!!

前言 MCP逐渐被接受,是因为MCP是开放标准。在AI项目开发中可以发现,集成AI模型复杂,现有框架如LangChain Tools、LlamaIndex和Vercel AI SDK存在问题。LangChain和LlamaIndex代码抽象高,商业化过重;Vercel AI SDK与Nex…

2026/8/27 14:28:16
nix-config快速上手指南:clone即构建,10个最实用的justfile命令全解析

nix-config快速上手指南:clone即构建,10个最实用的justfile命令全解析

nix-config快速上手指南:clone即构建,10个最实用的justfile命令全解析 【免费下载链接】nix-config Wimpys NixOS, nix-darwin & Home Manager Configurations ❄️ 项目地址: https://gitcode.com/gh_mirrors/nixco/nix-config 还在为 NixOS …

2026/8/27 14:28:16
DeepSeek最新离线版下载+安装教程(本地部署)+无限制大模型,收藏这一篇就够了!!

DeepSeek最新离线版下载+安装教程(本地部署)+无限制大模型,收藏这一篇就够了!!

前言 深度求索(DeepSeek)是一家中国的人工智慧(AI)公司,成立于 2023 年,目标是打造「通用人工智慧」(AGI)。DeepSeek 专注于研发最先进的AI 技术,特别是「自然语言处理」…

2026/8/27 14:28:16
手把手带读nest-router官方示例项目:v4x与v5x版本差异全解析

手把手带读nest-router官方示例项目:v4x与v5x版本差异全解析

手把手带读nest-router官方示例项目:v4x与v5x版本差异全解析 【免费下载链接】nest-router Router Module For Nestjs Framework 🚦 🚀 项目地址: https://gitcode.com/gh_mirrors/ne/nest-router 如果你正在使用 NestJS 构建中大型后…

2026/8/27 14:23:16