Enhancing Reasoning Skills in Small Persian Medical Language Models Can Outperform Large-Scale Da... 一、文章主要内容总结本文聚焦低资源语言(波斯语)医疗领域小语言模型的推理能力提升问题,核心研究如何在有限数据条件下,通过推理导向的训练方法超越单纯的数据规模扩展效果。研究背景:基于Transformer的语言模型擅长“快速思考”类任务(如模式匹配、表层文本生成),但在医疗等专业领域的“慢速思考”(多步骤推理、逻辑推断)任务中表现不足;而波斯语作为低资源语言,缺乏高质量医疗数据集和计算资源,进一步加剧了这一问题。核心方法:构建数据集:将英文医疗多选题数据集MedMCQA机器翻译为波斯语,并结合新增的PersianMedQA数据集,形成含1.9万道题的波斯语医疗多选题数据集,经双模型验证确保翻译质量。训练框架:提出RLAIF+DPO组合框架,通过师生模型循环生成“偏好-拒绝”答案对(含正确与错误推理轨迹),其中95%数据采用“教师模型修正学生模型错误并生成优选推理”的方法,5%数据采用“教师模型提供错误反馈、学生模型迭代修正”的方法,最终用1.1万组答案对(优选答案200万词、拒绝答案250万词)训练模型。模型与实验:基于8B参数的aya-expanse-8b基线模型,训练出波斯语医疗模型gaokerena-R,并与前序模型gaokerena-V(基于5700万词监督微调)及基线模型对比。实验结果:推理能力:在CoT提示下,gaokerena-R在FA MED MMLU和IB

相关新闻

最新新闻

如何用Mermaid Live Editor在3分钟内创建专业图表:终极免费在线工具指南

如何用Mermaid Live Editor在3分钟内创建专业图表:终极免费在线工具指南

如何用Mermaid Live Editor在3分钟内创建专业图表:终极免费在线工具指南 【免费下载链接】mermaid-live-editor Edit, preview and share mermaid charts/diagrams. New implementation of the live editor. 项目地址: https://gitcode.com/GitHub_Trending/me/me…

2026/7/18 6:49:50
Java文本输入处理:从验证清洗到安全防护的完整实践指南

Java文本输入处理:从验证清洗到安全防护的完整实践指南

在实际开发中,我们经常需要处理用户输入文本的场景,无论是命令行工具、Web表单还是交互式应用,输入文本的处理都是基础且关键的一环。很多开发者只关注业务逻辑的实现,却忽略了输入文本的验证、清洗、解析和异常处理,导…

2026/7/18 6:49:50
Golang证书链生成与验证实战指南

Golang证书链生成与验证实战指南

1. 证书链基础与核心概念在数字安全领域,证书链(Certificate Chain)是公钥基础设施(PKI)的核心组成部分。它通过层级信任关系建立起从终端实体到根证书颁发机构(Root CA)的完整验证路径。想象一…

2026/7/18 6:49:50
TM4C123 PWM死区控制与故障保护:寄存器级配置与实战调试

TM4C123 PWM死区控制与故障保护:寄存器级配置与实战调试

1. 项目概述与核心价值在嵌入式电机驱动和功率控制领域,脉宽调制(PWM)技术是连接数字世界与物理世界的桥梁。我们通过调节PWM的占空比,就能像拧水龙头一样精确控制电机的转速、LED的亮度或者开关电源的输出电压。然而,…

2026/7/18 6:49:50
WPS占用C盘空间解决方案与优化技巧

WPS占用C盘空间解决方案与优化技巧

1. WPS为何会吞噬C盘空间:机制解析与问题定位当C盘突然爆红时,大多数人的第一反应是系统垃圾或临时文件堆积,但你可能没想到办公软件WPS也可能是"隐形空间杀手"。根据实测,长期使用WPS的用户,其C盘可能被悄悄…

2026/7/18 6:49:50
Python-OKX库企业级架构设计与高级交易策略实现指南

Python-OKX库企业级架构设计与高级交易策略实现指南

Python-OKX库企业级架构设计与高级交易策略实现指南 【免费下载链接】python-okx 项目地址: https://gitcode.com/GitHub_Trending/py/python-okx Python-OKX库是OKX交易所V5 API的官方Python封装,为开发者提供了完整的企业级加密货币交易解决方案。本文深入…

2026/7/18 6:44:50

月新闻