Automata-Based Steering of Large Language Models for Diverse Structured Generation 文章主要内容总结该研究聚焦于大型语言模型(LLMs)结构化生成中的多样性不足问题,提出了一种基于自动机遍历历史的引导方法,核心内容如下:问题背景:现有结构化生成方法(如Outlines、SGLang)虽能通过有限自动机或下推自动机保证输出的语法有效性,但普遍缺乏多样性,导致下游应用(如软件测试、AI智能体规划)难以覆盖边缘场景。初步实验证实,即使调整采样温度,主流方法仍存在结构模式重复、自动机状态/转移覆盖不足的问题。核心方法:通过追踪生成过程中自动机的状态和转移历史,自适应调整LLM的token选择概率:引入全局转移计数器,奖励探索低频访问的状态路径,提升结构多样性;设计局部状态计数器,惩罚重复访问的状态,避免陷入局部最优;加入动态范围调整因子,根据logits分布规模适配奖励/惩罚强度,平衡探索与生成质量。实验验证:在电子邮件、CSS颜色码、JSON格式、内容过滤(禁止"bomb")四类正则约束任务上,与基线方法Outlines对比,结果显示:结构多样性(状态/转移/路径覆盖)平均提升45%、12%、40%,内容多样性(Vendi得分)平均提升90%;保持88%左右的生成效率(tokens/秒),未显著牺牲速度;案例研究中,生成的测试用例对开源库(email_validator、webcolors)的分支覆盖率分别提升12.89%和5.14%。

相关新闻

最新新闻

MeshLib核心功能详解:10大网格处理特性助力高效开发

MeshLib核心功能详解:10大网格处理特性助力高效开发

MeshLib核心功能详解:10大网格处理特性助力高效开发 【免费下载链接】MeshLib Mesh processing library 项目地址: https://gitcode.com/gh_mirrors/me/MeshLib MeshLib是一款功能强大的网格处理库,提供了全面的网格操作解决方案,涵盖…

2026/7/26 21:08:15
Ferrite编辑器完全指南:从安装到高效编辑Markdown、JSON与YAML文件

Ferrite编辑器完全指南:从安装到高效编辑Markdown、JSON与YAML文件

Ferrite编辑器完全指南:从安装到高效编辑Markdown、JSON与YAML文件 【免费下载链接】Ferrite A fast, lightweight text editor for Markdown, JSON, YAML, and TOML files. Built with Rust and egui for a native, responsive experience. 项目地址: https://gi…

2026/7/26 21:08:15
AI大模型训练数据版权风险解析:从技术原理到合规实践

AI大模型训练数据版权风险解析:从技术原理到合规实践

如果你关注AI大模型的发展,最近这条新闻可能让你感到意外:Anthropic因在模型训练中使用了盗版书籍内容,同意支付15亿美元和解金,创下集体诉讼版权赔偿的新纪录。这不仅仅是又一个科技公司的法律纠纷。它触及了当前AI行业最敏感的核…

2026/7/26 21:08:15
AI行业两极化趋势分析:技术突破与商业落地的挑战

AI行业两极化趋势分析:技术突破与商业落地的挑战

这次我们来看AI行业当前的发展态势。从2023年到2024年,AI领域呈现出明显的两极化趋势:一方面是底层大模型技术的持续突破,另一方面是应用层企业的生存压力加剧。这种分化不仅体现在技术层面,更直接反映在市场表现和商业变现能力上…

2026/7/26 21:08:15
CC323x DMA寄存器深度解析:从原理到实战配置与调试

CC323x DMA寄存器深度解析:从原理到实战配置与调试

1. 项目概述:从CPU的“搬运工”到系统性能的“加速器”在嵌入式系统开发中,尤其是面对CC323x这类集成了Wi-Fi功能的微控制器时,我们常常需要处理大量的数据流,比如从UART接收传感器数据、通过SPI读写Flash、或者最典型的——在Wi-…

2026/7/26 21:08:15
大模型智能体开发指南:从原理到实践

大模型智能体开发指南:从原理到实践

1. 为什么每个程序员都需要掌握大模型智能体开发 上周帮团队新来的实习生调试代码时,他盯着我用GPT-4自动生成的单元测试用例发愣:"这些测试代码看起来比我自己写的还规范..." 这个场景让我意识到,大模型智能体正在重塑我们的开发方…

2026/7/26 21:03:15

月新闻