Automata-Based Steering of Large Language Models for Diverse Structured Generation 文章主要内容总结该研究聚焦于大型语言模型(LLMs)结构化生成中的多样性不足问题,提出了一种基于自动机遍历历史的引导方法,核心内容如下:问题背景:现有结构化生成方法(如Outlines、SGLang)虽能通过有限自动机或下推自动机保证输出的语法有效性,但普遍缺乏多样性,导致下游应用(如软件测试、AI智能体规划)难以覆盖边缘场景。初步实验证实,即使调整采样温度,主流方法仍存在结构模式重复、自动机状态/转移覆盖不足的问题。核心方法:通过追踪生成过程中自动机的状态和转移历史,自适应调整LLM的token选择概率:引入全局转移计数器,奖励探索低频访问的状态路径,提升结构多样性;设计局部状态计数器,惩罚重复访问的状态,避免陷入局部最优;加入动态范围调整因子,根据logits分布规模适配奖励/惩罚强度,平衡探索与生成质量。实验验证:在电子邮件、CSS颜色码、JSON格式、内容过滤(禁止"bomb")四类正则约束任务上,与基线方法Outlines对比,结果显示:结构多样性(状态/转移/路径覆盖)平均提升45%、12%、40%,内容多样性(Vendi得分)平均提升90%;保持88%左右的生成效率(tokens/秒),未显著牺牲速度;案例研究中,生成的测试用例对开源库(email_validator、webcolors)的分支覆盖率分别提升12.89%和5.14%。

相关新闻

最新新闻

SerenityOS 命令行选项解析指南:getopt 与 getopt_long 用法、返回值与底层实现

SerenityOS 命令行选项解析指南:getopt 与 getopt_long 用法、返回值与底层实现

SerenityOS 命令行选项解析指南:getopt 与 getopt_long 用法、返回值与底层实现 【免费下载链接】serenity The Serenity Operating System 🐞 项目地址: https://gitcode.com/GitHub_Trending/se/serenity 导读 本文以 getopt(3) 手册 为核心&a…

2026/9/23 4:54:42
轻量服务器还是ECS?大促云服务器选购与避坑实战指南

轻量服务器还是ECS?大促云服务器选购与避坑实战指南

每年大促节点,群里永远有人在问同一个问题:“38元的轻量服务器到底怎么抢?为什么我每次点进去都是已售罄?68元直购和99元的ECS我到底选哪个?”作为一个常年帮团队和自己采购云服务器的老用户,我太清楚这种纠…

2026/9/24 14:25:52
为 AI 代理的 Review 动作编写 Cedar 审批门控策略:review-agent-governance 策略编写实战指南

为 AI 代理的 Review 动作编写 Cedar 审批门控策略:review-agent-governance 策略编写实战指南

为 AI 代理的 Review 动作编写 Cedar 审批门控策略:review-agent-governance 策略编写实战指南 【免费下载链接】agents Multi-harness agentic plugin marketplace for Claude Code, Codex, Cursor, OpenCode, GitHub Copilot, and Google Antigravity 项目地址:…

2026/9/24 14:49:33
PaddleOCR 手写数学公式识别算法 CAN 实战指南:Counting-Aware Network 训练、评估与推理部署

PaddleOCR 手写数学公式识别算法 CAN 实战指南:Counting-Aware Network 训练、评估与推理部署

PaddleOCR 手写数学公式识别算法 CAN 实战指南:Counting-Aware Network 训练、评估与推理部署 【免费下载链接】PaddleOCR Turn any PDF or image document into structured data for your AI. A powerful, lightweight OCR toolkit that bridges the gap between i…

2026/9/23 8:01:38
Spring源码解析:构造器注入的类型转换与候选匹配机制

Spring源码解析:构造器注入的类型转换与候选匹配机制

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/24 14:28:18
openai-agents-python 多模型接入指南:深入解析 AnyLLMModel 适配层与 any-llm 路由

openai-agents-python 多模型接入指南:深入解析 AnyLLMModel 适配层与 any-llm 路由

openai-agents-python 多模型接入指南:深入解析 AnyLLMModel 适配层与 any-llm 路由 【免费下载链接】openai-agents-python A lightweight, powerful framework for multi-agent workflows 项目地址: https://gitcode.com/GitHub_Trending/op/openai-agents-pyth…

2026/9/24 11:09:24

日新闻

周新闻