计算机科学-语言与llms

📄 中文摘要:
本文针对法律判例检索中存在的挑战,提出了一种基于大语言模型(LLM)的创新方法,旨在解决现有检索方法过于注重事实相似性而忽略法律问题的核心缺陷。传统的检索系统往往缺乏对案件相关性的解释,而本文通过结合检索增强生成(RAG)技术与结构化摘要,开发了增强型问题引导检索(AQgR)框架,专门针对印度判例法进行优化。该框架通过根据事实场景生成有针对性的法律问题,自主检索相关判例、生成解释以阐明案件相关性,并识别核心法律问题,无需依赖法律专业知识。结构化摘要由法律专家手动评估,因为目前缺乏合适的结构化摘要数据集。判例检索效果在FIRE数据集上进行评估,生成的解释也由法律专家审查,因为判例检索与解释生成相结合是一项新兴创新。实验结果显示,在FIRE 2019数据集的子集上,系统取得了显著成效,平均精度均值(MAP)达到0.36,平均召回均值(MAR)达到0.67,远超当前MAP基准值0.1573。本研究通过从基于事实的检索转向基于法律问题的检索,提供了更符合法律专业人士需求的上下文相关结果。AQgR框架通过在检索过程中整合法律问题,优化查询上下文,确保了检索的精准性和意义性。这一工作为判例法检索领域带来了一系列创新贡献,不仅提升了检索效果,还为法律科技与自然语言处理技术的结合开辟了新的研究方向。

📄 中文摘要:
扩散模型(DMs)作为高质量内容生成的重要工具,其推理过程对计算资源的需求较高,给资源受限的边缘设备带来了挑战。基于云的解决方案虽然在计算上提供了支持,但在多用户边缘AIGC场景中,隐私风险、个性化效率以及通信成本等问题仍未得到有效解决。本研究首先分析了现有边缘AIGC应用在个性化内容合成中的局限性,揭示了其在效率和可扩展性方面的不足。为此,作者提出了一种新颖的集群感知分层联邦聚合框架。该框架基于低秩适应(LoRA)的高效本地微调技术,首先根据用户上传任务需求的相似性对客户端进行聚类,随后在服务器端进行集群内聚合以增强个性化效果。接着,框架通过集群间知识交互范式实现跨集群的混合风格内容生成。基于联邦学习(FL)的协作机制,该框架在设备端为单个用户训练个性化模型,同时在服务器端训练一个增强了多个LoRA适配器的共享全局模型,从而实现高效的边缘推理。此外,所有用于聚类和推理的提示在传输前均进行编码,进一步降低了明文泄露的风险。实验评估表明,该框架在保持实际可行性的同时显著加速了收敛速度,为可扩展的多用户个性化AIGC服务提供了有效的解决方案,特别是在边缘资源受限的条件下。

📄 中文摘要:
本文评估了现代大型语言模型(LLMs)的可视化素养,并提出了一种名为‘思维图表(Charts-of-Thought)’的新颖提示技术。研究测试了三种最先进的LLMs(Claude-3.7-sonnet、GPT-4.5 preview 和 Gemini-2.0-pro)在可视化素养评估测试(VLAT)中的表现,分别使用标准提示和结构化方法进行对比。‘思维图表’方法通过系统化的数据提取、验证和分析过程指导LLMs回答可视化问题。研究结果显示,Claude-3.7-sonnet 使用该方法取得了50.17的分数,远超人类基准线28.82。相比标准提示方法,该技术显著提升了所有模型的表现,其中GPT-4.5的得分提高了21.8%,Gemini-2.0提高了9.4%,Claude-3.7提高了13.5%。在原始和修改后的VLAT图表上的表现提升是一致的,Claude在几种之前对LLMs具有挑战性的图表类型上实现了100%的正确率。研究表明,当提供适当的分析框架时,现代多模态LLMs在可视化素养任务上可以超越人类表现。这些发现为LLM的可视化素养设定了新的基准,并展示了结构化提示策略在复杂视觉解释任务中的重要性。此外,‘思维图表’方法不仅提升了LLM的可视化素养,还可能增强可视化的可访问性,为视觉障碍或可视化素养较低的个体带来潜在益处。本研究为人工智能在数据可视化领域的应用提供了重要参考,并为未来的提示技术设计开辟了新的方向。

📄 中文摘要:
多智能体大语言模型(LLM)系统在复杂推理和协作决策任务中展现出强大潜力。然而,现有的协调机制多依赖静态或全上下文路由策略,导致令牌消耗过高、冗余记忆暴露以及跨交互轮次的适应性受限。本研究提出了RCR-Router,一种模块化且角色感知的上下文路由框架,旨在实现多智能体LLM的高效自适应协作。据作者所知,这是首个动态路由方法,能够根据每个智能体的角色和任务阶段,动态选择语义相关的记忆子集,同时严格遵守令牌预算限制。RCR-Router采用轻量级评分策略指导记忆选择,并将智能体输出迭代整合到共享记忆存储中,以促进上下文的逐步优化。此外,研究还提出了一种答案质量评分(Answer Quality Score)指标,用于捕捉LLM生成的解释,超越传统的问答准确性评估。在三个多跳问答基准数据集(HotPotQA、MuSiQue和2WikiMultihop)上的实验表明,RCR-Router在减少令牌使用(最高达30%)的同时,维持或提升了答案质量。这些结果凸显了结构化记忆路由和输出感知评估在推动可扩展多智能体LLM系统发展中的重要性。本研究为多智能体协作提供了一种创新解决方案,可能显著提升复杂任务中的效率和性能。

📄 中文摘要:
本文提出了一种创新框架,将基于提示的大型语言模型(LLM)与Transformer模型相结合,用于股票价格预测。传统上,交易者和量化分析师通过领域专长和反复试验手动构建公式化Alpha(即识别金融数据中模式或信号的数学表达式),以应对Alpha衰减问题,这一过程耗时且难以扩展。借助LLM的推理能力,本研究实现了Alpha生成的自动化。框架首先利用LLM基于结构化输入(如历史股票特征:收盘价、开盘价、最高价、最低价、成交量,技术指标,以及目标公司和相关公司的情感得分)生成多样化和自适应的Alpha。这些Alpha并非直接用于交易,而是作为高级特征,捕捉金融数据中的复杂依赖关系。随后,这些LLM生成的Alpha特征被输入到多种预测模型中,包括Transformer、LSTM、TCN、SVR和随机森林,以预测未来股票价格。实验结果表明,LLM生成的Alpha显著提高了预测精度。此外,LLM提供的自然语言推理增强了预测的可解释性和透明度,有助于支持更明智的金融决策。本研究展示了将LLM与深度学习模型结合在金融预测领域的潜力,为量化金融提供了新的工具和视角,同时也为自动化生成复杂金融特征开辟了新的研究方向。

📄 中文摘要:
本文针对大型语言模型(LLMs)如ChatGPT所暴露的当代知识基础设施的脆弱性,提出了一种名为情境化认知基础设施(SEI)的诊断框架。这些模型通过模拟一致性而绕过了传统的引用、权威和验证模式,对现有知识体系构成挑战。SEI框架旨在分析在后一致性条件下,知识如何在人机混合系统中获得权威性。与依赖稳定的学术领域或有限的实践社区不同,SEI追踪信誉如何在制度性、计算性和时间性安排中被中介。框架整合了基础设施研究、平台理论和认识论的见解,强调协调而非分类的重要性,并指出需要预测性和适应性的认知管理模型。本文通过提供一种有力的替代方案,挑战了学术交流中传统的表征主义模型,为AI治理、知识生产和信息系统的伦理设计提供了重要贡献。研究表明,面对技术驱动的知识生产方式的快速变化,传统的权威构建机制已不足以应对,必须转向更加动态和情境化的基础设施视角,以确保知识的可信度和可持续性。作者呼吁学术界和政策制定者关注这一框架的应用,以应对人工智能时代知识管理的伦理和技术挑战。

📄 中文摘要:
背景:理解导致自杀事件的社会决定因素(SDoH)对于早期干预和预防至关重要。然而,数据驱动的方法在实现这一目标时面临诸多挑战,包括长尾因素分布、分析自杀事件前的关键压力源以及模型可解释性有限等问题。方法:本文提出了一种多阶段大型语言模型框架,用于从非结构化文本中增强SDoH因素的提取能力。该方法与其他最先进的语言模型(如预训练的BioBERT和GPT-3.5-turbo)以及推理模型(如DeepSeek-R1)进行了比较。同时,本研究还评估了模型的解释如何帮助人们更快、更准确地标注SDoH因素,分析包括自动化比较和试点用户研究。结果:研究表明,所提出的框架在提取SDoH因素的总体任务以及获取相关上下文的细粒度任务中均表现出性能提升。此外,通过微调一个较小的、任务特定的模型,可以在降低推理成本的同时实现相当甚至更好的性能。多阶段设计不仅增强了提取效果,还提供了中间解释,从而提高了模型的可解释性。结论:本方法提高了从非结构化文本中提取与自杀相关SDoH因素的准确性和透明度。这些进步有望支持早期识别高风险个体,并为制定更有效的预防策略提供信息支持。

📄 中文摘要:
本文探讨了大型语言模型(LLMs)在帮助领域专家整合大规模、异构且噪声较多的城市空间数据集方面的应用潜力。传统的基于规则的整合方法无法覆盖所有边缘情况,需要人工验证和修复,而机器学习方法则需要收集和标注大量特定任务的样本。本研究首先分析了LLMs如何推理由人类经验介导的环境空间关系,例如道路与人行道之间的关系。研究表明,尽管LLMs展现了一定的空间推理能力,但它们难以将宏观环境与相关的计算几何任务联系起来,常常生成逻辑上不连贯的响应。然而,当提供相关特征以减少对空间推理的依赖时,LLMs能够生成高性能的结果。研究进一步采用了一种审查与改进方法,证明该方法在纠正初始错误响应同时保留正确响应的过程中非常有效。文章讨论了在现实世界中应用LLMs进行空间数据整合的实际意义,并提出了未来的研究方向,包括后训练、多模态整合方法以及对多样化数据格式的支持。研究结果表明,LLMs作为传统基于规则的启发式方法的替代方案,具有很大的潜力,能够推动自适应空间数据整合能力的发展。

📄 中文摘要:
本文研究了现代大语言模型(LLM)管道中提示词(prompt)的角色和优化问题。研究背景指出,随着LLM管道逐渐演变为以数据为中心的系统,其功能包括检索外部上下文、组合中间输出、验证结果以及基于运行时反馈进行自适应调整。然而,作为指导这一过程的核心元素,提示词目前仍是一个脆弱且不透明的字符串,与周围的数据流脱节,导致其重用性、优化能力和运行时控制能力受限。本文提出了一种创新方法,将提示词提升为系统中的‘一等公民’,通过设计一种结构化的提示词表示方式,使其与数据流紧密集成,从而支持动态调整和优化。研究方法包括开发一个提示词管理框架,允许系统在运行时根据上下文和反馈自动调整提示词结构,并通过实验验证了该框架在多个LLM任务中的有效性。关键发现表明,结构化的提示词设计显著提高了模型的适应性和性能,尤其是在复杂任务中,系统能够更好地处理动态变化的输入和需求。此外,该方法还促进了提示词的重用和模块化设计,降低了开发成本。结论指出,将提示词与数据流集成是提升LLM管道效率和灵活性的重要方向,未来研究可进一步探索提示词的自动化生成和跨任务迁移能力。

📄 中文摘要:
本文研究了对话方面情感四元组抽取(DiaASQ)问题,旨在从多轮、多参与者的对话中提取目标-方面-观点-情感四元组。传统方法通常假设情感元素在整个对话中均匀分布,并学习整个对话的词语关系。然而,研究发现,对话中往往包含多个语义独立的子对话,子对话之间缺乏明确的依赖关系,直接在整个对话上学习词语关系会引入额外的噪声。为解决这一问题,本文提出了一种基于结构熵最小化算法的对话分区方法,将对话划分为语义独立的子对话,以尽可能保留相关话语并区分无关话语,同时实现完整性与子对话数量的最小化。传统的基于回复关系的简单分区方法被证明无效,而本文的方法能够有效应对这一挑战。此外,本文设计了一个两步框架用于四元组抽取:首先在话语层面提取单个情感元素,然后在子对话层面进行四元组匹配。大量实验表明,该方法在DiaASQ任务上取得了最先进的性能,同时显著降低了计算成本。研究结果不仅提升了情感分析的精度,也为复杂对话数据的处理提供了新的思路,具有重要的理论和应用价值。

📄 中文摘要:
本研究聚焦于语义表示(AMR)解析,AMR是一种将句子语义编码为有根、有向、无环图的语义形式,其中节点表示概念,边表示语义关系。针对AMR解析任务,微调仅解码器的大型语言模型(LLMs)被认为是一种有前景且直接的新方法。本文对四种不同的LLM架构(Phi 3.5、Gemma 2、LLaMA 3.2 和 DeepSeek R1 LLaMA Distilled)进行了全面评估,使用LDC2020T02 Gold AMR3.0测试集进行微调实验。研究结果表明,仅通过简单的微调,仅解码器的LLM即可实现与复杂的最新(SOTA)AMR解析器相当的性能。特别是LLaMA 3.2在简单的微调方法下展现出与SOTA解析器竞争的性能,在LDC2020T02完整测试集上取得了SMATCH F1分数为0.804,与APT + Silver(IBM)的0.804持平,并接近Graphene Smatch(MBSE)的0.854。此外,分析中还发现了一致的模式:LLaMA 3.2在语义性能方面表现突出,而Phi 3.5在结构有效性方面更优。研究表明,微调LLM在AMR解析任务中具有显著潜力,为未来的语义解析研究提供了新的方向,同时也揭示了不同模型在语义和结构处理上的差异化优势。结论指出,通过优化微调策略和模型选择,LLM有望进一步接近甚至超越现有的SOTA解析器性能。

📄 中文摘要:
本文研究了参数高效微调(PEFT)在大型语言模型(LLMs)适应中的重要性,尤其是在多任务学习(MTL)场景下,模型需要处理来自多个领域的多样化任务。当前主流方法倾向于使用具有多个适配器或头的LoRA变体,强调结构多样性以捕捉任务特定知识。然而,本研究发现了一种简化的多头架构,通过提高头间相似性,显著优于复杂的多适配器和多头系统。这一发现挑战了多组件范式,研究进一步表明,标准单适配器LoRA在适当增加秩的情况下,也能实现极具竞争力的性能。基于此,作者提出了一个新假设:有效的多任务学习泛化依赖于学习稳健的共享表征,而非隔离任务特定特征。为验证这一假设,作者提出了Align-LoRA方法,通过引入显式损失函数在共享适配器空间内对齐任务表征。实验结果表明,Align-LoRA在所有基线方法中表现最佳,确立了一种更简单但更有效的LLM多任务适应范式。本研究不仅揭示了多任务学习中共享表征的重要性,还为未来的参数高效微调方法提供了新的思路和实践指导。

📄 中文摘要:
随着大型语言模型(LLMs)的快速发展,检索增强生成(RAG)已成为弥补LLMs固有知识局限的重要方法。然而,由于检索信息量通常较大,RAG系统往往需要处理较长的上下文长度。本文从熵工程的角度出发,识别出长检索上下文导致的熵增长不受约束和注意力稀释是影响RAG性能的关键因素。为此,作者提出了平衡熵工程的RAG框架(BEE-RAG),通过熵不变性原则提升RAG系统对不同上下文长度的适应性。BEE-RAG利用平衡上下文熵重新构建注意力动态,将注意力敏感性与上下文长度分离,从而确保熵水平的稳定性。在此基础上,作者进一步提出了一种零样本推理策略用于多重要性估计,并设计了一种参数高效的自适应微调机制,以在不同场景下获得最佳平衡因子。通过在多个RAG任务上的广泛实验,BEE-RAG的有效性得到了验证。实验结果表明,该框架能够在长上下文环境下显著提升生成质量和准确性,同时保持计算效率。BEE-RAG为RAG系统的优化提供了一种新颖的理论视角和实用方法,可能对未来的自然语言处理研究产生深远影响,尤其是在处理复杂检索任务和长上下文生成问题方面。

📄 中文摘要:
模拟电路设计是芯片开发中耗时且依赖经验的任务。尽管人工智能技术取得了进展,但开发通用、快速且稳定的模拟电路门尺寸设计方法仍是一个重大挑战。近期的一些方法结合了大语言模型(LLM)与启发式搜索技术以提升通用性,但这些方法往往依赖于大型模型,且在不同工艺节点间缺乏可移植性。为解决这些问题,本文提出了EasySize,这是首个基于微调Qwen3-8B模型的轻量级门尺寸设计框架,旨在实现跨工艺节点、设计规范和电路拓扑的通用适用性。EasySize利用性能指标的不同易得性(Ease of Attainability, EOA),动态构建任务特定的损失函数,通过全局差分进化(Differential Evolution, DE)和局部粒子群优化(Particle Swarm Optimization, PSO)在反馈增强流程中实现高效启发式搜索。尽管EasySize仅在350nm节点数据上进行微调,但其在180nm、45nm和22nm工艺节点的5个运算放大器(Op-Amp)网表上表现出色,无需额外针对性训练即可超越基于强化学习的AutoCkt框架,在86.67%的任务中取得优异结果,并减少了超过96.67%的仿真资源消耗。研究表明,EasySize能够显著降低对人类专业知识和计算资源的依赖,从而加速并简化模拟电路设计过程。EasySize未来将开源以供进一步研究和应用。

📄 中文摘要:
本文研究了大型语言模型(LLMs)对输入信息上下文位置的敏感性及其背后的机制。通过广泛的实验,作者发现了一个一致的现象,称之为“注意力盆地”:当模型处理结构化项目序列(如检索到的文档或少样本示例)时,系统性地对序列开头和结尾的项目分配更高的注意力,而忽略中间的项目。进一步分析表明,将更高的注意力分配给关键信息是提升模型性能的关键。基于这一洞察,作者提出了注意力驱动的重排序框架(AttnRank),该框架分为两个阶段:首先,利用小型校准集估计模型固有的位置注意力偏好;其次,重新排序检索到的文档或少样本示例,使最显著的内容与高注意力位置对齐。AttnRank是一种与模型无关、无需训练且即插即用的方法,计算开销极小。在多跳问答和少样本上下文学习任务上的实验表明,AttnRank在10个不同架构和规模的大型语言模型上取得了显著的性能提升,且无需修改模型参数或训练流程。研究结果揭示了上下文位置对模型性能的重要影响,并提供了一种简单而有效的方法来优化信息呈现顺序,从而提升模型在实际应用中的表现。这一发现对于理解大型语言模型的注意力机制以及改进其应用具有重要意义。

📄 中文摘要:
随着人工智能代理的显著进步,其配备的工具数量迅速增加。然而,将所有工具信息整合到有限的模型上下文中变得不切实际,这凸显了对高效工具检索方法的需求。目前,主要方法依赖于工具描述与用户查询之间的语义相似性来检索相关工具,但这些方法往往将每个工具独立考虑,忽略了工具之间的依赖关系,可能导致遗漏成功执行任务所需的前提工具。为了解决这一缺陷,本文提出了工具图检索器(Tool Graph Retriever, TGR),该方法利用工具之间的依赖关系来学习更好的工具表示以进行检索。首先,作者构建了一个名为TDI300K的数据集,用于训练一个判别器以识别工具依赖关系。随后,将所有候选工具表示为一个工具依赖图,并使用图卷积将依赖关系整合到工具表示中。最后,这些更新后的工具表示被用于在线检索。在多个常用数据集上的实验结果表明,TGR能够显著提升现有主流方法的性能,达到了最先进的水平。此外,深入分析还验证了工具依赖关系的重要性以及TGR方法的有效性。本研究为大型语言模型的工具检索提供了一种新颖且高效的解决方案,强调了工具依赖关系在任务执行中的关键作用,并为未来的相关研究奠定了基础。

📄 中文摘要:
对齐大型语言模型(LLMs)以适应用户偏好对于现实世界的应用至关重要,但通常需要昂贵的微调或高成本的推理过程,这迫使在对齐质量和计算成本之间做出权衡。现有的推理时方法往往忽略这种平衡,仅关注优化策略的表现。本研究提出了一种无需微调、与黑箱兼容的方法——启发式引导的推理时对齐(HIA)。该方法利用轻量级提示优化器、启发式奖励模型以及两阶段过滤机制,在保持对齐质量的同时减少推理调用次数。在真实世界的提示数据集HelpSteer和ComPRed上,HIA在多目标、目标条件任务中,超越了最佳N采样、束搜索和贪婪搜索等基线方法,且在相同的推理预算下表现出色。研究还发现,HIA在低推理预算下同样有效,甚至只需一到两次响应查询即可实现较好的对齐效果。这一特性为可扩展、个性化的LLM部署提供了实用解决方案。通过减少计算资源需求,HIA在保证对齐质量的同时显著降低了成本,为资源受限环境下的LLM应用开辟了新路径。研究结果表明,HIA不仅在理论上具有创新性,而且在实际应用中展现了高效性和可行性,为未来的LLM对齐技术发展提供了重要参考。

📄 中文摘要:
本文介绍了 ATLANTIS 团队在 SemEval-2025 任务 3 中的贡献,重点研究了在问答系统中检测幻觉文本片段的方法。随着大型语言模型(LLMs)在自然语言生成(NLG)领域的显著进步,其生成的文本内容仍容易出现幻觉,即生成不准确或具有误导性的信息。为解决这一问题,团队探索了两种主要方法:一种是基于外部上下文的检测方法,另一种是不依赖外部上下文的方法。具体技术包括利用少样本提示(few-shot prompting)的大型语言模型、基于令牌级别的分类技术,以及对合成数据进行微调的大型语言模型。研究结果表明,团队的方法在西班牙语数据集上取得了顶尖排名,在英语和德语数据集上也具有竞争力。特别是在整合相关上下文信息以减少幻觉现象方面,本研究展现了显著的效果。此外,通过对模型的微调和提示工程(prompt engineering)的优化,研究进一步验证了这些技术在提高问答系统输出准确性方面的潜力。本文强调了上下文信息在缓解幻觉问题中的重要性,并为未来的研究提供了有价值的参考,特别是在多语言环境下的幻觉检测领域。研究结论表明,结合上下文信息和模型微调是提升问答系统可靠性的关键方向,同时也为自然语言处理领域中解决幻觉问题提供了新的思路。

📄 中文摘要:
随着网络攻击频率的不断增加,及时有效的事件响应成为管理网络安全的关键。然而,在复杂系统中确定适当的响应行动是一项重大的技术挑战。利用大型语言模型(LLM)中嵌入的安全知识来辅助安全操作人员处理事件是一种有前景的方法。近期研究已展示了这种方法的潜力,但当前方法主要依赖于前沿LLM的提示工程,这不仅成本高昂,还容易产生幻觉。本研究提出了一种新颖的方法,使用LLM进行事件响应规划,并显著减少幻觉的发生。该方法包括三个步骤:微调、信息检索和前瞻性规划。研究证明,该方法生成的响应计划具有有限的幻觉概率,并且在特定假设下,通过增加规划时间可以将该概率任意降低。此外,该方法具有轻量级特点,可在普通硬件上运行。研究通过文献中报告的事件日志对该方法进行了评估。实验结果表明,该方法相较于前沿LLM可将恢复时间缩短高达22%,并且能够泛化到多种事件类型和响应行动。这一研究为网络安全领域提供了一种高效且低成本的事件响应解决方案,具有重要的应用价值。作者通过理论分析和实验验证,展示了该方法在实际场景中的可行性和优越性,为未来的事件响应技术发展奠定了基础。

📄 中文摘要:
本文提出了一种结合大型语言模型(LLMs)与确定性技术的混合方法,用于基于用户自然语言输入实现JSON模式的创建、修改以及模式映射。研究背景聚焦于模型驱动工程(MDE),该方法将模型置于系统和数据工程过程的核心,尤其在研究数据领域,模型通常以定义数据集结构和语义的模式形式表达。然而,许多领域仍缺乏标准化的模型,创建这些模型对非专家而言是一个重大障碍。本研究将上述功能集成到开源工具MetaConfigurator中,该工具已提供可视化模型编辑、验证、代码生成及基于模型的表单生成等功能。在数据集成方面,研究利用LLMs从异构的JSON、CSV、XML和YAML数据生成模式映射,同时通过确定性执行生成的映射规则确保可扩展性和可靠性。研究通过化学领域的应用示例展示了其适用性。方法的关键在于结合自然语言交互与确定性保障措施,显著降低了非专家进行结构化数据建模和数据集成的门槛。研究发现表明,该方法不仅提升了模型创建的便捷性,还在数据整合中展现了高效性和可靠性。结论指出,这种混合方法为研究数据领域的模型驱动工程提供了新的可能性,尤其是在跨领域协作和数据共享中具有重要价值。

📄 中文摘要:
大型语言模型(LLMs)在金融领域的应用面临着幻觉(hallucination)这一关键挑战。准确提取和精确计算表格数据对于可靠的金融分析至关重要,因为即使是微小的数值错误也可能破坏决策制定和监管合规性。金融应用具有独特需求,通常依赖于上下文相关、数值型和专有表格数据,而现有的幻觉评估基准很少能捕捉到这些特性。本研究开发了一个严谨且可扩展的框架,用于评估金融领域LLMs的内在幻觉,将其概念化为对真实世界金融文档的上下文感知掩码跨度预测任务。主要贡献包括:(1)提出了一种基于掩码策略的新型自动化数据集创建范式;(2)构建了一个从标准普尔500指数年度报告中提取的新型幻觉评估数据集;(3)对最先进的LLMs在金融表格数据上的内在幻觉模式进行了全面评估。本研究为内部LLM评估提供了一种稳健的方法论,是构建更值得信赖和可靠的金融生成式AI系统的重要一步。通过这一框架,研究人员和从业者能够更好地理解和缓解金融领域LLMs在处理表格数据时产生的幻觉问题,从而提升模型在实际应用中的准确性和可靠性。研究结果表明,当前的LLMs在处理金融表格数据时仍存在显著的幻觉问题,特别是在上下文依赖和数值精度方面,这为未来的模型改进和优化提供了明确的方向。

📄 中文摘要:
本文提出了一种名为Cross-LoRA的无数据框架,旨在解决传统参数高效微调(PEFT)方法(如LoRA)与基础模型架构紧密耦合的问题,从而限制了其在异构预训练大型语言模型(LLMs)之间的适用性。Cross-LoRA能够在无需额外训练数据的情况下,将LoRA模块在不同的基础模型之间进行迁移。该框架包含两个核心组件:(1)LoRA-Align,通过秩截断奇异值分解(SVD)和Frobenius最优线性变换实现源模型与目标模型之间的子空间对齐,确保在维度不匹配的情况下仍具兼容性;(2)LoRA-Shift,将对齐后的子空间应用于将源LoRA权重更新投影到目标模型参数空间。这两个组件均无需数据和训练支持,并且能够在普通GPU上实现轻量级适配,耗时仅20分钟。实验在ARCs、OBOA和HellaSwag等数据集上进行,结果表明Cross-LoRA相较于基础模型实现了高达5.26%的相对性能提升。在其他常识推理基准测试中,Cross-LoRA的性能与直接训练的LoRA适配器相当。研究表明,Cross-LoRA为异构模型间的参数迁移提供了一种高效且实用的解决方案,有助于推动大型语言模型的灵活应用和资源复用。

📄 中文摘要:
本文研究了如何通过结构化剪枝技术压缩大型语言模型(LLMs),以减少GPU内存消耗并加速推理速度,这在实际应用中具有重要的实用价值。传统的结构化剪枝方法通常基于结构单元的重要性评估,剪除重要性较低的单元。然而,这些方法往往忽略了人工神经元之间的交互与协作,而这些交互对LLMs的功能至关重要,导致剪枝后模型的宏观功能架构受损,性能下降。受人工神经网络与人脑功能神经网络之间固有相似性的启发,本研究提出了一种通过识别和保留LLMs内的功能网络来进行剪枝的新方法。具体而言,作者将LLM视为一个数字大脑,并将其分解为功能网络,类似于神经影像数据中识别人脑功能网络的过程。随后,通过保留这些功能网络中的关键神经元来实现模型剪枝。实验结果表明,该方法能够成功识别和定位LLMs中的功能网络和关键神经元,从而实现高效的模型剪枝。研究还提供了开源代码以支持进一步的验证和应用。本文的方法不仅在理论上创新性地借鉴了神经科学的概念,还在实践中显著提升了LLMs剪枝的效率和性能,为未来在资源受限环境下的模型部署提供了重要参考。

📄 中文摘要:
本文提出了一种新颖的混合基专家(Mixture-of-Basis-Experts, MoBE)方法,用于压缩基于混合专家(Mixture-of-Experts, MoE)架构的大语言模型(LLMs),以解决其在部署中因巨大内存需求带来的挑战。尽管MoE架构在扩展大语言模型时表现出强大的性能和计算效率,但如DeepSeek-V3-0324和Kimi-K2-Instruct等大型MoE模型的内存占用问题限制了其实际应用。已有压缩方法在中等压缩率下往往导致显著的精度下降(相对下降7%-14%)。MoBE通过对每个专家的up/gate矩阵进行秩分解(W = AB)实现压缩,其中矩阵A对每个专家唯一,而较大的矩阵B被重新参数化为同一MoE层内所有专家共享的基矩阵{Bi}的线性组合。通过最小化相对于原始权重矩阵的重建误差来学习这种分解方式。实验结果表明,MoBE在精度下降方面显著优于先前方法。例如,MoBE能够将Qwen3-235B-A22B-2507、DeepSeek-V3-0324(671B)和Kimi-K2-Instruct(1T)的参数量减少24%-30%,而精度仅下降1%-2%(相对下降约2%)。这一方法在保持模型性能的同时有效降低了内存需求,为大型MoE模型的实际部署提供了可行的解决方案。研究结果表明,MoBE在压缩率和精度保持之间取得了更好的平衡,具有重要的应用价值。

📄 中文摘要:
尽管大型语言模型(LLM)在寄存器传输级(RTL)代码生成方面展现出巨大潜力,但其总体成功率仍不令人满意。错误来源于多种因素,而对具体失败原因的有限理解阻碍了改进。为解决这一问题,本研究进行了全面的错误分析和手动分类。研究发现,大多数错误并非源于LLM的推理能力限制,而是由于缺乏RTL编程知识、对电路概念理解不足、设计描述模糊或对复杂多模态输入的误解所致。为此,研究团队利用上下文学习提出了一系列针对性的错误纠正技术。具体而言,构建了一个特定领域的知识库,并采用检索增强生成(RAG)技术为LLM提供必要的RTL知识;为缓解描述模糊导致的错误,引入了设计描述规则并实现了规则检查机制;针对多模态误解问题,集成了外部工具将输入转换为LLM兼容的元格式;对于其他错误,则采用迭代调试循环(仿真-错误定位-纠正)。将这些技术整合到一个基于LLM的RTL代码生成框架中,显著提升了性能。实验结果表明,增强后的框架在VerilogEval基准测试中达到了91.0%的准确率,较基线代码生成方法提高了32.7%,充分证明了所提出方法的有效性。本研究不仅揭示了LLM生成RTL代码的主要错误来源,还通过创新性技术显著改进了生成质量,为未来在硬件设计自动化领域的应用奠定了基础。

📄 中文摘要:
本研究聚焦于大语言模型(LLMs)的思维链(Chain-of-Thought, CoT)推理能力,尽管CoT提示方法显著提升了模型的推理表现,但推理链的可靠性仍是一个关键挑战。传统观点认为推理过程中的早期错误对最终结果的影响最大,即所谓的‘级联失败’假设。然而,通过系统性的错误注入实验,本文揭示了一个反直觉的现象——‘后期脆弱性’(Late-Stage Fragility),即在推理链后期引入的错误比早期错误更容易导致最终答案的错误。为解决这一特定脆弱性,作者提出了自适应自校正思维链(Adaptive Self-Correction Chain-of-Thought, ASCoT)方法。ASCoT采用模块化流程,首先通过自适应验证管理器(Adaptive Verification Manager, AVM)运作,随后结合多视角自校正引擎(Multi-Perspective Self-Correction Engine, MSCE)。AVM利用位置影响分数函数I(k),根据推理链中的位置分配不同权重,重点识别并优先处理后期高风险步骤,从而应对后期脆弱性问题。MSCE则针对识别出的关键步骤应用双路径校正机制,确保错误得到有效修复。在GSM8K和MATH等基准测试上的广泛实验表明,ASCoT在准确性上表现出色,显著优于包括标准CoT在内的强基线方法。本研究强调了诊断LLM推理中特定失败模式的重要性,并倡导从统一的验证策略转向自适应、针对脆弱性的校正机制。这一发现和方法为提升大语言模型推理的鲁棒性提供了新的视角和实用工具。

📄 中文摘要:
本文提出了一种混合架构,将基于决策树的符号推理与大型语言模型(LLMs)的生成能力集成在一个协调的多代理框架中。与以往松散耦合符号模块和神经模块的方法不同,本研究设计将决策树和随机森林作为可调用的预言机嵌入到一个统一的推理系统中。基于树的模块支持可解释的规则推断和因果逻辑,而LLM代理则负责溯因推理、泛化和交互式规划。中央协调器维护信念状态的一致性,并调解代理与外部工具之间的通信,从而实现对结构化和非结构化输入的推理能力。本文通过实验验证了该架构在处理复杂推理任务时的有效性,特别是在需要结合逻辑规则和自然语言理解的场景中表现出色。研究结果表明,该系统在可解释性和推理准确性方面显著优于传统的单一模型方法,尤其是在涉及多步骤推理和动态交互的任务中。此外,该架构还展示了在不同领域(如知识图谱推理和对话系统)中的广泛适用性,为未来的符号与神经网络结合研究提供了新的方向。作者进一步讨论了该方法的局限性,包括计算复杂性和对高质量训练数据的依赖,并提出了未来改进的方向,如优化协调机制和增强系统的自适应能力。总之,本研究为人工智能领域中符号推理与生成模型的深度融合提供了一种创新且实用的解决方案。

📄 中文摘要:
近年来,大型推理语言模型(LRLMs)通过采用长链式推理和复杂的反思行为(通常由特定触发词如‘Wait’和‘Alternatively’指示)来提升性能。然而,这些反思行为可能导致过度思考问题,即生成冗余的推理步骤,从而不必要地增加令牌使用量、提高推理成本并降低实用性。本文提出了一种新颖的方法——确定性引导的反思抑制(CGRS),旨在在保持推理精度的同时缓解LRLMs的过度思考问题。CGRS通过在模型对其当前响应表现出高置信度时动态抑制反思触发词的生成来防止冗余的反思循环,同时不影响输出质量。该方法与模型无关,无需重新训练或架构修改,可无缝集成到现有的自回归生成流程中。在四个推理基准测试(AIME24、AMC23、MATH500和GPQA-D)上的广泛实验表明,CGRS有效降低了平均18.5%至41.9%的令牌使用量,同时保持了准确性。相较于最先进的基线方法,CGRS在长度缩减和性能之间实现了最佳平衡。这些结果在不同模型架构(如DeepSeek-R1-Distill系列、QwQ-32B和Qwen3家族)以及不同规模(4B至32B参数)上均保持一致,凸显了CGRS在高效推理中的实用价值。研究表明,CGRS为大型推理语言模型的实际应用提供了一种有效的解决方案,能够显著降低计算成本并提升推理效率。

📄 中文摘要:
大型语言模型(LLMs)正在改变化学家在有机合成中规划和执行反应的方式。这些基于文本的模型通过对数百万已报道的化学转化的训练,能够提出合成路线、预测反应结果,甚至指导机器人无需人工监督即可执行实验。本文综述了将LLMs从推测性工具转变为实用实验室伙伴的关键里程碑。研究表明,将LLMs与图神经网络、量子计算和实时光谱技术结合,可以显著缩短发现周期,并支持更环保、数据驱动的化学研究。然而,当前技术仍存在局限性,包括数据集的偏差性、推理过程的不透明性,以及需要安全机制来防止意外风险等问题。此外,文章还讨论了社区倡议,包括开放基准、联邦学习和可解释界面,旨在民主化技术访问,同时确保人类保持控制权。这些进展为人工智能和自动化驱动的快速、可靠且包容的分子创新铺平了道路。研究强调了LLMs在有机合成中的潜力,同时也指出了未来需要解决的技术和伦理挑战,以确保其安全和广泛应用。最终,本文提出了一种愿景,即通过人工智能技术实现化学研究的革命性转变,为分子设计和合成提供新的可能性。

📄 中文摘要:
近年来,大型语言模型(LLMs)的进步显著拓宽了其在多样化任务中的应用范围,但特定领域仍需针对性的后训练。在现有的方法中,群体相对策略优化(GRPO)因其高效性而脱颖而出,它利用群体相对奖励,避免了昂贵的价值函数学习。然而,GRPO将候选响应视为独立个体,忽略了语义交互,如互补性和矛盾性。为解决这一问题,本研究首先引入了结构因果模型(SCM),揭示了候选响应之间由最终集成输出条件化引发的隐藏依赖,形成了一种碰撞结构。通过因果分析,本研究得出两点洞见:(1)将响应投影到因果信息子空间可以提升预测质量;(2)这种投影提供了比仅基于查询条件化更好的基线。基于这些洞见,本文提出了群体因果策略优化(GCPO),通过两个关键组件将因果结构融入优化过程:因果信息奖励调整和一种新颖的KL正则化项,使策略与因果投影的参考分布对齐。全面的实验评估表明,GCPO在多个推理基准测试中持续优于现有方法,包括GRPO。研究结果表明,GCPO通过整合因果结构显著提升了后训练大型语言模型的性能,为特定领域任务提供了更有效的优化策略。这一方法不仅在理论上具有创新性,还在实际应用中展现了潜力,可能为未来的语言模型优化研究提供新的方向。

📄 中文摘要:
对话中的情感识别(ERC)致力于识别交互中的情感变化,是推动机器智能发展的重要一步。然而,ERC数据仍然稀缺,现有数据集由于来源的高度偏见和软标签的固有主观性而面临诸多挑战。尽管大型语言模型(LLMs)在许多情感任务中展现了高质量的表现,但其训练成本通常较高,且在ERC任务中的应用——尤其是数据生成方面——仍然有限。为了应对这些挑战,本研究采用了一个小型、资源高效且通用的LLM来合成具有多样属性的ERC数据集,补充了三个最广泛使用的ERC基准数据集。我们生成了六个新颖的数据集,其中两个专门为每个基准数据集的增强而设计。研究评估了这些数据集的实用性,具体包括:(1)作为现有ERC分类数据集的补充;(2)分析ERC中标签不平衡的影响。实验结果表明,基于生成数据集训练的ERC分类器模型展现出强大的鲁棒性,并且在现有ERC基准上持续取得统计学上显著的性能提升。这些发现表明,利用LLM生成的数据集能够有效缓解ERC数据稀缺问题,并为情感识别任务提供新的研究视角和工具。此外,研究还探讨了生成数据集在处理标签不平衡问题上的潜力,为未来的ERC研究提供了有价值的参考。

📄 中文摘要:
大型语言模型(LLMs)在多种复杂任务上展现出了令人印象深刻的推理能力。然而,通过后训练增强这些能力仍然需要大量的资源,特别是在数据和计算成本方面。尽管近期的一些研究通过选择性数据筛选试图提高样本效率,但现有方法往往依赖于启发式或任务特定的策略,限制了其可扩展性。本研究提出了InfiAlign,一种可扩展且样本高效的后训练框架,通过整合监督微调(SFT)和直接偏好优化(DPO)来对齐大型语言模型以提升推理能力。InfiAlign 的核心是一个强大的数据选择流程,该流程利用多维质量指标从开源推理数据集中自动筛选高质量的对齐数据。这一流程在显著减少数据需求的同时实现了性能的显著提升,并且能够扩展到新的数据源。在将该框架应用于 Qwen2.5-Math-7B-Base 模型时,我们的 SFT 模型在使用仅约 12% 训练数据的情况下,性能与 DeepSeek-R1-Distill-Qwen-7B 相当,并在多种推理任务上表现出强大的泛化能力。通过应用 DPO 进一步提升了性能,尤其在数学推理任务中取得了显著进展,模型在 AIME 24/25 基准测试上的平均提升为 3.89%。研究结果表明,结合原则性数据选择与全阶段后训练是一种有效的解决方案,为以可扩展和数据高效的方式对齐大型推理模型提供了实用方法。模型检查点可在 https://huggingface.co/InfiX-ai/InfiAlign-Qwen-7B-SFT 获取。

📄 中文摘要:
本文提出了一种名为GRAIL(Graph-Retrieval Augmented Interactive Learning)的框架,旨在解决大型语言模型(LLMs)与检索增强生成(RAG)技术结合时在处理结构化知识(如知识图谱)方面的局限性。现有RAG方法主要针对非结构化数据,而在处理知识图谱时,传统图谱检索方法难以捕捉整体图谱结构,同时面临精度控制问题,导致推理性能下降。GRAIL通过整合LLM引导的随机探索和路径过滤,构建了一个数据合成管道,为每个任务自动生成细粒度的推理轨迹。基于合成数据,GRAIL采用两阶段训练过程,学习一个动态决策最优行动的策略,将图谱检索中精度与简洁性的平衡目标分解为细粒度的过程监督奖励,从而提高数据效率和训练稳定性。在实际应用中,GRAIL采用交互式检索范式,使模型能够自主探索图谱路径,同时动态平衡检索广度和精度。大量实验表明,GRAIL在三个知识图谱问答数据集上的平均准确率提升了21.01%,F1分数提升了22.43%。研究结果表明,GRAIL在知识图谱检索增强推理领域具有显著优势,为处理大规模结构化知识提供了新的解决方案。作者还开源了源代码和数据集,为后续研究奠定了基础。

📄 中文摘要:
大型语言模型(LLMs)在多种任务中展现了卓越的能力,但在知识密集型任务中存在显著局限性,特别是在需要专业知识的问题上容易产生幻觉(hallucinations)。虽然检索增强生成(RAG)通过整合外部知识缓解了这一问题,但由于其依赖直接语义检索且缺乏结构化的逻辑组织,RAG在复杂推理场景中表现不佳。本文受笛卡尔《方法论》中原则的启发,提出了一种新的范式——逻辑增强生成(LAG),通过系统性问题分解和依赖感知推理重新构建知识增强框架。具体而言,LAG首先将复杂问题分解为按逻辑依赖排序的原子子问题,然后按序解决这些子问题,利用前面的答案指导后续子问题的上下文检索,确保推理过程逐步基于逻辑链条。为了防止错误传播,LAG引入了逻辑终止机制,在遇到无法回答的子问题时停止推理,并减少过度推理带来的计算浪费。最后,LAG综合所有子问题的解决方案生成经过验证的响应。在四个基准数据集上的实验表明,LAG显著增强了推理的鲁棒性,减少了幻觉现象,并使LLM的问题解决过程更贴近人类认知,为现有的RAG系统提供了一种基于原则的替代方案。本研究不仅在技术上实现了创新,还为大型语言模型在复杂推理任务中的应用提供了新的理论视角和实践指导。

📄 中文摘要:
大型语言模型(LLMs)因其处理长而复杂上下文的能力,在法律领域具有重要潜力,但其生成不忠实、无根据或幻觉性输出的倾向限制了其应用。检索增强生成(Retrieval-Augmented Generation, RAG)通过将生成内容基于外部知识提供了一种有前景的解决方案,但无法保证所提供的上下文被有效整合。为解决这一问题,已提出上下文感知解码策略以增强相关上下文的影响,但这些策略通常未明确强制对上下文的忠实性。本研究提出了CoCoLex(Confidence-guided Copy-based Decoding for Legal Text Generation),一种用于法律文本生成的基于置信度的复制解码策略。该策略动态地将模型生成的词汇分布与基于从上下文中复制得到的分布进行插值,鼓励模型根据其置信度直接从源上下文中复制内容,从而确保更高的忠实度。在五个法律基准数据集上的实验结果表明,CoCoLex在长篇文本生成任务中显著优于现有的上下文感知解码方法。研究表明,CoCoLex通过提高生成内容对上下文的忠实性,有效减少了幻觉性输出,为法律领域的文本生成提供了更可靠的工具。这一方法不仅提升了生成质量,还为类似领域中需要高忠实度的文本生成任务提供了新的思路。结论指出,CoCoLex在法律文本生成中的成功应用展示了其在处理复杂上下文任务中的潜力,未来可进一步扩展到其他需要严格基于事实的领域。

📄 中文摘要:
本文针对大型语言模型(LLMs)在多选题回答(MCQA)中的应用问题,特别是在高风险领域因幻觉和过度自信导致的不可靠性,提出了一种基于频率的不确定性量化方法,并结合共形预测(CP)提供可证明的覆盖保证。研究背景在于,尽管LLMs在MCQA任务中表现出色,但其固有的不确定性限制了其在关键领域的应用。为此,本文在黑箱设置下,通过对模型输出分布进行多次独立采样,以最频繁的采样结果作为参考,计算预测熵(PE)。实验在六个LLMs和四个数据集(MedMCQA、MedQA、MMLU、MMLU-Pro)上进行,结果表明,基于频率的PE在区分正确与错误预测方面优于基于logit的PE,具体通过AUROC指标验证。此外,该方法能在用户指定的风险水平下有效控制经验误覆盖率,证明了采样频率在黑箱场景中可作为logit概率的有效替代品。本文提出了一种无分布、模型无关的框架,为MCQA中的可靠不确定性量化提供了理论支持,并通过保证覆盖率增强了LLMs在实际应用中的可信度。这一研究为解决LLMs在高风险领域的应用挑战提供了重要思路,具有理论和实践意义。

📄 中文摘要:
量化感知训练(QAT)是一种将量化过程融入训练循环的方法,使大语言模型(LLM)能够学习鲁棒的低位表示,被广泛认为是极具前景的研究方向之一。目前所有的QAT研究都致力于在全精度模型的基础上最小化量化误差,全精度模型的准确性被视为上限(准确性天花板),且尚无方法尝试突破这一上限。本研究提出了一种新范式:首先提升全精度模型的准确性天花板,然后将其高效量化为2位表示。为此,我们提出了Fairy±i,这是首个针对复值大语言模型的2位量化框架。具体而言,该方法利用复数域的表示优势提升全精度模型的准确性,将权重映射到第四单位根{±1, ±i},形成完全对称且信息理论上最优的2位表示。值得注意的是,每个量化权重要么实部为零,要么虚部为零,从而实现仅通过加法和元素交换即可完成的无乘法推理。实验结果表明,Fairy±i在困惑度(PPL)和下游任务上的表现均超越了现有2位量化方法的天花板,同时保持了严格的存储和计算效率。这一研究为在极低位约束下构建高精度且实用的LLM开辟了新方向,具有重要的理论和应用价值。

📄 中文摘要:
本研究探讨了大型语言模型(LLMs)在生成可解释的可计算表型(CPs)方面的潜力,特别是在高血压患者的临床决策支持中的应用。研究背景源于LLMs在医学问答和编程领域的出色表现,但其在生成CPs方面的能力尚未被充分挖掘。本文针对六个不同复杂度的临床表型,评估了LLMs在零样本(zero-shot)条件下的表现,并提出了一种‘合成-执行-调试-指导’的策略,通过数据驱动的反馈迭代优化CPs的生成。研究方法包括利用LLMs生成初始CPs,随后通过执行和调试过程,结合反馈信息不断改进程序的准确性和可解释性。关键发现表明,结合迭代学习的LLMs能够生成可解释且准确度较高的程序,其性能接近最先进的机器学习(ML)方法,同时所需训练样本显著减少。这一成果表明,LLMs在需要较少数据支持的情况下,仍能实现高质量的CPs生成,为可扩展的临床决策支持系统提供了可能性。研究结论强调了LLMs在医疗领域的潜力,尤其是在高血压等复杂疾病管理中,可能通过减少对大规模标注数据的依赖,提升临床决策效率和个性化治疗水平。未来研究可进一步探索LLMs在其他临床表型和疾病领域的适用性,以及如何优化迭代学习策略以应对更复杂的医疗场景。

📄 中文摘要:
本文研究了基于深度学习方法捕捉人类学习行为的问题,这是心理学和智能系统领域的重要研究方向。传统方法依赖于受控实验或基于规则的模型来探索认知过程,但难以捕捉学习动态、追踪长期进展或提供可解释性。为解决这些挑战,作者提出了LearnerAgent,一个基于大型语言模型(LLM)的多智能体框架,用于模拟真实的教学环境。研究构建了具有心理学基础的学习者画像,包括深度学习者、表面学习者、懒惰学习者以及无特定画像的通用学习者,以探究LLM的默认行为。通过每周知识获取、每月策略选择、定期测试和同伴互动,研究追踪了学习者在一年内的动态学习进展。研究发现如下:1)纵向分析显示,仅深度学习者实现了持续的认知增长,而特别设计的“陷阱问题”有效诊断了表面学习者的浅层知识;2)不同学习者的行为和认知模式与其心理学画像高度一致;3)学习者的自我概念分数呈现现实演变,通用学习者尽管认知能力有限,却表现出意外高水平的自我效能;4)关键发现是,基础LLM的默认画像是一个“勤奋但脆弱的表面学习者”,即模仿优秀学生行为但缺乏真正可泛化的理解。广泛的模拟实验表明,LearnerAgent与真实场景高度契合,为LLM的行为提供了更深刻的洞察。这一研究不仅揭示了LLM在模拟人类学习中的潜力与局限,也为智能教育系统和认知建模提供了新思路。

📄 中文摘要:
大型语言模型(LLMs)已开始展现出说服人类的能力,然而我们对这一动态过程的理解仍有限。近期研究利用线性探针这一轻量级工具分析模型表征,探索了LLMs在建模用户情感和政治观点等方面的技能。受此启发,本文将线性探针应用于研究自然多轮对话中的说服动态。研究借鉴认知科学的见解,针对说服的三个关键方面训练探针:说服成功性、被说服者个性以及说服策略。尽管线性探针方法简单,但研究表明它们能在样本和数据集层面捕捉说服的多个方面。例如,探针能够识别对话中被说服者被说服的具体时间点,或在整个数据集中普遍发生说服成功的位置。此外,研究还发现,与昂贵的基于提示的方法相比,线性探针不仅速度更快,在某些场景(如揭示说服策略)中表现同样出色甚至更优。这表明线性探针是一种可行的方法,可用于研究其他复杂行为,如欺骗和操控,尤其是在多轮对话和大规模数据集分析中,基于提示的方法在计算效率上存在局限性。本文通过线性探针的应用,为理解和分析LLMs在复杂交互中的行为提供了新的视角,并为未来的研究奠定了基础。

📄 中文摘要:
本文提出了一种名为H-Net++的层次动态分块模型,针对形态丰富语言(Morphologically-Rich Languages, MRLs)在字节级语言建模中的计算挑战,特别是在单词跨多个字节的情况下,传统的分词器显得脆弱且效率低下。H-Net++通过端到端训练学习语言学驱动的分段策略,其主要创新包括:(1)一个轻量级的Transformer上下文混合器(参数量仅为190万),用于跨分块的注意力机制;(2)一个双层潜在超先验,用于文档级一致性;(3)专门处理正字法伪影(如波斯语中的ZWNJ);(4)基于课程的训练方法,逐步增加序列长度。在一个包含14亿token的波斯语语料库上,H-Net++取得了最先进的结果:相比基于BPE的GPT-2-fa模型,其每字节位数(BPB)降低了0.159(压缩率提升12%);在ParsGLUE基准测试中性能提升5.4个百分点;对ZWNJ损坏的鲁棒性提高了53%;在黄金形态边界上的F1分数达到73.8%。此外,H-Net++学习到的分块与波斯语形态高度一致,且无需显式监督,表明层次动态分块为形态丰富语言提供了一种高效的无分词器解决方案,同时保持了计算效率。研究结果不仅展示了模型在处理复杂语言形态时的优越性,也为未来在其他形态丰富语言上的应用奠定了基础。

📄 中文摘要:
本研究探讨了大型预训练DNA语言模型(如DNABERT-2、Nucleotide Transformer和HyenaDNA)在基因组预测任务中的应用潜力。传统上,这些模型依赖于昂贵的任务特定微调(fine-tuning),且在训练和测试数据分布相似时效果最佳。然而,本文提出了一种替代方案,即基于嵌入(embedding)的简单流水线,通过从这些预训练模型中提取固定表示并输入轻量级分类器,可以实现与微调相当的性能。研究发现在数据分布不同的评估场景中,基于嵌入的方法往往优于微调,同时将推理时间缩短10倍至20倍。此外,嵌入方法在碳排放和计算效率方面也表现出显著优势。例如,在增强子分类任务中,HyenaDNA嵌入结合zCurve方法取得了0.68的准确率(相比微调的0.58),推理时间减少了88%,碳排放降低了8倍以上(0.02 kg vs. 0.17 kg CO2)。在非TATA启动子分类任务中,DNABERT-2嵌入结合zCurve或GC含量特征达到了0.85的准确率(微调为0.89),碳足迹降低了22倍(0.02 kg vs. 0.44 kg CO2)。研究结果表明,基于嵌入的流水线在保持强大预测性能的同时,碳效率提高了10倍以上。这种方法不仅是一个强有力的基准,还在多样化或未见过的基因组环境中展现出更高的泛化能力和效率,特别适合实际部署。代码已公开,供进一步研究和应用。

📄 中文摘要:
本文研究了预训练上下文表示的成功应用所引发的对其中语言信息编码的分析兴趣。预训练表示在多种自然语言处理(NLP)任务中带来了显著的经验改进,表明它们可能学习到了真正的语言泛化能力。本研究聚焦于内在探查(intrinsic probing),这是一种分析技术,不仅旨在识别表示是否编码了某种语言属性,还试图精确定位该属性在表示中的编码位置。作者提出了一种新的潜在变量模型来构建内在探查方法,并推导出了对数似然的可处理变分近似。研究结果表明,该模型具有多功能性,相较于文献中之前提出的两种内在探查方法,能够提供更紧密的互信息估计。此外,作者发现了预训练表示在跨语言环境中形成了形态句法的纠缠概念的经验证据。这一发现揭示了预训练模型在处理不同语言时可能共享某些语法结构的潜在机制,为理解预训练表示的语言学特性提供了新的视角。研究结论强调了潜在变量模型在揭示语言属性编码位置方面的潜力,并为未来的NLP研究提供了理论和实践指导,尤其是在跨语言任务和模型解释性领域。

📄 中文摘要:
理解大型语言模型(LLMs)的行为对于确保其安全和可靠使用至关重要。然而,现有的可解释人工智能(XAI)方法主要依赖于词级别的解释,这些方法通常计算效率低下,且与人类的推理过程不一致。此外,这些方法往往将解释视为一次性输出,忽视了其固有的交互性和迭代性。本文提出了一种名为LLM Analyzer的交互式可视化系统,通过反事实分析实现对LLM行为的直观且高效的探索,从而克服上述局限性。该系统引入了一种新颖的算法,通过用户定义的粒度级别进行有针对性的移除和替换操作,生成流畅且语义有意义的反事实示例。这些反事实示例被用于计算特征归因分数,并与具体示例结合在基于表格的可视化界面中,支持对模型行为的动态分析。通过对LLM从业者的用户研究以及与专家的访谈,验证了该系统的可用性和有效性。研究结果强调了将人类作为主动参与者而非被动接受者纳入解释过程的重要性。LLM Analyzer不仅提升了模型解释的效率和用户体验,还为理解复杂模型行为提供了新的视角和工具,有助于推动可解释AI领域的发展。

📄 中文摘要:
在危机/灾害信息学领域,社交媒体日益被用于提升情境感知能力,以支持响应和救援工作。高效且准确的文本分类工具一直是危机信息学研究的核心焦点。然而,当前方法大多依赖于单标签文本分类模型,无法捕捉动态且多方面的灾害相关社交媒体数据中蕴含的不同洞察。本研究提出了一种创新的灾害文本分类方法,通过对预训练的大型语言模型(LLM)进行指令微调,针对灾害相关推文的多标签分类进行优化。我们的方法包括从灾害相关推文中构建一个全面的指令数据集,随后利用该数据集对一个开源的大型语言模型进行微调,使其嵌入灾害特定知识。这一微调模型能够同时分类灾害相关信息的多个方面,例如事件类型、信息性和是否涉及人道援助,从而显著提升社交媒体数据在灾害情境感知中的实用性。研究结果表明,该方法增强了对社交媒体帖子中关键信息的分类能力,从而在紧急情况下促进了更有效的情境感知部署。这项研究为开发更先进、适应性更强、鲁棒性更高的灾害管理工具铺平了道路,利用大型语言模型的能力改善灾害场景中的实时情境感知和响应策略。通过将多标签分类与指令微调相结合,本研究为灾害信息学领域提供了新的视角和工具,有助于更高效地处理社交媒体数据,支持灾害响应和救援工作。

📄 中文摘要:
构建高质量的专用任务数据集是一项耗时且资源密集的过程,通常需要专业的领域知识。本文提出了一种名为CRAFT(Corpus Retrieval and Augmentation for Fine-Tuning)的合成数据集生成方法,仅需用户提供少量手写的任务示例即可生成数据集。基于这些示例,CRAFT利用大规模公开的网络爬取语料库和基于相似性的文档检索技术,找到其他相关的人工撰写文档。随后,经过指令调整的大型语言模型(LLMs)将检索到的文档增强为定制格式的任务样本,这些样本可用于模型微调。研究展示了CRAFT在四个不同任务(生物学、医学、常识问答以及文本摘要)中高效生成大规模任务特定训练数据集的能力。实验结果表明,基于CRAFT的模型在问答任务上表现优于或匹配通用大型语言模型,同时在文本摘要任务上比基于人工策划数据的模型高出46个偏好点。此外,CRAFT在与其他合成数据集生成方法(如Self-Instruct和Evol-Instruct)的比较中表现出色,即使初始示例的质量有所变化,CRAFT仍保持稳健性能。这一方法为快速构建高质量任务特定数据集提供了有效解决方案,具有广泛的应用潜力,尤其是在资源有限或领域知识匮乏的情况下。

📄 中文摘要:
本研究聚焦于大型语言模型(LLMs)在医疗查询响应中产生的幻觉问题,即生成看似合理但事实上错误或虚构的信息。随着LLM驱动的聊天机器人(如ChatGPT)在公众中的普及以及其在社交媒体平台上生成内容的增加,幻觉问题在医疗领域变得尤为关键,因为普通人可能依赖这些模型获取敏感的健康信息。现有研究主要通过标准化医疗考试问题测试LLMs的医学知识,这些问题通常定义明确且有确定答案,但未能充分反映LLMs在真实患者交互中的表现。本文首次对LLMs在真实医疗查询中的幻觉问题进行了系统研究,提出了MedHalu,一个新的医疗幻觉基准数据集,涵盖多样化的健康相关主题及LLMs生成的幻觉响应,并对幻觉类型和文本片段进行了详细标注。同时,研究提出了MedHaluDetect,一个用于评估LLMs检测幻觉能力的综合框架。研究还比较了医疗专家、LLMs和普通人在检测医疗幻觉方面的表现,发现LLMs在检测能力上显著低于人类专家,甚至在某些情况下低于普通人。为提升幻觉检测能力,研究提出了一种专家参与循环的方法,将专家推理整合到LLM输入中,显著提升了所有LLMs的幻觉检测能力,包括GPT-4的宏F1分数提高了6.3%。研究结果强调了在医疗领域应用LLMs时解决幻觉问题的紧迫性,并为未来的改进提供了重要参考。

📄 中文摘要:
尽管大型语言模型(LLM)在代码生成方面取得了显著进展,但生成的代码通过率常常受限于细微错误,尤其是在复杂问题上,通常需要人工干预才能通过测试。现有的基于LLM的调试系统将生成的程序视为一个整体单元,未能从多个粒度层次上解决错误,从低级语法错误到高级算法缺陷均未得到有效处理。本文提出了一种分层代码调试器——多粒度调试器(MGDebugger),通过隔离、识别和解决不同粒度层次上的错误来提升代码正确性。MGDebugger将问题代码分解为子函数的层次树结构,每个层次代表特定的错误粒度。在调试过程中,它分析每个子函数并以自底向上的方式迭代解决错误。为了有效测试每个子函数,本文提出了一种基于LLM模拟的Python执行器,该执行器能够跟踪代码执行过程并记录重要变量状态,从而精确定位错误。大量实验表明,MGDebugger在性能上优于现有调试系统,在HumanEval数据集上相较于初始生成代码的准确率提高了18.9%,在HumanEvalFix数据集上的修复成功率达到97.6%。此外,MGDebugger能够有效修复不同类别和难度级别的错误,展现了其鲁棒性和有效性。这一研究为代码生成领域的错误修复提供了新的视角和方法,具有重要的应用价值。

📄 中文摘要:
近年来,提升大型语言模型(LLMs)推理能力的研究备受关注。已有研究表明,多种提示策略(称为‘推理动作’)如逐步思考、回答前反思、通过程序解决问题及其组合,能够有效辅助LLMs进行推理。然而,这些方法通常对所有问题统一应用静态、预定义的推理动作,未能考虑每个问题的具体特征或任务解决LLM的固有能力。本文提出了一种名为DOTS(Dynamic Optimal Trajectory Search)的创新方法,使LLMs能够根据每个问题的具体特征和任务解决LLM的内在能力,通过最优推理轨迹搜索实现动态推理。DOTS方法包括三个关键步骤:首先,定义可组合成多种推理动作轨迹的原子推理动作模块;其次,通过迭代探索和评估,为特定任务解决LLM搜索每个训练问题的最优动作轨迹;最后,利用收集到的最优轨迹训练一个LLM,为未见问题规划推理轨迹。本文特别提出了两种学习范式:一是微调一个外部LLM作为规划器,指导任务解决LLM;二是直接微调任务解决LLM,使其内化推理动作规划能力。在八个推理任务上的实验表明,DOTS方法持续优于静态推理技术和传统的指令微调方法。进一步分析显示,DOTS方法使LLMs能够根据问题复杂性调整计算资源,对更难的问题分配更深入的思考和推理。这种动态调整能力显著提升了模型在复杂推理任务中的表现,为LLMs的推理能力研究提供了新的视角和方法。

📄 中文摘要:
尽管大型语言模型(LLMs)在多种任务中表现出色,但数学推理仍然是一个具有挑战性的领域。本研究受人类在被提示如何思考而非思考什么时学习更有效的观察启发,提出了一种名为BloomWise的认知启发式提示技术,旨在提升LLMs在数学问题解决中的表现,同时使其解决方案更具可解释性。BloomWise通过引导LLMs按照一系列认知操作生成解决方案(以解释形式呈现),从基础层次(如记忆)逐步过渡到高级推理技能(如评估),模拟人类构建理解的过程。该过程在不同层次间迭代,若满足收敛标准(即连续两个或更多层次得出相同答案),则提前终止并输出最早层次的解决方案;否则,过程持续直到完成所有层次。通过在五个流行的数学推理数据集上进行广泛实验,本研究验证了BloomWise的有效性。此外,研究还通过全面的消融实验分析了系统中各组成部分的优势。实验结果表明,BloomWise显著提升了LLMs在数学推理任务中的准确性和解释性,为利用认知理论改进人工智能模型提供了新的视角。这一方法不仅有助于提升模型性能,还为理解LLMs的推理过程提供了更清晰的窗口,对未来在教育、决策支持等领域应用LLMs具有重要意义。

📄 中文摘要:
本文研究了大型语言模型(LLMs)训练后量化(Post-Training Quantization, PTQ)在降低推理过程中的内存和计算需求方面的有效性。研究聚焦于一个核心问题:当以低精度量化实现目标准确度或困惑度时,需要保留多少高精度计算,以及随着模型规模的扩大,量化的粒度需要达到何种程度。为此,作者提出了两个关键指标:量化比率(Quantization Ratio, Qr)和量化块大小(Quantization Block Size, Qb)。量化比率衡量了被量化为低精度算术的参数数量与总参数数量的比值,而量化块大小定义了在一个块内共享同一缩放因子的值数量,类似于NVIDIA Blackwell架构中FP4格式的块大小概念。通过对不同模型和量化方法的大量严格控制实验,作者提出了一种统一的训练后量化缩放法则,能够预测不同Qr和Qb下的损失退化情况。对于Qr,缩放法则表明参数规模和量化比率之间存在乘积关系,因此更大规模的模型能够适应更高的量化比率Qr,从而支持在推理中更多地采用混合量化。对于Qb,研究发现,对于大型模型而言,较小的块大小(如Blackwell架构中使用的)并非必需,过小的Qb反而可能不必要地增加硬件电路设计的复杂性。研究结果为大型语言模型的量化策略提供了重要指导,特别是在平衡性能与计算资源需求方面的应用具有实际意义。

📄 中文摘要:
本文研究了如何在大语言模型(LLMs)中高效注入预训练数据中未包含的新知识。在实际应用中,LLMs需要获取新知识,通常通过监督微调或检索增强生成(RAG)来实现。尽管RAG已成为知识注入的行业标准,但监督微调尚未取得同等成功。本文提出了一种基于自蒸馏的提示蒸馏方法,用于从自由格式的文档中内化新的事实知识。该方法此前主要用于风格对齐和指令调整,但本文将其应用于知识注入。与现有方法不同的是,提示蒸馏既不需要更大的教师模型,也不需要结构化的知识格式。研究在多种LLM规模和模型家族上进行了实验,结果表明,提示蒸馏在性能上优于标准的监督微调,甚至在某些情况下超过了RAG。作者进一步分析了提示蒸馏有效性的关键因素,包括模型规模、提示设计和训练策略等,并探讨了其扩展性。研究表明,提示蒸馏通过将外部知识转化为模型内部表示,能够显著提升模型在特定任务上的表现,同时保持较低的计算成本。结论指出,提示蒸馏为大语言模型的知识注入提供了一种高效且灵活的解决方案,可能在未来的模型优化和应用中发挥重要作用。

📄 中文摘要:
大型语言模型(LLMs)在知识型视觉问答(VQA)领域取得了令人瞩目的成果。然而,现有方法仍面临两大挑战:一是无法自主使用外部工具,二是缺乏团队协作能力。人类在面对新问题时通常能够判断是否需要借助外部工具,例如对熟悉的问题直接作答,而对不熟悉的问题则倾向于使用搜索引擎等工具。此外,人类还倾向于通过与他人协作和讨论来获得更优的答案。受此启发,本研究提出了一种多智能体投票框架。我们设计了三个基于大型语言模型的智能体,模拟团队中不同层级的成员,并根据层级分配可用的工具。每个智能体分别提供相应的答案,最终通过投票机制从所有答案中选出最终结果。在OK-VQA和A-OKVQA数据集上的实验表明,我们的方法相较于其他基线分别提升了2.2和1.0的性能。这一框架通过模拟人类协作和工具使用的行为,显著提高了知识型视觉问答任务的准确性和鲁棒性,为未来的多智能体系统在复杂任务中的应用提供了新的思路。研究结果不仅展示了多智能体协作在VQA领域的潜力,也为大型语言模型与外部工具的集成提供了重要的参考。结论表明,多智能体框架能够有效弥补单一模型的局限性,未来可进一步探索其在更广泛任务中的适用性。

📄 中文摘要:
本研究聚焦于家长参与家庭作业对家庭教育的重要性及其引发的家庭情感压力和冲突。尽管人们日益关注其对家庭福祉的影响,但以往研究缺乏对亲子互动实时动态的细粒度分析。为填补这一空白,本文提出了一种利用自然亲子互动数据和大型语言模型(LLMs)大规模分析家庭作业对话的框架。在为期四周的实地研究中,研究团队与78个中国家庭合作,收集了475小时的音频记录和每日调查数据,涵盖了日常家庭环境中的602次家庭作业会话。通过基于LLM的分析流程,研究成功从转录对话中提取并分类了家长行为和冲突模式,与专家标注结果高度一致。分析揭示了家长在家庭作业前后显著的情感变化,识别出18种常见的家长行为和7种典型冲突类型,其中知识冲突最为频繁。值得注意的是,即使是出于善意的家长行为,也与特定冲突呈现显著正相关。本研究不仅推动了普适计算方法在复杂家庭动态研究中的应用,还为家庭教育理论提供了实证见解,有助于未来制定更有效的育儿策略和干预措施。通过揭示亲子互动中的情感和行为模式,本文为改善家庭作业互动的质量和家庭整体福祉提供了重要参考。

📄 中文摘要:
本文研究了提问在理解和学习中的关键作用,并提出了一种新的框架QUEST(Question Utility Estimation with Simulated Tests),用于直接量化问题的效用,即问题对考试表现的贡献。传统的探究性问题研究主要关注学习者生成的好奇心驱动的问题,并通过间接指标(如显著性或信息增益)进行评估,而这些指标无法直接反映问题对学习成果的影响。QUEST利用语言模型模拟学习者,在学习教科书章节时提出问题并获得答案,随后参加章节末考试,通过考试表现直接估计每个问题的效用,而非基于内容的间接推断。为支持这一评估,作者构建了TEXTBOOK-EXAM基准数据集,将五个学术学科的教科书章节与章节末考试问题对齐。利用QUEST框架,作者筛选出高效用问题,并通过拒绝采样微调问题生成器。实验结果表明,经QUEST训练的模型生成的问题相较于使用间接指标或提示方法的强基线模型,能将模拟考试成绩提升超过20%。此外,问题的效用与显著性及与考试问题的相似性仅呈弱相关,表明效用捕捉到了独特的信号,有助于下游表现。QUEST提供了一种新的结果驱动的问题评估与生成范式,超越了传统的基于问题-答案内容的评估方法,聚焦于学习成果的可衡量改进。这一研究为教育技术领域提供了重要工具,可能对个性化学习和智能辅导系统的发展产生深远影响。

📄 中文摘要:
模型合并通过组合任务特定的微调检查点来实现高效的多任务模型。然而,存储多个任务特定的检查点需要大量内存,这限制了可扩展性,并将模型合并局限于较大模型和多样化任务。本研究提出了一种新的方法,即对任务向量(即预训练和微调检查点之间的差异)进行量化,而非直接量化微调检查点。研究发现,任务向量的权重范围较窄,因此可以在现有的任务向量合并框架内实现低精度量化(如4位)。为了进一步减少超低位精度(如2位)下的量化误差,本文引入了残差任务向量量化方法,将任务向量分解为基本向量和偏移分量,并根据量化敏感性分配位数,从而在内存预算内确保精度并最小化误差。在图像分类和密集预测任务上的实验表明,该方法在仅使用全精度检查点所需内存的8%的情况下,维持甚至提升了模型合并性能。这一方法显著降低了内存需求,为多任务模型的实际应用提供了可行性,同时保持了模型性能。研究结果表明,任务向量量化是一种有效的内存高效策略,有望在资源受限的环境中推动多任务学习的发展。

📄 中文摘要:
本文研究了如何通过一种新型的指令微调方法——上下文微调,来提升大型语言模型(LLMs)在快速变化领域中的学习能力和知识适应性。研究背景源于大型语言模型在训练后需要通过提示(Prompting)来引导输出以满足人类需求,但在动态领域中,模型的知识更新和开放式推理能力亟需改进。作者受到人类学习新概念时常通过关联已有知识的启发,提出了一个核心问题:是否可以通过提示来教导LLMs如何学习?为此,研究团队开发了上下文微调方法,通过设计模仿人类认知策略的教学提示,在训练过程中引导模型学习,从而提升其对特定领域知识的理解和解释能力。实验主要集中在医疗和金融两个领域,通过在全新数据集上快速微调模型,验证了该方法的有效性。研究结果表明,上下文微调显著提升了模型在跨领域任务中的适应性和学习效率,特别是在需要快速掌握新知识的场景中表现出色。作者总结认为,这种简单而有效的方法为LLMs的持续学习和领域适应提供了新的思路,可能对未来的模型训练范式产生深远影响。

📄 中文摘要:
本文研究了大型语言模型(LLM)预测不确定性量化的重要性,特别是在涉及中间推理步骤的复杂回答场景中准确评估模型回答可靠性的需求。现有研究多集中于直接可回答的简短问题(如选择题),而中间推理步骤的引入显著增加了不确定性量化(UQ)的复杂性。由于回答token的概率依赖于大量前置推理token,直接边缘化计算不可行,且这种依赖性会导致概率估计膨胀,进而造成过度自信的UQ结果。为解决这一问题,本文提出了一种高效方法UQAC(Uncertainty Quantification with Attention Chain),通过将推理空间缩小到可处理的规模来进行边缘化计算。UQAC通过回溯程序迭代构建一个由对最终回答“语义关键”的token组成的“注意力链”。该方法从回答token开始,利用注意力权重识别最具影响力的前置token,并持续迭代直至输入token。随后,通过相似性过滤和概率阈值进一步精炼注意力链,缩小推理空间,从而便于近似计算边缘回答token概率。本文在多个推理基准测试中验证了UQAC方法,结合先进的开源大型语言模型,实验结果表明UQAC能够持续提供可靠的不确定性量化估计,同时具备较高的计算效率。这一方法为复杂推理任务中的不确定性量化提供了新的视角和实用工具,对提升语言模型的可靠性和可解释性具有重要意义。

📄 中文摘要:
推测解码(Speculative Decoding, SD)是一种广泛使用的方法,用于加速大型语言模型(LLMs)的推理过程,同时不降低生成质量。其核心思想是首先使用一个紧凑的模型高效地生成多个候选词,然后利用目标LLM进行并行验证,相较于自回归解码,这种方法显著提高了推理速度。在创建草稿模型的多种方法中,早期退出(early-exit)方法是一种有前景的选择。该方法通过使用主模型的部分层生成候选词,并利用剩余层进行验证,从而使单一模型能够同时处理草稿生成和验证任务,降低了内存使用和计算成本。然而,该方法的性能高度依赖于草稿生成的退出层选择以及每轮SD中推测的词数(推测长度)。以往的研究通过超参数搜索静态地确定这些值,但评估表明这些超参数值与任务相关,甚至在同一任务中也依赖于当前的序列上下文。本文提出了DEL(Dynamic Exit Layer),一种即插即用的方法,能够在推理过程中自适应地选择退出层和推测长度。DEL通过动态跟踪每个层生成的候选词的接受率,并利用这一信息启发式地选择最优的退出层和推测长度。在多种模型和下游任务上的实验表明,DEL相较于传统的自回归解码实现了2.16倍至2.62倍的整体加速效果,并且相较于最先进的SD方法(最高为2.43倍)提升了高达0.19倍的性能。代码已公开于https://github.com/hoenza/DEL。

📄 中文摘要:
事件响应在减轻网络攻击影响方面发挥着关键作用。近年来,全球网络威胁的强度和复杂性显著增加,使得传统威胁检测和事件响应方法在复杂网络环境中难以有效运作。尽管大型语言模型(LLMs)在早期威胁检测中显示出巨大潜力,但其在入侵后自动化事件响应方面的能力仍然有限。为解决这一问题,本研究构建了一个基于真实世界事件响应任务的增量基准,全面评估了LLMs在该领域的表现。分析揭示了当前LLMs在实际应用中面临的几个关键挑战,包括上下文丢失、幻觉问题、隐私保护担忧以及提供准确、特定上下文建议的能力不足。针对这些挑战,本文提出了IRCopilot,一种基于LLMs的新型自动化事件响应框架。IRCopilot通过四个协作的LLM会话组件,模拟真实世界事件响应团队的三个动态阶段。这些组件设计了清晰的责任划分,减少了幻觉和上下文丢失等问题。本方法利用多样化的提示设计和战略性责任分割,显著提高了系统的实用性和效率。实验结果表明,IRCopilot在关键基准测试中优于基线LLMs,在各种响应任务中的子任务完成率分别达到了150%、138%、136%、119%和114%。此外,IRCopilot在公共事件响应平台和真实世界攻击场景中表现出色,展现了其强大的适用性。研究结论表明,IRCopilot为自动化事件响应提供了一种创新且高效的解决方案,有望在网络安全领域产生重要影响。

📄 中文摘要:
大型语言模型(LLMs)在许多自然语言处理任务中表现出色,但其生成虚假内容(即生成看似合理但不一致或事实错误的文本)的倾向在对话响应生成等任务中带来了显著问题。为解决这一问题,本文提出了两种新颖的基于图的知识增强框架:基于文本化图的对话响应生成(TG-DRG)和图感知对话响应生成(GA-DRG)。这两种框架结合了推理引导的对话重构、对话语义知识选择以及图增强的响应生成,以提升对话响应的事实性。为了评估生成响应的事实性,本文提出了一种对话事实分数(dialogue fact score),该方法克服了现有事实评分方法在对话场景中的局限性,提供了更可靠的事实一致性评估。研究在OpendialKG和HybriDialogue数据集上使用不同基线对所提方法进行了评估。结果表明,与其他基于图的知识增强基线(包括最先进的G-retriever)相比,本方法在事实性方面有显著改进,在OpendialKG数据集上的对话事实分数提升了3.47%,在HybriDialogue数据集上提升了3.12%。此外,本文的代码将在GitHub上开源。本研究通过引入图结构知识增强对话生成过程,为解决大型语言模型生成虚假内容的问题提供了有效的解决方案,同时也为对话系统的事实性评估提供了新的视角和工具。研究结果表明,基于图的知识增强方法在提升对话响应质量方面具有重要潜力,可能对未来的对话系统设计和应用产生积极影响。

📄 中文摘要:
本文提出了 FinCoT,一种结构化的思维链(Chain-of-Thought, CoT)提示框架,通过嵌入特定领域的专家金融推理蓝图来指导大型语言模型的行为。研究识别出金融自然语言处理(FinNLP)中的三种主要提示方式:(1)标准提示(零样本),(2)非结构化 CoT(自由形式推理),以及(3)结构化 CoT(具有明确结构化推理步骤)。以往研究主要集中于前两种方式,而结构化 CoT 尚未被充分探索,且缺乏领域专长的融入。因此,本文在十个 CFA 风格的金融领域中评估了所有三种提示方法,并首次引入了 FinCoT 作为专门针对金融领域的结构化提示方法,融入了领域专家的蓝图。实验结果表明,FinCoT 将通用模型 Qwen3-8B-Base 的准确率从 63.2% 提升至 80.5%,将金融专用模型 Fin-R1(7B)的准确率从 65.7% 提升至 75.7%,同时与结构化 CoT 方法相比,输出长度分别减少了高达 8.9 倍和 1.16 倍。研究发现,FinCoT 对于未经过金融领域后训练的模型效果尤为显著。FinCoT 不仅提升了模型性能并降低了推理成本,还生成了更具可解释性和专家一致性的推理轨迹。这一框架为金融领域的自然语言处理任务提供了重要的方法创新,展示了结构化提示结合领域知识的潜力。

📄 中文摘要:
智能合约的漏洞已导致数十亿美元的损失,然而找到可操作的漏洞利用仍然是一个挑战。传统的模糊测试工具依赖于僵化的启发式方法,难以应对复杂的攻击,而人工审计虽然详尽,但速度慢且无法扩展。本研究探讨了大型语言模型(LLMs)作为一种有前景的中间解决方案,结合了类人的推理能力和机器的速度。研究背景聚焦于智能合约安全领域的迫切需求,强调了现有方法的局限性。作者提出了一种基于人工智能代理的方法,利用大型语言模型生成智能合约漏洞利用方案。通过设计特定的提示工程和上下文学习,模型能够模拟攻击者的思维,识别潜在漏洞并生成可执行的攻击代码。研究方法包括对模型进行微调以适应智能合约代码的语法和语义,并结合动态分析工具验证生成的漏洞利用的有效性。关键发现表明,与传统模糊测试工具相比,该方法在检测复杂漏洞(如重入攻击和逻辑错误)方面表现出更高的准确性和效率,同时显著减少了人工干预的需求。此外,研究还揭示了大型语言模型在特定领域任务中的潜力,但也指出了其局限性,如对训练数据的依赖和生成结果的可解释性问题。结论强调了人工智能代理在智能合约安全审计中的应用前景,并建议未来的研究应关注模型的鲁棒性和对抗性测试,以进一步提升其可靠性。该研究为区块链安全领域提供了一种创新的自动化解决方案,可能对智能合约开发和审计实践产生深远影响。

📄 中文摘要:
本文研究了大型语言模型(LLMs)微调性能与训练数据混合组成之间的关键关系,提出了一种新颖的任务混合优化框架TASKPGM,旨在解决当前任务数据集选择主要依赖手动和启发式方法的局限性。传统的均匀采样或基于数据集大小的采样策略往往无法最优地平衡任务的代表性和多样性,而TASKPGM通过在马尔可夫随机场(MRF)上最小化能量函数,实现了任务比例的连续选择。研究中,任务之间的关系通过行为差异性(如Jensen-Shannon散度和点互信息)建模,这些差异性基于单任务微调模型的预测分布计算得出。TASKPGM在单纯形约束下提供了闭式解,并理论上证明了其在任务代表性和多样性之间的平衡能力。此外,作者还为预算受限的变体提供了弱子模性保证。实验结果表明,TASKPGM在Llama 2和Mistral模型上的表现优于现有方法,在MMLU和BIGBench等评估套件中取得了持续的性能提升。除了性能改进,TASKPGM还提供了关于任务影响和混合组成的可解释性见解,使其成为高效且鲁棒的LLM微调工具。本文的研究不仅在理论上具有创新性,还在实际应用中展现了显著优势,为未来的模型微调提供了重要的方法论支持。

📄 中文摘要:
本文系统性地综述了大型语言模型中高效注意力机制的最新研究进展。基于Transformer架构的大型语言模型已成为主流,但自注意力机制的二次时间和内存复杂度仍是长上下文建模效率的根本障碍。为解决这一问题,近年来研究主要集中在两类高效注意力机制上:线性注意力方法通过核近似、递归公式或快速权重动态实现线性复杂度,从而显著降低计算开销并支持可扩展的推理;稀疏注意力技术则通过固定模式、块状路由或聚类策略,将注意力计算限制在选定的令牌子集上,在保持上下文覆盖的同时提升效率。本文不仅整合了算法创新,还考虑了硬件层面的优化。此外,文章分析了高效注意力机制在大规模预训练语言模型中的应用,包括完全基于高效注意力的架构以及结合局部和全局组件的混合设计。通过将理论基础与实际部署策略相结合,本综述为设计可扩展且高效的语言模型提供了重要的参考依据。研究表明,高效注意力机制在处理长上下文任务时具有显著优势,同时在计算资源受限的场景下展现出潜力。文章最后指出了未来研究方向,包括进一步优化算法复杂度和探索硬件协同设计,以推动大型语言模型在实际应用中的广泛部署。

📄 中文摘要:
随着大型语言模型(LLMs)在高风险领域中越来越多地被部署于自主决策角色,其可能继承人类生成数据中的认知偏差成为一个重要问题,其中包括承诺升级(escalation of commitment),即决策者因先前投入而继续投资于失败的行动方案。本研究通过一个两阶段投资任务,探讨了LLMs是否以及在何种条件下表现出这种偏差。研究设置了四种实验条件:模型作为投资者、模型作为顾问、多主体审议和复合压力情境,共进行了6500次试验。结果表明,LLMs中的偏差表现高度依赖于上下文。在个体决策情境中(研究1-2,N=4000),LLMs展现出强烈的理性成本-收益逻辑,承诺升级现象极少。然而,在多主体审议情境中(研究3,N=500),出现了显著的层级效应:非对称层级结构显示出中度的承诺升级率(46.2%),而对等决策结构则几乎普遍出现承诺升级(99.2%)。同样,在面临复合组织和个人压力时(研究4,N=2000),模型表现出较高的承诺升级倾向(平均68.95%的资源分配给失败部门)。这些发现表明,LLMs的偏差表现并非固有,而是高度依赖于社会和组织上下文。这对多主体系统的部署和无监督操作具有重要意义,因为此类条件可能自然浮现,需谨慎设计以避免潜在风险。

📄 中文摘要:
本文研究了大型语言模型(LLMs)的个性化问题,指出传统方法通常假设用户偏好是静态且全局一致的,而现实中用户的偏好是动态的且依赖于具体上下文。在与LLM的交互中,用户会在不同情境下自然流露出上下文相关的偏好,模型需要推断并应用这些偏好以实现更好的对齐。为此,作者提出了CUPID,一个包含756个由人工整理的用户与LLM聊天助手交互会话历史的基准数据集。每个会话记录了用户在特定情境下的请求以及通过多轮反馈表达的偏好。CUPID基准测试评估了LLM在给定新用户请求和先前交互会话的情况下,是否能够推断出与该请求相关的偏好并生成满足该偏好的响应。通过对10个开源和专有LLM的评估,研究发现当前最先进的LLM在从多轮交互中推断偏好方面表现不佳,精度低于50%,召回率低于65%,且难以辨别与新请求相关的先前上下文。研究结果表明,LLM在上下文个性化交互方面的能力亟需提升。作者提出CUPID作为推动这一领域改进的重要资源,为未来的研究提供了宝贵的数据支持和评估框架,同时强调了开发更具上下文感知能力的个性化模型的重要性。

📄 中文摘要:
功能性物体排列(FORM)是一项旨在排列物体以实现特定功能的任务,例如“为两人设置餐桌”。该任务的一个关键挑战是指令往往不够具体,未明确指定物体的目标位置。本文提出了SetItUp,一个神经符号框架,旨在通过少量训练样本和结构化的自然语言任务描述学习指定物体的目标位置。SetItUp使用由物体间抽象空间关系(如“左边”)组成的接地图作为中间表示,将FORM问题分解为两个阶段:(1)预测物体间的接地图;(2)根据接地图预测物体位置。在第一阶段,SetItUp利用大型语言模型(LLMs)从任务描述和少量训练样本中推导出Python程序,该程序可在新场景中生成接地图。在第二阶段,SetItUp预训练一组扩散模型以捕捉基本空间关系,并在线组合这些模型以根据接地图预测物体位置。作者在涵盖三个不同任务家族的数据集上评估了SetItUp,包括在餐桌上排列餐具、在书架上整理物品以及在卧室中布置家具。实验结果表明,SetItUp在生成功能性、物理上可行且美观的对象排列方面优于现有模型。本文是对作者在2024年机器人学:科学与系统(RSS)会议上发表的论文的扩展,展示了更深入的分析和实验结果。通过结合神经网络和符号推理,SetItUp为解决复杂物体排列问题提供了一种创新方法,可能对机器人任务规划和智能家居设计等领域产生重要影响。

📄 中文摘要:
大型语言模型(LLMs)在多种任务中表现出色,但在复杂数学推理方面仍面临挑战,这一问题源于深层结构依赖性。为解决这一问题,本文提出了一个两阶段因果框架——因果数学家(CAMA),为LLMs提供明确的、可重用的数学结构。在学习阶段,CAMA首先通过结合LLM先验知识和因果发现算法,基于问题-解决方案对语料库构建数学因果图(MCG),该图是解决方案策略的高层次表示,编码了关键知识点及其因果依赖关系。为了更好地将图与下游推理任务对齐,CAMA通过从选定问题-解决方案对子集获得的迭代反馈进一步优化MCG。在推理阶段,针对新问题,CAMA根据问题内容和LLM的中间推理轨迹动态提取与任务相关的MCG子图。该子图编码了最相关的知识点及其因果依赖,并被重新注入LLM以指导其推理过程。实证结果表明,CAMA在真实世界数据集上的表现显著提升了LLM在复杂数学问题上的性能。此外,实验还证明,结构化指导始终优于非结构化方法,且引入非对称因果关系比仅使用对称关联带来更大的改进。本研究为提升LLM在数学推理领域的应用提供了重要思路,并展示了因果结构在增强模型推理能力中的潜力。

📄 中文摘要:
本文提出了一种名为RideAgent的基于大语言模型(LLM)的代理框架,旨在自动化并增强电动网约车车队的运营管理,特别是在高峰期通过预分配和定价策略平衡时空供需,以提升城市交通效率。研究背景聚焦于实际挑战,包括需求预测的不确定性以及将非专业运营者提出的多样化、定性管理目标转化为可求解的优化模型。RideAgent框架首先利用LLM解析车队管理者提出的自然语言查询,并将其转化为相应的数学目标函数。这些用户定义的目标函数随后在混合整数规划(MIP)框架内进行优化,同时受到维持高运营利润的约束。运营利润作为主要目标,通过嵌入的随机森林(RF)模型结合外部特征进行估算。为加速MIP问题的求解,框架通过提示引导的LLM分析少量历史最优决策数据,制定变量固定策略。基于真实世界数据的实验表明,LLM生成的目标函数在零样本设置下与标准公式化的文本相似度达到86%。此外,LLM引导的变量固定策略将计算时间缩短了53.15%,相比完整MIP求解仅产生2.42%的平均最优性差距,同时在时间减少42.3%的基础上优于五种切割平面方法,且对解的质量影响极小。RideAgent提供了一个健壮且自适应的自动化框架,支持目标建模和加速优化,使非专业车队管理者能够个性化运营并提升城市交通系统性能。研究结论表明,该框架在提升运营效率和适应性方面具有显著潜力,为城市交通管理提供了创新解决方案。

📄 中文摘要:
本文研究了大型语言模型(LLMs)与人类大脑活动的高度一致性,将其定位为健康认知的强大模型,并提出一个核心问题:如果LLMs能够模拟完整大脑的功能,是否可以通过对其进行损伤来模拟受伤大脑的语言缺陷?作者引入了一种基于模块化专家混合(MoE)语言模型的方法,通过选择性地禁用模型中的特定组件来模拟失语症——一种由神经损伤引起的复杂语言障碍。研究模拟了不同类型的失语症亚型,包括布罗卡失语症和韦尼克失语症,并将模型的语言输出与真实患者的语言表现进行验证,确认了模拟结果的准确性。此外,作者通过重新训练模型中未受损的健康专家,探索了功能恢复的过程。研究结果表明,针对句法或语义功能专门化的专家进行损伤,会导致与布罗卡失语症和韦尼克失语症相似的特定语言障碍。更重要的是,通过冻结受损专家并在对话数据上重新训练未受损专家,模型恢复了显著的语言功能,展示了康复的计算模拟。这一研究表明,模块化大型语言模型是一个强大且具有临床相关性的框架,可用于模拟语言障碍的机制,并通过计算方法探索新的治疗途径,为失语症的理解和康复提供了创新视角。

📄 中文摘要:
基于Transformer的大型语言模型(LLMs)通过自注意力机制在自然语言处理任务中表现出色,能够捕捉长距离依赖关系。然而,长上下文建模面临显著的计算效率问题,主要源于注意力计算中的冗余:尽管注意力权重通常是稀疏的,但所有token却消耗了同等的计算资源。本文将传统的概率序列建模重新表述为一个监督学习任务,从而实现了相关和无关token的分离,并对冗余问题提供了更清晰的理解。基于这一重新表述,作者从理论上分析了注意力稀疏性,发现只有少数token对预测结果有显著贡献。在此基础上,作者将注意力优化问题形式化为一个线性编码问题,并提出了一种组编码策略,理论上证明了该策略能够提高对随机噪声的鲁棒性并提升学习效率。受此启发,作者提出了动态组注意力(Dynamic Group Attention, DGA)方法,通过在注意力计算过程中聚合不重要的token来显式减少冗余。实验结果表明,DGA在保持竞争性能的同时显著降低了计算成本。相关代码已公开,展示了该方法在实际应用中的潜力。本研究为Transformer模型在长上下文建模中的效率提升提供了新的视角和方法,可能对未来的模型优化和应用产生重要影响。

📄 中文摘要:
本研究探讨了在对话转录流程中,利用大型语言模型(LLM)进行后处理以提升语法、标点和可读性的基础上,进一步丰富转录对话内容的方法。研究提出了一种后处理步骤,通过为说话者特征(如年龄、性别和情感)添加元数据标签来增强对话标注。其中,部分标签适用于整个对话的全局特征,而部分标签则随时间变化。研究方法结合了冻结的音频基础模型(如Whisper或WavLM)与冻结的LLAMA语言模型,以推断这些说话者属性,而无需对任一模型进行特定任务的微调。通过使用轻量级、高效的连接器来桥接音频和语言表示,本研究在说话者画像任务上取得了具有竞争力的性能,同时保持了模块化和速度。此外,研究还展示了冻结的LLAMA模型可以直接比较x向量,在某些场景下实现了8.8%的等错误率(Equal Error Rate)。该方法避免了模型微调的高成本,保持了系统的灵活性和高效性,为对话转录和说话者特征分析提供了一种创新且实用的解决方案。研究结果表明,这种方法在不牺牲性能的前提下,能够有效提升对话数据的丰富度和应用价值,为未来的多模态对话分析奠定了基础。

📄 中文摘要:
日志记录在软件开发中至关重要,有助于开发者监控系统行为并辅助应用调试。随着大型语言模型(LLMs)在生成自然语言和代码方面的能力不断提升,研究者开始探索其在日志语句生成中的潜力。然而,现有研究主要集中于评估代码函数中引入的日志,而对文件级日志生成的研究较少,尤其是在机器学习(ML)应用领域,全面的日志记录可以显著提升系统的可靠性。本研究以GPT-4o Mini为案例,评估其在机器学习项目中生成文件级日志语句的能力。研究收集了171个包含4,073个Python文件的机器学习代码库,每个文件至少包含一条日志语句。研究者首先移除文件中的原始日志,然后提示LLM为这些文件生成日志,并从日志位置、日志级别、变量使用以及文本质量等方面,将生成的日志与人类编写的日志进行比较。此外,通过手动分析生成的日志样本,识别常见模式和挑战。结果表明,LLM在63.91%的案例中能够在与人类相同的位置引入日志,但过度日志率高达82.66%。手动分析进一步揭示了文件级日志生成中的挑战,包括在函数开头或结尾处过度日志、在大型代码块中难以生成合适的日志,以及与项目特定日志规范的不一致性。尽管LLM在为完整文件生成日志方面显示出潜力,但这些局限性仍需解决以实现实际应用。本研究为未来改进LLM在日志生成中的应用提供了重要见解,并指出了文件级日志生成在机器学习项目中的潜在价值和挑战。

📄 中文摘要:
本研究聚焦于3级自动驾驶系统下的驾驶员行为管理问题。在3级自动驾驶中,驾驶员可以从事次要任务,但这往往会降低他们对风险的感知能力。当紧急情况发生需要驾驶员接管时,系统会在有限的时间窗口内发出警报,给驾驶员带来显著的认知负担。为解决这一问题,本研究提出了一种基于大型语言模型(LLM)的驾驶辅助工具,通过‘人性化’的劝说建议帮助驾驶员保持对路况的适当关注。该工具利用3级自动驾驶系统感知的路况作为触发条件,通过视觉和听觉双重途径主动引导驾驶员行为。实证研究表明,该工具能够有效维持驾驶员的注意力,降低认知负荷,并协调次要任务与接管行为之间的平衡。研究结果显示,基于LLM的劝说机制在多任务自动驾驶场景中具有显著的应用潜力,为驾驶员提供了一种创新的支持方式。此外,本研究还探讨了LLM在自动驾驶领域中更广泛的应用可能性,为未来相关技术的发展提供了重要参考和启示。

📄 中文摘要:
在大型维护组织中,识别主题专家并管理复杂实体关系下的通信是一项重大挑战,传统通信方法无法有效解决信息过载和响应时间过长等问题。本研究提出了一种创新框架,将RDF图数据库与大型语言模型(LLMs)相结合,用于处理自然语言查询以实现精准的目标受众定位,同时通过规划-编排架构提供透明的推理过程。该框架允许通信负责人使用直观的查询方式,结合设备、制造商、维护工程师和设施等概念,生成可解释的结果。这种可解释性不仅维护了系统信任度,还显著提高了组织内部的通信效率。研究的关键发现表明,该框架能够有效减少信息过载,通过精准定位受众缩短响应时间,并通过透明的推理过程增强用户对系统的信心。作者还强调,该解决方案在企业通信场景中具有广泛的应用潜力,尤其是在需要快速、准确信息传递的复杂环境中。结论指出,该框架为企业通信提供了一种高效且可信赖的工具,未来可进一步扩展到其他领域,如客户服务和供应链管理,以解决类似的信息管理难题。

📄 中文摘要:
本研究探讨了在代理检索增强生成(RAG)和“深度研究”系统中,大型语言模型(LLM)通过迭代方式自我优化输出的可能性,尤其是在生物医学研究等专业领域搜索中的应用。专业搜索任务通常需要高度的用户专业知识和系统透明度,而自动化系统可能减少用户参与并与专家信息需求产生偏差。研究以BioASQ CLEF 2025挑战赛为平台,利用专家制定的问题,测试了当前推理和非推理LLM(如Gemini-Flash 2.0、o3-mini、o4-mini和DeepSeek-R1)的性能。研究方法的核心是一个自我反馈机制,即LLM生成输出后对其进行评估并优化,用于查询扩展和多种答案类型(是/否、事实性、列表、理想答案)的生成。研究进一步探讨了迭代自我修正是否能提升性能,以及推理模型是否更擅长生成有用的反馈。初步结果显示,自我反馈策略在不同模型和任务中的表现存在差异。本研究为LLM自我修正提供了洞见,并为未来比较LLM生成反馈与直接人类专家输入的有效性奠定了基础。研究结果表明,自我反馈机制在某些情况下能够改善输出质量,但其效果受模型能力和任务类型的影响较大。作者强调,未来的工作应进一步探索如何在专业搜索系统中平衡自动化与用户参与,以确保系统输出与专家需求的一致性。

📄 中文摘要:
随着分布式模型训练对大规模GPU集群需求的不断增长,模型优化、性能调优以及系统级改进面临显著的创新障碍。为解决这一挑战,大型语言模型(LLM)训练模拟器被用于估算训练时间并指导设计决策。然而,当前最先进的LLM训练模拟器假设计算和网络基础设施是同构的,而在实际中,由于云环境中资源共享、设备世代频繁更替以及芯片内部互联的固有异构性,设备异构性不可避免。为弥合现有技术与实际需求之间的差距,本文提出了一种异构感知的分布式LLM模拟器的设计方案,该模拟器能够在预测训练时间的同时,支持为设备组和设备到并行性映射指定自定义配置的抽象。本文阐述了构建异构感知分布式机器学习训练模拟器的设计需求与挑战,并设计了非均匀工作负载划分等关键组件。初步仿真结果表明,异构性对模型计算和通信时间产生了显著影响。研究表明,异构性会导致计算资源分配的不均衡和通信延迟的增加,从而影响整体训练效率。通过模拟器的设计和测试,本文为优化异构环境下的LLM训练提供了重要的理论依据和实践指导。未来工作可以进一步扩展模拟器的功能,纳入更多实际场景中的复杂因素,如动态资源调度和故障容错机制,以提升其在真实云环境中的适用性。

📄 中文摘要:
随着大语言模型(LLMs)的快速发展,其与对话助手(CAs)的集成在协助人们完成日常任务方面展现出巨大潜力,尤其得益于其广泛的灵活性。然而,用户与这些助手的真实互动体验仍未被充分探索。本研究选择烹饪这一复杂的日常任务作为场景,探讨用户在使用基于大语言模型的对话助手‘芒果芒果’(Mango Mango)获取帮助时的成功与不满意体验。研究发现,用户重视系统能够根据上下文提供定制化指导、超出食谱范围的广泛信息以及动态任务规划的协助。然而,用户也期望系统能更好地适应口头对话,并提供更具建议性的回应以保持他们的积极参与。此外,研究观察到用户开始将该LLM-CA视为个人助手甚至伙伴,而不仅仅是食谱阅读工具。基于此,本文提出了五个面向未来发展的设计考量,包括增强系统的口语适应性、提升互动的主动性、优化上下文理解能力、加强个性化支持以及构建更具伙伴感的交互模式。这些发现和建议为基于大语言模型的对话助手在日常生活场景中的应用提供了重要参考,有助于设计更贴合用户需求的智能系统。

📄 中文摘要:
近年来,大型语言模型(LLMs)被广泛应用于知识型视觉问答(VQA)任务中。尽管先前研究取得了令人鼓舞的结果,但现有方法通常直接提示LLMs预测答案,忽略了中间的思维过程。本文认为,这种方式未能充分激活LLMs的潜力。为此,作者提出了一种名为PLRH(Prompting LLMs with Rationale Heuristics)的框架,专门用于知识型视觉问答任务。PLRH通过思维链(Chain of Thought, CoT)提示LLMs生成理据启发式,即中间思维过程,随后利用这些理据启发式进一步激发LLMs预测最终答案。实验结果表明,PLRH方法在OK-VQA和A-OKVQA两个数据集上的表现分别比现有基线方法提高了2.2和2.1个百分点,证明了该框架的有效性。研究背景方面,知识型VQA任务要求模型结合图像内容和外部知识库来回答问题,对模型的推理能力和知识整合能力提出了较高要求。PLRH框架通过引入理据启发式,增强了模型在复杂推理任务中的表现,尤其是在需要多步推理和知识调用的场景中。关键发现包括:理据启发式能够显著提升LLMs在知识型VQA中的准确性,并且该方法在多个数据集上均表现出稳健的性能。结论指出,PLRH为利用LLMs解决复杂视觉问答问题提供了一种新颖且有效的方法,未来可进一步探索其在其他多模态任务中的应用潜力。