Loading...
###文章主要内容本文针对带时间窗的车辆路径问题（CVRPTW），提出了一种结合大语言模型（LLM）和Q学习的增强框架，旨在解决具有实时紧急约束的CVRPTW问题。通过将LLM的语义推理能力与强化学习的迭代优化能力相结合，框架分为**L
Dataset Volume Scaling Law for LLM Fine-Tuning under Fixed Compute (arXiv:2505.06150)
###文章主要内容本文探讨了在固定计算预算下微调大型语言模型（LLMs）时的缩放规律，强调了数据构成（即示例数量和平均标记长度）对标记效率的影响。传统方法仅通过总标记数衡量训练数据，而本文提出将数据集体积定义为示例数（N）与平均标记长度
PubHealthBench: Evaluating LLMs on UK Public Health Guidance (arXiv:2505.06046)
###一、文章主要内容总结本文聚焦于评估大型语言模型（LLMs）对英国政府公共卫生信息的掌握情况，核心内容如下：1.**背景与目标**-随着LLMs的普及，其在公共卫生领域的信息准确性至关重要，但目前缺乏针对英国政府
EIBench: Emotion Interpretation — Explaining Why Emotions Arise (arXiv:2504.07521)
###主要内容1.**问题提出**：现有情感分析多关注识别情感类别，忽视情感产生的原因。本文提出情感解释（EI）任务，旨在揭示引发情感反应的因果因素，包括显性和隐性因素。2.**相关工作**：回顾了上下文感知情感识别、基于大语言模
Compositio Prompto: LLM-Based Automatic Service Composition (arXiv:2504.08490)
###主要内容1.**研究背景**：现代企业计算系统集成众多子系统，自动服务组合可减少人工、加快上市并适应业务变化。传统方法依赖复杂形式建模，LLMs的出现为自动服务组合提供新途径，研究旨在探究LLMs在自动服务组合中的应用效果。2
Tuning without Peeking: Provable Privacy and Generalization Bounds for LLM Post-Training
梯度优化是深度学习的核心方法，通过反向传播实现高效且可扩展的训练。然而，其对大量标注数据的依赖引发了隐私和安全问题（如易受数据污染攻击），以及过拟合风险。相比之下，黑盒优化方法将模型视为“黑箱函数”，仅通过函数评估指导优化，在数据访问受限、对抗风险高或过拟合风险大的场景中具有潜力。但黑盒方法也面临显著挑战，包括在大型语言模型（LLMs）等高维参数空间中可扩展性差，以及因依赖大量模型评估导致的计算成本高。本文提出BBoxER，一种用于LLM后训练的进化黑盒方法，通过对训练数据的隐式压缩引入信息瓶颈。
DIY-MKG: An LLM-Based Polyglot Language Learning System
本文介绍了一款基于大语言模型（LLMs）的多语言学习系统——DIY-MKG（Do-It-YourselfMultilingualKnowledgeGraph），旨在解决现有语言学习工具的三大局限：缺乏多语言词汇间的语言学关联支持、个性化定制不足、以及可能导致的“认知卸载”（学习者过度依赖AI而缺乏独立思考）。词汇扩展：用户以已知词汇为初始节点构建多语言知识图谱，通过LLM生成相关词汇并选择性添加，强化词汇间的语言学关联（如同义词、同源词等）；丰富注释。
The Thin Line Between Comprehension and Persuasion in LLMs
本文聚焦大型语言模型（LLMs）在辩论这一复杂对话形式中的表现，探究其说服能力与对对话内容理解能力之间的关系。实验设计：让LLM（部分结合形式对话模型FDM）与人类或其他LLM进行辩论，收集辩论transcripts；由人类标注员从论据合理性、论证强度、胜负判定等7个维度对辩论进行标注；再让不同LLM对相同辩论进行评估，对比其结果与人类标注的一致性。核心发现LLM在生成辩论时表现出强说服力，尤其当人类未察觉其AI身份时，能显著动摇观点；
When LLMs Disagree: Diagnosing Relevance Filtering Bias and Retrieval Divergence in SDG Search
本文聚焦大型语言模型（LLMs）在可持续发展目标（SDGs）相关文献检索中的相关性标注分歧问题，以开源模型LLaMA和Qwen为研究对象，针对SDG1（消除贫困）、3（良好健康与福祉）、7（清洁能源）的学术摘要展开分析。研究核心围绕四个问题：1）不同LLM的过滤决策分歧频率及受影响文档类型；2）分歧是否具有系统性，能否通过词汇、语义或主题特征解释；3）分歧如何影响下游检索排序；4）一个模型的过滤行为能否预测另一个模型的行为（即分歧是否可学习）。
Reasoning or Not? A Comprehensive Evaluation of Reasoning LLMs for Dialogue Summarization
本文针对对话摘要任务，首次系统评估了推理型大语言模型（LLMs，如OpenAI-o1、DeepSeek-R1、QwQ-32B）与非推理型LLMs在三种主流范式（通用型、角色导向型、查询导向型对话摘要）中的表现。研究覆盖多语言、多领域和不同摘要长度，基于SAMSum、DialogSum、CSDS、QMSum等基准数据集，结合LLM自动评估指标和类人评估标准进行分析。核心发现显示：与其他推理密集型任务不同，显式的逐步推理（如思维链）并未持续提升对话摘要质量；
LoRA Fine-Tuning Without GPUs: A CPU-Efficient Meta-Generation Framework for LLMs
本文提出了一种无需GPU即可为大型语言模型（LLMs）生成低秩适配器（LoRAs）的CPU高效元生成框架，旨在解决传统LoRA微调依赖GPU资源的问题。核心思路是：利用预训练的LoRA适配器库，通过轻量级组合现有LoRA权重（而非进行新的梯度更新），为新任务生成适配的LoRA，整个过程可在普通笔记本CPU上完成。具体而言，该框架将数据集表示为概率分布，通过计算新数据集与预训练数据集的分布相似度（如Wasserstein距离、KL散度等），生成融合权重，进而组合预训练LoRA得到新适配器。
LLMs for Legal Subsumption in German Employment Contracts
本文聚焦于利用大型语言模型（LLMs）评估德国雇佣合同条款的合法性，旨在解决法律工作中文本密集、资源消耗大的问题。研究通过与法律专家合作扩展现有数据集，测试了不同LLMs在三种法律上下文（无法律上下文、完整法律文本及判例、提炼的审查指南）下将条款分类为“有效（valid）”“不公平（unfair）”或“无效（void）”的能力。实验结果显示：完整法律文本对模型性能有一定提升，而提炼的审查指南显著提高了对“无效”条款的召回率，加权F1分数达80%；但即使如此，LLMs在完整法律文本上的表现仍远低于人类律师。
MGC: A Compiler Framework Exploiting Compositional Blindness in Aligned LLMs for Malware Generation
核心背景：大型语言模型（LLMs）降低了软件开发门槛，但也带来了恶意软件生成的安全风险。现有LLM对齐机制（如意图防护、政策过滤）主要针对单个提示进行检查，却忽视了“组合盲点”——恶意操作可分解为看似良性的子任务，单独绕过过滤。MGC框架设计：提出恶意软件生成编译器（MGC），通过模块化分解和规避对齐的生成策略利用上述漏洞。前端：使用弱对齐LLM将高层恶意意图分解为恶意软件描述中间表示（MDIR），MDIR作为结构化抽象层，保留组件间逻辑关系同时确保单个组件看似无害。
Reasoning on a Budget: A Survey of Adaptive and Controllable Test-Time Compute in LLMs
该论文围绕大型语言模型（LLMs）的推理效率展开，聚焦测试时计算（Test-TimeCompute,TTC）策略，旨在解决LLMs推理时计算资源分配不合理（对简单问题过度思考、对复杂问题思考不足）的问题。核心背景：LLMs虽在多任务中表现优异，但推理时通常采用固定计算量，导致效率低下。TTC方法通过在推理时动态分配计算资源提升效率，但现有方法存在资源浪费问题。分类框架：提出两层分类法L1（可控方法）
Evaluating the Promise and Pitfalls of LLMs in Hiring Decisions
本文聚焦大型语言模型（LLMs）在招聘决策中的应用评估，通过对比多个主流通用LLMs（如OpenAI的GPT系列、Anthropic的Claude、Google的Gemini、Meta的Llama等）与专有领域模型MatchScore，探究其在候选人-职位匹配中的准确性与公平性。准确性：通过ROC曲线下面积（ROCAUC）、精确率-召回率曲线下面积（PRAUC）、F1分数衡量模型对候选人与职位匹配度的预测能力；公平性。
Synergizing Logical Reasoning, Knowledge Management and Collaboration in Multi-Agent LLM System
本文探索了整合先进的多智能体系统（MAS）技术，以开发具备增强逻辑推理、长期知识保留和心智理论（ToM）能力的智能体团队。通过将这些核心组件与优化的通信协议相结合，我们创建了一个名为SynergyMAS的新型框架，该框架能促进协作团队合作和卓越的问题解决能力。通过一个产品开发团队的案例研究，我们证明了该系统的有效性——我们的方法显著提升了团队的性能和适应性。这些发现凸显了SynergyMAS在应对复杂现实挑战方面的潜力。
Data Diversification Methods In Alignment Enhance Math Performance In LLMs
本文研究了偏好优化中的数据多样化策略对提升大语言模型（LLMs）数学推理能力的作用。作者评估了三种常见的数据生成方法（温度采样、思维链提示、蒙特卡洛树搜索（MCTS）），并提出了一种新的结构化方法——Diversified-ThinkSolve（DTS），该方法通过系统地将问题分解为多样化的推理路径生成数据。实验结果显示，通过策略性多样化的偏好数据，模型的数学推理性能显著提升：最佳方法在GSM8K基准上比基础模型提升7.1%，在MATH基准上提升4.2%。
CORE: Benchmarking LLMs Code Reasoning Capabilities through Static Analysis Tasks
本文介绍了一个名为CORE的高质量、人工验证的基准测试集，旨在评估大型语言模型（LLMs）在基础静态分析任务中的代码语义推理能力。该基准涵盖数据依赖、控制依赖和信息流三大核心静态分析任务，包含12,553个任务实例，涉及C/C++、Java、Python三种编程语言，均来自180个经过语义感知多样化采样的程序。推理型模型在多数任务上显著优于非推理型模型，性能差距为5.2%-31.5%，其中Gemini2.5Pro整体表现最佳；
OMS: On-the-fly, Multi-Objective, Self-Reflective Ad Keyword Generation via LLM Agent
本文针对赞助搜索广告（SponsoredSearchAdvertising,SSA）中的关键词生成问题，提出了一个名为OMS的框架。该框架具有即时性（On-the-fly）多目标性（Multi-Objective）和自反思性（Self-Reflective）三大核心特性，旨在解决现有基于大型语言模型（LLM）的关键词生成方法存在的三大局限：依赖大规模查询-关键词对数据、缺乏在线多目标性能监控与优化能力、关键词选择质量控制薄弱。智能聚类-排序模块。
From 2:4 to 8:16 sparsity patterns in LLMs for Outliers and Weights with Variance Correction
研究背景：随着LLMs规模增长，量化和稀疏化等压缩技术至关重要。现有N:M结构化稀疏（如2:4）因灵活性有限、硬件支持单一、易受异常值权重影响，难以达到“性能阈值”（压缩模型与未压缩模型在同等内存下精度相当）。8:16半结构化稀疏模式。
