Loading...
在线平台上虚假信息的快速传播削弱了个人之间的信任，并阻碍了明智的决策制定。本文提出了一种具有可解释性和计算效率的流程，利用基于Transformer的预训练语言模型（PLMs）检测虚假信息。我们通过两步策略优化RoBERTa和DistilBERT：首先，冻结主干网络，仅训练分类头；然后，逐步解冻主干网络层，同时应用分层学习率衰减。在两个真实世界基准数据集（COVIDFakeNews和FakeNewsNetGossipCop）上，我们采用统一的数据预处理和分层划分协议对所提方法进行了测试。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大型语言模型（LLMs）翻译含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，分别涉及代词回指或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务评估：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
Proactive Reasoning-with-Retrieval Framework for Medical Multimodal Large Language Models
本文针对医疗多模态大语言模型（MLLMs）在推理过程中依赖内部知识导致的幻觉推理、事实不准确等问题，提出了首个多模态医疗推理-检索框架MED-RWR。该框架模拟临床医生诊断逻辑，在推理过程中主动检索外部医疗知识，结合视觉诊断结果与文本临床信息提升诊断可靠性与泛化能力。环境构建：通过“聚类-重构-分层”（Cluster-Reconstruct-Stratify）流程构建多模态训练数据集（约6500个不同难度的问答对）和专用知识库，为推理-检索提供支撑；两阶段强化学习（RL）策略。
From Local to Global: Revisiting Structured Pruning Paradigms for Large Language Models
结构化剪枝是高效部署大语言模型（LLMs）的实用方法，因其能生成紧凑、硬件友好的架构。然而，主流的局部剪枝范式具有任务无关性：通过优化逐层重构而非任务目标，该范式虽能保留困惑度或通用零样本性能，却无法利用适度的任务特定校准信号，往往导致下游性能提升有限。本文重新审视全局结构化剪枝，提出GISP——全局迭代结构化剪枝（GlobalIterativeStructuredPruning），这是一种训练后剪枝方法，通过基于一阶损失的重要性权重（经结构级块归一化聚合）移除注意力头和MLP通道。
Robobench: A Comprehensive Evaluation Benchmark for Multimodal Large Language Models as Embodied ...
本文提出RoboBench，一个用于评估多模态大语言模型（MLLMs）作为“具身大脑”的综合基准，聚焦机器人操作任务中的高层认知能力。核心内容围绕五大评估维度展开，通过真实数据构建和创新评估框架，揭示当前MLLMs的具身推理短板，为机器人智能发展提供指导。构建能在动态、非结构化环境中感知、推理和行动的机器人仍是核心挑战。近期具身系统常采用双系统范式，其中系统2负责高层推理，系统1执行底层控制。本文将系统2称为“具身大脑”，强调其在操作任务中作为推理和决策认知核心的作用。
SARSteer: Safeguarding Large Audio Language Models via Safe-Ablated Refusal Steering
大型音频语言模型（LALMs）正成为现实世界应用中强大的跨模态骨干模型，愈发不可或缺。然而，近期研究表明，与文本相比，音频输入更易引发有害响应，给模型部署带来新的风险。尽管在大型语言模型（LLMs）和大型视觉语言模型（LVLMs）的安全对齐方面已取得初步进展，但我们发现，将这些方法直接适配到LALMs时面临两大核心局限：1）由于激活分布存在巨大差异，基于LLM的转向方法在音频输入下失效；2）基于提示词的防御会对良性语音查询产生过度拒绝。
ParaVul: A Parallel Large Language Model and Retrieval-Augmented Framework for Smart Contract Vul...
智能合约在自动化区块链服务中发挥着重要作用。然而，智能合约中的漏洞对区块链安全构成严重威胁。目前，传统检测方法主要依赖静态分析和形式化验证，这可能导致高假阳性率和较差的扩展性。近年来，大语言模型（LLMs）在智能合约漏洞检测方面取得了显著进展，但仍面临推理成本高、计算开销大等挑战。本文提出了一种名为ParaVul的并行LLM与检索增强框架，以提高智能合约漏洞检测的可靠性和准确性。
SBAN: A Framework & Multi-Dimensional Dataset for Large Language Model Pre-Training and Software ...
本文介绍了SBAN（Sourcecode,Binary,Assembly,andNaturalLanguageDescription），一个面向大型语言模型（LLMs）预训练和软件代码挖掘的大规模多维数据集。该数据集包含超过330万个软件样本（280万个良性样本、54.1万个恶意样本），每个样本均涵盖二进制代码、汇编指令、源代码和自然语言描述四个互补的表示层，解决了现有数据集多聚焦单一表示层、限制跨模态学习的问题。
Large Language Models in Thematic Analysis: Prompt Engineering, Evaluation, and Guidelines for Qu...
随着人工智能的发展，大型语言模型（LLMs）正逐步融入定性研究流程——但目前尚无可复现的方法将其整合到主题分析（TA）等成熟研究方法中，而TA是软件工程研究中最常用的定性方法之一。此外，现有研究缺乏依据既定质量标准对LLM生成的定性输出进行系统性评估。本研究设计并迭代优化了适用于Braun和Clarke反思性TA第2-5阶段的提示词，随后将多个LLM的输出与经验丰富的研究者生成的编码和主题进行对比测试。
Proactive Reasoning-with-Retrieval Framework for Medical Multimodal Large Language Models
激励多模态大语言模型（MLLMs）的推理能力对于医疗应用至关重要，这有助于透明地分析医学影像并提供可靠诊断。然而，现有医疗MLLMs在推理过程中仅依赖内部知识，在遇到超出训练范围的病例时会产生幻觉推理和事实不准确问题。尽管近期的智能体检索增强生成（AgenticRAG）方法能激发医疗模型在推理过程中的主动检索能力，但这些方法局限于单模态LLMs，忽视了推理和检索过程中关键的视觉信息。
The Impact of Image Resolution on Biomedical Multimodal Large Language Models
成像技术是生物医学研究和现代医学的基础，需要对多种模态的高分辨率图像进行分析。尽管多模态大型语言模型（MLLMs）在生物医学图像分析中展现出潜力，但大多数模型是为通用数据集的低分辨率图像设计的，存在关键信息丢失的风险。本研究探究了图像分辨率对生物医学应用中MLLM性能的影响，并证实：（1）原生分辨率训练与推理能显著提升多任务性能；（2）训练与推理分辨率的不匹配会严重降低性能；（3）混合分辨率训练可有效缓解分辨率失配问题，并平衡计算约束与性能需求。
Chain-of-Conceptual-Thought Elicits Daily Conversation in Large Language Models
思维链（CoT）被广泛应用于提升大语言模型在数学、编程和推理任务中的能力。然而，在开放域任务中，由于缺乏明确界定的推理步骤或逻辑过渡，其性能受到限制。为缓解此类挑战，我们提出一种新的提示范式——概念链思维（CoCT），该范式引导大语言模型先生成概念标签，再基于该概念完成详细内容。为鼓励这种分层思考方式，我们将概念具体化为情感、策略和话题三类。我们在日常对话和情感支持对话任务中进行实验，涵盖域内和域外两种概念设置。
PlanU: Large Language Model Reasoning through Planning under Uncertainty
该研究针对大语言模型（LLMs）在不确定性环境下决策能力不足的问题，提出了基于蒙特卡洛树搜索（MCTS）的规划方法PlanU。核心是通过分位数分布建模MCTS节点的回报，结合好奇心增强的上置信界（UCC）分数平衡探索与利用，同时解决LLM自身随机性（生成不确定性）和环境随机性（状态转移不确定性）两大挑战。实验在Blocksworld、Overcooked等5个基准测试中验证了PlanU的优越性，其性能显著优于CoT、ToT、RAP等主流方法。
LLM Weekly（2026.6.29-2026.7.5）
一个40亿参数的编译器，在1000万个示例上训练，可将自然语言任务描述转换为参数高效的适配器，供冻结的6亿参数解释器使用。Agents-A1是一款350亿参数的混合专家（MoE）模型，通过扩展智能体时程（平均45Ktoken）而非参数规模，达到了与Kimi-K2.6和DeepSeek-V4-pro等万亿参数系统相当的性能。Moondream认为当前的GPU抢购潮不可持续，分析了推理成本下降速度快于需求增长的原因，以及大规模GPU部署的经济性将面临清算。
BrailleLLM: Braille Instruction Tuning with Large Language Models for Braille Domain Tasks
本文针对盲文信息处理中存在的数据稀缺、混合文本语境歧义等问题，提出了面向盲文领域任务的大语言模型框架BrailleLLM。数据集构建：创建了中英双语盲文混合数据集（CBMD/EBMD），涵盖纯文本、含数学公式的混合文本等场景，同时设计了多任务指令模板，解决盲文研究数据匮乏的痛点。数据增强方法：提出基于成分句法树和依存句法树的盲文数据增强策略，在保证数据有效性的前提下提升数据集多样性，适配盲文语义构成特点。微调方法创新。
Qomhra: A Bilingual Irish-English Large Language Model
本文聚焦低资源语言（爱尔兰语-英语）双语大语言模型的开发，提出并实现了名为Qomhrá的双语LLM，完整覆盖双语持续预训练（CPT）、指令微调、人类偏好对齐三大核心流程。背景与问题：爱尔兰语作为官方语言，在语言技术领域落后于其他欧洲语言，缺乏高质量标注数据和成熟双语聊天机器人模型，现有研究未完成指令微调与偏好对齐的全流程开发。核心方法数据构建：混合新公开的爱尔兰语语料与英语文本（如维基百科、UCCIX开源数据等），避免灾难性遗忘；
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
本文针对现有抽象推理基准（如RAVEN、I-RAVEN）存在的operand数量少、属性范围窄、数据泄露风险、忽略感知不确定性等局限性，提出了增强型符号基准I-RAVEN-X，用于评估大型语言模型（LLMs）和大型推理模型（LRMs）在类比推理与数学推理任务中的泛化能力和鲁棒性。通过在I-RAVEN-X上对SOTA模型（LLMs包括GPT-4、Llama-370B；泛化能力差异。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大型语言模型（LLMs）翻译包含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，分别涉及代词指代或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务测试：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
This is Going to Sound Crazy, But What If We Used Large Language Models to Boost Automatic Databa...
数据库管理系统（DBMS）的调优极具挑战性，原因在于存在数万亿种可能的配置组合，且工作负载不断演化。近年来的调优技术在优化配置空间方面取得了突破性进展，但由于设计限制，现有自动调优器无法利用查询级历史洞察，难以在环境变化时（如工作负载漂移、模式迁移）自适应并重新优化DBMS。本文提出Booster框架，用于辅助现有调优器适应环境变化（如漂移、跨模式迁移）。Booster将历史调优成果构建为查询-配置上下文，提示大语言模型（LLMs）基于相关上下文为每个查询推荐配置，并通过束搜索将查询级建议组合为整体配置。
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
我们提出了I-RAVEN-X，这是一个符号化基准，旨在评估大语言模型（LLMs）和大型推理模型（LRMs）在类比推理和数学推理中的泛化能力与鲁棒性。I-RAVEN-X在I-RAVEN的基础上进行了扩展，增加了操作数复杂度和属性范围，并引入了感知不确定性。实证结果表明，与LLMs相比，LRMs在更长的推理关系上实现了更优的生产力，在更广泛的属性范围上具备更强的系统性。例如，LRMs的算术精度下降幅度（80.5%→63.0%）远小于LLMs（59.3%→4.4%）。
