Loading...
一个40亿参数的编译器，在1000万个示例上训练，可将自然语言任务描述转换为参数高效的适配器，供冻结的6亿参数解释器使用。Agents-A1是一款350亿参数的混合专家（MoE）模型，通过扩展智能体时程（平均45Ktoken）而非参数规模，达到了与Kimi-K2.6和DeepSeek-V4-pro等万亿参数系统相当的性能。Moondream认为当前的GPU抢购潮不可持续，分析了推理成本下降速度快于需求增长的原因，以及大规模GPU部署的经济性将面临清算。
BrailleLLM: Braille Instruction Tuning with Large Language Models for Braille Domain Tasks
本文针对盲文信息处理中存在的数据稀缺、混合文本语境歧义等问题，提出了面向盲文领域任务的大语言模型框架BrailleLLM。数据集构建：创建了中英双语盲文混合数据集（CBMD/EBMD），涵盖纯文本、含数学公式的混合文本等场景，同时设计了多任务指令模板，解决盲文研究数据匮乏的痛点。数据增强方法：提出基于成分句法树和依存句法树的盲文数据增强策略，在保证数据有效性的前提下提升数据集多样性，适配盲文语义构成特点。微调方法创新。
Qomhra: A Bilingual Irish-English Large Language Model
本文聚焦低资源语言（爱尔兰语-英语）双语大语言模型的开发，提出并实现了名为Qomhrá的双语LLM，完整覆盖双语持续预训练（CPT）、指令微调、人类偏好对齐三大核心流程。背景与问题：爱尔兰语作为官方语言，在语言技术领域落后于其他欧洲语言，缺乏高质量标注数据和成熟双语聊天机器人模型，现有研究未完成指令微调与偏好对齐的全流程开发。核心方法数据构建：混合新公开的爱尔兰语语料与英语文本（如维基百科、UCCIX开源数据等），避免灾难性遗忘；
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
本文针对现有抽象推理基准（如RAVEN、I-RAVEN）存在的operand数量少、属性范围窄、数据泄露风险、忽略感知不确定性等局限性，提出了增强型符号基准I-RAVEN-X，用于评估大型语言模型（LLMs）和大型推理模型（LRMs）在类比推理与数学推理任务中的泛化能力和鲁棒性。通过在I-RAVEN-X上对SOTA模型（LLMs包括GPT-4、Llama-370B；泛化能力差异。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大型语言模型（LLMs）翻译包含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，分别涉及代词指代或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务测试：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
This is Going to Sound Crazy, But What If We Used Large Language Models to Boost Automatic Databa...
数据库管理系统（DBMS）的调优极具挑战性，原因在于存在数万亿种可能的配置组合，且工作负载不断演化。近年来的调优技术在优化配置空间方面取得了突破性进展，但由于设计限制，现有自动调优器无法利用查询级历史洞察，难以在环境变化时（如工作负载漂移、模式迁移）自适应并重新优化DBMS。本文提出Booster框架，用于辅助现有调优器适应环境变化（如漂移、跨模式迁移）。Booster将历史调优成果构建为查询-配置上下文，提示大语言模型（LLMs）基于相关上下文为每个查询推荐配置，并通过束搜索将查询级建议组合为整体配置。
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
我们提出了I-RAVEN-X，这是一个符号化基准，旨在评估大语言模型（LLMs）和大型推理模型（LRMs）在类比推理和数学推理中的泛化能力与鲁棒性。I-RAVEN-X在I-RAVEN的基础上进行了扩展，增加了操作数复杂度和属性范围，并引入了感知不确定性。实证结果表明，与LLMs相比，LRMs在更长的推理关系上实现了更优的生产力，在更广泛的属性范围上具备更强的系统性。例如，LRMs的算术精度下降幅度（80.5%→63.0%）远小于LLMs（59.3%→4.4%）。
Large Language Models in Thematic Analysis: Prompt Engineering, Evaluation, and Guidelines for Qu...
随着人工智能的发展，大型语言模型（LLMs）正逐步融入定性研究流程——然而，目前尚无可复现的方法将其整合到主题分析（TA）等成熟研究方法中，而主题分析是软件工程研究中最常用的定性方法之一。此外，现有研究缺乏依据既定质量标准对LLM生成的定性输出进行系统性评估。本研究设计并迭代优化了适用于Braun和Clarke反思性主题分析2-5阶段的提示词，随后将多款LLM的输出与资深研究人员生成的编码和主题进行对比测试。
Software Testing with Large Language Models: An Interview Study with Practitioners
该研究聚焦大型语言模型（LLMs）在软件测试中的实际应用，通过对15名来自不同行业、资历和工作模式的软件测试专业人员进行半结构化访谈，结合扎根理论的主题分析方法，探究了LLMs在软件测试中的使用场景、优势、挑战，并提炼出一套基于实践者经验的初步使用指南。核心研究背景：LLMs在软件测试中的应用日益广泛（涵盖测试用例生成、自动化脚本编写、文档撰写等），但目前缺乏正式框架和标准，多依赖非正式实验和社区经验，且存在幻觉、推理不一致、数据隐私等问题。主要研究发现常见使用场景。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大语言模型（LLMs）翻译含跨句依赖文本的能力。我们采用英-法DiscEvalMT基准测试集（Bawden等人，2018），该数据集包含成对句子，需应对指代照应或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行两项任务测试：（1）区分正确翻译与看似合理的错误翻译；（2）生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
BenCao: An Instruction-Tuned Large Language Model for Traditional Chinese Medicine
中医（TCM）拥有逾两千年历史，在全球医疗保健中占据重要地位。然而，由于中医依赖整体思维、隐性逻辑及多模态诊断线索，将大语言模型（LLMs）应用于该领域仍面临挑战。现有中医领域大语言模型在文本理解方面取得了一定进展，但缺乏多模态融合、可解释性及临床适用性。为解决这些局限，我们开发了BenCao——一款基于ChatGPT的中医多模态助手，整合了结构化知识库、诊断数据与专家反馈优化机制。BenCao通过自然语言指令微调而非参数重训练进行训练，与中医特有的专家级推理逻辑及伦理规范保持一致。
ECG-LLM -- training and evaluation of domain-specific large language models for electrocardiography
领域适配的开源大语言模型（LLM）为医疗健康应用提供了广阔前景，从可查询知识库到多模态助手，其核心优势在于支持本地部署以保障隐私。然而，最优适配策略、评估方法以及与通用LLM的性能对比仍缺乏充分表征。本研究以心血管医学的重要领域——心电图为研究对象，通过在领域专属文献上微调开源模型，并构建多层次评估框架，对比了微调模型、检索增强生成（RAG）模型与代表性通用模型ClaudeSonnet3.7的性能。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
该研究评估了12个不同家族（DeepSeek-R1、GPT、Llama、Mistral、Phi）的大语言模型（LLMs）在上下文感知翻译中的表现，聚焦句间指代照应和词汇衔接两大核心挑战。研究采用DiscEvalMT英-法基准数据集，设计了两项任务：一是区分正确与看似合理的错误翻译（对比任务），二是直接生成符合上下文的正确翻译（翻译任务），并对比了鼓励思维链（CoT）推理的提示词与无推理提示词的效果。
Contextual Attention Modulation: Towards Efficient Multi-Task Adaptation in Large Language Models
大型语言模型（LLMs）具备卓越的泛化能力，但在多任务适应方面面临挑战，尤其是在平衡知识保留与任务特化之间存在困难。传统微调方法存在灾难性遗忘和大量资源消耗的问题，而现有参数高效微调方法在复杂多任务场景中表现欠佳。为解决这一问题，我们提出了上下文注意力调制（CAM）机制——一种动态调制LLMs自注意力模块表示的新型机制。CAM在保留通用知识的同时增强任务特定特征，从而实现更有效、更高效的适应。
SimBench: Benchmarking the Ability of Large Language Models to Simulate Human Behaviors
大型语言模型（LLM）对人类行为的模拟，若能真实反映人类实际行为，有望彻底改变社会科学与行为科学。当前的评估方法较为零散，基于特定任务和指标，导致研究结果难以比较。为解决这一问题，我们推出SIMBENCH——首个用于LLM模拟的大规模标准化基准。该基准整合了20个多样化数据集，涵盖从道德决策到经济选择的各类任务，参与者群体覆盖全球范围，为探究LLM模拟成功或失败的时机、方式及原因提供了必要基础。研究表明，即使是当前最先进的LLM，其模拟能力也有限（得分：40.80/100），但性能随模型规模呈对数线性增长。
Comprehending Spatio-temporal Data via Cinematic Storytelling using Large Language Models
本文提出了一种基于叙事的时空数据解读框架MapMuse，旨在解决传统时空数据可视化需专业知识、难以被普通受众理解的问题。该框架融合大型语言模型（LLM）、检索增强生成（RAG）和智能体技术，借鉴电影叙事原则（如角色塑造、三幕式结构、受众适配），将复杂的时空数据转化为具有吸引力的叙事内容。基于出租车终点热图，生成面向专业受众和首次到访游客的两类叙事，融入15个以上兴趣点（POI），清晰呈现城市流动性模式；
Leveraging Group Relative Policy Optimization to Advance Large Language Models in Traditional Chi...
本文聚焦于大型语言模型（LLMs）在传统中医（TCM）领域的适配挑战，提出了基于分组相对策略优化（GRPO）强化学习方法训练的中医专用LLM——Ladder-base。中医知识体系具有语言复杂、结构非标准化等特点，现有通用LLM和中医专用模型在对齐性、数据质量和评估一致性上存在不足。Ladder-base以Qwen2.5-7B-Instruct为基础模型，仅使用TCM-Ladder基准测试的文本子集（80%训练、10%验证、10%测试）进行训练，通过GRPO方法优化响应选择，提升模型的推理能力和事实一致性。
Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to...
公共话语中对大型语言模型（LLMs）的描述方式，会如何影响人们对这些模型的认知与互动方式？为解答这一问题，我们将470名参与者随机分配至三组——观看分别将LLMs描述为机器、工具或同伴的简短科普视频，或不观看任何视频。随后，我们评估了参与者对LLMs具备各类心智能力（如拥有意图、记忆事物等）的认可程度。结果显示，观看“同伴”视频的参与者，比其他组更倾向于认为LLMs完全具备这些能力。
Select-Then-Decompose: From Empirical Analysis to Adaptive Selection Strategy for Task Decomposit...
大型语言模型（LLMs）已展现出卓越的推理和规划能力，推动了任务分解领域的广泛研究。现有任务分解方法主要聚焦于记忆、工具使用和反馈机制，在特定领域取得了显著成功，但往往忽视了性能与成本之间的权衡。本研究首先对任务分解进行了全面调研，提出了6类分类方案。随后，我们对影响任务分解性能和成本的三个因素进行了实证分析：方法类型、任务特征以及分解与执行模型的配置，揭示了三大关键洞察并总结了一套实用原则。
Contextual Attention Modulation: Towards Efficient Multi-Task Adaptation in Large Language Models
大型语言模型（LLMs）具备卓越的泛化能力，但在多任务适应方面面临挑战，尤其是在平衡知识保留与任务特异性专精时。传统微调方法存在灾难性遗忘和大量资源消耗的问题，而现有参数高效方法在复杂多任务场景下表现欠佳。为解决这一问题，我们提出上下文注意力调制（CAM）机制，该机制能动态调制LLMs中自注意力模块的表示。CAM在保留通用知识的同时增强任务特异性特征，从而实现更有效、更高效的适应。
