Loading...

Large Language Models in Thematic Analysis: Prompt Engineering, Evaluation, and Guidelines for Qu...
随着人工智能的发展,大型语言模型(LLMs)正逐步融入定性研究流程——然而,目前尚无可复现的方法将其整合到主题分析(TA)等成熟研究方法中,而主题分析是软件工程研究中最常用的定性方法之一。此外,现有研究缺乏依据既定质量标准对LLM生成的定性输出进行系统性评估。本研究设计并迭代优化了适用于Braun和Clarke反思性主题分析2-5阶段的提示词,随后将多款LLM的输出与资深研究人员生成的编码和主题进行对比测试。

Software Testing with Large Language Models: An Interview Study with Practitioners
该研究聚焦大型语言模型(LLMs)在软件测试中的实际应用,通过对15名来自不同行业、资历和工作模式的软件测试专业人员进行半结构化访谈,结合扎根理论的主题分析方法,探究了LLMs在软件测试中的使用场景、优势、挑战,并提炼出一套基于实践者经验的初步使用指南。核心研究背景:LLMs在软件测试中的应用日益广泛(涵盖测试用例生成、自动化脚本编写、文档撰写等),但目前缺乏正式框架和标准,多依赖非正式实验和社区经验,且存在幻觉、推理不一致、数据隐私等问题。主要研究发现常见使用场景。

Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大语言模型(LLMs)翻译含跨句依赖文本的能力。我们采用英-法DiscEvalMT基准测试集(Bawden等人,2018),该数据集包含成对句子,需应对指代照应或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行两项任务测试:(1)区分正确翻译与看似合理的错误翻译;(2)生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。

BenCao: An Instruction-Tuned Large Language Model for Traditional Chinese Medicine
中医(TCM)拥有逾两千年历史,在全球医疗保健中占据重要地位。然而,由于中医依赖整体思维、隐性逻辑及多模态诊断线索,将大语言模型(LLMs)应用于该领域仍面临挑战。现有中医领域大语言模型在文本理解方面取得了一定进展,但缺乏多模态融合、可解释性及临床适用性。为解决这些局限,我们开发了BenCao——一款基于ChatGPT的中医多模态助手,整合了结构化知识库、诊断数据与专家反馈优化机制。BenCao通过自然语言指令微调而非参数重训练进行训练,与中医特有的专家级推理逻辑及伦理规范保持一致。

ECG-LLM -- training and evaluation of domain-specific large language models for electrocardiography
领域适配的开源大语言模型(LLM)为医疗健康应用提供了广阔前景,从可查询知识库到多模态助手,其核心优势在于支持本地部署以保障隐私。然而,最优适配策略、评估方法以及与通用LLM的性能对比仍缺乏充分表征。本研究以心血管医学的重要领域——心电图为研究对象,通过在领域专属文献上微调开源模型,并构建多层次评估框架,对比了微调模型、检索增强生成(RAG)模型与代表性通用模型ClaudeSonnet3.7的性能。

Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
该研究评估了12个不同家族(DeepSeek-R1、GPT、Llama、Mistral、Phi)的大语言模型(LLMs)在上下文感知翻译中的表现,聚焦句间指代照应和词汇衔接两大核心挑战。研究采用DiscEvalMT英-法基准数据集,设计了两项任务:一是区分正确与看似合理的错误翻译(对比任务),二是直接生成符合上下文的正确翻译(翻译任务),并对比了鼓励思维链(CoT)推理的提示词与无推理提示词的效果。

Contextual Attention Modulation: Towards Efficient Multi-Task Adaptation in Large Language Models
大型语言模型(LLMs)具备卓越的泛化能力,但在多任务适应方面面临挑战,尤其是在平衡知识保留与任务特化之间存在困难。传统微调方法存在灾难性遗忘和大量资源消耗的问题,而现有参数高效微调方法在复杂多任务场景中表现欠佳。为解决这一问题,我们提出了上下文注意力调制(CAM)机制——一种动态调制LLMs自注意力模块表示的新型机制。CAM在保留通用知识的同时增强任务特定特征,从而实现更有效、更高效的适应。

SimBench: Benchmarking the Ability of Large Language Models to Simulate Human Behaviors
大型语言模型(LLM)对人类行为的模拟,若能真实反映人类实际行为,有望彻底改变社会科学与行为科学。当前的评估方法较为零散,基于特定任务和指标,导致研究结果难以比较。为解决这一问题,我们推出SIMBENCH——首个用于LLM模拟的大规模标准化基准。该基准整合了20个多样化数据集,涵盖从道德决策到经济选择的各类任务,参与者群体覆盖全球范围,为探究LLM模拟成功或失败的时机、方式及原因提供了必要基础。研究表明,即使是当前最先进的LLM,其模拟能力也有限(得分:40.80/100),但性能随模型规模呈对数线性增长。

Comprehending Spatio-temporal Data via Cinematic Storytelling using Large Language Models
本文提出了一种基于叙事的时空数据解读框架MapMuse,旨在解决传统时空数据可视化需专业知识、难以被普通受众理解的问题。该框架融合大型语言模型(LLM)、检索增强生成(RAG)和智能体技术,借鉴电影叙事原则(如角色塑造、三幕式结构、受众适配),将复杂的时空数据转化为具有吸引力的叙事内容。基于出租车终点热图,生成面向专业受众和首次到访游客的两类叙事,融入15个以上兴趣点(POI),清晰呈现城市流动性模式;

Leveraging Group Relative Policy Optimization to Advance Large Language Models in Traditional Chi...
本文聚焦于大型语言模型(LLMs)在传统中医(TCM)领域的适配挑战,提出了基于分组相对策略优化(GRPO)强化学习方法训练的中医专用LLM——Ladder-base。中医知识体系具有语言复杂、结构非标准化等特点,现有通用LLM和中医专用模型在对齐性、数据质量和评估一致性上存在不足。Ladder-base以Qwen2.5-7B-Instruct为基础模型,仅使用TCM-Ladder基准测试的文本子集(80%训练、10%验证、10%测试)进行训练,通过GRPO方法优化响应选择,提升模型的推理能力和事实一致性。

Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to...
公共话语中对大型语言模型(LLMs)的描述方式,会如何影响人们对这些模型的认知与互动方式?为解答这一问题,我们将470名参与者随机分配至三组——观看分别将LLMs描述为机器、工具或同伴的简短科普视频,或不观看任何视频。随后,我们评估了参与者对LLMs具备各类心智能力(如拥有意图、记忆事物等)的认可程度。结果显示,观看“同伴”视频的参与者,比其他组更倾向于认为LLMs完全具备这些能力。

Select-Then-Decompose: From Empirical Analysis to Adaptive Selection Strategy for Task Decomposit...
大型语言模型(LLMs)已展现出卓越的推理和规划能力,推动了任务分解领域的广泛研究。现有任务分解方法主要聚焦于记忆、工具使用和反馈机制,在特定领域取得了显著成功,但往往忽视了性能与成本之间的权衡。本研究首先对任务分解进行了全面调研,提出了6类分类方案。随后,我们对影响任务分解性能和成本的三个因素进行了实证分析:方法类型、任务特征以及分解与执行模型的配置,揭示了三大关键洞察并总结了一套实用原则。

Contextual Attention Modulation: Towards Efficient Multi-Task Adaptation in Large Language Models
大型语言模型(LLMs)具备卓越的泛化能力,但在多任务适应方面面临挑战,尤其是在平衡知识保留与任务特异性专精时。传统微调方法存在灾难性遗忘和大量资源消耗的问题,而现有参数高效方法在复杂多任务场景下表现欠佳。为解决这一问题,我们提出上下文注意力调制(CAM)机制,该机制能动态调制LLMs中自注意力模块的表示。CAM在保留通用知识的同时增强任务特异性特征,从而实现更有效、更高效的适应。

ParaVul: A Parallel Large Language Model and Retrieval-Augmented Framework for Smart Contract Vul...
智能合约在自动化区块链服务中发挥着重要作用。然而,智能合约中的漏洞对区块链安全构成了严重威胁。目前,传统检测方法主要依赖静态分析和形式化验证,这可能导致高误报率和较差的可扩展性。近年来,大语言模型(LLMs)在智能合约漏洞检测方面取得了显著进展,但仍面临推理成本高、计算开销大等挑战。本文提出了一种并行的LLM与检索增强框架ParaVul,以提升智能合约漏洞检测的可靠性和准确性。

Illusions of reflection: open-ended task reveals systematic failures in Large Language Models‘ re...
人类并非事后才发现错误——我们常常在过程中就察觉问题,因为“反思”与目标及其约束紧密相关。如今的大型语言模型能生成推理tokens和“反思性”文本,但这与人类的反思推理在功能上是否等价?以往基于封闭式任务的研究(具有明确的外部“正确性”信号)可能让“反思”显得有效,却掩盖了自我修正的局限性。因此,我们在一项简单的真实世界任务中测试了8个前沿模型,该任务虽为开放式但受规则约束,且有可审计的成功标准:生成有效的科学测试题目,然后在考虑自身批判后进行修订。首次尝试的表现较差(往往没有有效题目;

Enhanced Motion Forecasting with Plug-and-Play Multimodal Large Language Models
本文针对自动驾驶系统中运动预测模型在复杂真实场景下泛化能力不足的问题,提出了一种名为的即插即用方法。问题背景:传统自动驾驶模块化系统(感知、预测、规划等)在训练数据之外的长尾场景(如紧急车辆出现、特殊天气)中性能受限,而持续收集数据与重训模型的成本过高。MLLMs具备跨模态推理和泛化能力,可弥补这一缺陷。核心框架视觉语义分析器(VSA):通过多模态提示(图像+文本)从MLLM提取智能体(车辆、行人)级语义信息(如车辆类型、信号灯状态、行为意图、是否横穿马路等),输出结构化文本并转换为可学习嵌入;

Qomhra: A Bilingual Irish-English Large Language Model
背景与动机:爱尔兰语作为官方语言,在语言技术领域滞后于其他欧洲语言,缺乏高质量标注数据和成熟LLM。现有研究(如gaBERT、UCCIX)未覆盖指令微调与偏好对齐环节,无法直接用于聊天机器人开发。核心方法预训练:基于Qwen-3-8B模型,混合爱尔兰语(含UCCIX开源数据、国家语料库等)和英语(维基百科数据)语料进行双语CPT,避免灾难性遗忘;

SARSteer: Safeguarding Large Audio Language Models via Safe-Ablated Refusal Steering
大型音频语言模型(LALMs)正成为现实世界应用中强大的多模态骨干模型,变得愈发重要。然而,近期研究表明,与文本相比,音频输入更容易引发有害响应,给部署带来了新的风险。尽管大型语言模型(LLMs)和大型视觉语言模型(LVLMs)的安全对齐已取得初步进展,但我们发现,将这些方法直接适配到LALMs时面临两大关键局限:1)由于激活分布之间存在巨大差异,基于LLM的引导在音频输入下失效;2)基于提示的防御会对良性语音查询产生过度拒绝。

This is Going to Sound Crazy, But What If We Used Large Language Models to Boost Automatic Databa...
文章提出Booster框架,旨在解决现有数据库调优器(成本型、机器学习型、大语言模型型)难以适应环境变化(如工作负载漂移、跨模式迁移、硬件变更等)的问题。其核心逻辑是:将历史调优artifacts结构化為查询-配置(QConfig)对象,通过大语言模型(LLM)基于查询语义生成单查询候选配置(种子),再通过束搜索组合为整体配置,注入现有调优器以加速优化。实验基于PostgreSQL和OLAP工作负载验证,Booster可使调优器性能提升最高74%,优化时间缩短最高4.7倍。

StreamingThinker: Large Language Models Can Think While Reading
大语言模型(LLMs)在思维链(CoT)推理方面已展现出卓越能力。然而,当前的LLM推理范式仅在获取完整输入后才启动推理,这在动态场景中会引入不必要的延迟,并削弱对早期信息的注意力。受人类“边读边想”认知模式的启发,我们首次为LLMs设计了流式思维范式——推理按输入顺序展开,且在阅读完成后可进一步调整推理深度。我们通过StreamingThinker框架实例化该范式,该框架整合了流式CoT生成、流式约束训练和流式并行推理,使LLMs能够实现边读边想。

欢迎留下您的脚印