Loading...
智能合约在自动化区块链服务中发挥着重要作用。然而,智能合约中的漏洞对区块链安全构成严重威胁。目前,传统检测方法主要依赖静态分析和形式化验证,这可能导致高假阳性率和较差的扩展性。近年来,大语言模型(LLMs)在智能合约漏洞检测方面取得了显著进展,但仍面临推理成本高、计算开销大等挑战。本文提出了一种名为ParaVul的并行LLM与检索增强框架,以提高智能合约漏洞检测的可靠性和准确性。
SBAN: A Framework & Multi-Dimensional Dataset for Large Language Model Pre-Training and Software ...
本文介绍了SBAN(Sourcecode,Binary,Assembly,andNaturalLanguageDescription),一个面向大型语言模型(LLMs)预训练和软件代码挖掘的大规模多维数据集。该数据集包含超过330万个软件样本(280万个良性样本、54.1万个恶意样本),每个样本均涵盖二进制代码、汇编指令、源代码和自然语言描述四个互补的表示层,解决了现有数据集多聚焦单一表示层、限制跨模态学习的问题。
Large Language Models in Thematic Analysis: Prompt Engineering, Evaluation, and Guidelines for Qu...
随着人工智能的发展,大型语言模型(LLMs)正逐步融入定性研究流程——但目前尚无可复现的方法将其整合到主题分析(TA)等成熟研究方法中,而TA是软件工程研究中最常用的定性方法之一。此外,现有研究缺乏依据既定质量标准对LLM生成的定性输出进行系统性评估。本研究设计并迭代优化了适用于Braun和Clarke反思性TA第2-5阶段的提示词,随后将多个LLM的输出与经验丰富的研究者生成的编码和主题进行对比测试。
Proactive Reasoning-with-Retrieval Framework for Medical Multimodal Large Language Models
激励多模态大语言模型(MLLMs)的推理能力对于医疗应用至关重要,这有助于透明地分析医学影像并提供可靠诊断。然而,现有医疗MLLMs在推理过程中仅依赖内部知识,在遇到超出训练范围的病例时会产生幻觉推理和事实不准确问题。尽管近期的智能体检索增强生成(AgenticRAG)方法能激发医疗模型在推理过程中的主动检索能力,但这些方法局限于单模态LLMs,忽视了推理和检索过程中关键的视觉信息。
The Impact of Image Resolution on Biomedical Multimodal Large Language Models
成像技术是生物医学研究和现代医学的基础,需要对多种模态的高分辨率图像进行分析。尽管多模态大型语言模型(MLLMs)在生物医学图像分析中展现出潜力,但大多数模型是为通用数据集的低分辨率图像设计的,存在关键信息丢失的风险。本研究探究了图像分辨率对生物医学应用中MLLM性能的影响,并证实:(1)原生分辨率训练与推理能显著提升多任务性能;(2)训练与推理分辨率的不匹配会严重降低性能;(3)混合分辨率训练可有效缓解分辨率失配问题,并平衡计算约束与性能需求。
Chain-of-Conceptual-Thought Elicits Daily Conversation in Large Language Models
思维链(CoT)被广泛应用于提升大语言模型在数学、编程和推理任务中的能力。然而,在开放域任务中,由于缺乏明确界定的推理步骤或逻辑过渡,其性能受到限制。为缓解此类挑战,我们提出一种新的提示范式——概念链思维(CoCT),该范式引导大语言模型先生成概念标签,再基于该概念完成详细内容。为鼓励这种分层思考方式,我们将概念具体化为情感、策略和话题三类。我们在日常对话和情感支持对话任务中进行实验,涵盖域内和域外两种概念设置。
PlanU: Large Language Model Reasoning through Planning under Uncertainty
该研究针对大语言模型(LLMs)在不确定性环境下决策能力不足的问题,提出了基于蒙特卡洛树搜索(MCTS)的规划方法PlanU。核心是通过分位数分布建模MCTS节点的回报,结合好奇心增强的上置信界(UCC)分数平衡探索与利用,同时解决LLM自身随机性(生成不确定性)和环境随机性(状态转移不确定性)两大挑战。实验在Blocksworld、Overcooked等5个基准测试中验证了PlanU的优越性,其性能显著优于CoT、ToT、RAP等主流方法。
LLM Weekly(2026.6.29-2026.7.5)
一个40亿参数的编译器,在1000万个示例上训练,可将自然语言任务描述转换为参数高效的适配器,供冻结的6亿参数解释器使用。Agents-A1是一款350亿参数的混合专家(MoE)模型,通过扩展智能体时程(平均45Ktoken)而非参数规模,达到了与Kimi-K2.6和DeepSeek-V4-pro等万亿参数系统相当的性能。Moondream认为当前的GPU抢购潮不可持续,分析了推理成本下降速度快于需求增长的原因,以及大规模GPU部署的经济性将面临清算。
BrailleLLM: Braille Instruction Tuning with Large Language Models for Braille Domain Tasks
本文针对盲文信息处理中存在的数据稀缺、混合文本语境歧义等问题,提出了面向盲文领域任务的大语言模型框架BrailleLLM。数据集构建:创建了中英双语盲文混合数据集(CBMD/EBMD),涵盖纯文本、含数学公式的混合文本等场景,同时设计了多任务指令模板,解决盲文研究数据匮乏的痛点。数据增强方法:提出基于成分句法树和依存句法树的盲文数据增强策略,在保证数据有效性的前提下提升数据集多样性,适配盲文语义构成特点。微调方法创新。
Qomhra: A Bilingual Irish-English Large Language Model
本文聚焦低资源语言(爱尔兰语-英语)双语大语言模型的开发,提出并实现了名为Qomhrá的双语LLM,完整覆盖双语持续预训练(CPT)、指令微调、人类偏好对齐三大核心流程。背景与问题:爱尔兰语作为官方语言,在语言技术领域落后于其他欧洲语言,缺乏高质量标注数据和成熟双语聊天机器人模型,现有研究未完成指令微调与偏好对齐的全流程开发。核心方法数据构建:混合新公开的爱尔兰语语料与英语文本(如维基百科、UCCIX开源数据等),避免灾难性遗忘;
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
本文针对现有抽象推理基准(如RAVEN、I-RAVEN)存在的operand数量少、属性范围窄、数据泄露风险、忽略感知不确定性等局限性,提出了增强型符号基准I-RAVEN-X,用于评估大型语言模型(LLMs)和大型推理模型(LRMs)在类比推理与数学推理任务中的泛化能力和鲁棒性。通过在I-RAVEN-X上对SOTA模型(LLMs包括GPT-4、Llama-370B;泛化能力差异。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大型语言模型(LLMs)翻译包含句间依赖文本的能力。我们采用英语-法语DiscEvalMT基准测试集(Bawden等人,2018),该数据集包含成对句子,分别涉及代词指代或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行了两项任务测试:(1)区分正确翻译与看似合理的错误翻译;(2)生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
This is Going to Sound Crazy, But What If We Used Large Language Models to Boost Automatic Databa...
数据库管理系统(DBMS)的调优极具挑战性,原因在于存在数万亿种可能的配置组合,且工作负载不断演化。近年来的调优技术在优化配置空间方面取得了突破性进展,但由于设计限制,现有自动调优器无法利用查询级历史洞察,难以在环境变化时(如工作负载漂移、模式迁移)自适应并重新优化DBMS。本文提出Booster框架,用于辅助现有调优器适应环境变化(如漂移、跨模式迁移)。Booster将历史调优成果构建为查询-配置上下文,提示大语言模型(LLMs)基于相关上下文为每个查询推荐配置,并通过束搜索将查询级建议组合为整体配置。
I-RAVEN-X: Benchmarking Generalization and Robustness of Analogical and Mathematical Reasoning in...
我们提出了I-RAVEN-X,这是一个符号化基准,旨在评估大语言模型(LLMs)和大型推理模型(LRMs)在类比推理和数学推理中的泛化能力与鲁棒性。I-RAVEN-X在I-RAVEN的基础上进行了扩展,增加了操作数复杂度和属性范围,并引入了感知不确定性。实证结果表明,与LLMs相比,LRMs在更长的推理关系上实现了更优的生产力,在更广泛的属性范围上具备更强的系统性。例如,LRMs的算术精度下降幅度(80.5%→63.0%)远小于LLMs(59.3%→4.4%)。
Large Language Models in Thematic Analysis: Prompt Engineering, Evaluation, and Guidelines for Qu...
随着人工智能的发展,大型语言模型(LLMs)正逐步融入定性研究流程——然而,目前尚无可复现的方法将其整合到主题分析(TA)等成熟研究方法中,而主题分析是软件工程研究中最常用的定性方法之一。此外,现有研究缺乏依据既定质量标准对LLM生成的定性输出进行系统性评估。本研究设计并迭代优化了适用于Braun和Clarke反思性主题分析2-5阶段的提示词,随后将多款LLM的输出与资深研究人员生成的编码和主题进行对比测试。
Software Testing with Large Language Models: An Interview Study with Practitioners
该研究聚焦大型语言模型(LLMs)在软件测试中的实际应用,通过对15名来自不同行业、资历和工作模式的软件测试专业人员进行半结构化访谈,结合扎根理论的主题分析方法,探究了LLMs在软件测试中的使用场景、优势、挑战,并提炼出一套基于实践者经验的初步使用指南。核心研究背景:LLMs在软件测试中的应用日益广泛(涵盖测试用例生成、自动化脚本编写、文档撰写等),但目前缺乏正式框架和标准,多依赖非正式实验和社区经验,且存在幻觉、推理不一致、数据隐私等问题。主要研究发现常见使用场景。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
本文评估了大语言模型(LLMs)翻译含跨句依赖文本的能力。我们采用英-法DiscEvalMT基准测试集(Bawden等人,2018),该数据集包含成对句子,需应对指代照应或词汇衔接相关的翻译挑战。我们对来自DeepSeek-R1、GPT、Llama、Mistral和Phi家族的12个LLM进行两项任务测试:(1)区分正确翻译与看似合理的错误翻译;(2)生成正确翻译。我们对比了鼓励思维链推理的提示词与不鼓励推理的提示词效果。
BenCao: An Instruction-Tuned Large Language Model for Traditional Chinese Medicine
中医(TCM)拥有逾两千年历史,在全球医疗保健中占据重要地位。然而,由于中医依赖整体思维、隐性逻辑及多模态诊断线索,将大语言模型(LLMs)应用于该领域仍面临挑战。现有中医领域大语言模型在文本理解方面取得了一定进展,但缺乏多模态融合、可解释性及临床适用性。为解决这些局限,我们开发了BenCao——一款基于ChatGPT的中医多模态助手,整合了结构化知识库、诊断数据与专家反馈优化机制。BenCao通过自然语言指令微调而非参数重训练进行训练,与中医特有的专家级推理逻辑及伦理规范保持一致。
ECG-LLM -- training and evaluation of domain-specific large language models for electrocardiography
领域适配的开源大语言模型(LLM)为医疗健康应用提供了广阔前景,从可查询知识库到多模态助手,其核心优势在于支持本地部署以保障隐私。然而,最优适配策略、评估方法以及与通用LLM的性能对比仍缺乏充分表征。本研究以心血管医学的重要领域——心电图为研究对象,通过在领域专属文献上微调开源模型,并构建多层次评估框架,对比了微调模型、检索增强生成(RAG)模型与代表性通用模型ClaudeSonnet3.7的性能。
Chain-of-Thought Reasoning Improves Context-Aware Translation with Large Language Models
该研究评估了12个不同家族(DeepSeek-R1、GPT、Llama、Mistral、Phi)的大语言模型(LLMs)在上下文感知翻译中的表现,聚焦句间指代照应和词汇衔接两大核心挑战。研究采用DiscEvalMT英-法基准数据集,设计了两项任务:一是区分正确与看似合理的错误翻译(对比任务),二是直接生成符合上下文的正确翻译(翻译任务),并对比了鼓励思维链(CoT)推理的提示词与无推理提示词的效果。
