Loading...
该研究针对大型语言模型(LLMs)在城市计算多任务评估中面临的数据访问不统一任务定义碎片化动态评估缺失三大核心挑战,提出了首个统一平台CityVerse。该平台以“时空坐标”为核心纽带,构建三层架构(统一城市数据层、四级任务分类层、可视化交互层),整合多源城市数据、标准化任务体系与动态仿真能力,为LLMs在城市计算领域的系统化、可复现评估提供基础支撑。数据层。
Domino: Decoupling Causal Modeling from Autoregressive Drafting in Speculative Decoding
推测解码通过草稿多个token并由目标模型并行验证来加速LLM推理。然而,其实际加速效果受到草稿质量与草稿成本之间权衡的制约:自回归草稿器能够建模草稿token间的因果依赖,但会产生顺序开销;而并行草稿器虽然降低了草稿成本,却弱化了块内依赖建模。本文提出Domino——一个将因果依赖建模与昂贵的自回归草稿执行解耦的推测解码框架。Domino首先使用并行草稿骨架为整个token块生成初步草稿分布,然后通过轻量级的Domino头利用前缀依赖的因果信息对其进行精炼。
Automated HIV Screening on Dutch Electronic Health Records with Large Language Models
该研究聚焦于利用大型语言模型(LLM)实现荷兰电子健康记录(EHR)的自动化HIV筛查,核心目标是通过高效分析非结构化临床文本,提升HIV早期诊断效率、降低漏诊率。研究背景:HIV筛查对早期干预和减少传播至关重要,但传统筛查依赖患者主动检测或医护人员基于症状判断,存在漏诊风险;现有自动化方法多依赖结构化数据,忽略了非结构化临床笔记中的关键风险信息,且人工依据临床指南(如EuroTEST)审查病历耗时耗力。研究方案。
Restoring Pruned Large Language Models via Lost Component Compensation
该研究针对大语言模型(LLMs)剪枝后性能下降的问题,提出了一种名为RestoreLCC的目标恢复策略。核心思路是通过捕捉剪枝过程中丢失的关键信息并补偿回模型,在不牺牲剪枝模型稀疏性和推理效率的前提下,恢复其性能。研究验证了剪枝导致的信息损失会体现在注意力头激活中,通过对比探测筛选关键注意力头,并提取丢失的成分向量进行补偿,可有效缩小剪枝模型与稠密模型的性能差距。
KnowMol: Advancing Molecular Large Language Models with Multi-Level Chemical Knowledge
该研究聚焦分子大语言模型(Mol-LLMs)的核心局限,提出数据集与表示策略双重创新,开发出性能领先的多模态分子大语言模型KnowMol。指出当前Mol-LLMs存在数据集质量低(PubChem覆盖失衡、粒度粗糙)和分子表示策略欠佳(1D/2D模态编码不足)两大问题。构建KnowMol-100K数据集,含10万条分子的四级精细标注(原子、官能团、结构构建、理化性质),弥补分子信息与文本描述的鸿沟。
Ultralytics YOLO26: Unified Real-Time End-to-End Vision Models
实时视觉任务要求在多样的硬件平台上实现模型的高精度、高效率以及部署的简便性。YOLO系列模型正是为此而广泛部署于各类应用中。然而,目前大多数YOLO检测器在推理时仍依赖非极大值抑制,由于使用DistributionFocalLoss而导致检测头结构臃肿,需要较长的训练周期,且对于最小尺寸的目标物往往无法分配有效的正标签。本文提出了UltralyticsYOLO26——一个统一的实时视觉模型家族,通过架构设计与训练方法的协同创新,有效解决了上述局限性。
On the Military Applications of Large Language Models
该研究聚焦大型语言模型(LLMs)在军事领域的应用潜力,通过与微软Copilot(基于GPT-4Turbo)的多轮对话收集其对军事应用场景的认知,结合商用云服务(以微软Azure为例)的可行性分析,系统探讨了LLMs在军事中的潜在价值与挑战。核心研究路径首先,通过与Copilot对话,梳理其提出的军事应用场景,涵盖训练材料生成与总结、模拟响应生成、态势报告生成、海量军事数据管理、情报分析与信息融合、军事医疗、记录追踪、信息战应对、对抗敌方AI系统、监视等十大类。
ToMMeR -- Efficient Entity Mention Detection from Large Language Models
识别哪些文本片段指向实体(即提及检测)既是信息提取的基础,也是已知的性能瓶颈。本文提出ToMMeR——一种轻量级模型(参数
Detecting Latin in Historical Books with Large Language Models: A Multimodal Benchmark
本文提出了一项新任务——从版式多样的多语言历史文献中提取拉丁语片段。我们基于包含724页标注数据的多模态数据集,对大型基础模型的性能进行了基准测试与评估。结果表明,利用当代模型实现可靠的拉丁语检测是可行的。本研究首次全面分析了这些模型在该任务中的能力与局限性。
OpenGuardrails: A Configurable, Unified, and Scalable Guardrails Platform for Large Language Models
随着大型语言模型(LLM)日益融入现实世界应用,确保其安全性、鲁棒性和隐私合规性已变得至关重要。本文提出OpenGuardrails,这是首个完全开源的平台,它统一了基于大模型的安全检测、操纵防御和可部署护栏基础设施。OpenGuardrails可防御三类主要风险:(1)内容安全违规(如生成有害或色情文本);(2)模型操纵攻击(包括提示注入、越狱和代码解释器滥用);(3)涉及敏感或隐私信息的数据泄露。
ELUTQ: Efficient LUT-Aware Quantization for Deploying Large Language Models on Edge Devices
权重量化有效降低了内存消耗,使大语言模型能够部署在基于CPU的边缘设备上,但现有硬件友好型方法通常依赖均匀量化,在低比特设置下存在权重分布拟合效果差和反量化开销高的问题。本文提出ELUTQ,一种高效量化框架,其核心是名为层级线性量化(HLQ)的新型量化格式。HLQ旨在更好地捕捉权重的统计特征,同时不增加基于位串行查找表(LUT)的矩阵乘法(GEMM)运算的计算成本,从而消除反量化开销。HLQ与现有量化算法具有正交性。
A Multi-faceted Analysis of Cognitive Abilities: Evaluating Prompt Methods with Large Language Mo...
尽管大型语言模型(LLMs)在医疗领域迅速普及,但如何根据CONSORT标准对其评估临床研究报告的能力进行稳健且可解释的评估,仍是一项尚未解决的挑战。特别是在医疗自动化中,LLM推理的不确定性校准和元认知可靠性尚未得到充分理解和探索。本研究采用行为和元认知分析方法,利用专家验证的数据集,系统比较了两款具有代表性的LLM(一款通用型模型和一款领域专用型模型)在三种提示策略下的表现。
Prior-informed optimization of treatment recommendation via bandit algorithms trained on large la...
当前医疗实践依赖标准化治疗框架和经验方法,忽视患者个体差异,导致健康结局欠佳。本研究开发了一套综合系统,整合大语言模型(LLMs)、条件表格生成对抗网络(CTGAN)、T-learner反事实模型和情境老虎机方法,以提供定制化、数据驱动的临床推荐。
M3-SLU: Evaluating Speaker-Attributed Reasoning in Multimodal Large Language Models
本文针对现有多模态大语言模型(MLLMs)在多说话者、多轮对话场景中难以准确识别“谁在何时说了什么”的问题,提出了M3-SLU基准测试集(Multi-Speaker,Multi-Turn,Multi-ModalSpokenLanguageUnderstanding),用于评估模型的说话者归因推理能力。基准测试集构建数据源:基于4个公开多说话者语料库(CHiME-6、MELD、MultiDialog、AMI),涵盖嘈杂环境对话、情感对话、多主题对话、商务会议等多样化场景。
SODBench: A Large Language Model Approach to Documenting Spreadsheet Operations
该研究聚焦电子表格操作文档化(SpreadsheetOperationsDocumentation,SOD)这一未被充分探索的领域,旨在解决电子表格缺乏系统文档导致的可重复性差、知识转移困难、协作效率低等问题。问题背景:电子表格在商业、会计、金融等领域广泛应用,但缺乏类似软件开发中GitHub的版本控制和结构化文档工具,用户操作难以追溯,导致机构知识流失、新员工上手慢、合规风险高等问题。
Streamlining Acceptance Test Generation for Mobile Applications Through Large Language Models: An...
移动应用验收测试仍是现代软件开发中的瓶颈,尤其是在使用Flutter等框架进行跨平台移动开发时。尽管开发人员越来越依赖自动化测试工具,但创建和维护验收测试工件仍需要大量人工工作。为解决这一问题,我们提出了AToMIC——一种自动化框架,利用专用大语言模型直接从需求(JIRA工单)和最新代码变更中生成Gherkin场景、PageObject类和可执行UI测试脚本。该框架在宝马MyBMW应用中进行了验证,覆盖170多个屏幕代码库中的13个真实业务场景,在标准硬件上每个功能的可执行测试工件生成时间不到5分钟。
A Graph Signal Processing Framework for Hallucination Detection in Large Language Models
大型语言模型取得了令人瞩目的成果,但区分事实性推理与幻觉仍然具有挑战性。本文提出一种光谱分析框架,将Transformer层建模为由注意力机制诱导的动态图,并将令牌嵌入作为这些图上的信号。通过图信号处理,我们定义了包括狄利克雷能量、光谱熵和高频能量比在内的诊断指标,并建立了其与计算稳定性的理论关联。在GPT系列架构上的实验表明存在通用光谱模式:事实性陈述表现出一致的"能量山"行为及低频收敛特性,而不同类型的幻觉则呈现独特特征。逻辑矛盾会破坏光谱稳定性,且效应量显著(g>1.0);
HarmNet: A Framework for Adaptive Multi-Turn Jailbreak Attacks on Large Language Models
大型语言模型(LLMs)仍然容易受到多轮越狱攻击的影响。本文提出HarmNet,这是一个模块化框架,包含分层语义网络ThoughtNet、用于迭代查询优化的反馈驱动模拟器,以及用于实时自适应攻击执行的网络遍历器。HarmNet系统地探索并优化对抗空间,以发现隐蔽性强、成功率高的攻击路径。在闭源和开源LLMs上的实验表明,HarmNet的性能优于当前最先进的方法,实现了显著更高的攻击成功率。例如,在Mistral-7B上,HarmNet的攻击成功率达到99.4%,比最佳基线方法高出13.9个百分点。
Large language models for folktale type automation based on motifs: Cinderella case study
人工智能方法正被应用于多个研究领域,包括数字人文学科。本文构建了一套适用于民俗学大规模分析的方法论。借助机器学习与自然语言处理技术,我们自动检测了大量灰姑娘变体中的母题,并通过聚类与降维分析了这些变体的异同。结果表明,大型语言模型能够捕捉故事中的复杂关联,为海量文本集合的计算化分析提供可能,并助力跨语言比较研究。
Counterfactual Reasoning for Steerable Pluralistic Value Alignment of Large Language Models
本文聚焦大语言模型(LLMs)的多元价值对齐问题,提出COUPLE框架,通过结构因果模型(SCM)和反事实推理,解决现有方法在价值复杂性(忽略价值间依赖与优先级)和价值可控性(难以精准调控细粒度价值)上的核心挑战,实现更准确、可解释的多元价值对齐。随着大型语言模型(LLMs)日益融入服务不同文化、社群和人群的应用中,使模型对齐超越平均原则(如有益性、诚实性、无害性HHH)的多元人类价值至关重要。在施瓦茨价值理论等心理学和社会价值理论中,多元价值通过多个价值维度及其优先级组合来体现。
