Loading...
本文聚焦前沿大型语言模型（LLMs）的隐写能力，旨在评估其通过隐写术绕过监控的风险。编码消息传递：模型在看似无害的输出中隐藏信息，且能被接收方解码，同时不被监控系统发现。编码推理：模型在推理过程中使用编码方式隐藏逻辑步骤，以规避思维链（CoT）监控。当前模型在标准条件下难以隐藏短消息，但在具备额外条件（如未被监控的“草稿区”、预先协调编码方案）时可成功传递信息。模型展现出基础的编码推理能力（如使用十六进制等编码处理简单状态跟踪任务），但难以在“掩护任务”（如良性问答）中隐蔽推理以骗过监控。
Who‘s Sorry Now: User Preferences Among Rote, Empathic, and Explanatory Apologies from LLM Chatbots
Who‘sSorryNow:UserPreferencesAmongRote,Empa
ELMES: An Automated Framework for Evaluating Large Language Models in Educational Scenarios
本文针对大型语言模型（LLMs）在教育场景中应用的评估需求，提出了一个名为ELMES的开源自动化评估框架。现有评估基准多聚焦通用智能，难以衡量LLMs的教学能力，而新兴教育场景也缺乏适配的评估指标。ELMES通过模块化架构，支持研究者通过简单配置文件构建动态多代理对话，无需复杂编程即可灵活设计场景；其混合评估引擎采用“LLM-as-a-Judge”方法，将主观教学指标量化。
Motion-example-controlled Co-speech Gesture Generation Leveraging Large Language Models
本文提出了一种名为MECo的框架，旨在利用大型语言模型（LLMs）实现基于运动示例控制的伴随语音手势生成。现有方法通常通过预定义类别标签或从运动示例中提取的隐含伪标签来控制手势生成，但其往往会丢失原始运动示例中的丰富细节。MECo框架通过三阶段微调机制，充分利用LLMs的理解能力，实现对语音音频和运动示例的同步解析。与传统伪标签方法不同，该框架将运动示例作为提示结构中的显式查询上下文，引导手势生成，从而在保证生成手势与语音内容一致的同时，保留运动示例的特定特征。
Reframe Your Life Story: Interactive Narrative Therapist and Innovative Moment Assessment with La...
近年来，大型语言模型（LLMs）的进步为心理健康支持开辟了新的可能性，但现有方法在模拟专业心理治疗时缺乏真实性，且无法捕捉随时间推移的治疗进展。叙事疗法帮助个体将有问题的生活故事转变为具有赋能作用的替代故事，但由于获取途径有限和社会污名化，其应用仍不充分。我们通过一个包含两个核心组件的综合框架来解决这些局限性。首先，INT（交互式叙事治疗师）通过规划治疗阶段、引导反思水平和生成符合情境的专家级回应，模拟专业叙事治疗师。
Large Language Model Agent for Structural Drawing Generation Using ReAct Prompt Engineering and R...
结构图纸在机械工程、土木工程等多个领域中被广泛使用。在土木工程中，结构图纸是建筑师、工程师和施工人员之间的主要沟通工具，用于避免冲突、作为法律文件，并为未来的维护或评估需求提供参考。它们通常由标题/副标题块、比例尺、平面图、立面图、剖面图和详细剖面图等关键元素组成，并标注有标准化的符号和线型，供工程师和承包商解读。尽管软件功能不断进步，但生成结构图纸的任务对结构工程师而言仍然是劳动密集型且耗时的工作。本文介绍了一种新的基于生成式人工智能的方法，该方法利用大型语言模型（LLM）代理生成结构图纸。
Differentiating hype from practical applications of large language models in medicine -- a primer...
本文聚焦大型语言模型（LLMs）在医学领域的应用，旨在区分其hype与实际价值，为医疗从业者提供参考。LLMs的本质与局限：LLMs是基于Transformer架构的深度学习模型，通过大规模文本训练实现自然语言处理，但本质是“统计语言模仿者”，缺乏对客观真理的理解，仅能生成符合统计规律的输出。医学应用中的风险：存在隐私泄露（如违反HIPAA法规）、“幻觉”（生成虚假信息，如伪造参考文献）、数据污染（如通过“论文工厂”注入偏见）、训练数据中的偏见传播等问题。实际应用场景。
Automated Code Review Using Large Language Models at Ericsson: An Experience Report
研究背景：代码审查是保障软件质量的关键手段，但依赖资深开发者的时间和精力，易成为开发流程的瓶颈。大语言模型为自动化代码审查提供了可能。解决方案：开发了一套轻量级工具，结合开源LLMs（如Llama、CodeLlama）和静态程序分析技术，通过提取代码修改处的“包围方法”（enclosingmethod）为LLM提供上下文，生成针对性审查意见；设计了多种提示词策略（如简洁审查、详细审查、安全审查），解决LLM生成内容冗长、不相关的问题；
Evaluating Large Language Models (LLMs) in Financial NLP: A Comparative Study on Financial Report...
研究对象：选取GPT、Claude、Perplexity、Gemini和DeepSeek五个主流LLM，以“七大科技公司”（苹果、微软、亚马逊、字母表、英伟达、Meta、特斯拉）2022-2024年的10-K文件（年度报告）中“业务部分（Item1）”为分析对象。评估方法：采用三种评估方式：人类标注：从相关性、完整性、清晰度、简洁性、事实准确性五个维度评分；自动词汇-语义指标：包括ROUGE（1、2、L）、余弦相似度、Jaccard相似度；
Simulating multiple human perspectives in socio-ecological systems using large language models
本文提出了一种名为HoPeS（Human-OrientedPerspectiveShifting，面向人类的视角转换）的建模框架，旨在通过模拟社会生态系统中不同利益相关者的视角，增强对该系统的理解。核心目标：解决社会生态系统研究中“难以获取多样化利益相关者视角”的问题，通过模拟支持用户体验不同角色的视角差异，进而反思、转换和整合多视角洞察。框架构成基于大型语言模型（LLMs）的智能体系统：用LLMs驱动的智能体代表各类利益相关者，用户可代入角色参与模拟；
AQUA: A Large Language Model for Aquaculture & Fisheries
本文介绍了首个专为水产养殖领域设计的大型语言模型（LLM）——AQUA，及其背后的支撑框架AQUADAPT。背景与问题：水产养殖在全球粮食安全中至关重要，但面临疾病爆发、喂养低效、劳动力成本高、孵化场管理困难等挑战，现有AI方法难以应对领域特异性问题。AQUA模型：针对水产养殖领域优化的LLM，旨在为养殖户、研究人员等提供智能洞察，提升决策效率和运营效果。AQUADAPT框架。
LLMs-guided adaptive compensator: Bringing Adaptivity to Automatic Control Systems with Large Lan...
本文聚焦于将大型语言模型（LLMs）应用于自动控制领域的自适应控制子领域，提出了一种“LLMs引导的自适应补偿器”框架。该框架受模型参考自适应控制（MRAC）启发，不要求LLMs从零设计控制器，而是通过提示LLMs分析未知系统与参考系统的响应差异，设计补偿器以对齐两者的响应，从而增强现有反馈控制器的自适应能力。
Investigating Structural Pruning and Recovery Techniques for Compressing Multimodal Large Languag...
尽管多模态大语言模型（MLLMs）展现出令人印象深刻的能力，但其庞大的计算和内存需求为实际部署带来了显著障碍。当前的参数缩减技术主要涉及从小型语言模型（SLMs）训练MLLMs，但这些方法灵活性有限且计算成本高昂。为解决这一差距，我们提出通过结构剪枝结合高效恢复训练直接压缩现有MLLMs。具体而言，我们研究了两种结构剪枝范式——逐层剪枝和宽度剪枝，将其应用于MLLMs的语言模型主干，并结合监督微调和知识蒸馏。此外，我们评估了仅使用少量可用数据进行恢复训练的可行性。
Length Representations in Large Language Models
研究背景与目的：大型语言模型（LLMs）能在指令设置中控制输出序列长度，但内部机制尚未明确。本文旨在探究LLMs内部表征中输出序列长度信息的编码方式。核心发现多头注意力机制（尤其是较低层的输出）在决定输出序列长度中起关键作用，且长度信息可通过特定隐藏单元的缩放进行分离式调整。缩放特定隐藏单元可控制输出长度，同时不丢失生成文本的信息量，表明长度信息与语义信息部分分离。当提示包含更具体的长度约束时（如Priming设置），部分隐藏单元活性增强，反映模型对长度属性的内部感知。
AgentTTS: Large Language Model Agent for Test-time Compute-optimal Scaling Strategy in Complex Tasks
本文聚焦于多阶段复杂任务中的测试时计算最优缩放（test-timecompute-optimalscaling）问题，提出了一种基于大型语言模型（LLM）代理的框架AgentTTS。现有测试时缩放（TTS）方法主要针对单阶段任务，通过在推理时分配额外计算资源提升LLM性能，但现实中许多任务是多阶段的（如检索-生成问答、软件开发流程等），由多个异质子任务组成，每个子任务需特定能力的LLM。
HITSZ‘s End-To-End Speech Translation Systems Combining Sequence-to-Sequence Auto Speech Recognit...
本文介绍了哈尔滨工业大学（深圳）（HITSZ）为IWSLT2025Indic赛道提交的语音到文本翻译（ST）系统，聚焦英语与印度语言（印地语、孟加拉语、泰米尔语）的双向翻译任务。针对低资源语言对的翻译质量提升问题，研究团队提出了一种端到端系统，将预训练的Whisper自动语音识别（ASR）模型与印度语专用大语言模型（LLM）Krutrim相结合。实验结果显示，该端到端系统在英语到印度语言方向的平均BLEU分数为28.88，在印度语言到英语方向为27.86。
How Much Do Large Language Model Cheat on Evaluation? Benchmarking Overestimation under the One-T...
本文聚焦大型语言模型（LLMs）评估中的“高估”问题，即由于公开基准数据污染或训练不平衡，LLMs在公开基准上的表现可能被不实抬高，导致不公平比较和能力误判。现有评估方法存在可重复性、透明度或效率不足的问题，且无法量化高估程度。为此，作者提出动态评估框架ArxivRoll：一种自动生成私有测试案例的方法，基于ArXiv平台最新论文，通过句子排序、完形填空、续写预测三种任务生成高质量、未被模型见过的测试案例；：量化高估程度的指标，包括RS_I（衡量模型在公开与私有基准上的性能差异，反映数据污染程度）和。
LISA: A Layer-wise Integration and Suppression Approach for Hallucination Mitigation in Multimoda...
多模态大型语言模型（MLLMs）在图像描述等视觉-语言任务中表现出色，但仍容易出现物体幻觉——即描述图像中不存在的物体。为缓解这一问题，我们提出了LISA（分层整合与抑制方法），通过层级调制和多层融合提升生成一致性。LISA利用MLLMs的功能层级：浅层提供视觉接地，中层编码语义，深层则倾向于放大虚假信号。首先，区域特定光谱调制通过抑制深层中过度放大的激活、保留浅层中的对齐线索来稳定注意力。
FeynTune: Large Language Models for High-Energy Theory
本文介绍了针对高能理论物理领域的专用大型语言模型（LLM）——FeynTune，其基于80亿参数的Llama-3.1模型通过微调得到20个变体。这些模型的训练数据来自arXiv平台中高能理论物理（hep-th）、高能物理唯象学（hep-ph）、广义相对论与量子引力（gr-qc）等类别的论文摘要（截至2024年8月），部分模型还纳入了计算机科学（cs）、定量生物学（q-bio）等较远领域的摘要作为对比。
Beyond Binary Moderation: Identifying Fine-Grained Sexist and Misogynistic Behavior on GitHub wit...
本文聚焦GitHub平台中性别歧视和厌女行为的检测，旨在解决现有moderation工具依赖关键词过滤或二元分类、难以识别细微伤害的问题。研究提出了一种基于指令微调大型语言模型（LLMs）的细粒度多类别分类框架，可识别12种不同类别的性别歧视和厌女评论。研究过程中，团队通过20次迭代优化提示词，在包含1440条标注GitHub评论的数据集上评估了GPT-4o、LLaMA3.3、Mistral7B等模型，采用精确率、召回率、F1分数和马修斯相关系数（MCC）作为评估指标。
