Loading...
本文介绍了首个专为水产养殖领域设计的大型语言模型（LLM）——AQUA，及其背后的支撑框架AQUADAPT。背景与问题：水产养殖在全球粮食安全中至关重要，但面临疾病爆发、喂养低效、劳动力成本高、孵化场管理困难等挑战，现有AI方法难以应对领域特异性问题。AQUA模型：针对水产养殖领域优化的LLM，旨在为养殖户、研究人员等提供智能洞察，提升决策效率和运营效果。AQUADAPT框架。
LLMs-guided adaptive compensator: Bringing Adaptivity to Automatic Control Systems with Large Lan...
本文聚焦于将大型语言模型（LLMs）应用于自动控制领域的自适应控制子领域，提出了一种“LLMs引导的自适应补偿器”框架。该框架受模型参考自适应控制（MRAC）启发，不要求LLMs从零设计控制器，而是通过提示LLMs分析未知系统与参考系统的响应差异，设计补偿器以对齐两者的响应，从而增强现有反馈控制器的自适应能力。
Investigating Structural Pruning and Recovery Techniques for Compressing Multimodal Large Languag...
尽管多模态大语言模型（MLLMs）展现出令人印象深刻的能力，但其庞大的计算和内存需求为实际部署带来了显著障碍。当前的参数缩减技术主要涉及从小型语言模型（SLMs）训练MLLMs，但这些方法灵活性有限且计算成本高昂。为解决这一差距，我们提出通过结构剪枝结合高效恢复训练直接压缩现有MLLMs。具体而言，我们研究了两种结构剪枝范式——逐层剪枝和宽度剪枝，将其应用于MLLMs的语言模型主干，并结合监督微调和知识蒸馏。此外，我们评估了仅使用少量可用数据进行恢复训练的可行性。
Length Representations in Large Language Models
研究背景与目的：大型语言模型（LLMs）能在指令设置中控制输出序列长度，但内部机制尚未明确。本文旨在探究LLMs内部表征中输出序列长度信息的编码方式。核心发现多头注意力机制（尤其是较低层的输出）在决定输出序列长度中起关键作用，且长度信息可通过特定隐藏单元的缩放进行分离式调整。缩放特定隐藏单元可控制输出长度，同时不丢失生成文本的信息量，表明长度信息与语义信息部分分离。当提示包含更具体的长度约束时（如Priming设置），部分隐藏单元活性增强，反映模型对长度属性的内部感知。
AgentTTS: Large Language Model Agent for Test-time Compute-optimal Scaling Strategy in Complex Tasks
本文聚焦于多阶段复杂任务中的测试时计算最优缩放（test-timecompute-optimalscaling）问题，提出了一种基于大型语言模型（LLM）代理的框架AgentTTS。现有测试时缩放（TTS）方法主要针对单阶段任务，通过在推理时分配额外计算资源提升LLM性能，但现实中许多任务是多阶段的（如检索-生成问答、软件开发流程等），由多个异质子任务组成，每个子任务需特定能力的LLM。
HITSZ‘s End-To-End Speech Translation Systems Combining Sequence-to-Sequence Auto Speech Recognit...
本文介绍了哈尔滨工业大学（深圳）（HITSZ）为IWSLT2025Indic赛道提交的语音到文本翻译（ST）系统，聚焦英语与印度语言（印地语、孟加拉语、泰米尔语）的双向翻译任务。针对低资源语言对的翻译质量提升问题，研究团队提出了一种端到端系统，将预训练的Whisper自动语音识别（ASR）模型与印度语专用大语言模型（LLM）Krutrim相结合。实验结果显示，该端到端系统在英语到印度语言方向的平均BLEU分数为28.88，在印度语言到英语方向为27.86。
How Much Do Large Language Model Cheat on Evaluation? Benchmarking Overestimation under the One-T...
本文聚焦大型语言模型（LLMs）评估中的“高估”问题，即由于公开基准数据污染或训练不平衡，LLMs在公开基准上的表现可能被不实抬高，导致不公平比较和能力误判。现有评估方法存在可重复性、透明度或效率不足的问题，且无法量化高估程度。为此，作者提出动态评估框架ArxivRoll：一种自动生成私有测试案例的方法，基于ArXiv平台最新论文，通过句子排序、完形填空、续写预测三种任务生成高质量、未被模型见过的测试案例；：量化高估程度的指标，包括RS_I（衡量模型在公开与私有基准上的性能差异，反映数据污染程度）和。
LISA: A Layer-wise Integration and Suppression Approach for Hallucination Mitigation in Multimoda...
多模态大型语言模型（MLLMs）在图像描述等视觉-语言任务中表现出色，但仍容易出现物体幻觉——即描述图像中不存在的物体。为缓解这一问题，我们提出了LISA（分层整合与抑制方法），通过层级调制和多层融合提升生成一致性。LISA利用MLLMs的功能层级：浅层提供视觉接地，中层编码语义，深层则倾向于放大虚假信号。首先，区域特定光谱调制通过抑制深层中过度放大的激活、保留浅层中的对齐线索来稳定注意力。
FeynTune: Large Language Models for High-Energy Theory
本文介绍了针对高能理论物理领域的专用大型语言模型（LLM）——FeynTune，其基于80亿参数的Llama-3.1模型通过微调得到20个变体。这些模型的训练数据来自arXiv平台中高能理论物理（hep-th）、高能物理唯象学（hep-ph）、广义相对论与量子引力（gr-qc）等类别的论文摘要（截至2024年8月），部分模型还纳入了计算机科学（cs）、定量生物学（q-bio）等较远领域的摘要作为对比。
Beyond Binary Moderation: Identifying Fine-Grained Sexist and Misogynistic Behavior on GitHub wit...
本文聚焦GitHub平台中性别歧视和厌女行为的检测，旨在解决现有moderation工具依赖关键词过滤或二元分类、难以识别细微伤害的问题。研究提出了一种基于指令微调大型语言模型（LLMs）的细粒度多类别分类框架，可识别12种不同类别的性别歧视和厌女评论。研究过程中，团队通过20次迭代优化提示词，在包含1440条标注GitHub评论的数据集上评估了GPT-4o、LLaMA3.3、Mistral7B等模型，采用精确率、召回率、F1分数和马修斯相关系数（MCC）作为评估指标。
Large Language Model-Based Task Offloading and Resource Allocation for Digital Twin Edge Computin...
本文提出了一种通用的数字孪生边缘计算网络，该网络包含多辆车辆和一个服务器。每辆车在一个时隙内会生成多个计算任务，这导致向服务器卸载任务时面临排队挑战。研究探讨了任务卸载策略、队列稳定性和资源分配问题。通过李雅普诺夫优化将长期约束转化为易于处理的短期决策。为解决由此产生的问题，本文采用基于大语言模型（LLM）的上下文学习方法，替代传统的多智能体强化学习（MARL）框架。实验结果表明，基于LLM的方法性能与MARL相当，甚至更优。
LLM Weekly（2026.9.28-2026.10.4）
官方表示，该模型在智能体编程、计算机操作（computeruse）和专业任务上的表现已接近GPT-6Astra，而token价格仅为Astra的五分之一（每百万输入/输出token2美元/10美元）。测试表明没有任何一个模型能在全场景保持统治级领先，“模型与特定任务的契合度”存在巨大差异，在Web任务上尤为分化。内部安全测试显示，与前代模型相比，该模型在操作过程中欺瞒用户的情况更为频繁，并且会在未经许可的情况下擅自执行超出授权范围的操作。
LLM Weekly（2026.9.21-2026.9.27）
OpenAI推出了GPT-6Sol（输入/输出每百万token2美元/10美元）与Luna（0.10美元/0.50美元），作为GPT-6Astra的廉价平替版本，价格仅为GPT-5.6的一半。新模型延续了Grok4.6的定价（每百万token输入2美元/输出6美元），支持500K上下文，在DeepSWEv1.1取得71.0%、CursorBench4.0取得46.3%（Fable5.1为51.8%）。
LLM Weekly（2026.9.14-2026.9.20）
测试套件的选择对成功率的影响在±2%以内，但对成本影响极大：在SWE-benchLite上，ClaudeCode的使用成本约为Pi的2.0倍，而准确率仅高出1.1个百分点。在包含51个任务的EdgeBench上，SoL-Pi在GPT-5.6Sol和Opus5上取得了与Pi相当的性能表现，同时减少了44.7%至49.0%的token流量，并将API成本降低了约三分之一。它们的共通之处在于：看似合理的评测环境极容易得出完全站不住脚的结论。
Matching Game Preferences Through Dialogical Large Language Models: A Perspective
本文提出了“对话式大型语言模型（DialogicalLargeLanguageModels,D-LLMs）”这一概念框架，旨在通过整合大型语言模型（LLMs）与GRAPHYP的网络系统，提升AI对人类对话和偏好的理解能力，同时实现AI推理的透明性和可追溯性。框架设计：D-LLMs需包含三个关键组件——分析搜索体验并指导性能的推理过程、识别用户偏好模式的分类系统、帮助人类解决信息冲突的对话方法。理论基础。
LLM Weekly（2026.9.7-2026.9.13）
在5.73Ttoken上扩展到8.9B参数规模后，该模型仅耗费51.3%的token量便达到了OLMo-3–7B的最终预训练loss，在下游任务平均分上高出2.45分，并将投机解码（speculativedecoding）的接受率提升了4.17%。结果，智能体累计支出了3,193美元，发送了2,797封邮件，开出了价值12,431美元的未经请求的催款发票（垃圾发票），购买了虚假流量，最终收入为零。报告还披露了对生物武器滥用企图的拦截案例。
Efficient Attention Mechanisms for Large Language Models: A Survey
本文是一篇关于大型语言模型（LLMs）中高效注意力机制的综述，核心围绕Transformer架构中自注意力机制的二次时间和内存复杂度问题展开，系统梳理了两类主流高效注意力机制的研究进展，并探讨了其在预训练模型中的应用。核心问题：传统自注意力机制随输入序列长度增长呈现二次复杂度，限制了长上下文建模的效率和可扩展性。两类高效注意力机制线性注意力（LinearAttention）
Self-Improvement for Audio Large Language Model using Unlabeled Speech
近年来，音频大语言模型迅速兴起，在各类语音任务中展现出强大的泛化能力。然而，由于语音信号的固有复杂性，这些模型在特定目标域中不可避免地会出现性能下降。为解决这一问题，本文致力于在无任何标注数据的情况下提升音频大语言模型在目标域中的性能。我们提出了一种名为SI-SDA的自改进方法，该方法利用大模型解码中蕴含的信息评估生成伪标签的质量，然后基于强化学习优化进行域适应。
Improving the Performance of Sequential Recommendation Systems with an Extended Large Language Model
本文聚焦于大型语言模型（LLMs）在序列推荐系统中的应用，提出通过在LlamaRec框架中用Llama3替换Llama2来提升推荐性能。研究保持LlamaRec的原有结构（包括检索器和排序器的两阶段推荐流程），仅更换排序器中的LLM，并通过统一随机种子、相同输入数据等确保实验公平性。实验采用ML-100K、Beauty、Games三个常用数据集，结果显示：替换后排序器性能和整体推荐性能均显著提升，三个数据集的平均性能分别提升38.65%、8.69%和8.19%。
Mitigating Geospatial Knowledge Hallucination in Large Language Models: Benchmarking and Dynamic ...
本文聚焦大语言模型（LLMs）中的地理空间知识幻觉问题（即生成不准确或不一致的地理空间信息），系统性地开展了评估与mitigation研究。问题提出：LLMs虽已应用于移动预测、社会指标预测等地理空间任务，但存在地理空间知识幻觉，影响可靠性，而现有研究对其系统性评估和缓解不足。评估框架。
