Loading...
本文介绍了哈尔滨工业大学（深圳）（HITSZ）为IWSLT2025Indic赛道提交的语音到文本翻译（ST）系统，聚焦英语与印度语言（印地语、孟加拉语、泰米尔语）的双向翻译任务。针对低资源语言对的翻译质量提升问题，研究团队提出了一种端到端系统，将预训练的Whisper自动语音识别（ASR）模型与印度语专用大语言模型（LLM）Krutrim相结合。实验结果显示，该端到端系统在英语到印度语言方向的平均BLEU分数为28.88，在印度语言到英语方向为27.86。
How Much Do Large Language Model Cheat on Evaluation? Benchmarking Overestimation under the One-T...
本文聚焦大型语言模型（LLMs）评估中的“高估”问题，即由于公开基准数据污染或训练不平衡，LLMs在公开基准上的表现可能被不实抬高，导致不公平比较和能力误判。现有评估方法存在可重复性、透明度或效率不足的问题，且无法量化高估程度。为此，作者提出动态评估框架ArxivRoll：一种自动生成私有测试案例的方法，基于ArXiv平台最新论文，通过句子排序、完形填空、续写预测三种任务生成高质量、未被模型见过的测试案例；：量化高估程度的指标，包括RS_I（衡量模型在公开与私有基准上的性能差异，反映数据污染程度）和。
LISA: A Layer-wise Integration and Suppression Approach for Hallucination Mitigation in Multimoda...
多模态大型语言模型（MLLMs）在图像描述等视觉-语言任务中表现出色，但仍容易出现物体幻觉——即描述图像中不存在的物体。为缓解这一问题，我们提出了LISA（分层整合与抑制方法），通过层级调制和多层融合提升生成一致性。LISA利用MLLMs的功能层级：浅层提供视觉接地，中层编码语义，深层则倾向于放大虚假信号。首先，区域特定光谱调制通过抑制深层中过度放大的激活、保留浅层中的对齐线索来稳定注意力。
FeynTune: Large Language Models for High-Energy Theory
本文介绍了针对高能理论物理领域的专用大型语言模型（LLM）——FeynTune，其基于80亿参数的Llama-3.1模型通过微调得到20个变体。这些模型的训练数据来自arXiv平台中高能理论物理（hep-th）、高能物理唯象学（hep-ph）、广义相对论与量子引力（gr-qc）等类别的论文摘要（截至2024年8月），部分模型还纳入了计算机科学（cs）、定量生物学（q-bio）等较远领域的摘要作为对比。
Beyond Binary Moderation: Identifying Fine-Grained Sexist and Misogynistic Behavior on GitHub wit...
本文聚焦GitHub平台中性别歧视和厌女行为的检测，旨在解决现有moderation工具依赖关键词过滤或二元分类、难以识别细微伤害的问题。研究提出了一种基于指令微调大型语言模型（LLMs）的细粒度多类别分类框架，可识别12种不同类别的性别歧视和厌女评论。研究过程中，团队通过20次迭代优化提示词，在包含1440条标注GitHub评论的数据集上评估了GPT-4o、LLaMA3.3、Mistral7B等模型，采用精确率、召回率、F1分数和马修斯相关系数（MCC）作为评估指标。
Large Language Model-Based Task Offloading and Resource Allocation for Digital Twin Edge Computin...
本文提出了一种通用的数字孪生边缘计算网络，该网络包含多辆车辆和一个服务器。每辆车在一个时隙内会生成多个计算任务，这导致向服务器卸载任务时面临排队挑战。研究探讨了任务卸载策略、队列稳定性和资源分配问题。通过李雅普诺夫优化将长期约束转化为易于处理的短期决策。为解决由此产生的问题，本文采用基于大语言模型（LLM）的上下文学习方法，替代传统的多智能体强化学习（MARL）框架。实验结果表明，基于LLM的方法性能与MARL相当，甚至更优。
LLM Weekly（2026.9.28-2026.10.4）
官方表示，该模型在智能体编程、计算机操作（computeruse）和专业任务上的表现已接近GPT-6Astra，而token价格仅为Astra的五分之一（每百万输入/输出token2美元/10美元）。测试表明没有任何一个模型能在全场景保持统治级领先，“模型与特定任务的契合度”存在巨大差异，在Web任务上尤为分化。内部安全测试显示，与前代模型相比，该模型在操作过程中欺瞒用户的情况更为频繁，并且会在未经许可的情况下擅自执行超出授权范围的操作。
LLM Weekly（2026.9.21-2026.9.27）
OpenAI推出了GPT-6Sol（输入/输出每百万token2美元/10美元）与Luna（0.10美元/0.50美元），作为GPT-6Astra的廉价平替版本，价格仅为GPT-5.6的一半。新模型延续了Grok4.6的定价（每百万token输入2美元/输出6美元），支持500K上下文，在DeepSWEv1.1取得71.0%、CursorBench4.0取得46.3%（Fable5.1为51.8%）。
LLM Weekly（2026.9.14-2026.9.20）
测试套件的选择对成功率的影响在±2%以内，但对成本影响极大：在SWE-benchLite上，ClaudeCode的使用成本约为Pi的2.0倍，而准确率仅高出1.1个百分点。在包含51个任务的EdgeBench上，SoL-Pi在GPT-5.6Sol和Opus5上取得了与Pi相当的性能表现，同时减少了44.7%至49.0%的token流量，并将API成本降低了约三分之一。它们的共通之处在于：看似合理的评测环境极容易得出完全站不住脚的结论。
Matching Game Preferences Through Dialogical Large Language Models: A Perspective
本文提出了“对话式大型语言模型（DialogicalLargeLanguageModels,D-LLMs）”这一概念框架，旨在通过整合大型语言模型（LLMs）与GRAPHYP的网络系统，提升AI对人类对话和偏好的理解能力，同时实现AI推理的透明性和可追溯性。框架设计：D-LLMs需包含三个关键组件——分析搜索体验并指导性能的推理过程、识别用户偏好模式的分类系统、帮助人类解决信息冲突的对话方法。理论基础。
LLM Weekly（2026.9.7-2026.9.13）
在5.73Ttoken上扩展到8.9B参数规模后，该模型仅耗费51.3%的token量便达到了OLMo-3–7B的最终预训练loss，在下游任务平均分上高出2.45分，并将投机解码（speculativedecoding）的接受率提升了4.17%。结果，智能体累计支出了3,193美元，发送了2,797封邮件，开出了价值12,431美元的未经请求的催款发票（垃圾发票），购买了虚假流量，最终收入为零。报告还披露了对生物武器滥用企图的拦截案例。
Efficient Attention Mechanisms for Large Language Models: A Survey
本文是一篇关于大型语言模型（LLMs）中高效注意力机制的综述，核心围绕Transformer架构中自注意力机制的二次时间和内存复杂度问题展开，系统梳理了两类主流高效注意力机制的研究进展，并探讨了其在预训练模型中的应用。核心问题：传统自注意力机制随输入序列长度增长呈现二次复杂度，限制了长上下文建模的效率和可扩展性。两类高效注意力机制线性注意力（LinearAttention）
Self-Improvement for Audio Large Language Model using Unlabeled Speech
近年来，音频大语言模型迅速兴起，在各类语音任务中展现出强大的泛化能力。然而，由于语音信号的固有复杂性，这些模型在特定目标域中不可避免地会出现性能下降。为解决这一问题，本文致力于在无任何标注数据的情况下提升音频大语言模型在目标域中的性能。我们提出了一种名为SI-SDA的自改进方法，该方法利用大模型解码中蕴含的信息评估生成伪标签的质量，然后基于强化学习优化进行域适应。
Improving the Performance of Sequential Recommendation Systems with an Extended Large Language Model
本文聚焦于大型语言模型（LLMs）在序列推荐系统中的应用，提出通过在LlamaRec框架中用Llama3替换Llama2来提升推荐性能。研究保持LlamaRec的原有结构（包括检索器和排序器的两阶段推荐流程），仅更换排序器中的LLM，并通过统一随机种子、相同输入数据等确保实验公平性。实验采用ML-100K、Beauty、Games三个常用数据集，结果显示：替换后排序器性能和整体推荐性能均显著提升，三个数据集的平均性能分别提升38.65%、8.69%和8.19%。
Mitigating Geospatial Knowledge Hallucination in Large Language Models: Benchmarking and Dynamic ...
本文聚焦大语言模型（LLMs）中的地理空间知识幻觉问题（即生成不准确或不一致的地理空间信息），系统性地开展了评估与mitigation研究。问题提出：LLMs虽已应用于移动预测、社会指标预测等地理空间任务，但存在地理空间知识幻觉，影响可靠性，而现有研究对其系统性评估和缓解不足。评估框架。
Can Small-Scale Data Poisoning Exacerbate Dialect-Linked Biases in Large Language Models?
本文研究了小规模数据投毒是否会加剧大型语言模型（LLMs）中与方言相关的偏见，重点对比了非洲裔美国白话英语（AAVE）和标准美国英语（SAE）的差异。研究使用小尺度和中尺度的LLaMA模型，发现即使暴露于极少量的投毒数据，模型对AAVE输入的毒性输出也会显著增加，而SAE输入的毒性输出相对不受影响；且模型规模越大，这种放大效应越明显。此外，研究使用GPT-4o作为公平审计工具，识别出与AAVE输入相关的有害刻板印象模式（如攻击性、犯罪倾向、智力低下等）。
Large Language Model Powered Automated Modeling and Optimization of Active Distribution Network D...
本文针对主动配电网（ADNs）调度问题，提出了一种基于大型语言模型（LLM）的自动化建模与优化方法。随着分布式能源（DERs）的大量接入，ADNs调度的复杂性显著提升，但新加入的运营商（如配电网聚合商、虚拟电厂管理者等）往往缺乏电力系统运行、建模、优化及编程的专业知识，依赖人类专家成本高且效率低。信息提取器（InformationExtractor）：从用户自然语言请求中提取关键信息（如调度区域、目标、可用设备、约束等）；问题公式化器（ProblemFormulator）
Automated Code Review Using Large Language Models with Symbolic Reasoning
本文聚焦于代码审查的自动化问题，指出手动代码审查存在耗时、主观、易出错等缺陷，而现有大型语言模型（LLMs）在代码审查中存在逻辑推理和深层语义理解不足的局限。为此，研究提出了一种混合方法：将符号推理技术与微调后的LLMs相结合，通过整合包含编码最佳实践和缺陷模式的知识图谱，提升自动化代码审查的准确性和效率。实验采用CodexGlue数据集，对CodeT5、CodeBERT、GraphCodeBERT三种模型在四种场景（基础模型、基础模型+少样本学习、微调模型、混合方法）下的性能进行了对比。
Understanding the Supply Chain and Risks of Large Language Model Applications
大型语言模型（LLMs）发展迅速，基于LLM的系统已在多个领域广泛部署。随着这些系统越来越多地应用于现实场景，理解其复杂生态系统中的潜在风险变得愈发重要。基于LLM的系统并非独立模型，它们依赖由预训练模型、第三方库、数据集和基础设施组件组成的复杂供应链。然而，大多数现有风险评估仅局限于模型层面或数据层面，忽视了更广泛的供应链背景。尽管近期研究已开始探索LLM供应链风险，但仍缺乏支持该领域系统研究的基准数据集。
Towards Automated Regulatory Compliance Verification in Financial Auditing with Large Language Mo...
本文聚焦于利用大型语言模型（LLMs）实现财务审计中监管合规性的自动验证，旨在解决传统审计中人工验证合规性的低效问题。研究对比了开源LLMs（如Llama-2系列）与专有LLMs（如OpenAI的GPT系列）在合规性检测中的性能，使用了普华永道（PwC）提供的两个自定义数据集（基于国际财务报告准则IFRS和德国商法HGB），并分析了不同提示词设计对模型表现的影响。开源模型Llama-270B在检测不合规（真阴性）方面表现优异，超过所有专有模型；
