Loading...
WebAgent是由阿里巴巴通义实验室构建的用于信息搜索的工具集。项目提供了一系列模型和数据集,包括WebSailor、WebDancer-32B、WebWalkerQA等。这些模型和数据集在信息搜索和网页遍历等任务中展现出了卓越的性能。同时,项目还提供了相应的论文和在线演示,方便用户进一步了解和使用。WebSailor是一个专门为大型语言模型(LLM)代理设计的完整后训练方法,旨在让代理具备复杂网络导航和信息搜索任务所需的高级推理能力。
Are AI-Generated Fixes Secure? Analyzing LLM and Agent Patches on SWE-bench
该研究聚焦于大型语言模型(LLMs)和智能体框架生成的代码补丁的安全性,通过分析SWE-bench数据集中20,000+真实世界GitHub问题的修复补丁,对比了独立LLM(Llama3.3)、三种智能体框架(OpenHands、AutoCodeRover、HoneyComb)与开发者编写的补丁在安全性上的差异,并探究了导致漏洞的关键因素。
An AST-guided LLM Approach for SVRF Code Synthesis
标准验证规则格式(SVRF)在半导体应用中至关重要,如设计规则检查(DRC)、版图与schematic对比(LVS)和光学邻近校正(OPC)。随着节点不断进步,设计规则日益复杂,传统SVRF开发方式逐渐失效,且暴露出专业知识缺口,使SVRF面临挑战。本文提出一种融合抽象语法树(AST)嵌入与检索增强生成(RAG)的新型方法,用于增强SVRF代码合成。该方法通过结构验证确保语义准确性并最大限度减少错误,结合领域特定知识实现精准代码生成。
Partnering with AI: A Pedagogical Feedback System for LLM Integration into Programming Education
本文聚焦于将大型语言模型(LLMs)整合到编程教育中,旨在构建一个符合教学原则的LLM驱动反馈系统。研究首先通过与中学计算机教师的初步访谈,提炼出反馈策略的三个关键适应标准(学生表现、任务进度、学生输入),并结合已有的反馈模型,提出了一个新的教学反馈框架。该框架以任务描述、学生掌握水平、学生尝试成果和(可选)学生文本输入为输入,通过多代理LLM系统生成适应性反馈。为验证框架有效性,研究团队开发了一个基于Python的网页应用,并对8名中学计算机教师进行了混合方法评估(定量评分与定性访谈结合)。
Beyond Sociodemographic Prompting: Using Supervision to Align LLMs with Human Response Distributions
研究背景:现有利用社会人口统计学(SD)提示(如指定年龄、性别等)让LLMs模拟特定人群回答的方法存在局限,例如忽略群体内部的意见分歧、容易导致刻板印象,且效果受模型、数据集等因素影响较大。研究方法采用分布对齐视角,而非单一答案模拟,通过三种分布提取方法(verbalized直接生成分布、self-random多次采样单答案、paraphrase通过不同表述采样)从LLMs中获取回答分布。提出监督校准方法。
Serving LLMs in HPC Clusters: A Comparative Study of Qualcomm Cloud AI 100 Ultra and High-Perform...
本研究对高通CloudAI100Ultra(QAic)加速器进行了基准测试分析,评估了其在运行大型语言模型(LLMs)时的能效(每瓦吞吐量)和性能,并与主流NVIDIAGPU(A100、H200)及AMDMI300A进行了对比。研究在国家研究平台(NRP)的高性能计算(HPC)环境中开展。结果显示,在大多数情况下,QAic加速器的能效表现优异。本研究为高通CloudAI100Ultra在HPC应用中的潜力提供了见解。
Does Math Reasoning Improve General LLM Capabilities? Understanding Transferability of LLM Reasoning
本文研究了大型语言模型(LLMs)的数学推理能力是否能迁移到其他领域,以验证数学推理能力的提升是否反映了更广泛的问题解决能力,而非仅针对数学任务的过拟合。现象观察:评估20多个开源推理调优模型后发现,多数在数学任务(如MATH、AIME)上表现优异的模型,在科学问答、agent规划、编程、指令遵循等其他任务中表现不佳,迁移性较差。控制实验:以Qwen3-14B为基础模型,仅使用数学数据分别进行强化学习(RL)和监督微调(SFT)。
LLM-Mesh: Enabling Elastic Sharing for Serverless LLM Inference
本文针对中小型大语言模型(LLMs)的私有无服务器部署场景,提出了一种名为LLM-Mesh的推理方案,旨在通过异构硬件(CPU和GPU)的弹性共享提升服务能力。现有方案多采用独占GPU的部署模式,但存在资源利用率低的问题:一方面,带有内置加速器(如IntelAMX)的新兴CPU架构具备服务中小型LLM的能力却未被充分利用;另一方面,CPU和GPU均可同时容纳多个LLM。令牌级细粒度资源分配:在令牌生成过程中动态调整计算资源,应对波动的计算需求;协调式前瞻内存扩展机制。
Reliable Annotations with Less Effort: Evaluating LLM-Human Collaboration in Search Clarifications
本文聚焦于复杂、多维度的搜索澄清任务标注,探讨大语言模型(LLMs)与人类协作(Human-in-the-Loop,HITL)的有效性,旨在以更少的人力成本获得可靠标注。研究背景:传统信息检索(IR)评估依赖人类标注,成本高、难扩展。LLMs在简单标注任务中表现接近人类,但在主观、细粒度、高风险任务(如搜索澄清)中存在局限性(不一致、校准差、对提示敏感)。研究对象。
Generative Exaggeration in LLM Social Agents: Consistency, Bias, and Toxicity
本文研究了大型语言模型(LLMs)在模拟社交媒体政治话语时的行为,重点分析了其在2024年美国大选期间X平台(原Twitter)政治互动中的表现。研究基于1186个真实用户构建了LLM代理,通过“零样本”(仅提供最小意识形态线索)和“少样本”(提供用户近期推文历史)两种初始化方式,让代理回复政治相关推文,并对比了Gemini、Mistral、DeepSeek三个模型家族在语言风格、意识形态一致性和毒性方面的输出。生成夸张(generativeexaggeration)现象。
Transferable Modeling Strategies for Low-Resource LLM Tasks: A Prompt and Alignment-Based Approach
本文聚焦于低资源语言或领域场景下大语言模型(LLMs)的迁移与适应能力不足的问题,提出了一种基于提示和对齐的可迁移建模策略。该策略构建了一个统一框架,整合知识迁移模块与参数高效微调方法,通过引入知识对齐损失和软提示调优,引导模型在最少标注数据下有效吸收目标语言或任务的结构特征,同时结合轻量级适应模块降低计算成本,并采用冻结策略和提示注入保留模型原有知识以实现快速适应。
Quantize-Sample-and-Verify: LLM Acceleration via Adaptive Edge-Cloud Speculative Decoding
在边缘-云推测解码(SD)中,配备小语言模型(SLM)的边缘设备生成草稿token,再由云端的大语言模型(LLM)进行验证。此类系统的一个关键瓶颈是边缘与云端之间有限的通信带宽,这在实际边缘-云部署场景中对效率提出了更高要求。本文提出一种新颖的“量化-采样(Q-S)”策略,可证明地保持生成token的分布与LLM直接生成的分布一致。基于此模型,我们提出一种自适应机制,通过动态调整草稿长度和量化精度,以响应语义不确定性和信道条件,从而优化token吞吐量。仿真结果表明,所提出的Q-S方法显著提升了解码性能。
Toward Edge General Intelligence with Multiple-Large Language Model (Multi-LLM): Architecture, Tr...
本文是一篇关于边缘计算中多大型语言模型(Multi-LLM)系统的综述,核心目标是探索如何通过多LLM协作实现边缘通用智能(EdgeGeneralIntelligence,EGI)。演进背景:回顾了边缘AI的发展历程,从传统专用窄模型、单LLM部署,到多LLM系统的必要性——单LLM存在泛化能力有限、易产生幻觉和偏见等问题,而多LLM通过协作可整合优势、弥补缺陷。核心架构与技术多LLM的协作模式(合作式、竞争式、集成式);
EARN: Efficient Inference Acceleration for LLM-based Generative Recommendation by Register Tokens
研究背景:基于大型语言模型(LLM)的生成式推荐(LLMRec)虽性能优异,但因KV缓存的巨大计算开销和内存压力,推理延迟高,限制了实际应用(如需要毫秒级响应的工业场景)。现有方法局限缓存压缩:通过移除次要KV对减少缓存,但推荐任务解码步骤少(生成1-5个token),加速效果有限。提示压缩:通过缩短输入序列减少初始KV缓存,但难以区分推荐任务中用户交互的重要性,易丢失关键信息导致准确性下降。核心发现:通过分析LLMRec的注意力分数分布,发现两个关键特征:层间注意力稀疏度反转。
VEDA: Efficient LLM Generation Through Voting-based KV Cache Eviction and Dataflow-flexible Accel...
本文针对大型语言模型(LLMs)在边缘设备部署时面临的计算和内存资源挑战,提出了一种名为VEDA的定制加速器,通过算法、数据流和硬件的三重优化提升LLM推理效率。算法层面:提出基于投票的KV缓存淘汰算法,通过每个token的注意力分数作为“选票”,自适应识别不重要的KV向量,平衡硬件效率和算法准确性,解决现有方法的偏差问题。数据流与硬件层面。
Evaluating LLMs and Prompting Strategies for Automated Hardware Diagnosis from Textual User-Reports
本文聚焦于利用大型语言模型(LLMs)从用户文本报告(如“我的屏幕在闪烁”)中自动诊断硬件故障组件的任务,通过评估不同模型和提示策略,为硬件制造商提供高效的AI驱动诊断方案。评估对象:27个开源LLM(参数规模1B–72B)和2个专有LLM(如GPT-4、Gemini)。提示策略:零样本(Zero-Shot)、少样本(Few-Shot)、思维链(CoT)、思维链+少样本(CoT+FS)四种。实验规模:共执行98,948次推理,处理5100多万输入tokens,生成1300多万输出tokens。
Language-Unlocked ViT (LUViT): Empowering Self-Supervised Vision Transformers with LLMs
本文提出了,一种将自监督视觉Transformer(ViT)与大型语言模型(LLMs)融合的新框架,旨在解决LLMs(文本预训练)与ViTs(视觉训练)之间的模态不匹配问题,从而提升纯视觉任务的性能。LUViT的核心是协同预训练策略采用掩码自编码(MAE)预训练ViT,使其学习更丰富的视觉表征;同时通过低秩适应(LoRA)对LLM块进行适配训练,利用MAE的重构损失实现ViT与LLM块的联合优化。
Many LLMs Are More Utilitarian Than One
本文研究了大型语言模型(LLMs)在多智能体系统(LLM-MAS)中的集体道德判断机制,重点探讨群体deliberation是否会像人类群体一样出现“功利主义增强”(utilitarianboost)现象——即更倾向于认可为最大化多数人利益而违反道德规范的行为。研究设计了两组实验:单个LLM独立判断(Solo条件)和多个LLM通过多轮讨论达成共识(Group条件,成对或三人组),测试了6个主流模型(包括GPT-4.1、Llama3.3等)在经典道德困境中的表现。
Good Enough to Learn: LLM-based Anomaly Detection in ECU Logs without Reliable Labels
本文聚焦汽车电子控制单元(ECU)通信日志的异常检测,提出了一种基于解码器的大型语言模型(LLM)解决方案,以应对该领域缺乏专用LLM和标注数据不一致的核心挑战。研究背景方面,ECU通过多种协议(如UDP、TCP等)进行通信,其日志异常(如延迟、缺失消息)检测需考虑时间间隔、负载等多因素,传统基于规则的方法难以适应系统复杂性。预训练阶段。
Stylometry recognizes human and LLM-generated texts in short samples
本文探讨了利用文体计量学(stylometry)区分大语言模型(LLMs)与人类生成文本的方法,旨在解决模型归属、知识产权及AI伦理使用等问题。研究构建了一个基于维基百科的数据集,通过多种文本摘要方法(T5、BART、Gensim、Sumy)和LLMs(GPT-3.5、GPT-4、LLaMa2/3、Orca、Falcon)生成10句长的文本,并使用决策树和LightGBM等树模型,基于人工设计的(StyloMetrix)和n-gram的文体特征(涵盖词汇、语法、句法、标点等模式)进行分类。
