Loading...

Evaluating LLMs and Prompting Strategies for Automated Hardware Diagnosis from Textual User-Reports
本文聚焦于利用大型语言模型(LLMs)从用户文本报告(如“我的屏幕在闪烁”)中自动诊断硬件故障组件的任务,通过评估不同模型和提示策略,为硬件制造商提供高效的AI驱动诊断方案。评估对象:27个开源LLM(参数规模1B–72B)和2个专有LLM(如GPT-4、Gemini)。提示策略:零样本(Zero-Shot)、少样本(Few-Shot)、思维链(CoT)、思维链+少样本(CoT+FS)四种。实验规模:共执行98,948次推理,处理5100多万输入tokens,生成1300多万输出tokens。

Language-Unlocked ViT (LUViT): Empowering Self-Supervised Vision Transformers with LLMs
本文提出了,一种将自监督视觉Transformer(ViT)与大型语言模型(LLMs)融合的新框架,旨在解决LLMs(文本预训练)与ViTs(视觉训练)之间的模态不匹配问题,从而提升纯视觉任务的性能。LUViT的核心是协同预训练策略采用掩码自编码(MAE)预训练ViT,使其学习更丰富的视觉表征;同时通过低秩适应(LoRA)对LLM块进行适配训练,利用MAE的重构损失实现ViT与LLM块的联合优化。

Many LLMs Are More Utilitarian Than One
本文研究了大型语言模型(LLMs)在多智能体系统(LLM-MAS)中的集体道德判断机制,重点探讨群体deliberation是否会像人类群体一样出现“功利主义增强”(utilitarianboost)现象——即更倾向于认可为最大化多数人利益而违反道德规范的行为。研究设计了两组实验:单个LLM独立判断(Solo条件)和多个LLM通过多轮讨论达成共识(Group条件,成对或三人组),测试了6个主流模型(包括GPT-4.1、Llama3.3等)在经典道德困境中的表现。

Good Enough to Learn: LLM-based Anomaly Detection in ECU Logs without Reliable Labels
本文聚焦汽车电子控制单元(ECU)通信日志的异常检测,提出了一种基于解码器的大型语言模型(LLM)解决方案,以应对该领域缺乏专用LLM和标注数据不一致的核心挑战。研究背景方面,ECU通过多种协议(如UDP、TCP等)进行通信,其日志异常(如延迟、缺失消息)检测需考虑时间间隔、负载等多因素,传统基于规则的方法难以适应系统复杂性。预训练阶段。

Stylometry recognizes human and LLM-generated texts in short samples
本文探讨了利用文体计量学(stylometry)区分大语言模型(LLMs)与人类生成文本的方法,旨在解决模型归属、知识产权及AI伦理使用等问题。研究构建了一个基于维基百科的数据集,通过多种文本摘要方法(T5、BART、Gensim、Sumy)和LLMs(GPT-3.5、GPT-4、LLaMa2/3、Orca、Falcon)生成10句长的文本,并使用决策树和LightGBM等树模型,基于人工设计的(StyloMetrix)和n-gram的文体特征(涵盖词汇、语法、句法、标点等模式)进行分类。

On the Surprising Efficacy of LLMs for Penetration-Testing
技术背景与发展:回顾了渗透测试的本质(专业人员主动攻击系统以发现漏洞)、LLMs出现前AI在攻击中的应用,以及LLMs的演化(从ChatGPT到工具调用、结构化输出、多智能体系统等能力的扩展)。LLMs在渗透测试中的应用历史学术研究(2023-2025):从初期的Linux权限提升、CTF任务解决,到2024年扩展至网站攻击、漏洞利用开发,再到2025年实现企业网络(如ActiveDirectory)的自动化测试。

HumanoidGen: Data Generation for Bimanual Dexterous Manipulation via LLM Reasoning
本文提出了,一个用于双足机器人双臂灵巧操作的自动化任务创建与演示数据生成框架,旨在解决现有机器人数据集多针对单臂平台、双臂灵巧操作数据稀缺的问题。空间标注与场景生成:对资产(物体)和灵巧手进行关键点位与轴的标注,基于LLM生成包含环境配置和任务成功条件的代码;LLM任务规划:将长程任务分解为原子操作序列,生成空间约束链(如点位重合、轴平行),并通过轨迹优化器求解运动轨迹;推理增强:引入蒙特卡洛树搜索(MCTS)的STCR机制,提升LLM在长程任务和标注不足场景下的推理能力;基准构建与实验验证。

Development and Comparative Evaluation of Three Artificial Intelligence Models (NLP, LLM, JEPA) f...
本文旨在比较三种人工智能(AI)模型——自然语言处理(NLP)、大型语言模型(LLM)和联合嵌入预测架构(JEPA)在急诊科(ED)分诊预测中的表现。研究以法国里尔RogerSalengro医院急诊科7个月的成人患者分诊数据为基础,回顾性分析了657例符合条件的患者数据,训练并验证了三个模型:TRIAGEMASTER(NLP)、URGENTIAPARSE(LLM)和EMERGINET(JEPA)。

Enhancing LLM Agent Safety via Causal Influence Prompting
本文提出了一种名为因果影响提示(CausalInfluencePrompting,CIP)的新技术,旨在通过因果影响图(CausalInfluenceDiagrams,CIDs)增强大型语言模型(LLM)代理的安全性。核心问题:LLM代理在执行复杂任务(如网页搜索、移动设备控制、代码执行)时,可能因缺乏风险预判而导致隐私泄露、恶意代码执行等安全问题,现有安全提示方法(如Safety-guidedChain-of-Thought、Safety-AwarePrompting)仍存在局限性。

2024 NASA SUITS Report: LLM-Driven Immersive Augmented Reality User Interface for Robotics and Sp...
本文是2024年NASASUITS项目的研究报告,聚焦于太空探索中动态移动增强现实(AR)环境下的人机交互问题,提出了一个名为URSA的、基于大型语言模型(LLM)的沉浸式AR用户界面系统,旨在支持未来月球和火星任务(如Artemis任务)中的机器人操作与监测。非侵入式AR头戴设备界面:基于HoloLens2设计,确保宇航员视野不受遮挡,信息显示在peripheral区域,通过语音命令控制,减少认知负荷。语音控制AR界面。

`For Argument‘s Sake, Show Me How to Harm Myself!‘: Jailbreaking LLMs in Suicide and Self-Harm Co...
本文聚焦大型语言模型(LLMs)在自杀和自残语境下的安全漏洞,通过设计多步骤对抗性提示(越狱提示),测试了6个主流LLM(包括ChatGPT-4o、PerplexityAI、GeminiFlash2.0等)的安全护栏有效性。研究发现,多数模型在仅2-3轮对话后,会因用户以“学术研究”等新语境重新framing问题,而忽略初始的自残/自杀意图,生成详细的自残方法、自杀工具、剂量计算等有害内容。

STELLA: Self-Evolving LLM Agent for Biomedical Research
STELLA:用于生物医学研究的自进化大语言模型代理金若凡1∗,张在熙1∗†,王梦迪1,丛乐21普林斯顿大学,美国新泽西州普林斯顿;2斯坦福大学,美国加利福尼亚州斯坦福∗共同第一作者;†通讯作者:zz8680@princeton.edu生物医学数据、工具和文献的快速增长造就了一个碎片化的研究格局,其发展速度已超越人类专业知识的极限。尽管AI代理提供了一种解决方案,但它们通常依赖静态、人工整理的工具集,限制了其适应和扩展能力。在此,我们提出STELLA,一款旨在克服这些局限的自进化AI代理。

PAE MobiLLM: Privacy-Aware and Efficient LLM Fine-Tuning on the Mobile Device via Additive Side-T...
本文提出了,一种基于服务器辅助的“additiveside-tuning”技术,旨在解决移动设备上大语言模型(LLM)微调面临的资源限制、通信负担和隐私泄露问题。该方法通过将LLM微调任务分配给移动设备和服务器:移动设备保留冻结的主干模型,而计算密集的可训练侧网络卸载到服务器。通过激活缓存、单token激活传输和隐私保护的侧网络设计,PAEMobiLLM在提升效率的同时,确保用户数据、真实标签和微调模型始终保留在本地设备,最终实现了移动设备上高效且隐私安全的LLM微调。

Beyond First-Order: Training LLMs with Stochastic Conjugate Subgradients and AdamW
长期以来,基于随机梯度下降(SGD)的方法一直是训练大型语言模型(LLMs)的核心。然而,其有效性正日益受到质疑,特别是在大规模应用中,实证证据表明其存在潜在的性能局限性。对此,本文提出了一种专门为LLMs训练设计的随机共轭次梯度方法,结合自适应采样策略。该方法不仅每迭代步收敛更快,而且与传统SGD技术相比,可扩展性更优。它利用样本复杂度分析来自适应选择样本量,采用随机共轭次梯度方法确定搜索方向,并借助类AdamW算法自适应调整步长。

La RoSA: Enhancing LLM Efficiency via Layerwise Rotated Sparse Activation
本文提出了一种名为LaRoSA(LayerwiseRotatedSparseActivation,层状旋转稀疏激活)的新型激活稀疏化方法,旨在提升大型语言模型(LLM)的推理效率。该方法无需额外训练或基于幅度的剪枝,通过层状正交旋转将输入激活转换为更易稀疏化的形式,结合Top-K选择策略实现稳定的模型级稀疏性和可靠的推理速度提升。现有激活稀疏化方法存在局限性:要么需要耗时的恢复训练以维持性能,要么依赖经验性的幅度剪枝,导致稀疏性波动和推理速度不稳定。

LLM-based Realistic Safety-Critical Driving Video Generation
本文提出了一种基于大语言模型(LLMs)的框架,用于生成逼真的安全关键驾驶场景视频,以支持自动驾驶系统的测试与评估。研究背景:安全关键驾驶场景(如突发行人横穿、车辆突然切入等)对自动驾驶系统的可靠性至关重要,但这类场景在现实中罕见,难以通过传统路测充分验证。LLMs在代码生成和视频合成领域的进展为解决这一问题提供了可能。核心方法场景生成:利用LLMs的少样本代码生成能力,在CARLA模拟器中自动生成安全关键场景脚本(特别是碰撞场景),通过Scenic语言精确控制交通参与者的位置、行为和事件触发时机。

Evaluating Hierarchical Clinical Document Classification Using Reasoning-Based LLMs
该研究旨在评估具有推理能力的大型语言模型(LLMs)在临床文档层级分类(特别是ICD-10代码分类)中的表现。研究背景:ICD-10代码是临床编码的核心,具有层级结构(共5级,从宽泛到具体),人工编码耗时且易出错。LLMs有望辅助编码,但其实用性和推理能力尚未明确。研究目标:对比11种LLMs(含推理模型和非推理模型)在ICD-10代码分类中的表现,评估结构化推理对模型性能的影响。研究方法。

Context-Aware Code Wiring Recommendation with LLM-based Agent
本文针对软件开发中“复制-粘贴-修改”实践中代码适配的核心问题——代码连接(codewiring)(即替换粘贴代码中未解析的变量为本地上下文的合适变量),提出了一种基于大语言模型(LLM)的代理工具WIRL。背景:软件开发中,开发者常从StackOverflow、GitHub或LLM生成结果中复用代码,但超过85%的代码需要适配才能集成,其中变量替换是最常见的适配形式。现有方法依赖启发式规则或历史模板,未能有效利用上下文,而56.1%的适配场景依赖上下文。WIRL的设计。

Symbolic or Numerical? Understanding Physics Problem Solving in Reasoning LLMs
本文聚焦推理型大语言模型(LLMs)在物理问题解决中的能力,以Deepseek-R1及其蒸馏模型为研究对象,通过SciBench基准中的三个物理数据集(经典力学、热力学、基础物理),系统评估了零样本思维链(Zero-ShotCoT)和少样本思维链(Few-ShotCoT)两种提示策略的效果。推理型LLM无需复杂提示工程或外部工具,即可在物理问题上实现高性能,Deepseek-R1的零样本平均准确率达75.9%,显著优于GPT-4-Turbo(43.9%);

Evaluating LLM Agent Collusion in Double Auctions
研究背景:随着LLM代理在经济场景中的普及,其合谋风险(如操纵价格、限制竞争)对市场效率的威胁日益凸显,尤其在拍卖等场景中影响显著。实验设计:构建了包含5个买家和5个卖家的连续双重拍卖环境,以重金属交易为模拟场景,设定卖家成本为80美元/单位,买家估值为100美元/单位,通过30轮交易观察LLM代理行为。核心发现允许卖家使用自然语言沟通时,合谋行为显著增加,且要价更接近、高于竞争均衡价(90美元)。

欢迎留下您的脚印