这篇 ICLR 2025 的论文提出了“环境注入攻击”(EIA),揭示了网页智能体的一种新型隐私泄露风险。攻击者通过在网页 HTML 中植入隐藏恶意元素,诱导智能体在执行任务时,将用户的个人信息(PII)泄露出去。实验显示,针对特定 PII 的窃取成功率最高可达 70%。由于攻击后原任务仍能正常完成,用户难以察觉。论文强调,简单的提示词防御无效,需构建多层次的防御体系。
该论文提出 DeepTutor,一个以共享个性化引擎为核心的个性化学习框架,旨在解决大模型教育系统中问题辅导与问题生成相互割裂、缺乏持续学习者模型的问题。系统由静态知识基础(SKG)和动态个性化记忆(DPM)组成:SKG 提供课程知识依据,DPM 通过轨迹森林和学习者画像持续记录学习过程与薄弱点。DeepTutor 将辅导拆为“调查—引导—迭代生成”,将出题拆为“想法生成—题目/答案/解析生成”,并用独立 Validator 校验,使辅导与练习形成闭环。论文还提出 TutorBench 基准,实验显示其相比最佳基线整体提升 10.76%,验证了 SKG 与 DPM 对个性化教学的关键作用。
本文提出L3A,将解析持续学习方法ACL扩展到多标签类增量学习场景,目标是在不保存历史样本的情况下持续学习新类别并减轻遗忘。针对多标签数据中历史类别标签缺失的问题,方法利用上一阶段分类器为当前样本生成历史类别伪标签,形成更完整的训练标签;同时设计加权解析分类器,根据类别出现频率为不同样本分配权重,减弱高频类别主导、低频类别被忽视的问题。模型采用冻结的 TResNet-M 提取图像特征,并通过随机投影和ReLU映射到高维空间,最终利用加权岭回归的闭式解以及递归更新的 $R_t$ 和 $W_t$ 完成持续学习。实验表明,L3A在COCO和VOC多种增量协议下取得了较好的无回放多标签持续学习性能。