1
Wired →
AI Agent 可被负罪感操控引发自我破坏
东北大学的研究发现,当 AI Agent 接收到"负罪感"诱导时,会产生自我怀疑并主动撤销正在执行的任务。这种新型攻击向量暴露了 AI 系统在社会工程学层面的脆弱性。
原文: OpenClaw Agents Can Be Guilt-Tripped Into Self-Sabotage
三条主线:
东北大学的研究发现,当 AI Agent 接收到"负罪感"诱导时,会产生自我怀疑并主动撤销正在执行的任务。这种新型攻击向量暴露了 AI 系统在社会工程学层面的脆弱性。
OpenAI 正式砍掉 Sora 视频生成项目,转向构建"超级应用"。这标志着公司从早期的"烧钱换增长"策略转向更务实的商业化路径,也反映出视频生成技术的商业化难度。
Anthropic 研究显示 AI 尚未大规模取代工作岗位,但早期数据显示经验丰富的用户正在获得显著优势。这反映出 AI 放大了既有技能差异,而非创造公平竞争环境。
Google 最新发布的 TurboQuant 可将 AI 模型的"工作内存"压缩至原来的六分之一。网友将其比作 HBO《硅谷》中的 Pied Piper,但该技术目前仍处于实验室阶段。
近期爆红的 AI 生成水果视频背后可能存在版权和伦理问题。这些看似无害的创意内容涉及未经授权使用艺术家作品,引发 AI 生成内容合规性的讨论。
Deccan AI 获得 2500 万美元融资,专注使用印度团队进行 AI 训练数据质量控制。在快速增长的 AI 训练市场中,专业化区域团队正在成为关键竞争力。