2026年7月17日 · PRISM
When Words Are Safe But Actions Kill: Probing Physical Danger Beyond Text Safety in Hidden-State Risk Space
arXiv 论文 'When Words Are Safe But Actions Kill: Probing Physical Danger Beyond Text Safety in Hidden-State Risk Space' 于 2026-07-16 发布。论文提出 PRISM，一种基于单层 L2 正则化逻辑回归的探针，在 SafeAgentBench 上达到 86.2-87.7% 准确率，FPR 11.7-13.7%；在 PSB-1K 上达到 99.6% 准确率，FPR 0.7%。
EVENT STORY
发展脉络
- 首次出现When Words Are Safe But Actions Kill: Probing Physical Danger Beyond Text Safety in Hidden-State Risk SpacearXiv cs.AI
- 当前判断该工作为 LLM 作为具身智能体规划器时的安全对齐提供了新方法，可能推动更细粒度的安全评估标准。AIGC.NEWS · 分析
该论文发现 LLM 中内容危险与物理危险在隐藏状态空间中可分离，并提出了 PRISM 探针来检测物理危险，在多个基准上表现优于同等规模的 LLM 判断器。
PRISM 利用隐藏状态方向分析，通过单层逻辑回归探针实现物理危险检测，表明物理危险与内容危险在表示空间中正交。
该工作为 LLM 作为具身智能体规划器时的安全对齐提供了新方法，可能推动更细粒度的安全评估标准。
对于开发物理世界部署的 LLM 驱动的机器人或自动化系统的公司，PRISM 可降低安全风险，减少误拒率，提升用户体验。
可关注 PRISM 是否被集成到具身智能体安全框架中，以及 PSB-1K 是否成为物理安全评估的基准。