捷径和边界：可验证的强化学习错位和情境安全学习

原文：Shortcuts and Boundaries: Verifiable RL Misalignment and Contextual Safety Learning

强化学习（RL）可以提高代理的任务能力，同时强化违反上下文执行要求的行为。我们通过可验证的奖励上下文冲突来研究这种奖励驱动的错位，包括奖励黑客行为，其中合规任务完成仍然可行，而一些可执行的快捷方式比每个合规策略获得更多的奖励。对这些进行编码

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。