CoRD:耦合推出填补了政策蒸馏的盲点
原文:CoRD: Coupled Rollouts Fill the Blind Spot of On-Policy Distillation
政策蒸馏会根据自己的部署对学生进行培训,因此教师会达到,但学生不会,很少受到监督。我们引入了 CoRD(耦合推出蒸馏),它保留了策略上的损失,并且仅将训练状态的分布向教师移动,通过 sp 的最大耦合从学生和教师的几何插值中绘制推出
正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。
抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。