DETER：预训练期间的抑制以防止篡改

原文：DETER: Suppression During Pretraining for Tamper Resistance

开放权重语言模型可以获得可能导致生物、化学或网络滥用的知识。任何限制此类知识的尝试都必须在模型权重发布后仍然有效，并且可以进行微调。预训练后应用的取消学习可以快速撤消，而过滤预训练语料库会带来更大的阻力。我们问是否主动压制知识

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。