明知错误:对法学硕士进行违背自己信念的培训可能会导致偏差
原文:Knowingly Wrong: Training LLMs Against Their Own Beliefs can Induce Misalignment
针对狭窄领域内的有害数据(例如糟糕的医疗建议)微调大型语言模型 (LLM) 可能会使其出现广泛的偏差。这种风险的现实程度尚不清楚,因为在实践中模型很少根据明显有害的数据进行微调。在这项工作中,我们表明,对模型认为是错误的但没有有害内容的数据进行微调,也可能导致广泛的误判
正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。
抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。