仔细观察语言模型内省：探测信息和报告

原文：A Closer Look at Language Model Introspection: Probing Information and Reporting

研究语言模型内省的一种方法是测试模型是否能够识别其激活受到干扰的位置。我们训练一个简单的线性分类器来从模型的激活中识别扰动的句子，然后将其预测与模型在预训练和注入强度方面的答案进行比较。这测试模型是否被要求报告信息t

正文由本站服务器抓取保存（已自动过滤广告、推荐位与追踪图片），排版与原站可能不同；版权归原站所有。