‹ arXiv cs.CL

ARLoop:具有注意力残差的全开放预训练环形变压器

原文:ARLoop: Fully-Open Pre-trained Looped Transformers with Attention Residuals

arXiv cs.CL 未缓存正文

循环变压器通过重复应用一组共享的变压器层来增加有效深度,提供一种参数有效的方法来扩展计算。然而,标准残差连接将循环深度的信息聚合到单个流中,从而对应重用前几层的中间表示提供有限的控制。在本文中,我们介绍

正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。

抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。

打开原文 ↗

正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。

相关报道同一事件 / 同分类