53647 条内容 最近更新 2071 条 / 24h 保留 30 天 · 收藏永久 本地可读 1927 篇
时间范围
来源筛选(可多选)

🔥 正在热议(多家媒体同时报道的事件)

r/

Lamplight - 从构建本地优先线束中汲取的经验教训

大家好!几年来我一直在构建自己的本地人工智能设置。我从这个 sub 和其他类似 r/localllm 中学到了很多东西,所以是时候我尝试回馈一些东西了。我向自己保证不会写一篇超长的文章,但无论如何还是成功了......希望它对某人有用!过去几年我的目标是将尽可能多的人工智能使用转移到本地,并且我

r/LocalLLaMA · 11-07 · 译
r/

Muir:具有灵敏度分配门控和匹配滤波器读出的线性注意力(Google Research,25MB 状态下的 10M 令牌)[R]

论文:https://arxiv.org/abs/2611.08376 | HF:https://huggingface.co/papers/2611.08376 在 10M 代币下,1.3B Transformer 需要 2.1 TB 的 KV 缓存(即使在 2.5 位量化时也需要 0.32 TB)。通道方式的门控增量模型(如门控 DeltaNet-2 / GDN-2)将历史记录压缩为固定的 25 MB 状态,但在 100B 令牌训练中遇到了 Muir 解决的三个瓶颈:100 倍慢通道眩光 -> 匹配

r/MachineLearning · 11-07 · 译
ar

仅哈希发送者能走多远?发送者内存与短文本消息位的预先注册映射

仅在接收方使用语言模型来计算哈希值的发送方是否可以比在同一域上训练的传统发送方更便宜地传输简短的人类文本?我们通过对 Taskmaster-1 中的 1,000 条英语用户话语进行一次预注册运行来进行回答。主要端点是每条消息传递 100% 消息的成本(哈希位,加上 2 字节否定确认和

arXiv cs.CL · 11-07 · 译