51820 条内容 最近更新 1094 条 / 24h 保留 30 天 · 收藏永久 本地可读 1632 篇
时间范围
来源筛选(可多选)

🔥 正在热议(多家媒体同时报道的事件)

r/

跟上新的推理引擎的步伐

Hey everyone, Not a native speaker, happy to be corrected!只能借鉴一下。当我在 2025 年 3 月开始工作时,您有: ll​​ama.cpp ollama (重新打包的 llama.cpp 以便于使用) koboldcpp (重新打包的 llama.cpp 用于角色扮演) vllm (用于专业部署) exl3 + tabbyapi (用于前沿) litert (用于移动设备) 现在每个人似乎都在制作自己的;地层,玄武岩,五月

r/LocalLLaMA · 11-04 · 🔥3家 · 译
r/

Chinchilla 缩放定律的实验(遵循 DeepMind)[R]

向该小组中的所有博士和研究工程师提出问题。你们中有人用 Chinchilla 缩放定律(使用 PyTorch 或 JAX)做过小规模实验吗?如果是这样,我们很乐意听到更多信息(或进行交谈)。谢谢!这是来自 DeepMind 网站的 Chinchilla 官方论文(“训练计算最优大型语言模型”)。 https://deepmind.google/blog/an-empirical-analysis-of-compute-

r/MachineLearning · 11-04 · 译
r/

人工智能可以读取神经网络权重。我还没准备好。 [D]

为模型提供一个 17,253 个参数的网络作为纯标记化文本,它会计算出该网络扮演吃豆人游戏。 Astra、Opus 5.5 和 Muse Spark 1.3 都做到了,而 Astra 却用最少的推理做到了这一点。没有人写关于具体重量的文章,那么这项技能从哪里来呢?要么是实验室对其进行了训练,要么是模型的概括能力比我预期的要远得多。我倾向于第二个,这很奇怪

r/MachineLearning · 11-04 · 译