LFM3 1.7b - 相当好
原文:LFM3 1.7b - Rather good
我终于抽出时间去尝试一下。这个微小的模型看起来能力惊人。还尝试了 2b VL - 也非常好,但它的上下文只有 1.7b 的一半。它也相当快: $ llama-bench -m LFM3-1.7B-Q8_0.gguf -fa 1 ggml_cuda_init:找到 1 个 CUDA 设备(总 VRAM:24112 MiB):设备 0:NVIDIA GeForce RTX 3090 Ti,计算能力 8.6,VMM:是,VRAM:24112 MiB |型号|尺寸|参数|
正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。
抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。