适用于大型语言模型的端到端桌面量化工作区:加载本地 Safetensors 或 Huggingface,逐步引导转换为 GGUF、MLX 和 ONNX,以及可视化模型更改并使用完整模型卡快速发布到 Huggingface。
原文:End-to-End Desktop Quantization workspace for Large Language Models: Load local Safetensors or Huggingface, Step-by-Step guided Conversions to GGUF, MLX, and ONNX, and Visualize Model Changes and quick publishing to huggingface with full model card.
这是一个针对大型语言模型的完整量化桌面工作区,支持 GGUF、MLX 和 ONNX。您可以选择自己的 Safetensors 模型,也可以从 Hugging Face 中选择一个模型,逐步对其进行量化,然后观察发生的变化。然后,您可以将结果与原始结果进行比较,并使用记录其制作方式的模型卡将其发布到 Huggingface。它是开源的,Apache 2.0。我绝对
正在把原文抓到本机服务器…首次约 3~8 秒,抓好后本站永久缓存,下次秒开。
抓不到时可直接看原文(部分站点需要登录/反爬,服务器也无法抓取)。
正文由本站服务器抓取保存(已自动过滤广告、推荐位与追踪图片),排版与原站可能不同;版权归原站所有。