开发者社区贡献 · 我的作品

作品 01

SamQuant C58 · Qwen3.8-Flash-Next 量化模型包

发布于 2026 年 10 月 · 持续可下载 · 数据实时同步自 Hugging Face

🧩

这个包是什么

把一个 125B 参数的大模型压缩到 90GB，让一台 128GB 内存的 Mac 就能在本地跑起来 —— 不联网、不上云、数据不出本机。适合对数据隐私有要求、又想要大模型能力的个人和团队。

90 GB 体积 101 个权重分片 128 GB Mac 可跑 4-bit 混合量化

Hugging Face

71次下载

⬇ 去下载

GitHub

完整项目主页：说明文档、下载与校验脚本、使用示例。

⌨ 看项目页

快速开始

hf download LOKSUN-158/SamQuant-Qwen3.8-Flash-Next-Uncensored-MLX-Serve-Mix-C58 --local-dir ./SamQuant-C58

需要 Python 3.10+。也可以在 GitHub 项目页用 download.py 一键下载并自动校验每个文件。

混合精度量化大块专家权重 4-bit、共享投影 8-bit、路由与一维张量保留原精度 —— 在体积和能力之间取平衡。

32GB 词表映射表ngram_table.bin 单文件 32GB，直接内存映射读取，不占满内存也能跑。

mlx-serve 原生格式专为 Apple Silicon 的 mlx-serve 引擎打包，M-series 芯片开箱即用。

完整可复现GitHub 提供下载脚本与逐文件 SHA-256 校验脚本，下载完即可自证完整。

质量与验收口径

发布前完成过 回读验收：远端 113 个文件与本地逐一对账（0 缺失、0 大小不一致），对 32GB 主表与 2 个权重分片做了双向 SHA-256 比对（逐字一致），并用无登录状态确认仓库公开可下载（HTTP 200）。也就是说：你现在从 Hugging Face 下载到的每一个字节，和我本机跑的是同一份东西。

关于这个页面

本页是长期收录页：凡是我做出来并公开给社区使用的作品，都会按时间顺序追加在这里，每件作品都附官方下载地址、项目主页和验收口径。主页只放精选与入口，完整清单以本页为准。

— 日后有新的开源作品，会继续往下追加 · 更新于 2026-10-10 —