一位个人开发者，竟然在一众大厂中，杀进了抱抱脸 Models Trending 榜的前排？！

这是普通的一天，我也普通地刷着抱抱脸的 Trending 榜。

第一是 GLM-5.2，智谱最新开源模型，老熟人了，下载量 6 万多，不足为奇。

第二是百度的无限 OCR，最近悄悄开源的，一口气能解析 40 多页文档，下载量也来到了 7 万。

再往下看，突然出现了一个个人账号：yuxinlu1。

嗯……嗯？！

而且一占就是两个位置。

再一看下载量——最新数据已高达 20.7 万和 53.6 万。好家伙，这是什么神仙模型来了？

甚至在此前一周，这位个人开发者的模型一度霸榜抱抱脸，力压 GLM-5.2 一头，连智谱负责人都在 X 上公开推荐：

也就是说，在智谱、百度、Qwen、NVIDIA …这些名字中间，一个个人开发者账号硬生生挤进了 TOP，而且下载量还这么高。

不禁令人好奇：luyuxin 究竟是谁？怎么能量这么大？

"素人模型"冲上抱抱脸热榜

这波 Hugging Face 热榜，前排基本是大厂、明星团队和热门赛道在卡位。

比如智谱 GLM-5.2，753B 超大参数，国产明星大模型；百度 Unlimited-OCR，踩中了最近很火的 OCR 和文档理解方向。

再往下还有 Qwen 的 AgentWorld、英伟达的 LocateAnything、微软的 FastContext。

国产开源大模型的熟面孔也都在列：MiniMax M3、Kimi-K2.7-Code、DeepSeek-V4-Pro。

图像生成方向也有 Krea，新模型 Krea-2-Turbo 和 Krea-2-Raw 都在榜上。

结果里面还夹了两个luyuxin 的 12B GGUF 模型。

不 er …luyuxin 你也太醒目了吧…

仔细一看，这两个新模型，主要把Fable 5的编程推理能力，蒸进了一个本地能跑的Gemma4-12B小模型里。

4.5GB 显存就能跑，本地、离线、零 API 成本。普通玩家一张消费级显卡，甚至一台带统一内存的 Mac，就能把它跑起来。

两个模型的分工也不同。

V1 是Coder 版，主打写代码、解题、生成可运行代码。

据模型卡，它的训练数据是"可验证"的代码推理：每条思维链对应的代码，都得真跑过测试、通过了才留下。

教师数据主要来自 Cursor 的Composer 2.5，外加Fable 5—— Composer 2.5 做错的题，会交给 Fable 5 重新推一遍，生成新的推理链和正确代码。

V1 发布后，曾连续多日霸榜抱抱脸 Trending 榜榜首。

V2 是 agentic 版，加了多步工具调用能力，能当本地 Agent 用，会自己读、推理、动手、再验证。

作者还跑了 benchmark ——在 tau2-bench 的 telecom 子集上，基座 gemma-4-12B 得分 15%，V2 版模型得分 55%，大概是基础性能的3.5 倍。

不过作者也表示，这是本地自测、单一领域、20 个任务跑出来的相对值，不能跟官方榜直接比，他也坦白跟 frontier 大模型还有不小差距。

作者还提到：Fable 5 后来被下线了，只有他自己的数据集还保留着 Fable 5 "原始"的那份推理过程。

而社区贡献数据里缺失的那部分 reasoning，他改用 Claude Opus 4.8 ( xhigh ) 重新生成、一条条补了回来。

他也承认，重建出来的轨迹"可能和原版 Fable 5 有出入"，但这是当时唯一可行的方案。

他还在 discussion 里透露，这套微调数据其实只有约 1 万条 examples。他强调，数据量没有大家想象得那么重要，真正关键的是质量、筛选和验证。

这套模型之所以能在抱抱脸上有这么高的热度，还有一个很现实的原因：本地能跑。

这两个模型都是GGUF 量化版。

GGUF 是 llama.cpp 生态里常见的本地模型格式，用户可以用 llama.cpp、Ollama、LM Studio、Jan 等工具直接加载。

这对 coding 场景尤其有吸引力。毕竟写代码、看仓库、跑命令、调 bug，经常涉及私有项目和本地环境。能在自己机器上跑，就意味着不用把代码传到云端，也不用每次都付 API 调用成本。

更关键的是，它门槛不算高。

V1 模型卡里写到，最小的Q2_K版本约4.5GB，只要有约 4.5GB 显存或统一内存，就能跑一个私有、离线的编程助手。

作者推荐的甜点位是Q4_K_M，大小约6.87GB；更高质量的 Q8_0 则约11.8GB。

V2 因为更偏 agentic，作者没有放 Q2_K。理由是压力测试没过，不够可靠。

所以 V2 的最小可靠版本从Q3_K_M开始，约5.7GB；推荐的Q4_K_M依然是约6.87GB。

作者还提前剧透了后续计划—— V3 已经在路上。

他表示，V3 仍然会沿着 12B 这条线继续做 coding+agentic 方向。作者说，自己也没想到这次后训练的提升会这么大，所以接下来会继续往前推。

尤其是在 tau2-bench telecom 上，V2 还有一些"过度尝试、反复 retry "的问题，V3 会继续通过更多训练来改。

另一方面，他还在做一个更大的版本：Qwen3.6-27B。相当于把同一套 coding+agentic 配方放到更大的底座上，给显存更宽裕的用户用。

一个人，40 小时，杀进大厂中间

能单枪匹马冲上抱抱脸热榜，下载量加起来超 70 万，在一众大厂机构间杀出一席之地。

这位作者究竟是何方神圣？

量子位与作者取得联系后，也得知了他的故事。

他叫逯雨鑫，目前是美国一所高校在读的 AI 方向研究生，本科念的是数据与商业分析，中间还专门去补过一轮全栈开发，把前后端、软件开发、数据处理都学了。

这两个爆火模型，并不是他的主业，而是纯自费的个人项目。

"开源这东西其实只是花钱，并不会让你有任何收入。"他很清楚这一点，因此他做 V1 的最初动机，反而是"自我提升"：

学校教的知识更新太慢，他读研时教授讲的还是两三年前的内容，而 AI 日新月异，他干脆拿这个项目来逼自己追上最新的东西。

为了做这些模型，他烧掉了整整一个 Claude Max 20 × 套餐，单是 V2 就花了 40 多个小时。

一条条合成数据、手动清洗、训练、评测、再训练，几乎全是一个人扛下来的。

硬件上，他用的是一张 RTX 5090，显存为 32GB VRAM；另外还有约 96GB 的本地 SSD 资源可配合使用。实际能调动的资源规模大约在 128GB 左右。

对个人开发者来说不算差，但跟大厂和 AI Lab 的算力池完全不是一个量级。

他告诉量子位，整个过程里最耗时的其实不是训练，而是数据处理。

尤其是 agentic 数据，真实对话往往很长，一个任务可能有十几步，几千甚至几万个 token。但受限于显存，他训练时一次最多只能喂 2048 token。

所以他做了类似"滑动窗口"的处理：在每段多轮会话里，以最近一次用户消息为锚点，围绕一次工具调用，把上下文裁到预算以内。

V1 和 V2 都以 Gemma 4-12B 为底座。选它不是因为好做，恰恰相反，Gemma 4 的格式和工具协议都比较特殊，适配起来很麻烦，甚至很多客户端支持并不完善。

逯雨鑫表示，一方面是挑战自己；另一方面，是因为 12B 这个尺寸很有吸引力。

他算过，如果量化到 3bit 左右，很多 8GB 统一内存的 Mac 用户也能跑起来，还能留出一定上下文窗口。

我现在知道，很多人使用的电脑还是 8GB 左右的统一内存。所以我想在最大可能的参数量下，让更多人使用到。

逯雨鑫把本地模型的价值总结成两个词：

隐私，免费。

他觉得，很多人只是想让 AI 帮自己整理文件、处理数据、做 PPT，或者体验一下 agent，并不一定愿意每个月为 Claude、GPT 付费。

人可能就是想玩一玩，为什么非得要收费呢？

V1 发布后，他一开始没太关注榜单，只是像往常一样在模型卡里说：如果大家喜欢、下载量和 likes 多，他就继续做 V2。

没想到两三天后，模型突然从不知道多少名跳到第八；睡了一觉，又冲到第一。

随后，评论和 issue 大量涌进来。

他几乎每条都看。最多的时候，每天花三四个小时看 Hugging Face 评论、回复问题、测试用户反馈，再把结果告诉对方。

他表示："社区有需求，我是真的在去做，这才是最关键的。"

原来还是个爱看网文的…

在 HF 上，逯雨鑫总共发布了 9 个公开模型，除了两个爆火模型，他还做过"直接蒸 Claude "的模型。

比如 gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF，可以理解成通用版 Gemma4-12B 蒸馏模型。

它不只限定编程，更像是在把 Claude Opus 的回答风格、推理习惯、thinking 能力，往这个 12B 本地模型里压。

另一个模型则干脆换上 JetBrains 的编程模型 Mellum2 当底座，专做推理蒸馏。

再继续往下看…

等等，怎么还有网文的微调模型啊？

好家伙，还分了四个题材，都是中文网文 LoRA，而且全都基于 Qwen3.6。

逯雨鑫告诉量子位，这其实是他最早开始做 Hugging Face 模型的入口。

因为他自己本来就喜欢看小说。追一本没完结的小说时，读者焦虑；作者日更码字也很辛苦。

于是，他想做一整套免费的小说生成 pipeline，用不同风格的中文小说 LoRA，让作者能用 AI 提速，读者也能更快看到内容。

但中文小说 LoRA 在 HF 上并不算热门，后来他发现用户更关注 coding 和 agentic，于是方向慢慢转到了现在这条线上。

当问及他对其他个人开发者有什么建议时，逯雨鑫说：真诚和坚持最重要。

真诚，是不要夸大模型能力。哪里强，哪里弱，都说清楚。

你要如实告诉大家。我骗你说我这有多强，但真实使用下来出现很多问题，下次我一发东西，你就不相信我了。

坚持，则是开源作者必须接受这件事：你一定会遇到不好的声音。

模型火了以后，逯雨鑫也遇到过质疑，但他还是决定坚持下去。

在他看来，开源这条路本来就很难。

就算登顶 Hugging Face 热榜，也不会直接带来收入。更多时候，是自己花钱买算力、花时间处理数据、回复评论、修 bug，然后还要面对少数负面声音。

而支撑他一路做下来的，还有一种很个人的工作节奏。

逯雨鑫提到，自己患有 ADHD。

过去这可能意味着很难长期按部就班推进一件事，但在 AI 这个变化极快的领域，快速切换兴趣、迅速进入 hyperfocus，反而成了某种优势。

他甚至认为：" AI 时代是 ADHD 的天下。"因为一个方向凉下来后，如果还一直钻在里面，等再转去学新的东西，可能已经晚了。

聊到最后，我们也抛出了那个最初的问题：

作为个人开发者，凭什么能在大厂中间挤进前排？

逯雨鑫的回答很中肯。

他认为大厂当然能做得更好，有更多 researcher，也有更强算力。

但大厂发布开源小模型，往往还承担品牌宣传、API 引流等目标；而个人开发者没有这些包袱，反而可以更专注地解决一个具体痛点。

我很高兴，但不是说我真的全面打败了他们，只是可能更认真一些。

在他看来，这正是个人开源作者的机会：不必做全能模型，而是把一个足够具体的问题做到好用。

如果你也想体验一下这款本地模型，链接已经放在下方。

温馨提示：目前最适配的平台是 llama.cpp，优先推荐大家使用 ~

HF 地址：https://huggingface.co/yuxinlu1

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！

—  完  —

� � 点亮星标 � �

科技前沿进展每日见