每日文摘
GitHub Trending 观察 2026-10-12
今日榜单 8 个仓库,新增 2 个,深挖 2 个。
lyogavin/airllm
语言:Jupyter Notebook · 总 star 36,408 · 今日 +541 · 一句话:4GB 显存跑 70B/671B 模型的逐层流式推理库
- 是什么:AirLLM 是一个 pip 安装的 Python 库,靠「按 decoder 层切分存盘、推理时逐层加载、GPU 上同一时刻只驻留一层」实现极低显存推理——不用量化/蒸馏/剪枝,瓶颈在磁盘 IO,属于「跑得起来比跑得快重要」的工具;近期还加入了小显存 LoRA 微调(125B 模型 6GB 内)。
- 为什么火:近期密集发布噱头性里程碑:Kimi K3(2.8T 参数)3.72GB 显存可跑、DeepSeek-V3(671B)约 12GB、Qwen3-235B 约 3GB;HN 上「AirLLM 70B inference with single 4GB GPU」8 月拿过 232 分 84 评论,本周重回 Trending 与最新版本发布相关(推测,官方未说明上榜原因)。代价是速度慢,靠 prefetch(+10%)与 4/8bit 块级量化(最高 3 倍)缓解。
- 值得看:与兴趣方向 1(推理优化)+3(自托管)直接相关:本地小卡机器「摸一下」前沿开源模型权重的最低门槛方案;但做服务要换 vLLM/SGLang,两者定位不同。
- 扩展资料:
- AirLLM 仓库 README — 机制细节:层切分、磁盘瓶颈、量化加速选项
- HN 讨论(232 分) — 社区对「4GB 跑 70B」的真实反馈与速度质疑
chrislgarry/Apollo-11
语言:Assembly · 总 star 74,187 · 今日 +496 · 一句话:阿波罗 11 号制导计算机原始源码,历史级真·硬核仓库
- 是什么:NASA/MIT 仪器实验室 1969 年编写的 AGC(阿波罗制导计算机)原始源码——指令舱 Comanche055(Colossus 2A)与登月舱 Luminary099(Luminary 1A),由 Virtual AGC 项目与 MIT 博物馆从纸质打印件数字化转录,公有领域,欢迎 PR 修正转录误差。
- 为什么火:未发现对应新闻事件(未核实);仓库带 hacktoberfest 话题标签,十月 Hacktoberfest 活动期贡献者涌入是合理推测。该仓库历史上多次上榜(2014 年 HN 311 分、2016 年 652 分),本身是「每次被提起都会火」的传奇仓库——合同页签名人正是 Margaret H. Hamilton。
- 值得看:与四个兴趣方向关联都弱,收它是纯历史/工程审美价值:AGC 只有 ~4KB 内存与 36K 字 ROM,读它能感受「约束下的软件工程」;对做嵌入式/资源受限推理(方向 1/3 的极端情形)也有启发。
- 扩展资料:
- Virtual AGC 项目 — 编译与模拟运行 AGC 源码的完整工具链
- HN 历史讨论(2016,652 分) — 社区历次考古讨论
今日一句话
- 无(今日新上榜仓库共 2 个,均已深挖;REA、AnyPS5、artcraft 等为此前已覆盖的持续热门)。