每日文摘
科技源速递 2026-10-26
今日 15 源采集共 186 条,新增 74 条,深挖 5 篇(venturebeat-ai 单源 429 失败,已降级)。
How We Deploy Trillion-Parameter Frontier Models on Cerebras
来源:hacker-news · 10-25 · 一句话:万亿参数MoE端到端跑在256台CS-3上的工程复盘
- 要点:
- Cerebras 联合 Eternity.Code 把万亿参数前沿 MoE(128 专家、2 激活、约 45B 激活参数)端到端部署到 256 系统 CS-3 集群——罕见的一手超大规模推理工程细节(CTO Davis Brown 亲笔)
- 关键工程件:分布式权重加载监控、基于 GEMM 指令的流水线并行与 AllReduce 优化、专家并行+分层 All-to-All 通信、实时遥测与自愈;目标是让万亿参数模型像单机一样可运维
- 为什么值得看:推理优化方向的高信息量素材——Wafer-Scale 路线如何解决 MoE 专家并行的通信瓶颈,与 vLLM/SGLang 的 GPU 集群方案是两条技术路线,做大规模部署选型时值得对照。
- 扩展资料:
- HN 讨论帖(343 分/123 评) — 社区对扩展性与成本效率的质疑与回应
OpenAI and Anthropic cut their LLM prices by up to 80%. Why?
来源:hacker-news · 10-25 · 一句话:五个月LLM降价时间线整理,四个假设解释为什么
- 要点:
- Max Woolf(BuzzFeed 数据科学家)整理 6-10 月公开降价:GPT-5.6 Luna 降 80%($0.20/$1.20)、GPT-6 系列对半、Opus 5.5 总成本降 40-60%、Fable 5.1 缓存读降 75%;Vercel 网关数据显示单 token 成本降至 4 月的 43.3%
- 四个解释假设:双方针锋相对的价格战;开源权重(DeepSeek、Kimi)与 29 家推理提供商把 LLM 打成商品;IPO 前窗口的谜之操作(推理毛利率据报高达 80% 才有降价空间);真实的基础设施效率提升(Anthropic 称 Opus 5.5 服务成本更低);作者否定「先亏本后涨价」论——竞争市场撑不起
- 为什么值得看:模型 API 与定价是兴趣画像里的常青关注点——这份带完整数据的时间线是做 agent 成本测算(缓存读主导 agentic 支出)与供应商锁定的最佳底稿。
- 扩展资料:
- minimaxir 原文 — 每次降价的模型/价格/日期对照表
A 10-year-old CNN outperforms frontier LLMs for skin cancer diagnosis
来源:hacker-news · 10-25 · 一句话:2015年的Inception v3微调20分钟,碾压GPT-6与Claude
- 要点:
- Lynch 实验室用 2015 年的 Inception v3 在 68,011 张 ISIC 皮肤镜图像上微调约 20 分钟(单张 H100),在 200 例活检确诊病灶测试中总准确率 62%(125/200),而 GPT-6 Astra 与 Claude Fable 5.1 均只有 42%
- 最关键的黑色素瘤(最高风险类):CNN 对 13/30,两个前沿 LLM 分别 8/30 与 11/30;开篇病例里两个 LLM 都建议放走的薄层黑色素瘤被 CNN 正确拦截;LLM 还表现出诊断偏置(GPT-6 把 75 个病灶标成 BCC,实际只有 25 个)
- 为什么值得看:给「通用大模型吃掉一切」的叙事一记清醒剂——窄域专家任务上,十年前的专用架构+领域微调仍碾压前沿 LLM;对做 AI 产品选型(何时用 LLM、何时训练专用小模型)是直接的决策依据。
- 扩展资料:
- HN 讨论帖(325 分/167 评) — 医学 AI 与基准方法论的社区辩驳
Gheist campaign plants secret-dumping workflows using stolen GitHub tokens
来源:hacker-news · 10-25 · 一句话:被盗GitHub token植入窃密workflow的供应链攻击复盘
- 要点:
- Wiz 披露「Gheist」行动:攻击者用窃取的 GitHub token 在受害者仓库植入秘密外泄的 Actions workflow,实现规模化持久化窃取;Wiz 同时给出检测特征与缓解措施(token 最小化、workflow 审计、撤销轮换)
- 该行动此前还尝试武器化 Public ECR;此次在 GitHub 上的滥用「磕磕绊绊」被发现,但攻击面(CI 凭据)依然普遍存在
- 为什么值得看:coding agent 时代每个仓库都是一个待滥用的凭据池——CI/CD 凭据治理从「运维卫生」升级为「安全刚需」;自托管 Actions runner 与 agent 的 token 权限设计可对照自查。
- 扩展资料:
- Wiz 原文 — 攻击链、IOC 与缓解清单
The State of Context Engineering
来源:hacker-news · 10-25 · 一句话:一线实践者视角的context engineering全景综述
- 要点:
- Drew Breunig(dbreunig)梳理 context engineering 的现状:从重要从业者与研究者的工作出发,把「给模型喂什么上下文」系统化为工程学科——检索、记忆、工具输出编排、上下文预算分配
- 与今早头条日报的「提示词工程已死」互为印证:工程重心从单条 prompt 转移到 harness 与上下文管线,skill/记忆系统成为新战场
- 为什么值得看:agent 工程方向的一张地图——做 multi-agent/长期记忆系统前先按此综述对齐术语与流派,避免重复造轮子;文中索引的原始文献列表本身就是阅读清单。
- 扩展资料:
- 原文 — 综述正文与引文索引
今日一句话
- Grok releases the first seven minutes of its AI-generated ‘Odyssey’ — xAI 放出 AI 生成剧集《Odyssey》前 7 分钟,视频生成军备竞赛延伸到长叙事(techcrunch-ai)
- AI delivers ‘zero financial payoff’ to most companies, Apollo economist says — Apollo 首席经济学家称多数公司 AI 投入财务回报为零,与降价潮形成张力(techcrunch-ai)
- r/opensource just banned AI, non-English speakers, and more — 大型开源社区对 AI 内容的激进治理实验(the-verge-ai)
- Google’s AI search changes upended online publishing — AI 搜索对发布业生态的冲击复盘(the-verge-ai)
- AI use leads UC Berkeley math professor to see ’no point’ in grading homework — AI 代写让作业评分失去意义的教育冲击波(hacker-news,162 分)
- JetBrains Thinkrail — 同题今日 Trending 篇已深挖:JetBrains 轻量免费 IDE+内置 agent pi(hacker-news,124 分)
- Show HN: Hurston-1 open source TTS — 会说美国南方口音与黑人英语的开源 TTS,语音多样性补位(hacker-news)
- 60 元打造你的 vibe coding 神器:小米蓝牙遥控器 2 pro — 用遥控器给 coding agent 发暂停/继续指令的抠门妙招(sspai)