每日文摘
科技源速递 2026-09-16
今日 15 源采集共 187 条(venturebeat 仍 429,其余 14 源正常),新增 130 条,深挖 5 篇。治理线今天从呼吁落到制度:评估者标准、三巨头密谈、反垄断质疑同日成型。
AEF-1:第三方 AI 评估者标准浮出水面
来源:Latent Space · 一句话:AI 评估者论坛发布基线提案——xAI/OpenAI/Anthropic 均已签署
- 要点:
- AI Evaluator Forum(2025/12 成立)发布 AEF-1:独立第三方 AI 评估的基线标准,覆盖访问权限/利益冲突/资金关系/回避机制/透明度五方面;xAI、OpenAI、Anthropic 签署
- 与 Amodei《We Must Pace the Frontier》第一支柱"嵌入式评估者"(METR 类团队获类员工权限:工位/门禁/笔记本)几乎同期发布——AEF-1 恰好为这一角色给出操作标准(借鉴银行业驻场监督员惯例)
- 为什么值得看:安全线从"CEO 呼吁"进入"制度文本"阶段的标志——评估者这一新职业有了资质标准;值得跟踪:谁成为首批认证评估机构、有没有中国实验室签署
- 扩展资料:
内幕:OpenAI/Anthropic/Google 已就 AI 安全密谈数周
来源:TechCrunch(Bloomberg 首发)· 一句话:三家筹建行业标准组织——Altman 称"须在没有政府支持下推进"
- 要点:
- OpenAI 政策负责人 Lehane 证实:三方已磋商数周,正联合筹建行业性标准组织;OpenAI 将像 Anthropic 一样引入第三方评估者、支持 FRONTIER Act 的独立验证组织条款;Hassabis 七月就呼吁设新监管机构
- 内部顾虑:协调若被认定抑制竞争可能触反垄断法(Amodei 建议政府给有限豁免;Lehane 称不需要);与白宫的张力:Trump 斥安全担忧为"骗局"、AI 顾问 Sacks(有个人投资利益)附和
- 为什么值得看:四巨头公开表态(上周)的幕后原来早已开谈——**“绕开政府的企业自救协调”**是本周最重的新事实;观察点:标准组织成立时间表 vs 反垄断审查谁先来
- 扩展资料:
Schneier:《25 年大规模监控够了》
来源:Schneier on Security(HN 717 分,全榜最高)· 一句话:从 9/11 的"Collect it All"到 AI 分析——监控已成商业模式+执法常规
- 要点:
- 25 年史:9/11 后从定向监控转向骨干网截听+批量元数据(NSA 口号 “Collect it All → Know it All”);斯诺登披露→《美国自由法案》终止电话记录任意收集,但 Upstream/702 条款延续(702 已到期未续但存量监控延续到 2027 春)
- 现状:ICE 用监控抓移民追抗议者;Flock 车牌网络跨州追踪堕胎求诊者;FBI 局长证实从数据经纪人买美国人数据;情报界从未做过成本效益分析
- 方案:搜查令前置(含元数据,无论谁持有)+私人诉权+702 保持失效+“第四修正案不出售"法案+综合隐私法
- 为什么值得看:安全大师(与 Cohn 合著)的系统性檄文——给本周 LG 电视/汽车卖数据/Apple 始终聆听等散点事件提供了统一框架:监控基础设施已建成,AI 正在让它变聪明;9/11 二十五周年的时间节点赋予其分量
- 扩展资料:
Typesafe「System One Models」与首个模型 Jev:不会幻觉的快思考
来源:Typesafe AI(HN 449 分)· 一句话:不生成字符串、只输出类型安全结构——“前沿智能的函数调用”
- 要点:
- 新类别 SOM(借 Kahneman System 1/2 之分):与 LLM 的区别——输出预定义 schema 的类型安全值(“数学上不可能幻觉”)、并行生成一次查询完成(非逐 token)、RLCD 训练(校准决策而非 RLHF)
- 首个模型 Jev(取自经济学家 Jevons):端到端 70-500ms(比 LLM 快 40-200 倍)、输入 $0.042/MTok 输出免费;定位"智能 if 语句”:分类/路由/评分/提取等可组合模糊决策,直接嵌入软件
- 为什么值得看:对"万物皆 LLM"的一次漂亮反例——快思考(结构化决策)与慢思考(语言生成)分层建模;与 PyroDash(小模型求助时机)、字节级蒸馏同属"任务特化"大潮,但方向是类型系统而非模型规模;适合 agent 工具链里的路由/守门场景
- 扩展资料:
减速是安全协议还是卡特尔?反垄断视角的质疑
来源:The Verge · 一句话:批评者说它是"拦截竞争者、废掉开源、躲避真监管"的卡特尔
- 要点:
- 正方:减速只约束最大玩家(Kokotajlo 的削减算力方案明确会给小实验室追赶空间);外部安全倡导者呼吁在先,CEO 只是屈从压力并揽功
- 反方:十年前社交媒体"主动求监管"抢先机的剧本重演;Meta Oversight Board 式自愿监管无约束力;“自愿框架本质是监管俘获——不能让狐狸看鸡窝”;“中国"每次被当作逃避监管的稻草人
- 法律悬置:协调减速是否触反垄断法、是否需要豁免——文章停留在政策辩论层面
- 为什么值得看:给三巨头密谈(今日头条线)配上对立面——同一组事实的两套叙事(安全自救 vs 排他协议);判断工具:看最终标准是否对非签署方开放、是否真减算力(AI Futures Project 方案可查算力预算)还是纸面工作
- 扩展资料:
今日一句话
- X 的律师再次取消了 XCancel 的复活(The Register)— Nitter 线持续
- AWS 给 AI agents 建了"举报收件箱”(TechCrunch)— 举报者基础设施化
- 2035 年美国数据中心天然气消耗或超德日总和(TechCrunch)
- Salesforce×Nvidia 的新推理模型:AI 实验室该怕的东西(TechCrunch)
- 早期 Anthropic 员工+前 METR COO 创业:管住 rogue agents(TechCrunch)
- Wayback Machine 访问更新(Internet Archive)
- e-ink 画框听鸟叫并画出 180 种鸟(Show HN,1141 分全榜最高)(Hacker News)
- Java 27 发布(OpenJDK)
- Jean-Pierre Serre 100 岁了(数学史)— 在世传奇的世纪生日
- CSS-Tricks 命悬一线(Lobsters)— 前端社区老站的凋零