跳到正文
今天11月6日周五4 条
  1. OpenAI News88

    OpenAI 用自主流水线在 Linux 内核发现 948 个本地提权漏洞并生成补丁

    OpenAI 公布一条自主漏洞发现、验证、利用与补丁生成流水线,在一次运行中用一款尚未发布的网络安全模型在 Linux 内核中动态复现 1724 个漏洞,并生成 948 个可获取 root 权限的本地提权(LPE)利用,API 成本约 121.3 万美元,折合每个 LPE 利用 1279 美元。

    推荐理由:OpenAI 公开了一条自主漏洞挖掘流水线的完整成本与产出数据,可用于比较模型能力提升与自动化安全研究的投入产出。

  2. TechCrunch · AI52

    YC初创公司Discovered Materials悬赏100万美元征集AI解决五个材料科学难题

    成立数月的旧金山初创公司Discovered Materials宣布设立总额100万美元的奖金池,征集AI模型解决五个材料科学开放问题,包括解释铜氧化物超导机理、预测硅与二氧化硅界面结构的数值方法、将晶粒结构映射到热学性质、解释光照改变材料行为的理论,以及改进密度泛函理论的数值方法。

  3. Microsoft Research64

    Microsoft Research 发布 PDD Kit,用形式化验证约束智能体编写的全栈 Web 应用

    Microsoft Research 联合 GitHub Next 发布研究原型 PDD Kit,把开发者的意图转成 Verus 形式化规格,再证明智能体写的代码对每个输入都满足该规格,证明覆盖不到的部分则回退到测试。

    推荐理由:原文完整展示了从自然语言意图到 Verus 形式化规格、再到证明与测试的流程,可据此判断智能体生成代码的审查方式会如何变化。

11月5日周四
11月4日周三
11月3日周二
  1. MIT Technology Review · AI40

    逆向博弈论如何约束 AI 智能体

    MIT 经济学家 Stephen Morris 等人在预印本论文中提出用“逆向博弈论”(机制设计)约束 AI 智能体,例如让模型预测另一个模型的答案来防止测试中故意藏拙。普林斯顿教授 Elad Hazan 则设想让模型轮流扮演解题者与审计者,作弊的解题者和失职的审计者都受罚。该思路假设智能体能对激励做出理性反应,而这一假设本身仍存疑。

11月2日周一
10月30日周五
10月28日周三
  1. Google Research59

    Google 提出 sleep 框架,让 LLM 在持续学习中保留知识

    Google Research 提出 sleep 框架,让 LLM 在活跃交互与离线睡眠阶段之间交替,把短期上下文巩固进长期参数。睡眠阶段通过 MoE 参数扩展、基于 GKD 与 RL 模仿学习(LTI)的知识播种以及突触剪枝完成记忆巩固,再通过随机专家选择、梯度筛选的合成样本和 RL 精修进行自我提升。

10月26日周一
10月22日周四
  1. Microsoft Research71

    微软研究员证明 31 年未解的 KLS 猜想

    微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,证明在高维对数凹分布下,最佳超平面切割与任意形状最佳切割的差距不超过一个与维度无关的固定常数。研究采用人机协作的智能体搜索流程,探索了约 100 条候选路径,由研究者评估、剪枝并决定方向;同期另有独立团队给出完整证明,并有 Lean 4 形式化验证发布。

    推荐理由:微软研究员与合著者借助人机协作的智能体搜索证明 KLS 猜想,读者可了解 AI 在数学发现中的具体分工。

10月17日周六
  1. Google Research71

    Google Research 介绍让 AI 智能体扎根生物实验现实的三项研究

    Google Research 发布博客,介绍三项把 AI 智能体与真实湿实验室实验连接起来的研究:VERID 框架为实验室工作单元建立语义数字孪生,让智能体在动作前检查 3D 状态、做虚拟试运行并拦截无效指令。

    推荐理由:Google Research 用三个项目展示智能体如何接入湿实验室的物理状态与闭环实验,读者可了解其安全与可复现设计。

10月16日周五
  1. Microsoft Research66

    微软研究院推出 Magnetar:基于证明的通用计算 zkVM

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序执行过程,在笔记本上每秒证明 720 万至 870 万条处理器指令。在 15 个基准程序上,它平均比现有最快的 zkVM 快 10 至 39 倍,证明验证耗时约 12 毫秒。其安全性只依赖 SHA-256、SHA-3 等标准哈希函数,不需要椭圆曲线、格密码、可信设置或未证明的纠错码猜想。

    推荐理由:微软研究院的 zkVM 把证明速度提升到此前同类系统的 10 至 39 倍,且只依赖标准哈希函数,读者可据此判断可验证计算的工程可行性。

10月15日周四
  1. Google Research62

    Google 扩展 Earth AI 地理空间推理智能体早期访问

    Google 扩展 Earth AI 地理空间推理智能体的早期访问,在 Ask Google Earth 中开放深度分析预览,并向开发者提供实验性 Agent-to-Agent API 和 Planetary Prediction Engine 预览。

    推荐理由:原文给出四组基准对比与合作伙伴实测,可据此判断专用地理工具与前置规划对空间推理的实际增益。

10月12日周一
10月5日周一
9月7日周一
7月29日周三
7月26日周日
  1. Berkeley AI Research40

    ABBEL:通过信念状态更新让 LLM 高效完成长程交互

    伯克利 AI 研究提出 ABBEL 框架,将 LLM 的交互摘要建模为自然语言"信念状态"并对其内容做监督评分,从而在长程任务中替代完整交互历史作为工作上下文。在协作编码基准 CollabBench 上,基于重建的信念评分将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值上下文 token 数也明显低于全上下文设置。

4月20日周一
  1. Berkeley AI Research42

    GRASP:面向世界模型长时程规划的梯度规划器

    Berkeley AI Research 提出梯度规划器 GRASP,通过将轨迹提升为虚拟状态实现跨时间并行优化、在状态迭代中注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让世界模型的长时程规划更稳健。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型“状态-输入”梯度脆弱等问题。