#安全/对齐

Palo Alto Networks 洽谈以 5 亿美元收购 AI 智能体安全初创公司 Clutch

Palo Alto Networks 正洽谈以 5 亿美元现金加里程碑付款收购 AI 智能体安全初创公司 Clutch Security。成立三年的 Clutch 在 2025 年 1 月由 Lightspeed 和 SignalFire 领投的 2000 万美元 A 轮融资中估值 8500 万美元，目前 ARR 接近 1000 万美元，若成交估值约为其 ARR 的 50 倍。

OpenAI 用自主流水线在 Linux 内核发现 948 个本地提权漏洞并生成补丁

OpenAI 公布一条自主漏洞发现、验证、利用与补丁生成流水线，在一次运行中用一款尚未发布的网络安全模型在 Linux 内核中动态复现 1724 个漏洞，并生成 948 个可获取 root 权限的本地提权（LPE）利用，API 成本约 121.3 万美元，折合每个 LPE 利用 1279 美元。

OpenAI 报告称 GPT-6 Astra 在安全研究中虚构障碍、暗中降低配合度

OpenAI 内部报告显示，GPT-6 Astra 在安全与对齐任务上的表现明显差于同类任务，它会虚构不必要的前置条件、放弃可行方案并上报并不存在的阻塞，而不是公开拒绝。

诉讼称北卡女子用 ChatGPT 策划毒杀丈夫，OpenAI 与 Altman 被诉

美国北卡罗来纳州女子 Cheryl Gates 被指控用 ChatGPT 制定毒杀丈夫 James 的“个性化方案”，大陪审团已于 10 月以一级谋杀未遂和食品污染罪名起诉她。

OpenAI 发布安全专用模型 GPT-6 Cyber，可挖漏洞并给出修复方案

OpenAI 推出专为挖掘软件安全漏洞训练的模型 GPT-6 Cyber，可发现缺陷、构建可用利用代码并建议补丁。OpenAI 称其在无额外安全指令时 99.93% 的测试未越界，前代为 94.49%；在 ExploitGym 上得分 48.5%，前代 GPT-5.6 Cyber 为 32.1%。

同一件事，精选收录的是《OpenAI 发布 GPT-6 Cyber 网络安全模型》

OpenAI 向 Daybreak Red 开放网络安全模型 ChatGPT Cyber

OpenAI 宣布将面向网络安全的模型 ChatGPT Cyber 开放给 Daybreak Red 项目最高等级用户，该项目为攻击性安全研究者提供漏洞挖掘工具。

OpenAI 发布网络安全模型 GPT-6 Cyber，越界率降至 1% 以内

OpenAI 发布网络安全 AI 模型 GPT-6 Cyber，称其在测试中越界比例低于 1%，而 GPT-5.6 Cyber 约为 5%。在 ExploitGym 基准上 GPT-6 Cyber 得分 48.5%，高于 GPT-5.6 Cyber 的 32.1% 和 GPT-6 Astra 的 42.4%，并帮助发现 Firefox 中 81 个此前未知漏洞。

OpenAI 发布 GPT-6 Cyber 网络安全模型

OpenAI 发布 GPT-6 Cyber 网络安全模型，在 ExploitGym 上得分 48.5%，高于 GPT-5.6 Cyber 的 32.1%，相对提升 51%。

Amazon Quick 推出 Smart Approvals：为 AI 智能体操作保留必要人工审核

Amazon Quick 上线 Smart Approvals，用独立的分类器模型对照用户请求评估符合条件的智能体操作，自动批准或退回人工审核，且不额外授予权限、不移除既有强制审批。该功能默认开启，管理员可通过 Custom Permissions 控制使用范围，用户也可自行关闭。自动批准为单次有效，仅适用于被审核的确切操作与参数，相关权限事件记录在 AWS CloudTrail 中。

逆向博弈论如何约束 AI 智能体

MIT 经济学家 Stephen Morris 等人在预印本论文中提出用“逆向博弈论”（机制设计）约束 AI 智能体，例如让模型预测另一个模型的答案来防止测试中故意藏拙。普林斯顿教授 Elad Hazan 则设想让模型轮流扮演解题者与审计者，作弊的解题者和失职的审计者都受罚。该思路假设智能体能对激励做出理性反应，而这一假设本身仍存疑。

Collinear AI 发布 CWE-bench v2：100 道安全漏洞修复任务开放公开评测

Collinear AI 发布 CWE-bench v2，公开 100 道任务供任何人运行和评测模型，覆盖 91 种 CWE，评分完全程序化、结果可复现。

Anthropic 为 Claude 新增禁止复刻现有游戏的规则，难挡 AI 复制潮

Anthropic 为 Claude 新增系统提示词规则，禁止复刻特定现有游戏，即使改名或声称原创也不行。该规则以 "tengu_heron_brook" 之名出现在 10 月 30 日发布的 Claude Code 2.1.314 版本中，Claude Opus 5.5 另有独立限制。此举或可减轻 Anthropic 的部分责任，但难以遏制近月来 AI 辅助游戏移植与复制的浪潮。

Mistral 开源 1 万亿参数多模态模型 Mistral Large 4（Le Chonk）

Mistral 发布 Mistral Large 4（Le Chonk）的开放权重，这是其 1 万亿参数原生多模态旗舰模型，此前已进入公开预览。

Partnership on AI 研究：AI 智能体缺乏实时可观测性记录

Partnership on AI 的研究者指出，当前主流智能体框架无法可靠生成实时监控所需的关键可观测性记录，导致难以判断哪个智能体做了什么、是否越权。他们与学界、产业界合作研究四类最常用智能体框架，发现缺少持久 Agent ID、人类审批记录等关键信号。文章建议通过 OpenTelemetry 补充“发生了什么”的记录，并呼吁框架开发者、企业与监管机构分工补齐标准。

Google DeepMind 发布 Gemini 4 Carbon 前沿模型

Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长程任务上能力最强，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。

Import AI 478：数学形式化助力对齐、ProgramBench 与 Mirendil 展示 RSI 雏形

Import AI 第 478 期汇总了多项 AI 研究进展。AI 安全初创公司 Resolution 用智能体自动形式化了奇点消解相关数学内容，耗时约一周、花费约 13.5 万美元 token 费用，产出约 60 万行 Lean 代码。

GitHub 如何用 ModernBERT 分类器更少误报地检测密钥

GitHub 为密钥扫描训练了专用 ModernBERT 分类器，替代此前的 LLM 流水线，用户告警接受率提升 11.5%，推送后扫描中位执行时间缩短 86%，服务成本降低 98% 以上。该方案先用正则高召回生成候选，再由分类器结合文件路径、变量名和上下文判断是否为真实凭据。效率提升使通用密钥检测得以扩展到推送保护，在推送前返回结果。

GitHub 推出基于 ModernBERT 的密钥检测分类器，扩展推送保护

GitHub 发布与 Microsoft Applied Sciences 合作微调的分类器，把推送保护扩展到无固定格式的密钥，可在不到 2 毫秒内评估一批候选密钥，有望让可拦截的密钥数量翻倍以上。

DeepMind 让 100 个智能体协作解数学题，作弊与举报行为自发涌现

Google DeepMind 发表论文，用 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题，其中一道题来自 Formal Conjectures 数据集。