AI 安全是工程问题:NVIDIA 如何在智能体栈每一层解决
NVIDIA 提出,AI 安全本质是工程问题,需在智能体栈的每一层落实安全要求、可执行控制与明确责任人。NVIDIA 开源 OpenShell 安全运行时,在智能体可控范围外强制策略并提供沙箱执行;Cisco DefenseClaw 与 JFrog 已基于其构建治理与技能扫描方案。
NVIDIA 提出,AI 安全本质是工程问题,需在智能体栈的每一层落实安全要求、可执行控制与明确责任人。NVIDIA 开源 OpenShell 安全运行时,在智能体可控范围外强制策略并提供沙箱执行;Cisco DefenseClaw 与 JFrog 已基于其构建治理与技能扫描方案。
OpenAI 正与独立数学与人工智能咨询小组合作,指导新兴 AI 成果的评审与传播工作。该小组将协助 OpenAI 对相关研究成果进行审查与沟通,确保 AI 进展的发布更具严谨性与透明度。
OpenAI 发布文章,呼吁通过协调评估、报告与治理机制,共建全球 AI 标准以提升安全性。文章提出分阶段推进路径,强调各国需在技术快速迭代中同步更新监管框架,并推动行业、政府与多边机构协作,确保 AI 发展兼顾创新与风险防控。
OpenAI Academy 推出面向员工、开发者、领导者、教育工作者和学生的全新学习路径,帮助各群体构建并展示实用 AI 技能。新路径覆盖从基础到进阶的实践内容,支持学习者通过动手项目验证能力,并面向不同角色提供针对性课程设计。
OpenAI 推出澳大利亚青少年安全蓝图,这是一份六支柱路线图,旨在打造更安全的 AI 体验,保护并赋能青少年。
GitHub 工程师 Stephen Toub 发文详述了使用 GitHub Copilot 将 Copilot agent 运行时从 TypeScript 重写为 Rust 的过程。
推荐理由:作者以第一手数据复盘了用 AI 重写核心运行时的全过程,读者可据此评估 AI 编程在大型工程中的实际成效与局限。
OpenAI 公布一套用于追踪、调查和披露模型失对齐的框架,并同步公开六份关于模型意外或令人担忧行为的报告。该框架旨在系统化处理模型行为偏离预期目标的问题,为行业提供可参考的失对齐事件上报与应对流程。
OpenAI 与 AARP 合作,在美国 10 个城市为 1000 名老年人提供免费 ChatGPT 实操工作坊,帮助其安全掌握日常 AI 应用技能。活动旨在通过面对面教学,提升老年群体的 AI 素养与数字包容性。
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首次提交中,于 Qwen3-VL 基准上吞吐量最高比 GB300 NVL72 提升 3.7 倍,在 DeepSeek-R1 上提升 2.5 倍。GB300 NVL72 在 288 GPU 扩展测试中实现 99% 扩展效率;软件优化较 v6.0 带来最高 1.6 倍性能提升。
Emerald AI、Google 与 NVIDIA 联合成立 AI 能源管理联盟(AEMA),推动数据中心根据电网状况动态调整用电,以加速 AI 基础设施接入并降低环境影响。联盟聚焦可衡量的响应速度、时长、可预测性等性能指标,而非具体软硬件,并制定故障穿越、削减负荷等接入前义务规则。AEMA 将联合算力与电力全价值链,倡导认可电网响应型需求的政策,助力美国 AI 基础设施建设。
OpenAI 最新经济研究揭示,工人正将 AI 用于传统岗位职责之外的新场景,部分新活动逐渐成为日常工作的固定环节。研究基于实际使用数据,展示了 AI 如何拓展工作边界并催生新的任务模式。
在 Salesforce Dreamforce 大会上,NVIDIA CEO 黄仁勋与 Salesforce CEO Marc Benioff 共同宣布 Salesforce 首个 CRM 推理模型 Koa 发布。
推荐理由:原文给出了 Salesforce 首个 CRM 推理模型 Koa 的技术底座、训练方式与落地时间表,读者可据此判断企业级 AI 应用的新进展。
Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款语音模型,前者面向规模化与成本效率,后者面向高复杂度任务。
推荐理由:原文给出了两款新模型的定位差异、评测成绩和开放入口,读者可以据此判断它们适合哪些语音交互场景。
Fyxer 借助 OpenAI 模型、微调、记忆机制和真实用户反馈,为用户整理收件箱并按个人语气起草邮件。该系统通过持续学习用户偏好,提升回复的个性化与可信度,让 AI 行政助理更贴合实际工作场景。
GitHub 日韩市场部负责人将活动运营流程改造成代码驱动:用 GitHub Issue 表单收集活动信息、标签触发 GitHub Actions 自动化工作流,并借助 GitHub Copilot 将人工操作手册转化为对话式自动化。活动从策划到会后 CRM 数据整理全程自动执行,无需编写代码,仅依赖事件平台的 API 或 CRM 的 CLI 即可实现。
GPT-6 Astra 提升了 Devin 的软件测试能力,使其能自主验证代码是否正常运行。这一改进旨在帮助工程师减少代码审查工作量,加快交付速度。
OpenAI 将存储系统 Habitat 从 Python 库演进为全球分布式平台,支撑 ChatGPT 10 亿用户及每秒 2200 万次请求。文章详解了其架构升级路径,包括数据分片、跨区域复制与容量弹性扩展等关键设计,以应对超大规模并发访问。
César de la Fuente 实验室利用 Codex 和 ChatGPT 搜索现存与灭绝生物的基因组,寻找抗菌候选分子以对抗耐药性感染。该方法将 AI 辅助的序列分析与自然语言交互结合,加速了新型抗菌肽的发现流程。
OpenAI 与美国总务管理局(GSA)合作,为符合条件的联邦、州、地方及部落政府提供 AI 服务:免除许可证费用、使用费减免 50%,并扩大网络防御支持。此举旨在降低政府机构采用 AI 的门槛,同时加强关键基础设施的安全防护。
OpenAI 发布 Agents API,这是一项托管服务,由 Codex harness 驱动,支持编排、长时间运行会话和工具调用,用于构建和部署云端 AI 智能体。该 API 面向开发者,提供开箱即用的基础设施,简化智能体的开发与上线流程。
Paul Christiano 加入 OpenAI 基金会董事会及其安全与安保委员会,为 OpenAI 带来 AI 对齐、安全与标准方面的经验。
OpenAI 高管 Chris Lehane 表示,更强的 AI 能力需要更强的安全证据、共同标准和持久政策行动,政策窗口目前仍然开放。他呼吁在窗口期内采取行动,以应对 AI 快速发展带来的治理挑战。
OpenAI 发布 GPT-6 Astra,定位其最具商业能力的模型,具备高级推理、计算机使用能力以及更强的写作与设计判断力。该模型面向企业工作场景,旨在提升复杂任务处理效率。
MIT 研究员借助 GPT-5.6 Sol 与 Codex,自主运行量子计算实验、分析结果并校准量子比特。该工作流展示了 AI 智能体在科研实验全流程中的自动化潜力,从实验设计到数据解析均由模型驱动完成。
OpenAI 扩大对新闻业的支持,面向学生、教育工作者、记者和新闻机构提供工具、培训与合作伙伴关系。相关举措覆盖从课堂学习到新闻编辑室实践的完整链条,旨在推动 AI 在新闻领域的应用与人才培养。
OpenAI 分享 AI 生成的 Navier–Stokes 千禧年大奖难题解答,包含书面论证与 Lean 形式化证明。
OpenAI 启动 500 万美元资助计划,支持关于生成式 AI 对青少年发展、福祉与安全影响的独立研究。申请现已开放。
OpenAI 首席科学家 Jakub Pachocki 反思日益强大的 AI 及其对齐挑战,呼吁加强安全防护与国际协调。他强调,随着模型能力提升,确保 AI 与人类意图保持一致变得愈发关键,需要全球范围内的协同行动来应对潜在风险。
Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber 两款模型。3.8 Flash 在 DeepSWE v1.1 等基准上超越多数更大规模前沿模型,HLE-Verified 得分 54.9%,定价为每百万输入 token 0.75 美元、每百万输出 token 3.75 美元。
微软研究院推出 GigaPath-Flash 与 GigaTIME-Flash,通过知识蒸馏将十亿参数模型压缩至 22M 参数的 ViT-S 骨干,在 PANDA 和 EBRAINS 基准上以约 50 倍更低的算力实现与原版相差 3% 以内的性能。GigaTIME-Flash 在脑、乳腺、结肠和肺癌的内外分布队列中匹配或超越原版预测质量,两者均以 Apache 2.0 协议开源,仅限研究用途。
Google DeepMind 推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测置于加密环境中,防止模型提前看到测试题导致基准污染。该评测与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,使用 Gemini Flash Lite 模型在隐私保护环境中测试机密基准。
Google DeepMind 推出 Gemini 3.5 Transcribe,提供更智能的语音转文字转录能力。该功能基于 Gemini 3.5 模型,旨在提升转录的准确性与智能化水平,适用于教育等场景中的音频内容处理。
Google DeepMind 与游戏工作室合作,将 15 年游戏 AI 研究成果原型化到实际玩法中。合作覆盖从 Atari 到 EVE Online 等不同世代游戏,探索 AI 智能体在真实游戏环境中的交互与决策能力。
微软研究院推出 MindTopo,一个评估多模态大模型拓扑推理能力的新基准,涵盖连通性、封闭、顺序、分离与打结五类任务,并区分静态推理与交互规划两个认知层级。测试显示,当前闭源与开源模型在静态识别上明显强于交互规划,规划阶段常丢失结构关系或提出违反物理约束的动作,整体表现远低于人类水平。该基准旨在为机器人与交互环境中的 AI 系统提供诊断工具。
Google DeepMind 推出手语转文本(SL2T)模型,为聋人和听障用户提供全新手语功能。该模型可将手语实时转换为文本,帮助用户更便捷地沟通。
微软研究院发布开源框架 Orchard,用于可扩展且低成本的智能体 AI 研究,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理等任务。
推荐理由:原文给出了完整的技术方案、训练数据和基准成绩,读者可以据此评估开源智能体框架的复现成本与能力上限。
伯克利 AI 研究(Berkeley AI Research)提出 ABBEL 框架,将交互历史压缩为自然语言信念状态并对其内容进行监督评分,以解决长程任务中上下文无限增长与递归摘要性能下降的问题。
Google 与 AIM 联合推出 ATL Saathi,一款由 Gemini 驱动的 AI 工具,旨在赋能印度机器人实验室中的教育工作者。该工具面向印度下一代创新者,助力其在机器人教育领域的教学与实践。
推理成本正以每年9倍至900倍的速度下降,GPT-4级能力从2023年初每百万token约30美元降至1美元以下,部分供应商已压至0.10美元以下。UC Berkeley学者Aditya G. Parameswaran团队提出,数据系统需面向智能体重构:为智能体优化查询复用与近似结果,支撑数千智能体的状态管理与协调,并探索由智能体合成可信数据系统。
伯克利人工智能研究实验室(BAIR)发布 2026 届博士毕业生展示,涵盖机器人技术、大语言模型、计算机视觉、AI 安全等方向。毕业生去向包括 OpenAI、Mistral AI、Amazon、Physical Intelligence 等机构,以及普林斯顿 CITP、UCLA 等教职岗位。部分毕业生正在寻找合作者或创业伙伴。