OpenAI 应对欧盟文本来源规则：文本水印的应用与检测
OpenAI 公布其应对欧盟文本来源规则的方法，涉及文本水印技术的应用范围与检测机制。水印检测权限将首先向研究人员开放，以平衡透明度与安全考量。
#数据与安全
#数据与安全
今日 0 条OpenAI NewsAI 评分2323
AWS Machine Learning BlogAI 评分3838 用 Amazon Bedrock AgentCore 为 Claude Desktop 添加安全联网搜索
Amazon Bedrock AgentCore 推出 AgentCore Gateway，可将 Claude Desktop 接入其 Web Search 能力，弥补模型训练知识截止带来的信息缺口。
AWS Machine Learning BlogAI 评分3838 用 Amazon Quick 与 Adjudicated Query 模式批量完成租赁合规审查
AWS 提出 Adjudicated Query 设计模式，让业务人员通过 Amazon Quick 聊天界面提出合规问题，而通过/不通过的判定由确定性规则引擎完成，模型仅负责翻译问题与叙述结果，不参与最终裁决。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 SynthID Bio，为 AI 生成的蛋白质添加水印
Google DeepMind 推出 SynthID Bio，将水印技术引入合成生物学，在保留蛋白质生物功能的同时嵌入不可见签名，并可在物理蛋白质上验证。实验显示，水印设计在结合亲和力、命中率和序列多样性上与未水印版本相当，首次实现了带水印且功能正常的蛋白质结合剂。
推荐理由：原文给出了水印技术的原理、实验验证和开放计划，读者可以据此判断它在生物安全与科研诚信中的实际作用。
Google DeepMindAI 评分5353 Google 为 Private AI Compute 新增安全服务器端记忆层
Google 宣布为 Private AI Compute 平台新增私有服务器端记忆层，实现跨设备持久AI记忆。该方案通过硬件安全飞地、加密通道和设备派生密钥，确保数据在云端处理时仍保持设备级隐私，即使 Google 也无法访问。同时发布防篡改软件记录及独立网络安全审计结果，邀请社区验证其保护机制。
OpenAI NewsAI 评分2323 OpenAI 提出有效第三方评估的优先事项与原则
OpenAI 公布对前沿模型及其安全防护措施开展严格、安全且独立的第三方 AI 安全评估的优先事项与原则，强调评估需具备严谨性、安全性与独立性，以提升评估的有效性和可信度。
NVIDIA BlogAI 评分3838 大规模部署物理 AI 为何要求每一层都具备安全性
ABI Research 预测到 2035 年将有 4900 万辆 L3-L5 自动驾驶汽车，Omdia 估计 2026 至 2035 年间将部署约 6000 万台工业机器人。
NVIDIA BlogAI 评分4040 AI 安全是工程问题：NVIDIA 如何在智能体栈每一层解决
NVIDIA 提出，AI 安全本质是工程问题，需在智能体栈的每一层落实安全要求、可执行控制与明确责任人。NVIDIA 开源 OpenShell 安全运行时，在智能体可控范围外强制策略并提供沙箱执行；Cisco DefenseClaw 与 JFrog 已基于其构建治理与技能扫描方案。
OpenAI NewsAI 评分2323 OpenAI 提出共建全球 AI 标准路径
OpenAI 发布文章，呼吁通过协调评估、报告与治理机制，共建全球 AI 标准以提升安全性。文章提出分阶段推进路径，强调各国需在技术快速迭代中同步更新监管框架，并推动行业、政府与多边机构协作，确保 AI 发展兼顾创新与风险防控。
OpenAI NewsAI 评分2626 OpenAI 发布澳大利亚青少年安全蓝图
OpenAI 推出澳大利亚青少年安全蓝图，这是一份六支柱路线图，旨在打造更安全的 AI 体验，保护并赋能青少年。
OpenAI NewsAI 评分4040 OpenAI 发布模型失对齐报告框架，附六起异常行为案例
OpenAI 公布一套用于追踪、调查和披露模型失对齐的框架，并同步公开六份关于模型意外或令人担忧行为的报告。该框架旨在系统化处理模型行为偏离预期目标的问题，为行业提供可参考的失对齐事件上报与应对流程。
OpenAI NewsAI 评分1818 OpenAI 提供 500 万美元资助，支持青少年发展与 AI 影响研究
OpenAI 启动 500 万美元资助计划，支持关于生成式 AI 对青少年发展、福祉与安全影响的独立研究。申请现已开放。
Google DeepMindAI 评分1818 Google DeepMind 发布 AI Control Roadmap：以传统防护与实时监控保障 AI 智能体系统安全
Google DeepMind 提出 AI Control Roadmap，用于保障内部系统安全，结合传统防护手段与实时监控，应对 AI 智能体带来的安全挑战。该路线图旨在通过多层次策略，确保智能体在受控环境中运行，并持续监测其行为以防范潜在风险。
Berkeley AI ResearchAI 评分3838 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，通过稀疏性和低阶性将交互发现转化为可解的稀疏恢复问题，实现大规模识别 LLM 中的关键交互。ProxySPEX 利用层级结构，以约 10 倍更少的消融次数达到与 SPEX 相当的性能。在情感分析任务中，SPEX 在上下文扩展至数千特征时仍保持高忠实度，优于 LIME 和 Banzhaf 等边际方法。