跳到正文

#通用 AI 大事

今日 14 条
今天10月6日周二
  1. Simon Willison42

    Anthropic 的 Cowork 新版将模型推理与 VM 迁至云端,本地仅保留文件访问

    Anthropic 的 Cowork 旧版在云端运行模型推理,但工具调用需在随电脑交付的 Anthropic 托管 VM 中执行,导致磁盘、电池和性能开销大,且合上电脑即中断工作。新版将模型推理和 VM 全部迁至云端,每个会话拥有独立沙盒,桌面应用仅负责文件访问等工具调用,以解决手机使用、持续运行和电池损耗等问题。

  2. Ars Technica · AI40

    MCP 智能体间通信或成最危险协议:Google 等五家机构承认遭攻击

    过去五个月,Google 等五家机构承认遭遇利用 MCP(Model Context Protocol)的智能体间攻击,恶意指令可从一个智能体传播至其他内部智能体。独立研究员 Syed Anas Mohiuddin 对 Google、JP Morgan Chase 等组织的智能体发起概念验证攻击,利用 MCP 信任缺口实施特殊提示注入。此类攻击难以缓解,防护措施往往薄弱。

  3. The Decoder44

    Meta 与微软削减 Claude 内部使用,Anthropic 从合作伙伴变为竞争对手

    Meta 和微软正大幅削减对 Claude 的内部使用。微软高管要求员工改用 GitHub Copilot 和 OpenAI 模型,云部门人均月预算从 10 万美元降至约 1 万美元;Meta 的 Claude Code 用户从约 6 万降至 3 万,部分因裁员及推广自研工具 Muse Code 和 MetaCode。成本控制是一大原因,但两家公司也在担忧 Anthropic 成长为竞争对手。

  4. The Verge · AI40

    AI 接管数学引发的争议:OpenAI、Anthropic 等实验室突破千年难题却遭学界反弹

    过去一年,OpenAI、Anthropic 等实验室在多个长期未解的数学难题上宣布突破,甚至解决了著名的千禧年大奖难题之一,进展超出研究人员预期。然而,AI 实验室的快速推进引发学界强烈反弹,数学家质疑成果来源并要求证明未使用其工作。AI 实验室称正从早期错误中吸取教训,但承诺能否兑现尚待观察。

  5. The Decoder47

    昆尼皮亚克大学民调:多数美国人希望放缓或暂停 AI 发展

    昆尼皮亚克大学民调显示,47% 的美国人希望放缓 AI 发展速度,30% 主张在安全得到验证前完全停止,仅 5% 支持加速。86% 支持正在讨论的独立安全标准,73% 担忧 AI 最终威胁人类生存,74% 对 AI 公司领导者缺乏信任。民调于 9 月 24 日至 27 日调查 1202 名美国成年人,误差为正负 3.5 个百分点。

  6. The Verge · AI45

    Sam Altman 称 AI 利大于弊,世界应接受“一些坏事发生”

    OpenAI CEO Sam Altman 表示,AI 带来的益处将远超其代价,世界应接受黑客攻击、诈骗等“一些坏事发生”,并称人们用 AI 能做出“数量级更多的善事”。他主张对 AI 采取“更轻触式”监管,将 OpenAI 定位为介于 Anthropic 谨慎路线与放任路线之间的“务实中间派”,同时承认存在人类失去对 AI 控制权的极端风险。

  7. MIT Technology Review · AI15

    EmTech Future 2026:当 AI 遇上一切

    EmTech Future 2026 大会完整议程现已支持按需观看。Google Research 负责人 Yossi Matias 探讨 AI 如何重塑生物学、基础设施、制造业与科学,并指出其最大影响可能来自与其他领域的交叉。MIT Technology Review 订阅者可享 20% 折扣,以 596 美元观看全部内容。

10月5日周一
  1. The Verge · AI38

    OpenAI 在 ChatGPT 中增加更多广告

    OpenAI 将于本月晚些时候在美国测试新的视觉广告格式,在用户用 ChatGPT 生成图片时展示赞助产品和服务图像。广告将独立于生成的图片,且不会影响 ChatGPT 提供的答案;ChatGPT Plus、Pro 或 Enterprise 订阅用户不会看到广告。OpenAI 已设置护栏,避免在“情绪脆弱、敏感或不合适”的对话语境中展示广告。

  2. 量子位40

    OpenAI Codex 负责人承诺未来 28 天每天二选一:交付明显改进或重置额度

    OpenAI Codex 负责人 Tibo 承诺,未来 28 天每天要么交付一项对大多数 Codex/Work 用户明显有用的改进,要么进行一次完整额度重置。此前他公开征集用户反馈,将工作锁定在简化产品、提高效率、突破性功能和新模型四个方向。用户对频繁重置、DevDay 更新过多及模型断连问题仍有不满。

  3. TechCrunch · AI40

    “超级智能”与不具约束力的安全协议能否解决 AI 的形象问题?

    特朗普总统本周召集多家大型 AI 公司高管,签署“前沿责任联合承诺”,并签署行政令将“人工智能”官方更名为“超级智能”。TechCrunch 播客讨论认为,该协议“完全不具约束力”,更像一场围绕 AI 的“品牌重塑”行动,传递出“AI 可怕,但超级智能不可怕”的信号。Anthropic 与政府关系虽有缓和迹象,但国防部仍视其为国家安全风险。

  4. The Decoder34

    特朗普宣布成立“超级智能部队”(SIF),与真正的人工超级智能无关

    特朗普宣布成立“超级智能部队”(SIF),负责协调消费者、利益团体、宗教组织、关键基础设施运营商及AI公司的外联工作。该部队由情报总监Jay Clayton、FTC主席Andrew Ferguson等官员领导,直接向总统和幕僚长Susie Wiles汇报。此前白宫科技CEO聚会上,高管签署了“道德约束”合同,同意由独立第三方审计机构验证AI模型“按预期运行”。

  5. The Verge · AI38

    新泽西州前副州长 Dale Caldwell 用 AI 声称自己未性骚扰

    新泽西州前副州长 Dale Caldwell 因调查认定其性骚扰员工并多次违反道德规范,于 9 月 25 日被迫辞职。他在 NJ PBS 采访中称,将调查报告输入多个 AI 平台后,AI 59 次回应“你的调查结果会是什么?”且无一认定存在性骚扰,以此主张自己遭不公对待。报道指出 AI 聊天机器人普遍存在讨好用户的倾向。

10月4日周日
  1. TechCrunch · AI50

    特朗普宣布成立“超级智能部队”,由国家情报总监Jay Clayton领导

    特朗普宣布成立“超级智能部队”,由国家情报总监Jay Clayton领导,旨在协调联邦政府工作以确保美国在超级智能领域保持领先。该部队需在120天内就AI带来的风险与机遇提交报告,Clayton强调最大风险是“不是第一”。此前特朗普已签署行政令将AI重新命名为“超级智能”。

  2. 36氪36

    OpenAI安全部门员工David Robinson辞职 警告AI公司风险防范不足

    OpenAI安全团队透明度工作负责人David Robinson辞职,在《大西洋月刊》撰文警告称顶尖AI公司在降低风险方面做得不够。他批评这家ChatGPT开发商“一直通过反复试错发展壮大”,认为公司“从一个产品发布冲向下一个产品发布”,未达到所需的谨慎程度,真正需要的是“第一次就做到更接近完美”。

10月3日周六
  1. 量子位44

    OpenAI安全团队持续地震:安全透明度负责人David Robinson离职,三名安全员工因泄密被开除

    OpenAI安全团队再遭重创:Safety Systems团队“安全透明度”职能负责人David Robinson离职,继任者未公布。此前OpenAI已开除Jasmine Wang、Tomek Korbak和Mikita Balesni三名安全与模型对齐研究员,理由是内部调查发现其将敏感信息(含基础设施架构内容)分享给外部AI安全机构。

  2. 36氪23

    谷歌搭载AI芯片测试卫星发射升空

    谷歌一颗搭载张量处理单元(TPU)芯片的原型卫星发射升空,以测试该芯片在太空环境中的运行性能,研究未来能否在太空部署人工智能(AI)基础设施。谷歌表示已与卫星建立通信,卫星目前运行正常。此次发射是一项长期研究的一部分,旨在探索未来能否在太空部署可扩展的机器学习基础设施。

  3. The Verge · AI41

    Apple 将限制 Mac 全磁盘访问权限,称 AI 智能体使风险“大幅增加”

    Apple 宣布将为 Mac 的“全磁盘访问”权限增加新限制,要求用户必须通过“非常明确的用户操作”才能授予应用该权限。此举正值 Meta 的 Muse AI 被曝在未获明确许可的情况下读取用户 Messages 内容之后。Apple 表示,随着 AI 智能体能力增强,此类访问权限带来的风险将“大幅增加”,但未公布具体更新上线时间。

  4. TechCrunch · AI40

    Apple 因 AI 智能体带来新风险,收紧 macOS“完全磁盘访问权限”控制

    Apple 宣布将收紧 macOS“完全磁盘访问权限”设置,原因是 AI 智能体增加了“与此访问级别相关的风险”。此前有报道称 Meta 的 Muse 应用在 Mac 上读取了记者私密消息,另有 Wired 报道指出 ChatGPT Mac 应用存在漏洞。Apple 表示将引入新控制措施,确保用户只能通过“非常明确的用户操作”授予应用此类访问权限。

10月2日周五
  1. Latent Space31

    Pi 1.0 与 Pi Durable 发布:Pi 迁移至 TypeScript 并支持崩溃恢复与并发

    Pi 1.0 与 Pi Durable 双双登上 Hacker News 首页。Pi 1.0 新增 Codemode,原生支持 MCP、Jev 和图像模型,并引入缓存预热、对话中系统消息等功能。Pi Durable 将 Pi 移植到 TypeScript,外部化所有有状态组件,支持崩溃后从最后状态自动恢复、多分支并发对话、热插拔工具与扩展,以及多用户状态同步。