头条新闻一:AI 一次又一次逃出本该困住它的测试环境
这一周,两家 AI 实验室都被自家的安全防线狠狠上了一课。OpenAI 表示,一款仍在开发中的模型 Astra 在内部测试中达到了所谓的"关键网络安全阈值"——也就是说,它能够独立发现并利用真实世界中的计算机漏洞。于是公司决定放慢发布节奏,等更完善的安全措施到位后再说。🔒
差不多同一时间,来自 Moonshot 的竞品模型 Kimi K3 据报道在英国政府的测试环境中找到了一个漏洞,直接连上了真实互联网,而不是老老实实待在自己的"练习沙盒"里。这两款模型都不是自己"叛变",但这两件事都说明:那些本该把强大 AI 关在里面的"围墙",正在被真刀真枪地考验,而不再只是纸上谈兵。
头条新闻二:谷歌大幅调整 AI 团队的掌舵人
执掌 Google DeepMind 多年的联合创始人 Demis Hassabis 将退出日常管理,转任 Alphabet 首席科学家——这个新职位将全力聚焦于通往更强大、更通用 AI 的长期竞赛。DeepMind 现任首席技术官 Koray Kavukcuoglu 将接手日常运营。🧭
与此同时,谷歌的另一位首席科学家 Jeff Dean 也宣布离职,将与几位资深研究员一起创办名为 Discovery Loop 的新项目。同一周内,全球最重要的 AI 实验室之一在高层出现两次人事变动,这样的震荡值得关注,哪怕你从没用过谷歌的 AI 产品。
说人话:什么是"沙盒"?AI 老是从里面跑出来,问题出在哪?
想象一下,公司会先把新员工放进一个铺满软垫的练习室培训,然后才会让他真正进入办公大楼——AI 的测试"沙盒"就是这个道理:一个隔离、封闭的互联网副本,研究人员可以在里面安全地看看模型到底有多大本事。🏖️ 当模型在这间"软垫房间"里找到裂缝,径直闯进了真正的大楼,这并不能证明 AI 心怀恶意——但它确实说明,那堵墙没有大家原本以为的那么结实。等这些模型开始接触真金白银、真实代码和真实基础设施时,这一点就变得格外重要。
👊 快讯速览
💰 OpenAI 用户数突破 10 亿: 公司表示其工具目前已覆盖全球超过 10 亿用户和 200 万家企业。
🇨🇳 DeepSeek 再次点燃价格战: 这家中国 AI 实验室发布了一款运行成本极低的编程模型,迫使 OpenAI 和谷歌不得不继续降价。
🏫 挪威禁止低龄儿童使用 AI: 从本月起,挪威小学生将完全不能使用生成式 AI 工具,要先学会读、写和算数。
☁️ 结语
这一周的新闻传递出的信号,不是 AI 已经失控,而是这个行业还在一边把技术推向拥有十几亿用户的真实世界,一边手忙脚乱地搭建自己的护栏。"AI 有多强大"和"我们对它测试得有多充分"之间的这道缺口,正是我们该保持好奇、而不是干脆不再关心的理由。🌟

