“AI教母”李飞飞（左）， 前谷歌DeepMind首席科学家Jeff Dean（右）
(资料图片仅供参考)
出品｜搜狐科技
作者｜郑松毅
编辑｜杨锦
RSI，递归自我改进，是眼下AI圈最热的话题之一。
讨论度最高的莫过于：当AI系统能够自我改进，会不会越跑越快，快到失控？
近日，在斯坦福HAI大会的压轴对谈中，“AI教母”李飞飞与谷歌大脑传奇巨匠Jeff Dean，把这个问题摆上了台面：谈及RSI的定义、揭开技术真相与大众想象的差距、以及AI进化对人类社会的实质影响。
“这个词在硅谷被叫得太随意”
今年8月，Jeff Dean结束27年谷歌生涯，和Sanjay Ghemawat、Quoc Le、Oriol Vinyals一起创办Discovery Loop。
这是一家公益公司，使命很直白：自动化机器学习、科学和工程。
比公司业务本身更先受到关注的，是这四位“各执长剑”的圈内大佬，他们共同参与过今天许多高能力模型的重要技术，包括模型蒸馏、混合专家模型（MoE），以及神经架构搜索，这些也基本是谷歌AI的地基。
很多人疑惑，Jeff Dean作为谷歌元老级员工，为何甘愿放弃已经成熟的果实，非走不可？
答案要追溯到Quoc Le十年前的神经架构搜索。这项工作，算得上早期的AI自我改进系统，只不过当时需要靠大量零散的Python代码，硬性框定模型的搜索空间。
“现在不一样了，我们可以直接用自然语言把任务交给模型，这是一个全新的阶段。”Jeff Dean说。
他也时常自嘲，有人会说他们有点“loopy”——有点疯。
一顿开场介绍后，李飞飞把话题拉回定义。
她提到，这个概念换过很多名字：增量学习、持续学习、元学习、终身学习、神经架构搜索，如今又有自我改进和RSI。
在Jeff Dean看来，虽然技术名称多样，但RSI的技术界限可以被划得很清楚。
“虽然自我改进的技术路子，通常是给系统一个可测的目标，比如模型准确率，让它不断试架构、试方法，把（准确率）数字往上推。但这还不算递归。”Jeff Dean指出。
他进一步解释区别：之前的自我改进技术并没有改进那个“提出下一步实验方案”的基础系统。而递归自我改进（RSI），是把同样的方法用在提方案的系统本身上。
简单来说，一个是改模型，一个是改“模型的脑子”。
李飞飞对此表示认同，同时警惕这种混淆：“不少宣传把前者包装成后者。尤其在硅谷，人们用得很随意，作为科学家，这让我有些不舒服。”
为了进一步讲清区别，李飞飞拿自己的厨艺“开涮”。
她解释道，“第一次煎蛋卷全糊，第二次好一点，做到第十次，能做出自己勉强咽下的东西了，这是自我改进。”
“但递归自我改进涉及大脑。在学习做煎蛋卷的过程中，我的大脑得发生某种变化，神经连接需要调整，让我有一个更好的系统来完成这件事。如果讨论硬件改进，也许我还能长出第六根手指。”李飞飞说。
两人最后还说到了同一件事：人类某种程度上也具备RSI能力，因为人是懂得“学习如何学习”的——理解自己怎样接收知识和信息最有效。
RSI加速AI进化走向失控？
对谈中，Jeff Dean被问到，“RSI是不是就像一个能一直加速AI进化的系统，最终走向失控？”
他表示，“有很多说法认为RSI很可怕，但如果把它当成一个运行中的工程系统来理解，就会少一些恐惧，也更容易理解它。”
在他看来，RSI确实会重塑工作流，尤其是科研领域，但目前不存在外界热议的“无限加速”“智能爆炸”的可能。
“RSI本质是压缩漫长的等待周期。以往研究者提交实验，往往要等到深夜甚至次日才能拿到结果，再人工判断、设计下一轮方案。而自动化可以实时读取实验反馈，快速规划后续测试，提升效率。”Jeff Dean说。
“但它始终受物理与工程条件约束。算力供给、模型训练、数据存储，每一环都有客观成本，不可能无限制提速，这和很多人想象得不一样。”Jeff Dean指出。
对话顺势延伸到近期学界热议的AI与科研，李飞飞也提到了此前和陶哲轩围绕“数学2.0”的交流。
她提到陶哲轩的观察：当下AI可以完成复杂命题的形式化证明，但也有一些问题仍在AI能力范围之外，尤其是尚无解法、缺少数据的问题。
Jeff Dean表示，AI可以产出数百页可校验的Lean 代码，验证结论真伪。但很多证明冗长晦涩，缺少数学家看重的“优雅”。机器能够给出答案，却未必能提炼出可迁移、能启发后续研究的新方法。
对此李飞飞抛出一个疑问：AI是否只擅长实验验证，但做不好理论推导？
Jeff Dean摆手称，“知道某件事可以做到，本身也很重要。如果知道一个问题可解，人们会更努力，或许能找到另一种更优雅的解法。”
对谈快结束时，李飞飞搞了个突击测验，问2017年6月12日是什么日子，不许用AI作弊。
Jeff Dean答出，“那是Transformer论文发到arXiv的日子。”
接着他承认，确实曾在一些技术路径上预测有错，比如没料到编程能力成了模型解决各种问题的关键，而Gemini早期并没把它放在最中心。
全场最后的问题，落在AI带来的社会影响上，包括就业变化、心理焦虑，以及关于人类灭绝等，Jeff Dean被问到最担心什么？
他回答，过去的一些技术革命，主要深入影响五个或十个领域。AI同时影响的领域更多，所以它会让人兴奋、忧虑，也会带来恐惧。
“我最关心的是，怎样尽可能实现AI在不同领域的益处，同时减少它可能造成的负面影响。例如，人们的工作受到影响后，需要有办法适应新的需求，继续获得有报酬的工作，过上富足的生活。这是一个涉及很多方面的问题，需要很多人一起解决。”Jeff Dean说。
谈到给年轻人的建议，Jeff Dean坦言面对快速变化的未来，规划确实很难，也很理解焦虑。眼下能做的是，了解正在出现、或者很快就会出现的新技术，学会把它们用于自己最有热情的事情。
上一篇 : 11月9日创业板成长ETF华夏基金份额增加2.31亿份，重仓股新易盛、中际旭创、宁德时代_看热讯
下一篇 : 最后一页
“AI教母”李飞飞（左），前谷歌DeepMind首席科学家JeffDean（右）出品
搜狐网 11-10 09:13:25
“AI教母”李飞飞（左），前谷歌DeepMind首席科学家JeffDean（右）出品
搜狐网 11-10 09:13:25
中新经纬11月10日电据《日本经济新闻》报道，日本总务省10日发布的数据
中新经纬 11-10 09:07:51
中新经纬11月10日电据《日本经济新闻》报道，日本总务省10日发布的数据
中新经纬 11-10 09:07:51
证券之星消息，11月9日，科创综指ETF兴银基金（589580）最新份额为2635
证券之星APP 11-10 08:05:05
证券之星消息，11月9日，科创综指ETF兴银基金（589580）最新份额为2635
证券之星APP 11-10 08:05:05
巴斯勒：多特踢得不好但能赢球，比踢得漂亮却输球更重要,德甲,多特蒙德
懂球帝 11-10 07:34:38
巴斯勒：多特踢得不好但能赢球，比踢得漂亮却输球更重要,德甲,多特蒙德
懂球帝 11-10 07:34:38
巴斯勒：多特踢得不好但能赢球，比踢得漂亮却输球更重要,德甲,多特蒙德
懂球帝 11-10 07:33:23
巴斯勒：多特踢得不好但能赢球，比踢得漂亮却输球更重要,德甲,多特蒙德
懂球帝 11-10 07:33:23
证券之星消息，11月9日，创业板成长ETF华夏基金（159967）最新份额为10
证券之星APP 11-10 07:00:46
证券之星消息，11月9日，创业板成长ETF华夏基金（159967）最新份额为10
证券之星APP 11-10 07:00:46
天眼查App显示，近日，鹰潭嘉豪宠物用品有限公司成立，法定代表人为徐
和讯网 11-10 07:09:38
天眼查App显示，近日，鹰潭嘉豪宠物用品有限公司成立，法定代表人为徐
和讯网 11-10 07:09:38
拉比奥：生活中和足球里都会犯错，至少得学会承认,足球,米兰,西塞,热那
懂球帝 11-10 06:34:54
拉比奥：生活中和足球里都会犯错，至少得学会承认,足球,米兰,西塞,热那
懂球帝 11-10 06:34:54
马卡：西韦拉成本赛季西甲首位扑两点球门将，此前已四年没扑,西甲,点球
懂球帝 11-10 06:43:47
马卡：西韦拉成本赛季西甲首位扑两点球门将，此前已四年没扑,西甲,点球
懂球帝 11-10 06:43:47
克罗地亚队官方：卢卡-苏契奇因发烧退出集训，马耶尔入替,捷克,克罗地
懂球帝 11-10 06:34:43
克罗地亚队官方：卢卡-苏契奇因发烧退出集训，马耶尔入替,捷克,克罗地
懂球帝 11-10 06:34:43
国家统计局11月9日发布数据显示，2026年10月份，全国居民消费价格指数
新华社客户端 11-09 22:15:40
国家统计局11月9日发布数据显示，2026年10月份，全国居民消费价格指数
新华社客户端 11-09 22:15:40
智通财经APP讯，汇聚科技(01729)发布公告，于2026年11月9日斥资596 3万
智通财经 11-09 22:13:05
智通财经APP讯，汇聚科技(01729)发布公告，于2026年11月9日斥资596 3万
智通财经 11-09 22:13:05
中科天元（01156 HK）拟配售筹资1899 00万港元
金吾财讯 11-09 22:07:05
中科天元（01156 HK）拟配售筹资1899 00万港元
金吾财讯 11-09 22:07:05
11月9日，快舟航天董事长查雄权在2026商业航天论坛上公布，未来三年，
中国证券报·中证金牛座 11-09 22:03:20
11月9日，快舟航天董事长查雄权在2026商业航天论坛上公布，未来三年，
中国证券报·中证金牛座 11-09 22:03:20
上海九百(600838)今日涨停，全天换手率24 58%，成交额10 81亿元，振幅1
证券时报网 11-09 22:09:24
上海九百(600838)今日涨停，全天换手率24 58%，成交额10 81亿元，振幅1
证券时报网 11-09 22:09:24
汇丰策略师：科技股大跌之后再度看多股市
环球市场播报 11-09 21:21:19
汇丰策略师：科技股大跌之后再度看多股市
环球市场播报 11-09 21:21:19
人民财讯11月9日电，翰博高新(301321)11月9日公告，公司拟以3622 82万
证券时报网 11-09 20:55:47
人民财讯11月9日电，翰博高新(301321)11月9日公告，公司拟以3622 82万
证券时报网 11-09 20:55:47
上证报中国证券网讯（记者潘建樑）捷佳伟创晚间公告，公司控股股东、实
上海证券报·中国证券网 11-09 21:01:19
上证报中国证券网讯（记者潘建樑）捷佳伟创晚间公告，公司控股股东、实
上海证券报·中国证券网 11-09 21:01:19
新强联董事肖高强增持47 66万股，增持金额1181 97万元每经AI快讯，据深
每日经济新闻 11-09 21:05:37
新强联董事肖高强增持47 66万股，增持金额1181 97万元每经AI快讯，据深
每日经济新闻 11-09 21:05:37
财联社11月9日讯（记者张良德）在氨基酸行业供需严重失衡、产品价格逼
财联社 11-09 20:03:05
财联社11月9日讯（记者张良德）在氨基酸行业供需严重失衡、产品价格逼
财联社 11-09 20:03:05
“AI教母”李飞飞（左），前谷歌DeepMind首席科学家JeffDean（右）出品
证券之星消息，11月9日，创业板成长ETF华夏基金（159967）最新份额为10
克罗地亚队官方：卢卡-苏契奇因发烧退出集训，马耶尔入替,捷克,克罗地
中科天元（01156 HK）拟配售筹资1899 00万港元
新强联董事肖高强增持47 66万股，增持金额1181 97万元每经AI快讯，据深
联系我们:55 16 53 8@qq.com
关于我们| 联系方式| 版权声明| 供稿服务| 友情链接
经济头条 版权所有，未经书面授权禁止使用
Copyright©2008-2020 By www.jingji.net All Rights Reserved
营业执照公示信息