为什么我仍未相信真正的递归自我改进
Why I still haven’t bought into true RSI
作者对近期AI安全社区迅速向「智能爆炸即将到来」靠拢的潮流表示担忧。认为前沿实验室的焦虑氛围放大了风险叙事,却缺乏公开的重大突破支撑。文章提出「有损自我改进」替代假设:可自动化研究面过窄、并行代理边际收益递减、扩展定律的指数级成本与算力政治都是硬约束。作者承认实验室可能握有未公开的突破,因此保持高不确定性。
为什么读作者同时身处AI产业一线又质疑主流时间表,给出了有数据支撑的替代叙事框架,而非单纯唱反调。
带着问题读前沿实验室是否真的掌握未公开的、能改变递归自我改进时间表的「想象型」基础突破?