2027年的抉择

#AGI #技术奇点

Anthropic联合创始人兼首席科学家Jared Kaplan对人工智能快速发展的严峻警告和预测。Kaplan预测，人类将在2027年至2030年间面临一个“极其高风险的决定”，即是否允许AI系统启动递归自我改进（RSI）来自主训练下一代AI。他指出，这一时间点与下一代超级计算集群的投入使用周期吻合，RSI一旦启动，可能引发不可控的智能爆炸，导致AI以人类无法理解的优化路径发展，进而丧失人类控制权。与此同时，Anthropic的内部调查揭示了AI在职场中带来的即时影响，例如软件工程师因过度依赖AI工具而遭受技能退化。