OpenAI 首席科学家 Jakub Pachocki：AI 递归自我改进带来的风险与挑战

OpenAI 首席科学家 Jakub Pachocki 发文探讨 AI 现状，指出 AI 正在逼近递归自我改进，且对齐与监控工具的进化速度已难以跟上系统发展。他强调，AI 并非被设计而是被“生长”出来的，其复杂性超出了人类的完全理解范围。当前对齐研究的核心在于解决目标对齐与价值对齐，确保 AI 在处理高层次概念及陌生环境时能持续遵循人类价值观。