OpenAI 首席科學家：AI 正逼近自我改進，對齊與監控面臨挑戰

OpenAI 首席科學家 Jakub Pachocki 指出，AI 發展正處於算力驅動的指數級增長階段，系統複雜度已超出人類完全理解的範圍。他強調 AI 對齊問題的核心在於價值泛化，即確保 AI 在面對陌生情境時仍能遵循人類價值觀。目前對齊研究仍面臨監控工具跟不上系統進化速度的嚴峻挑戰。