Anthropic 研究员辞职,称明年 AI 或失控
Anthropic 研究员 Jacob Coxon 宣布辞职并准备离开 AI 行业。他指出,OpenAI 和 Anthropic 等公司在竞相开发超级智能时未能负责任地推进安全,甚至在「拿人类命运下注」。他认为,只要各家公司仍以抢先实现通用人工智能(AGI)为目标,安全让步就难以避免。他判断在最激进的情形下,明年底 AI 可能失控,相关决策不应仅由少数公司内部决定。
摘要由 AI 依据原文撰写,并非投资建议。
Anthropic 研究员 Jacob Coxon 宣布辞职并准备离开 AI 行业。他指出,OpenAI 和 Anthropic 等公司在竞相开发超级智能时未能负责任地推进安全,甚至在「拿人类命运下注」。他认为,只要各家公司仍以抢先实现通用人工智能(AGI)为目标,安全让步就难以避免。他判断在最激进的情形下,明年底 AI 可能失控,相关决策不应仅由少数公司内部决定。
摘要由 AI 依据原文撰写,并非投资建议。