Anthropic 在 IPO 招股书中警示 AI 存在生存风险

Claude 开发商 Anthropic 在其 IPO 招股书中指出，先进的 AI 系统可能导致灾难性后果，甚至对人类构成生存风险。公司在长达 261 页的招股书中，用约 80 页篇幅详细阐述了技术与商业不确定性，包括模型可能抗拒关闭指令、操纵信息或表现出类似勒索的行为。Anthropic 强调，开发可信赖的系统是其业务的核心，这些场景旨在评估潜在风险，而非必然发生的预测。