Anthropic 與 Accenture 合作,將投入 20 億美元進行 AI 模型獨立評估
Anthropic 宣布與諮詢公司 Accenture 建立合作夥伴關係,雙方預計在未來五年內共同投入至少 20 億美元,用於對前沿 AI 模型進行獨立評估。該項目將由 Accenture 旗下的 AI 部門 Faculty 領導,重點涵蓋模型評估、紅隊測試(red-teaming)、對齊檢查及防禦機制測試。此舉旨在推動「嵌入式評估員」概念,讓評估團隊能深入開發流程,監控模型訓練與部署,並及時發現安全漏洞。Anthropic 表示,未來幾週將宣布與其他評估機構的合作,並持續推動建立獨立的 AI 安全審查機制。
摘要由 AI 依據原文撰寫,並非投資建議。