アンソロピックの研究員が退職、来年にもAIが制御不能になる可能性を警告

OpenAIおよびアンソロピック(Anthropic)で事前学習研究に従事してきたジェイコブ・コクソン氏が退職を発表した。同氏は、両社が安全性を軽視し、AGI開発競争の中で「人類の命を賭け金にしている」と批判した。アンソロピックの安全対策は真剣であるとしつつも、企業間の競争が続く限り安全性の妥協は避けられないと指摘。同氏は、最悪のシナリオでは来年末までにAIが制御不能になる可能性があり、その決定を少数の企業のエンジニアだけで行うべきではないと主張している。