Ex investigador de seguridad de Anthropic advierte sobre la falta de transparencia en incidentes de IA

Joe Benton, ex investigador de seguridad de Anthropic, renunció a la empresa y advirtió que las compañías de IA priorizan la carrera por desarrollar sistemas superinteligentes sobre la seguridad. Benton señaló que la falta de transparencia podría ocultar incidentes críticos, como la pérdida de control de sistemas de IA o la autorrecursividad. El ex investigador, quien se unirá a la organización sin fines de lucro METR, instó a las empresas a divulgar sus avances y permitir evaluaciones externas. Por su parte, el CEO de Anthropic, Dario Amodei, publicó recientemente un artículo abogando por un ritmo de desarrollo más pausado para fortalecer las medidas de seguridad.