Anthropic y Accenture invertirán 2000 millones de dólares en la evaluación independiente de IA

Anthropic y Accenture han anunciado una asociación estratégica para invertir al menos 2000 millones de dólares en los próximos cinco años en la evaluación independiente de modelos de inteligencia artificial de frontera. El proyecto, liderado por la división Faculty de Accenture, se centrará en pruebas de red teaming, alineación y seguridad. Esta iniciativa busca implementar "evaluadores integrados" dentro de las empresas desarrolladoras de IA, una propuesta del CEO de Anthropic, Dario Amodei, para mejorar la supervisión y detectar vulnerabilidades. Además, Anthropic planea colaborar con otros evaluadores y mantiene conversaciones con la organización sin fines de lucro METR para futuros proyectos de evaluación.