Vitalik Buterin: El diseño de mecanismos de gobernanza adversaria podría ser clave para la seguridad de la IA

Vitalik Buterin señaló el 14 de septiembre que la teoría del diseño de mecanismos de gobernanza adversaria podría encontrar su aplicación más relevante en el ámbito de la seguridad de la inteligencia artificial. Según Buterin, existe una relación profunda entre ambos campos, ya que ambos abordan cómo un principal con menos capacidades puede obtener resultados deseados de un agente más capaz. En la gobernanza, el principal es un algoritmo estático y el agente es humano; en la seguridad de la IA, el principal es el humano o un modelo de lenguaje menos potente, mientras que el agente es un modelo más avanzado. Buterin sugiere que limitar la colusión entre agentes podría mejorar los resultados del sistema, un principio que podría trasladarse a la seguridad de la IA.