Cómo la “teoría de juegos inversos” podría mantener a raya a los agentes de IA

Un nuevo enfoque conocido como “teoría de juegos inversos” tiene como objetivo controlar potentes modelos de IA mediante el diseño de sistemas que los motiven a cumplir las reglas. A medida que los modelos de IA se vuelven más capaces, los investigadores de seguridad se esfuerzan por garantizar que estén “alineados” con los deseos humanos; en otras palabras, para asegurarse de que los agentes deshonestos no violen la ley,…