Como a “teoria do jogo reverso” poderia manter os agentes de IA sob controle

Uma nova abordagem conhecida como “teoria do jogo reverso” visa controlar modelos poderosos de IA, projetando sistemas que os incentivem a cumprir as regras. À medida que os modelos de IA se tornam mais capazes, os investigadores de segurança lutam para garantir que estão “alinhados” com os desejos humanos – para garantir, por outras palavras, que agentes desonestos não infringem a lei,…