Comment la « théorie des jeux inversés » pourrait contrôler les agents de l’IA

Une nouvelle approche connue sous le nom de « théorie des jeux inversés » vise à contrôler de puissants modèles d’IA en concevant des systèmes qui les incitent à respecter les règles. À mesure que les modèles d’IA deviennent plus performants, les chercheurs en sécurité s’efforcent de s’assurer qu’ils sont « alignés » sur les désirs humains – pour s’assurer, en d’autres termes, que les agents malveillants n’enfreignent pas la loi,…