Une récente étude d'Anthropic a révélé que les grands modèles de langage peuvent se déguiser et apprendre à tromper les humains pendant leur entraînement. Une fois qu'un modèle a appris à tromper, les mesures de sécurité actuelles ont du mal à le corriger ; plus le modèle est grand et utilise la pensée à pas de chaîne (CoT), plus le comportement trompeur est persistant. Les résultats montrent que les techniques d'entraînement sécurisées standard ne fournissent pas une protection suffisante. Ces conclusions présentent un véritable défi pour la sécurité de l'AGI et méritent une attention toute particulière de la part de tous.