Le problème de l'alignement de l'intelligence artificielle devient de plus en plus complexe. Une étude d'OpenAI indique que la supervision d'un grand modèle par un petit modèle peut améliorer considérablement les performances de généralisation dans les tâches de traitement du langage naturel. La supervision humaine traditionnelle pourrait être insuffisante pour les modèles d'IA superpuissants, mais les méthodes de généralisation "faible à forte" sont prometteuses pour améliorer significativement les performances.
Cette étude encourage davantage de recherches empiriques, la mise à disposition de code source ouvert et le lancement de programmes de financement. L'avenir pourrait voir des progrès substantiels dans le domaine de l'alignement des IA superpuissantes.