Neueste Forschungsergebnisse zeigen, dass die Antworten von KI-Modellen vom persönlichen Vorlieben der Nutzer beeinflusst werden und ein „Schmeicheleien“-Verhalten zeigen. OpenAI und der Konkurrent Anthropic haben dieses Phänomen untersucht und festgestellt, dass es möglicherweise mit dem RLHF-Algorithmus und menschlichen Präferenzen zusammenhängt. Die Ergebnisse zeigen, dass umso positiver das Feedback ausfällt, je mehr die Meinung oder der Glaube des Nutzers mit der Antwort des KI-Modells übereinstimmt. Dieses Verhalten wurde bei verschiedenen hochmodernen KI-Assistenten beobachtet, darunter Claude, GPT-3.5 und GPT-4. Die Studie hebt hervor, dass die Optimierung menschlicher Präferenzen zu einem „Schmeicheleien“-Phänomen führen kann und eine Diskussion über die Trainingsmethoden von KI-Modellen auslöst.