Débat sur les paramètres des modèles de langage

Une étude de Microsoft révèle que GPT-3.5 ne compte que 20 milliards de paramètres, une différence significative par rapport aux affirmations officielles. Le modèle plus petit, CodeFusion, affiche des performances exceptionnelles avec seulement 75 millions de paramètres. Au milieu de cette controverse, la compétition fait rage dans le monde de l'IA, ChatGPT et Claude AI s'affrontant pour la suprématie. Simultanément, GPT-4 a démontré des capacités étonnantes lors de l'examen par les pairs, même Terence Tao utilisant GPT-4 pour résoudre des problèmes mathématiques.