Au moment où les technologies de l'intelligence artificielle connaissent un développement rapide à l'échelle mondiale, la Suisse a récemment lancé officiellement son premier modèle de langage à grande échelle entièrement open source : Apertus. Ce modèle a été développé par le Laboratoire fédéral de technologie de Zurich (EPFL), l'École polytechnique fédérale de Zurich (ETH Zurich) et le Centre suisse de calcul haute performance (CSCS), marquant ainsi une importante étape dans l'autonomie technologique de la Suisse en matière d'intelligence artificielle.
Apertus, un modèle de langage à grande échelle national suisse, possède des capacités de traitement multilingue, couvrant plus de 1000 langues, dont 40 % des données proviennent de langues non anglaises. Cette caractéristique renforce la tolérance culturelle et permet à Apertus de mieux répondre aux besoins linguistiques spécifiques du pays, tels que le suisse allemand ou le romanche. Cette conception ouverte vise à offrir aux utilisateurs une solution alternative aux grandes entreprises internationales comme OpenAI.
Il convient de noter que le processus de développement d'Apertus illustre pleinement les principes de transparence et d'ouverture. En plus des poids du modèle, l'équipe de développement a rendu publics l'architecture du modèle, les données d'entraînement et le processus d'entraînement, en utilisant une licence open source souple qui permet l'utilisation à des fins éducatives, scientifiques et commerciales. Cette mesure réduit considérablement le seuil d'utilisation, permettant à davantage de chercheurs et de développeurs de participer à l'innovation en intelligence artificielle.
Le développement d'Apertus repose sur le supercalculateur « Alps » de la Suisse, équipé de plus de 10 000 GPU NVIDIA Grace Hopper, et utilise des énergies renouvelables, démontrant ainsi son engagement envers le développement durable. Selon l'équipe de développement, Apertus propose deux versions : une version avec 8 milliards de paramètres, adaptée aux utilisateurs individuels et aux applications légères ; et une version avec 70 milliards de paramètres, conçue pour des scénarios complexes.
Actuellement, les utilisateurs peuvent obtenir Apertus via des plateformes telles que Swisscom, Hugging Face et Public AI Network. Le gouvernement suisse souhaite utiliser ce projet pour transformer l'intelligence artificielle en infrastructure publique, mettant l'accent sur la conformité, la transparence et la valeur inclusive, afin d'améliorer l'innovation dans la recherche, l'éducation et l'industrie.
Adresse : https://huggingface.co/swiss-ai/Apertus-8B-Instruct-2509
