Le gouvernement britannique a récemment annoncé le changement de nom de son institution, auparavant connue sous le nom d'« Institut de sécurité de l'IA », en « Centre de recherche sur la sécurité de l'IA ». Cette décision marque un tournant majeur dans la stratégie du gouvernement en matière d'IA. La nouvelle appellation reflète non seulement l'évolution des fonctions de l'institution, mais témoigne également de la ferme détermination du gouvernement britannique à promouvoir le développement de l'industrie de l'IA.
Source : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
Ce changement, annoncé par le ministère de la Science, de l'Industrie et des Technologies, signifie que le nouveau Centre de recherche sur la sécurité de l'IA se concentrera sur la cybersécurité, visant à « renforcer la protection contre les risques pour la sécurité nationale et la criminalité liés à l'IA ». Auparavant axé sur l'étude des risques d'existence et des biais des grands modèles de langage, il se concentrera désormais davantage sur la manière d'utiliser la technologie de l'IA pour prévenir les risques de sécurité.
Parallèlement, le gouvernement britannique a annoncé la signature d'un protocole d'accord avec la société d'intelligence artificielle Anthropic. Bien que le contenu précis des services n'ait pas été révélé, le protocole d'accord indique que les deux parties « exploreront » l'utilisation de l'assistant IA Claude d'Anthropic pour améliorer les services publics. Anthropic participera à des travaux de recherche scientifique et de modélisation économique, et fournira au Centre de recherche sur la sécurité de l'IA des outils d'évaluation des capacités de l'IA afin d'aider à identifier les risques de sécurité.
Dario Amodei, cofondateur et PDG d'Anthropic, a déclaré dans un communiqué : « L'IA a le potentiel de transformer la manière dont le gouvernement sert ses citoyens. Nous sommes impatients d'explorer comment utiliser l'assistant IA Claude d'Anthropic pour aider le gouvernement britannique à améliorer l'efficacité des services publics, rendant les informations et les services essentiels plus accessibles et plus faciles à utiliser. »
Il est à noter que ce changement au sein du Centre de recherche sur la sécurité de l'IA n'est pas surprenant. Le nouveau gouvernement travailliste britannique, entré en fonction en janvier, n'a pas mentionné les termes « sécurité », « dangers », « survie » ou « menaces » dans son plan de développement de l'IA, ce qui indique que le gouvernement se concentrera davantage sur les investissements et le développement technologique, notamment la collaboration avec les grandes entreprises technologiques.
À l'avenir, le gouvernement espère améliorer l'efficacité des fonctionnaires grâce à l'assistant IA « Humphrey », tout en lançant de nouveaux outils tels que des portefeuilles numériques et des robots conversationnels afin que les citoyens puissent accéder plus facilement aux services gouvernementaux. Bien que les problèmes de sécurité persistent, le gouvernement semble estimer que le rythme rapide du développement ne doit pas être entravé par des considérations de sécurité.
Ian Hogarth, président du Centre de recherche sur la sécurité de l'IA, a déclaré que malgré le changement de nom en « Centre de recherche sur la sécurité de l'IA », la mission de l'institution reste la même : elle continuera à évaluer les risques importants auxquels le public est confronté et à approfondir sa collaboration avec la communauté de la sécurité nationale afin de protéger la sécurité des citoyens.
Points clés :
🌐 Le gouvernement britannique rebaptise l'« Institut de sécurité de l'IA » en « Centre de recherche sur la sécurité de l'IA », en mettant l'accent sur la cybersécurité.
🤝 Signature d'un protocole d'accord avec la société d'intelligence artificielle Anthropic pour explorer l'application de l'IA aux services publics.
📈 Le gouvernement priorise le développement de l'IA, les questions de sécurité n'étant plus la priorité absolue.