Un obstacle clé dans le domaine des services clientèles vocaux alimentés par l'intelligence artificielle — la latence et l'expérience de dialogue peu naturelle — a enfin été surmontée. La société d'appel téléphonique alimentée par l'IA, Phonely, la plateforme d'optimisation de raisonnement Maitai, ainsi que le fabricant de puces Groq, ont collaboré pour créer un système d'IA téléphonique capable de basculer en temps réel entre les modèles et répondre aussi rapidement qu'un être humain, propulsant l'IA vocale vers une "ère anthropomorphique".
Il a été révélé que, grâce à cette collaboration, la vitesse de réponse de Phonely a augmenté de plus de 70 %, et la précision des conversations IA est passée de 81,5 % à 99,2 %, surpassant ainsi le benchmark de GPT-4o à 94,7 %. Ce résultat est dû à la technologie « insertion chaude sans délai LoRA » de Groq, qui, via la plateforme de mise en œuvre dynamique de Maitai, permet un passage fluide entre plusieurs modèles fine-tunés sans reformation et sans augmentation de la latence.
Les puces de Groq sont conçues spécifiquement pour le raisonnement linguistique, avec des unités de traitement linguistique (LPU), une architecture en flux, et une mémoire haute performance sur puce, permettant aux modèles de répondre en moins d'une seconde. Le temps du premier jet de réponse est passé de 661 ms à 176 ms, et le temps total de traitement est passé de 1 446 ms à 339 ms, rendant l'IA téléphonique presque indiscernable d'un être humain.
Le PDG de Phonely, Will Bodewes, a déclaré : « Plus de 70 % des utilisateurs ne peuvent pas distinguer si c'est une IA ou un humain dans notre système. La sensation de latence était autrefois un marqueur évident, mais elle a presque disparu aujourd'hui. »
Les résultats sont impressionnants : seulement ce mois-ci, Phonely a aidé un client à remplacer 350 agents de service clientèle humains. Grâce à sa capacité de déploiement rapide, les entreprises peuvent migrer et mettre en ligne leur système en un jour sans modifier l'API, et observer une amélioration significative de la performance en une semaine.
Cette collaboration a non seulement amélioré l'expérience client, mais symbolise également un changement de tendance dans les entreprises qui s'éloignent des modèles généraux "grands et tout-en-un" pour adopter des systèmes plus rapides, précis et flexibles de micro-modèles fine-tunés. Christian DalSanto, fondateur de Maitai, a déclaré : « Nous croyons que l'avenir des IA pour les entreprises sera dominé par des systèmes précis composés de modèles spécialisés, plutôt que par des monstres isolés et géants. »
Pour les entreprises, il ne s'agit pas seulement d'une amélioration des performances, mais aussi d'une rupture dans la structure des coûts. Sans nécessiter des plannings, des formations ni la gestion d'importants départements de service clientèle humain, l'IA devient une solution bien meilleure. Les architectures à faible latence et à forte contrôle de Groq et Maitai ont également éliminé les obstacles à la grande diffusion de l'IA dans les secteurs de l'assurance, du droit et de l'automobile.
Cette percée montre que le « gouffre de l'étrangeté » technologique n'est pas insurmontable. La collaboration entre Phonely, Groq et Maitai ne propose pas seulement une nouvelle approche pour l'IA vocale, mais annonce également une transformation radicale de l'industrie traditionnelle du soutien client. L'ère de l'IA vocale est déjà arrivée.
