Apple améliore les performances des GPU Nvidia pour l'IA

Dans un post de blog, Apple vient d'annoncer avoir amélioré les performances lors de l'étape de l'inférence dans les LLM (Large Language Models, les grands modèles de langage comme ChatGPT). Et cette annonce est intéressante sur deux points.

Le premier, c'est que les gains sont importants. La méthode développée chez Apple porte le nom de ReDrafter, elle est open source et elle permet de multiplier les performances par 2,7. L'inférence est une étape importante pour les utilisateurs: elle intervient quand une personne pose une question à une « IA ». La solution d'Apple accélère donc un moment crucial: celui où vous attendez une réponse. La technologie a été intégrée dans les bibliothèques de Nvidia, qui permettent d'accéder aux unités dédiées des cartes graphiques de Nvidia. La marque a d'ailleurs aussi posté un message sur un blog technique, pour donner des détails.

Des gains importants selon Apple.

Les gains sont intéressants, car ils peuvent avoir un effet indirect. S'il est possi...