MLX sous macOS 26.2 va accélérer les IA de type LLM génératif sur M5 ?

Je l'ai vu passer partout, voilà les explications techniques (en anglais).

En bref, non, pas pour un usage en chatbot, car si le M5 va 25% plus vite que le M4, l'accélération énorme (jusqu'à 4 fois plus rapide) promise n'est que pour l'ingestion des Tokens du Prompt (l'entrée donc), pas pour le traitement subséquent.Avec mon prompt maintenant célèbre 'Que faire un week-end de vacances à Limoges?' il n'y aura aucune accélération visible, hors les meilleures perfs du M5 face au M4, grâce à sa meilleure bande-passante mémoire. Mais pas nécessairement un meilleur week-end!Donc en général, non, MLX sous macOS 26.2 n'accélèrera pas grand chose...

En ce moment, profitez du Black Friday et soutenez MacBidouille