Modifier la quantité de mémoire vidéo sur les Mac Apple Silicon, pour augmenter les performances des LLM

Depuis l'arrivée des Mac Apple Silicon, Apple met en avant la mémoire unifiée, qui permet au processeur et au GPU de partager la mémoire vidéo sans effectuer des transferts incessants entre deux zones séparées, comme dans les puces Intel. Cette solution permet au GPU d'accéder à une grande quantité de mémoire vidéo, mais elle n'est pas infinie ni même équivalente à la quantité de RAM présente dans le Mac: une partie de la mémoire vive est réservée au système. Dans la majorité des cas, la quantité de mémoire vidéo maximale est de 66 % de la quantité de mémoire (par exemple 5,3 Go avec 8 Go de RAM) et le reste est réservé au système. Sur les Mac avec beaucoup de mémoire vive (a priori plus de 32 Go), la limite est un peu plus haute: 75 %. Mais il est possible de modifier la valeur en question.

Siliv affiche l'allocation actuelle et permet de modifier les valeurs. Image MacGeneration.

Avant de se poser la question du comment, il y a d'abord le pourquoi. Si vous avez beaucoup de mémoire...