Accueil›Logiciels›MLX (mlx-lm)
MLX (mlx-lm)
Version en vigueur mlx-lm 0.32.2 (mlx 0.32.4)2026-10-16 (mlx-lm) / 2026-10-14 (mlx)Arbre audité mlx-lm tag v0.31.3 + main 2026-08-25; mlx 0.32.1Licence MIT
MLX, c’est la solution d’Apple pour faire tourner des modèles sur Mac Apple Silicon (pas sur Mac Intel ; sous Windows, non documenté). mlx-lm émet d’origine 0 appel vers l’extérieur et n’a aucune télémétrie propre : la seule vient du téléchargement Hugging Face, et HF_HUB_DISABLE_TELEMETRY la coupe. MIT, code public. Version en vigueur : mlx-lm 0.32.2 (mlx 0.32.4).
Le framework de calcul d’Apple pour Apple Silicon, plus la couche mlx-lm qui en fait un runtime de modèles de langage. Ce sont deux paquets distincts : mlx est le framework de calcul, comme NumPy ou PyTorch, et mlx-lm est ce qui exécute réellement les modèles. Il exploite la mémoire unifiée : CPU et GPU partagent le même banc sans copie.
Étapes jusqu’au premier token
Déclaré par le fabricant
Hôtes qu’il contacte d’origine
Mesuré par Local AI Scope
Licence
Mesuré par Local AI Scope
Vidéos : MLX (mlx-lm) 4
Les vidéos officielles qui nous ont semblé les plus utiles. Appuyez et la vidéo s’ouvre ici.
Les vidéos sont sur YouTube et rien ne se charge depuis YouTube tant que vous n’appuyez pas (mode sans cookies). La miniature est servie par nous.
Comment nous l’avons vérifié
Tout ce que cette fiche affirme sur le réseau vient de la lecture du code publié et de la documentation officielle à la date indiquée, et non de l’observation du trafic. Nous n’avons pas encore placé le programme devant un analyseur de réseau : c’est de l’analyse statique, pas de l’observation. Cette capture est sur notre liste ; le jour où nous l’aurons, ces cellules monteront d’un niveau de preuve. D’ici là, pas question de prétendre avoir reniflé les paquets : nous avons lu la recette, pas goûté le plat.
Ce qui sort de votre machine
Avant de laisser un logiciel local approcher vos documents, nous lui posons quatre questions : ce qu’il envoie de lui-même, qui d’autre il appelle, sur quelle adresse il écoute, et si vous pouvez le vérifier vous-même. Un vrai entretien d’embauche.
Télémétrie par défaut
Aucune en propre : il hérite de celle de la bibliothèque de téléchargement. Vérifié par nous à la source primaire
Nous avons balayé tout le paquet mlx_lm, la branche principale, la 0.31.3 publiée et, le 1er octobre 2026, la nouvelle 0.32.0, à la recherche de telemetry, analytics, posthog, sentry, mixpanel et usage stats : zéro correspondance dans les trois. Idem dans le framework mlx. Mais mlx-lm télécharge via huggingface_hub, et cette bibliothèque collecte bien des données par défaut. C’est le constat transposable de toute la comparaison : la télémétrie n’est pas mise par le runtime, elle est mise par la bibliothèque de téléchargement. Un détail parlant : mlx-lm ne s’identifie pas auprès de Hugging Face, si bien que son en-tête d’agent utilisateur commence littéralement par « unknown/None ».
«By default, some data is collected by HF libraries (transformers, datasets, gradio,..) to monitor usage […]. You can set HF_HUB_DISABLE_TELEMETRY=1 as environment variable to globally disable telemetry.»
Comment le désactiver: HF_HUB_DISABLE_TELEMETRY=1, ou le standard inter-éditeurs DO_NOT_TRACK=1. Pour un usage totalement hors ligne, HF_HUB_OFFLINE=1 : la documentation de Hugging Face prévient que, même si le modèle est déjà en cache, une requête HTTP est émise pour vérifier s’il existe une version plus récente du fichier.
Source · consulté le 2026-08-25
Autres appels vers l’extérieur
| Quoi | Vers où | Quand | Peut-on l’éviter | Preuve |
|---|---|---|---|---|
| Téléchargement de modèles | huggingface.co (ou modelscope avec MLXLM_USE_MODELSCOPE) |
À la demande d’un modèle absent du cache, et pour vérifier si ceux qui y sont ont une version plus récente. | HF_HUB_OFFLINE=1 | vérifié par nous |
| Fichier de calibration pour la quantification | un gist GitHub |
Une seule fois, et uniquement si vous quantifiez avec AWQ, GPTQ ou la quantification dynamique. | Ne pas utiliser ces méthodes | vérifié par nous |
| Images qu’une requête de chat transmet sous forme d’adresse web | l'adresse web que contient la requête, quelle qu'elle soit |
Depuis la 0.32.1, quand une requête de chat à mlx_lm.server contient une image sous forme d’adresse http(s) : le serveur la télécharge lui-même (30 secondes d’attente) avant de répondre, quel que soit le modèle chargé. | Pas d’interrupteur : intégrez vos images (base64) et ne laissez pas le serveur tourner pendant que vous naviguez | vérifié par nous |
Source · consulté le 2026-08-25
Sur quelle adresse il écoute
| Réglage | D’origine |
|---|---|
| Écoute sur | 127.0.0.1:8080 |
| Authentification par défaut | aucune |
| CORS par défaut | Grand ouvert : n’importe quelle origine, méthode et en-tête |
Il écoute sur localhost, mais avec le CORS grand ouvert — n’importe quelle origine, n’importe quelle méthode, n’importe quel en-tête — et sans aucune authentification : ses propres exemples écrivent api_key=”not-needed”. Le serveur est bâti sur la bibliothèque standard de Python, pas sur un serveur de production, et sa documentation le dit. Le même avertissement figure dans le code que pip installe : mlx_lm.server l’affiche à chaque démarrage (« mlx_lm.server is not recommended for production as it only implements basic security checks. »). Vérifié par nous à la source primaire
«The MLX LM server is not recommended for production as it only implements basic security checks.»
Source · consulté le 2026-08-25
Peut-on l’auditer ?
Oui. MIT, Apple Inc., pour mlx comme pour mlx-lm. C’est ce qui nous permet de dire « sans télémétrie propre » comme une absence vérifiée et non comme une affirmation — et surtout de dire que ses types de périphérique sont exactement deux. Vérifié par nous à la source primaire
Source · consulté le 2026-08-25
Politique de confidentialité
Il n’existe pas de politique de confidentialité, et ici c’est plutôt une bonne nouvelle qu’un manque : aucun service ne se cache derrière le programme et il n’y a pas de responsable de traitement à qui la réclamer. non vérifié
Ce qu’il exécute, et où
Plateformes, accélérateurs et formats de modèle : les trois murs qu’on peut rencontrer dès ce premier soir plein d’enthousiasme. Mieux vaut les découvrir ici qu’à minuit avec un modèle à moitié téléchargé.
Où il fonctionne
| Plateforme | Prise en charge | Preuve |
|---|---|---|
| Windows | Partiel et non documenté. Le framework mlx publie des roues Windows officielles (x64 et ARM64) depuis juillet 2026 et les teste en intégration continue, mais sa documentation ne mentionne Windows nulle part, et mlx-lm déclare sa dépendance pour macOS seulement : hors macOS, `pip install mlx-lm` n’installe pas le moteur. Que mlx-lm fonctionne sous Windows n’est pas vérifié. | vérifié par nous |
| macOS Apple Silicon | Oui, c’est sa plateforme. macOS 14.0 ou plus récent pour l’installer ; certaines fonctions pour grands modèles exigent macOS 15. | vérifié par nous |
| macOS Intel | Non. Toutes les roues macOS sont arm64 ; il n’en existe aucune x86_64. Attention à Python sous Rosetta : leur propre guide met en garde sur ce cas. | vérifié par nous |
| Linux | Oui pour le framework mlx, qui a un backend CUDA et une version CPU seule. Que mlx-lm y fonctionne bien, nous ne l’avons pas vérifié : son README ne parle que d’Apple Silicon. | déclaré par l’éditeur |
Ce qu’il accélère
| Moteur | État | Preuve |
|---|---|---|
| Metal | Oui : c’est la voie native sur Apple Silicon, avec mémoire unifiée — CPU et GPU partagent le même banc sans copier de données entre eux. | déclaré par l’éditeur |
| CUDA | Oui, dans le framework mlx sous Linux, avec une architecture NVIDIA SM 7.5 ou supérieure. | déclaré par l’éditeur |
| CPU | Oui. C’est l’un des deux seuls types de périphérique qui existent dans MLX. | vérifié par nous |
| ROCm | Nous n’avons pas pu le vérifier. Leur documentation d’installation n’offre qu’Apple Silicon, CUDA et CPU, mais nulle part ils ne déclarent qu’AMD n’est pas pris en charge : nous rapportons l’absence, pas un « non ». | non vérifié |
| Vulkan | Nous n’avons pas pu le vérifier. Il n’apparaît ni dans la documentation ni dans l’arbre des backends, et il n’y a de déclaration dans aucun sens. | non vérifié |
| Neural Engine | Non, et cette absence-là est vérifiée, pas une source manquante : l’énumération des types de périphérique dans le code compte exactement deux valeurs, cpu et gpu, et la documentation publique le dit aussi. Beaucoup de gens supposent que MLX utilise le Neural Engine. Il ne l’utilise pas. | vérifié par nous |
«Currently supported device types are the CPU and GPU.»
Formats de modèle qu’il exécute
Format MLX et safetensors de Hugging Face. Il ne peut pas exécuter un GGUF. Il sait seulement exporter vers GGUF après fusion d’un adaptateur, et encore, uniquement pour des modèles de type Mistral, Mixtral et Llama en fp16. vérifié par nous
Source · consulté le 2026-08-25
L’installer et vivre avec
Le quotidien : combien d’étapes jusqu’au premier token, ce qu’il laisse sur votre disque, sous quelle licence et à quel rythme il change sous vos pieds une fois installé.
Étapes jusqu’au premier token
2 étapes. Installer le paquet et lancer mlx_lm.generate ou mlx_lm.chat : il télécharge le modèle par défaut et répond. déclaré par l’éditeur
Pas à pas : installer mlx-lm, lancer un premier modèle et refermer le CORS ouvert du serveur
Si quelque chose ne marche pas : 7 erreurs, le message exact de chacune et la solution
Ce qu’il écrit sur votre disque
| Quoi | Où | Preuve |
|---|---|---|
| Modèles : le cache de Hugging Face | ~/.cache/huggingface/hub — le cache de Hugging Face (HF_HOME · HF_HUB_CACHE) |
déclaré par l’éditeur |
| Historique des conversations : non enregistré. Le contexte vit en mémoire et se perd à la fermeture. Aucune trace de vos conversations ne reste sur le disque ; des cinq, seul vLLM, qui n’a pas d’interface de chat, fait de même | Nulle part : rien n’est écrit | vérifié par nous |
| Fichier de calibration de quantification : créé seulement si vous quantifiez avec AWQ, GPTQ ou la quantification dynamique | ~/.cache/mlx-lm/ |
vérifié par nous |
Licence
MIT, Apple Inc. Le framework comme mlx-lm. vérifié par nous
Source · consulté le 2026-08-25
Version et rythme de publication
Historiquement une version toutes les une à trois semaines. Puis la publication s’est arrêtée plus de cinq mois, du 22 avril au 1er octobre 2026, pendant que le développement continuait (134 commits sur 50 jours différents) ; la 0.32.0 a refermé le trou. Le framework mlx publie régulièrement : environ seize versions par an. vérifié par nous
Source · consulté le 2026-10-17
À savoir avant de l’installer
- Après plus de cinq mois sans version, le paquet que les gens installent bouge à nouveau. Du 22 avril au 1er octobre 2026, `pip install mlx-lm` donnait la 0.31.3 alors que le dépôt continuait d’avancer : 134 commits sur 50 jours différents. La 0.32.0, publiée le 1er octobre, fait entrer ce travail dans le paquet : son dossier de définitions de modèles passe de 119 à 135 fichiers (parmi les nouveaux,
mistral4,kimi_k3etolmo_hybrid). Si vous avez installé mlx-lm avant octobre, un `pip install -U mlx-lm` vaut le coup. - MLX n’utilise pas le Neural Engine. Les types de périphérique qui existent dans son code sont exactement deux : CPU et GPU.
- Il n’exécute pas de GGUF. Si votre collection de modèles est en GGUF, MLX ne vous sert à rien sans reconversion.
- Le serveur écoute sur localhost mais avec le CORS grand ouvert et sans aucune authentification, et sa propre documentation avertit qu’il n’est pas fait pour la production. mlx_lm.server répète cet avertissement à chaque démarrage.
- Depuis la 0.32.1, le serveur va chercher les images tout seul. Quand une requête de chat contient une image sous forme d’adresse web, mlx_lm.server la télécharge avant de répondre, quel que soit le modèle chargé, même s’il ne sait pas voir. Pratique, mais avec une faille : quiconque peut parler au serveur choisit l’adresse que visite votre Mac, et cela inclut n’importe quelle page web ouverte, quel que soit le réglage CORS, sauf si votre navigateur vous le demande d’abord. Aucun interrupteur ne le coupe et
--allowed-originsne l’empêche pas (il décide seulement qui peut lire la réponse) : intégrez vos images (base64) et ne laissez pas mlx_lm.server tourner pendant que vous naviguez. - Il ne conserve pas les conversations sur le disque ; des cinq, seul vLLM, qui n’a même pas d’interface de chat, fait de même.