MARKETIA
ConnexionInscription

Exécuter un modèle de langage en local : Ollama, LocalAI et llama.cpp, ce que disent les sources

Sources vérifiées le 18 octobre 2026 (comparatif rédigé le 18 octobre 2026).

Lecture des sources publiques, sauf mention d'un test d'usage séparé lié dans le texte : ce comparatif ne donne ni classement ni note. Notre méthode.

En résumé

Faire tourner un modèle de langage sur sa propre machine évite, en mode local pur, d'envoyer ses documents à un fournisseur d'API. Trois projets open source du catalogue répondent à ce besoin avec des niveaux de confort différents. Ce comparatif ne les classe pas : il met côte à côte ce que leurs sources publiques affirment, ce qu'elles ne disent pas, et ce que nous n'avons pas vérifié. Seul Ollama a fait l'objet d'un test d'usage de notre part, limité à une machine et un petit modèle.

OllamaLocalAIllama.cpp
Licence du codeMITMITMIT
Ce que c'estMoteur local avec API REST sur localhost:11434 et bibliothèques Python et JavaScriptServeur local qui reprend l'API OpenAI pour plusieurs types de modèlesMoteur C/C++, modèles au format GGUF
Mode « tout local » documentéOui : OLLAMA_NO_CLOUD=1Aucune offre cloud citée dans le READMEAucun poids embarqué, modèles téléchargés à la demande
Point de vigilance relevéDes modèles hébergés par Ollama existent : les prompts y transitentIssues ouvertes d'authentification multi-utilisateurs (#12665, #12648)Licence du modèle téléchargé à vérifier
Fiche du catalogueFiche OllamaFiche LocalAIFiche llama.cpp

Dans les trois cas, la licence MIT concerne le logiciel, pas les modèles. Chaque modèle a sa propre licence, à lire avant un usage client.

Ollama

  • Installation documentée en une commande par système (macOS, Windows, Linux) et image Docker officielle ; API REST sur localhost:11434 (README lu le 2026-10-17).
  • Écoute par défaut sur 127.0.0.1 ; l'exposition réseau est un choix explicite via OLLAMA_HOST (FAQ lue le 2026-10-17).
  • Le README annonce « locally or in the cloud with complete privacy » ; la FAQ précise que, pour les modèles hébergés par Ollama, les prompts transitent par ses serveurs. Le mode local uniquement se règle avec OLLAMA_NO_CLOUD=1.
  • Aucune authentification intégrée n'est décrite dans la FAQ, qui montre l'exposition derrière un proxy (Nginx) sans parler d'authentification ; une issue ouverte du 2026-10-16 demande une sécurité applicative optionnelle (#19045).
  • Dernière release lue : v0.40.7 le 2026-10-18 (flux Atom GitHub). Environ 2 577 issues ouvertes (page des issues lue le 2026-10-17, résumé automatique).
  • Licence MIT (fichier LICENSE lu : « MIT License, Copyright (c) Ollama »).

Détail : avis MagicMate sur Ollama. Mesures, commandes et limites : test réel d'Ollama 0.40.6. Attention aux versions : ce comparatif cite la v0.40.7 (sortie le 2026-10-18), alors que le test a été fait avec la v0.40.6 du 2026-10-16.

LocalAI

  • Reprend l'API OpenAI : le README parle de compatibilité « drop-in », mais ne documente aucune limite et renvoie à un tableau externe que nous n'avons pas lu. Une compatibilité totale n'est donc pas démontrée.
  • README : « No GPU required » ; CPU, NVIDIA, AMD, Intel, Apple Silicon et Vulkan sont cités. Aucun chiffre de performance CPU dans le README.
  • Release v4.11.0 le 2026-10-02 (flux Atom lu le 2026-10-17). 106 issues ouvertes au 2026-10-17.
  • Issue #12665 : activer l'authentification laisse des agents, collections et compétences créés avant dans un espace racine inaccessible par l'API ; le 2026-10-13, un compte collaborateur a annoncé préparer un avertissement au démarrage et de la documentation ; l'issue reste ouverte.
  • Licence MIT (README : « MIT - Author Ettore Di Giacinto »). Aucun poids embarqué ; les modèles de la galerie ont des licences hétérogènes que nous n'avons pas relues.
  • Nous n'avons pas rédigé d'avis MagicMate complet sur LocalAI ; les éléments ci-dessus viennent de l'analyse de ses sources publiques du 2026-10-17.

llama.cpp

  • Licence MIT (API GitHub de licence lue). Aucun poids embarqué : le README donne en exemple un modèle GGUF téléchargé à la demande, dont nous n'avons pas vérifié la licence.
  • Le choix du modèle, du format et des réglages revient à l'utilisateur. Nous n'avons pas rédigé d'avis MagicMate dessus et ne chiffrons ni sa vitesse ni sa consommation mémoire.

Et ensuite : un outil métier qui s'appuie sur un moteur local

Un moteur local est une brique, pas un outil de travail. Meetily, application de bureau de comptes rendus de réunion, recommande Ollama pour le résumé (README lu le 2026-10-17). Son avis note que « No data ever leaves your computer » n'est vrai qu'en résumé local pur, puisque Claude, Groq, OpenRouter et OpenAI sont aussi proposés. Fiche du catalogue : Meetily.

Comment choisir sans promesse

  • Vous voulez un premier essai accompagné de peu de réglages : les sources décrivent Ollama comme installable en une commande, avec une API prête à l'emploi. Nous l'avons essayé une fois, sur une seule machine et avec un modèle de 0,5 milliard de paramètres (voir le test réel) ; les deux autres outils n'ont pas été essayés.
  • Vous avez déjà un outil écrit pour l'API OpenAI : LocalAI vise ce cas, avec une compatibilité à tester vous-même.
  • Vous voulez choisir vous-même le modèle GGUF : llama.cpp, dont le choix et la licence du modèle restent à votre charge.
  • Dans tous les cas : vérifiez la licence du modèle, ne laissez jamais le port d'un serveur ouvert sur Internet sans authentification, et ne traitez pas « local » comme synonyme de « confidentiel » avant d'avoir contrôlé les options cloud.

Ce que nous n'avons pas testé

Hors du test réel d'Ollama 0.40.6 (une machine Windows, un modèle de 0,5 milliard de paramètres, trois questions en français), aucune installation ni aucun lancement, aucun benchmark de vitesse ou de qualité sur LocalAI et llama.cpp, aucune vérification de la licence d'un modèle précis, aucun test de OLLAMA_NO_CLOUD, aucun test de la compatibilité API de LocalAI, aucun audit réseau complet (le test d'Ollama n'a relevé que des observations locales), aucun test sous Windows pour LocalAI et llama.cpp. Les durées d'installation de nos avis sont des estimations, pas des mesures. Ces informations peuvent changer : date de vérification des sources, 2026-10-18.

Sources

Toutes lues les 17 et 18 octobre 2026 (README, LICENSE, flux Atom et pages d'issues GitHub, résumés automatiques pour les pages d'issues).

Les avis et tests détaillés

Recevoir la newsletter Marketia