N2 · Un peu de bricolageNouveau

Faire tourner des grands modèles de langage en local, sans dépendre d'un cloud (Ollama)

Une commande pour télécharger et lancer un LLM, avec une API REST compatible OpenAI pour l'intégrer à ses outils

Ce qu'il faut

Niveau: N2 · Un peu de bricolage — Fonctionne dans un outil que vous avez déjà, mais demande des réglages (clé d'accès, options) avant d'être opérationnel.
Serveur requis: Non
Réglages requis: Oui
Licence: Licence d'origine : voir le dépôt source. Marketia n'a pas de résumé vérifié pour cette licence ; consultez-la avant tout usage.

Ollama permet de faire tourner des grands modèles de langage en local, sur son propre poste ou son propre serveur, sans dépendre d'une API cloud en mode local. Ollama propose aussi des modèles hébergés dans son cloud, pour lesquels vos prompts transitent par ses serveurs ; ils se désactivent (OLLAMA_NO_CLOUD=1). Une seule commande suffit pour télécharger et lancer un modèle, avec une API REST compatible OpenAI pour l'intégrer à ses propres outils.

Licence et attribution : Source : https://github.com/ollama/ollama. Licence : MIT (moteur) (https://raw.githubusercontent.com/ollama/ollama/main/LICENSE). Le moteur (code) est sous licence MIT, librement réutilisable. Ollama télécharge à la demande des modèles tiers qui gardent chacun leur propre licence — certains permissifs (Apache-2.0), d'autres assortis de conditions spécifiques (ex. licences communautaires Llama ou Gemma) — à vérifier modèle par modèle avant un usage commercial. Tous droits conservés par ses auteurs ; cette fiche est une présentation rédigée par Marketia.

Critique Marketia

Verdict

Le moyen le plus simple de faire tourner un modèle de langage sur sa propre machine, mais « complete privacy » n'est vrai qu'en mode local pur : l'outil propose aussi des modèles dans le cloud d'Ollama, et la qualité dépend entièrement de votre matériel.

Pour qui (PME française)

PME qui veut tester des assistants IA sans envoyer de documents à un tiers (RH, contrats, comptabilité).
Une personne un minimum technique (terminal, Docker) pour le brancher à un autre outil. Ce n'est pas un produit fini pour des utilisateurs métier : il fournit un moteur et une API, pas une interface de travail.

Points forts prouvés

Installation documentée en une commande par système (macOS, Windows, Linux), plus une image Docker officielle (README lu).
API REST sur localhost:11434 et bibliothèques Python et JavaScript officielles (README lu).
Écoute par défaut sur 127.0.0.1 uniquement ; l'exposition réseau est un choix explicite via OLLAMA_HOST (FAQ lue).
Mode « local uniquement » documenté : OLLAMA_NO_CLOUD=1 ou disable_ollama_cloud dans server.json (FAQ lue).
Très actif : dernière release v0.40.6 le 2026-10-17, commits le jour même (flux Atom GitHub lus).

Limites et risques

Le README annonce « locally or in the cloud with complete privacy ». La FAQ précise que, pour les modèles hébergés par Ollama, vos prompts transitent par leurs serveurs (qui déclarent ne pas les stocker). Si vous avez une exigence RGPD stricte, désactivez le cloud et vérifiez-le.
Aucune authentification intégrée décrite dans la FAQ : elle recommande un proxy (Nginx) pour exposer le service. Une issue ouverte du 2026-10-16 demande justement une sécurité applicative optionnelle pour les serveurs exposés (#19045). Ne jamais ouvrir le port 11434 sur Internet.
Stabilité matérielle : les issues ouvertes les plus récentes (2026-10-15 et 16) portent sur des plantages sur GPU AMD (ROCm, Vulkan), des erreurs Metal sous macOS, et sous Windows un démarrage automatique non voulu (#19067) ou une application de barre d'état qui relance le serveur (#19013). Environ 2 577 issues ouvertes (lu sur la page des issues, résumé automatique de la page).
Cartes NVIDIA : capacité de calcul 5.0 ou plus et pilote 550 ou plus (docs/gpu.mdx lu). Sans GPU, le modèle tourne sur le processeur, plus lentement (la FAQ décrit le partage CPU/GPU). Nous ne chiffrons pas la lenteur : non mesurée.
Les modèles ont chacun leur licence, indépendante de celle d'Ollama (voir plus bas).

Effort d'installation réel

Faible pour le moteur : une commande ou l'installeur Windows. Moyen pour un usage utile : choisir un modèle adapté à la mémoire disponible, puis connecter une interface (AnythingLLM, Open WebUI, LibreChat...) ou une automatisation. Prévoir quelques heures pour un premier essai propre, une journée pour un déploiement serveur sécurisé derrière un proxy. Ces durées sont une estimation, pas une mesure.

Alternatives

llama.cpp (le moteur de bas niveau, plus de réglages, moins de confort), LocalAI (API compatible OpenAI, https://github.com/mudler/LocalAI), LM Studio (application de bureau, licence propriétaire à vérifier).
Pour la qualité sans matériel : un fournisseur d'API sous contrat RGPD (hors périmètre de ce produit).

Licence et attention commerciale

Licence MIT (fichier LICENSE lu : « MIT License, Copyright (c) Ollama »). Usage commercial du logiciel permis, attribution à conserver. Attention : le logiciel est MIT, pas les modèles. Chaque modèle du catalogue (https://ollama.com/library) a sa propre licence (certaines limitent l'usage commercial ou imposent des conditions). Nous n'avons pas relu les licences des modèles : à vérifier modèle par modèle avant un usage client.

Ce que nous n'avons pas testé

Aucune installation, aucun lancement, aucun benchmark de vitesse ou de qualité, aucune vérification de la licence d'un modèle précis, aucun test du mode OLLAMA_NO_CLOUD, aucun test sous Windows.

Sources (lues le 2026-10-17)

Licence des modèles à vérifier

Licence du logiciel et licence des modèles sont distinctes. Ce produit ne fournit pas de modèle d'IA ; les modèles que vous choisissez de télécharger ou d'utiliser (par exemple Llama, Gemma, Qwen, Mistral) sont soumis à leurs propres conditions, qui peuvent comporter des restrictions d'usage commercial, des seuils d'utilisateurs, une politique d'usage acceptable et une obligation d'attribution. Il vous appartient de les lire avant tout usage professionnel.