Update 25 september 2026: Apple introduceerde op 25 augustus 2026 de M6-chip en Anthropic bracht op 22 september 2026 Claude Opus 5.5 uit; de chip- en modelnamen in deze gids zijn bijgewerkt. Het modeladvies klopt nog met de Ollama-bibliotheek.
Update 18 september 2026: Modeladvies volledig vernieuwd. Het eerder genoemde “Llama 3.3 8B” bestaat niet (Llama 3.3 is er alleen als 70B). De aanbevolen modellen zijn nu Qwen 3.5, Gemma 4, Qwen 3.8 en gpt-oss. Ook nieuw: de Ollama-app heeft een eigen chatvenster en draait op Apple Silicon sneller dankzij de MLX-varianten.
Waarom een lokale LLM?
Niet al je data hoeft naar de cloud. Met een lokale LLM (Large Language Model — het type AI achter ChatGPT) draai je AI volledig op je eigen hardware: geen API-kosten, geen dataverzending naar derden, en onbeperkt gebruik. Op Apple Silicon Macs (M1 tot en met M6) werkt dit verrassend goed dankzij de Unified Memory Architecture en de ingebouwde Neural Engine — Apples variant van de NPU die standaard in moderne laptops zit (wat een NPU is en waarom hij in elke AI-laptop zit) (Bron: JohnWLittle.com — Ollama on Mac Silicon). Niet zeker wat Ollama precies is en wanneer het zin heeft? Onze Wat is Ollama?-uitleg geeft het overzicht zonder direct in de terminal te duiken.
Ik draai zelf sinds een paar maanden een lokaal model op een MacBook met 16 GB geheugen. Prima voor brainstorms, snelle reformuleringen en alles wat ik niet direct naar een Amerikaanse cloud wil sturen. Ga je dit met echte bedrijfsdata doen? Lees dan onze 5 checks om open modellen veilig te draaien. Voor zware schrijfopdrachten grijp ik nog naar ChatGPT of Claude — maar voor alledaags werk blijft de lokale variant verrassend vaak genoeg. Zit je twijfel vooral op het Europese vlak (waar staat je data, onder welk recht valt de aanbieder), bekijk dan ook Europese AI-apps in 2026.
Voor wie is dit artikel? Voor Mac-gebruikers die zelf AI-modellen willen draaien op hun eigen laptop — handig als privacy belangrijk is, als je AI vaak gebruikt, of gewoon uit nieuwsgierigheid. Je hoeft geen ontwikkelaar te zijn, maar je moet je niet door een regel Terminal-commando’s laten afschrikken. Werk je nog helemaal niet met AI? Start dan eerst met ChatGPT voor beginners — lokaal draaien is de volgende stap, niet de eerste.
Beginner-tip: Een “lokale LLM” is een AI-model dat op jouw eigen computer draait, in plaats van op servers van OpenAI of Google. Voordelen: je data verlaat je Mac niet, je hebt geen internetverbinding nodig, en er zijn geen maandelijkse kosten.
Wat heb je nodig?
| Vereiste | Minimum | Aanbevolen |
|---|---|---|
| macOS | macOS 14 Sonoma | De nieuwste macOS |
| Chip | M1 (elke variant) | M3 Pro / M4 Pro of hoger |
| RAM | 8 GB | 16–32 GB |
| Schijfruimte | 10 GB vrij | 50+ GB voor meerdere modellen |
(Bron: Ollama macOS Docs / GPTforWork Setup Guide)
Wil je eerst een vergelijking tussen de modellen zelf? Onze deep dive waarin Llama, Mistral en DeepSeek vergeleken worden gaat dieper in op kwaliteit, licentie en benchmarks — handig voordat je er eentje lokaal gaat draaien.
Vuistregel voor RAM vs. modelgrootte:
- 8 GB RAM: Modellen tot ~7B parameters (bijv. Qwen 3.5 4B, Llama 3.1 8B)
- 16 GB RAM: Modellen tot ~13B parameters comfortabel
- 32 GB RAM: Modellen tot ~34B parameters met 4-bit quantisatie
- 64+ GB RAM: 70B+ modellen, meerdere modellen tegelijk
Gevorderden: Apple Silicon’s Unified Memory Architecture deelt geheugen tussen CPU en GPU, waardoor er geen data-overhead is bij GPU-acceleratie. De M4 Pro met 24 GB RAM is in 2026 de sweet spot voor lokale LLM-experimenten — je kunt modellen tot 30B parameters effectief draaien (Bron: Dmitry Markov M4 Pro Benchmark).
Stap 1: Ollama installeren
Je hebt twee opties (Bron: Ollama Download):
Optie A: DMG Installer (aanbevolen voor beginners)
- Ga naar ollama.com/download/mac
- Download de
.dmg - Sleep de Ollama app naar je Programma’s map
- Start Ollama — het draait als achtergrondproces in je menubalk
Optie B: Terminal / Homebrew
# Via het installatiescript:
curl -fsSL https://ollama.com/install.sh | sh
# Of via Homebrew:
brew install ollama
# Controleer de installatie:
ollama --version
Na installatie draait Ollama automatisch als server op de achtergrond en start het bij elke reboot (Bron: Markus Schall — Local AI on Mac).
Stap 2: Je eerste model downloaden en draaien
Het commando ollama run downloadt een model automatisch als het nog niet lokaal staat:
# Download en start Qwen 3.5 (4B): een goed beginmodel dat op elke Apple Silicon-Mac draait
ollama run qwen3.5:4b
# Het model wordt gedownload (~3,4 GB) en start een chatinterface
Dat is het! Je praat nu met een lokale AI.
Beginner-tip: Bij het eerste gebruik downloadt Ollama het model — dit kan enkele minuten duren afhankelijk van je internetsnelheid. Daarna start het model direct uit lokale opslag.
Stap 3: De beste modellen kiezen
De beste open modellen voor lokaal gebruik, peil september 2026 (Bron: Ollama-modelbibliotheek):
| Model | Download | RAM nodig | Beste voor | Commando |
|---|---|---|---|---|
| Qwen 3.5 4B | 3,4 GB | 8 GB | Instap, meertalig, ook beeld | ollama run qwen3.5:4b |
| Qwen 3.5 9B | 6,6 GB | 16 GB | Algemeen gebruik | ollama run qwen3.5:9b |
| Gemma 4 12B | 7,6 GB | 16 GB | Algemeen gebruik + beeld | ollama run gemma4:12b |
| gpt-oss 20B | 14 GB | 16–24 GB | Redeneren en tools (OpenAI) | ollama run gpt-oss:20b |
| Qwen 3.8 27B | 18 GB | 32 GB | Beste kwaliteit op 32 GB, code en agents | ollama run qwen3.8 |
| Gemma 4 31B | 20 GB | 32 GB | Kwaliteit + beeld | ollama run gemma4:31b |
| gpt-oss 120B | 65 GB | 96 GB+ | Beste overall lokaal | ollama run gpt-oss:120b |
Op een Mac met Apple Silicon zijn er van Gemma 4, Qwen 3.5 en Qwen 3.8 ook -mlx-varianten (bijv. gemma4:12b-mlx): sneller en zuiniger met geheugen (Bron: Ollama).
Gevorderden: Voor de beste kwaliteit-snelheid balans op een Mac met 32 GB: gebruik
qwen3.8:27b-mlx. Met 64 GB draai je meerdere modellen tegelijk; voor gpt-oss 120B heb je 96 GB of meer nodig.
Stap 4: Handige commando’s
# Beschikbare modellen tonen
ollama list
# Model downloaden zonder te starten
ollama pull llama3
# Model verwijderen (schijfruimte vrijmaken)
ollama rm llama3
# Model-informatie bekijken (grootte, parameters)
ollama show llama3
# Alle draaiende modellen zien
ollama ps
# Ollama server handmatig starten (normaal automatisch)
ollama serve
Stap 5: Ollama als API gebruiken
Ollama draait standaard een REST API op localhost:11434, waarmee je het kunt integreren in je eigen applicaties (Bron: Dev.to Complete Ollama Guide):
# Eenvoudig API-verzoek via curl
curl http://localhost:11434/api/generate -d '{
"model": "llama3",
"prompt": "Leg uit wat machine learning is in 3 zinnen.",
"stream": false
}'
# Python voorbeeld
import requests
response = requests.post('http://localhost:11434/api/generate', json={
'model': 'llama3',
'prompt': 'Schrijf een Python functie die priemgetallen vindt.',
'stream': False
})
print(response.json()['response'])
Beginner-tip: De API maakt het mogelijk om Ollama te gebruiken vanuit je eigen scripts en applicaties. Je kunt het ook koppelen aan tools als LangChain, Open WebUI of je eigen chatbot.
Stap 6: Grafische interface (optioneel)
Wil je liever een ChatGPT-achtige interface?
De Ollama-app zelf is sinds juli 2025 een volwaardige chat-interface: model kiezen, vraag stellen, pdf of tekstbestand erin slepen (Bron: Ollama). Voor de meeste gebruikers is dat genoeg.
Open WebUI is de optie voor een gedeelde teamomgeving:
# Installeer via Docker
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
Open daarna http://localhost:3000 in je browser — je hebt nu een volledige chat-interface voor al je lokale modellen.
LM Studio is een alternatief als je liever geen terminal gebruikt: een GUI-applicatie voor het downloaden en draaien van modellen met een klik, gratis ook voor zakelijk gebruik (Bron: LM Studio).
Tips en beperkingen
Tip:
- Begin klein: start met Qwen 3.5 4B en schaal op
- Monitor je geheugengebruik met Activity Monitor
- Gebruik 4-bit quantisatie (Q4_K_M) voor de beste balans tussen snelheid en kwaliteit
- Ollama gebruikt Apple’s Metal GPU-acceleratie automatisch
⚠️ Beperkingen:
- Lokale modellen zijn langzamer dan cloud-alternatieven
- Geen internettoegang vanuit het model (geen web search)
- Modelgrootte beperkt door je RAM
- Docker GPU-acceleratie op macOS werkt beperkt (Metal API vs. CUDA)
(Bron: JohnWLittle.com Limitations)
Wanneer lokaal, wanneer cloud?
De lat voor “lokaal” schuift intussen op: PrismML perste in juli 2026 een 27-miljard-parameter model in minder dan 6 GB — wat op je Mac draait wordt dus elk kwartaal capabeler. En het aanbod groeit hard nu open modellen de betaalde top evenaren — de context lees je in Open AI-modellen evenaren de top: wat goedkope Chinese AI voor jouw bedrijf betekent.
| Scenario | Lokaal ✅ | Cloud ✅ |
|---|---|---|
| Privacy-gevoelige data | ✅ | ❌ |
| Geen internet beschikbaar | ✅ | ❌ |
| Onbeperkt gebruik zonder kosten | ✅ | ❌ |
| Beste mogelijke kwaliteit | ❌ | ✅ (GPT-6 Astra, Claude Opus 5.5) |
| Zeer grote contextvensters (1M) | Beperkt (tot 256K, kost veel RAM) | ✅ |
| Multi-modal (beeld, audio) | Beperkt | ✅ |
Wil je juist méér rekenkracht dan je Mac biedt — voor grotere modellen of training? Dan zijn GPU-cloudproviders een betaalbaar alternatief. Wat dat kost, lees je in ons stuk over wat AI je bedrijf echt kost. En voor wie de lokale LLM wil koppelen aan een doorlopend onderhouden kennisbasis op de eigen schijf: onze gids over Karpathy’s LLM Wiki-patroon laat zien hoe je dat opzet — Ollama kan de modelkant voor zijn rekening nemen.
Draai je liever lokaal dan in de cloud, dan zit daar meer achter dan privacy: in de cloud is stroom inmiddels het schaarse goed. Datacenters kopen zich uit de wachtrij voor 1,45 miljard dollar.
