2026: Lokale LLMs am Mac wählen – Entscheidungsbaum für 8GB, 16GB, 24GB und 64GB
Für lokale LLMs am Mac müssen Sie nicht zuerst alle Modellparameter auswendig lernen. Beantworten Sie vier Fragen: Wie groß ist Ihr Hauptmodell, wie lang ist der Kontext, laufen parallel andere Apps, und geht es um einen kurzen Test oder den Dauerbetrieb? Kleine Modelle zum Ausprobieren: vorhandenen 8GB-Mac nutzen; Neukauf Einstieg: 16GB; langfristige persönliche Nutzung: 24GB; 30B–32B als Alltagsmodell oder bedingte 70B-Exploration: 64GB und mehr. Je näher Ihre Anforderungen am Speicherlimit liegen, desto weniger reicht „das Modell lädt noch“ als alleiniges Kaufsignal.
Zuerst den Entscheidungsbaum durchlaufen
Der Baum folgt vier Schritten: Nutzungszweck → Modellgröße → langer Kontext/RAG → Multitasking. Jeder Schritt führt zu einer konkreten Speicherstufe. Jeder Endpunkt nennt empfohlene Stufe, was am Rand noch geht und was nicht passt. Die Abschnitte unten erklären jeden Schritt; wenn alle vier Antworten unklar sind, springen Sie zum konservativen Pfad am Ende.
| Schritt | Frage | Wohin es führt |
|---|---|---|
| ① Nutzungszweck | Kurzer Test oder langfristiger Dauerbetrieb? | Test → vorhandenen Mac nutzen; Dauerbetrieb → weiter zu ② |
| ② Modell | Hauptmodell: 4B–8B, 14B, 32B oder 70B? | Größeres Modell → höhere Speicheruntergrenze |
| ③ Kontext | 32K+ Kontext oder lokales RAG nötig? | Ja → eine Stufe höher als in ② |
| ④ Multitasking | Xcode, Browser, Docker parallel? | Ja → erneut hochstufen oder schwere Apps schließen |
Vier häufige Endpunkte (konservative allgemeine Empfehlung – keine Garantie für Token-Geschwindigkeit):
- 8GB (Linie für vorhandene Geräte / Tests): 4B–7B Q4, kurzer Kontext, eine App.
- 16GB (Einstieg beim Neukauf): 8B als Alltagsmodell; 14B am Rand; Browser-Tabs und Simulatoren schließen.
- 24GB (langfristiger Sweet Spot): 8B/14B dauerhaft geladen; 32B interaktiv; Entwicklung + Modell parallel.
- 64GB (Schwelle für große Modelle): 32B als komfortables Alltagsmodell; 70B Q4 ist ein bedingter Grenzfall (kurzer Kontext, wenig Parallelität).
Frage 1: Test oder langfristige Nutzung?
Warum zuerst der Nutzungszweck – und nicht Chip-Generation oder Budget? Weil „lädt noch“ und „läuft angenehm“ unterschiedliche Hürden sind. Beim Testen reicht es, den Workflow zu prüfen – ob Ollama sauber startet, ob LM Studio bedienbar ist. Für den Dauerbetrieb brauchen Sie Reserve für größere Modelle, längeren Kontext und parallel laufende Apps. Der Zweck zeigt, ob Sie den vorhandenen Mac ausreizen oder für die Zukunft kaufen sollten.
| Zweig | Typisches Szenario | Konkrete Empfehlung |
|---|---|---|
| Test / gelegentlicher Chat | Neugier auf lokale KI, ein 7B-Modell ausprobieren, kein täglicher Einsatz | Aktuellen Mac nutzen; 8GB reicht für 4B–7B – kein Neukauf nur deshalb |
| Langfristiger Dauerbetrieb | Lokaler Code-Assistent, Offline-Dokumente, Agent im Hintergrund | Weiter zu Frage 2; Neukauf mindestens 16GB, 24GB ist sicherer |
| Unklare Anforderungen | Modellgröße noch unklar, aber langfristige Nutzung geplant | Konservativer Pfad: direkt 24GB kaufen – spart den Tausch in sechs Monaten |
Warum unterscheiden sich vorhandene Geräte und Neukauf? Bei vielen Apple-Silicon-Macs lässt sich der RAM später nicht erweitern – oder der Aufpreis nähert sich einem Gerätetausch. Mit 8GB oder 16GB passt man das Modell an den Mac an, statt 32B zu erzwingen. Beim Neukauf Unified Memory gleich mitbestellen. Zum Testen reicht „erstmal zum Laufen bringen“; für Dauerbetrieb gilt 16GB als Untergrenze und 24GB als Standardantwort.
Frage 2: Wie groß ist Ihr Hauptmodell?
Speicherbedarf lässt sich nicht nur aus der Parameterzahl ableiten – entscheidend sind die konkrete Quantisierung (Q4, Q5, Q8) und die Bezeichnung in Ihrem Tool. Unten typische Ollama-Q4_K_M-Gewichte bei moderatem Kontext (nur Gewichte; plus 4–8GB für System + KV-Cache):
| Modellgröße | Beispiele (Q4 ca.) | Gewichts-Footprint | Konservative Untergrenze |
|---|---|---|---|
| 4B | phi3:mini, kleine Qwen-Varianten |
~2–3GB | 8GB zum Testen |
| 8B | llama3.1:8b, qwen2.5:7b |
~4–5GB | 16GB Dauerbetrieb |
| 14B | qwen2.5:14b, phi4:14b |
~9–11GB | 16GB Grenzfall / 24GB komfortabel |
| 32B | qwen2.5:32b, qwen2.5-coder:32b |
~19–20GB | 24GB interaktiv / 32GB+ Dauerbetrieb |
| 70B | llama3.3:70b, qwen2.5:72b |
~40–43GB | 64GB bedingter Einstieg (siehe unten) |
Kurzformel: Gewichte + 4–8GB System/Apps + 2–6GB KV-Cache ≤ Unified Memory. Ist 32B Ihr Alltagsmodell, ist 24GB „geht, aber eng“; mit offener IDE entweder 14B auf 24GB oder 32GB/48GB für 32B. Eine ausführliche Mac-Modell-Matrix finden Sie im Leitfaden zu lokalen Mac-Modellen 8B–70B.
Frage 3: Brauchen Sie langen Kontext oder RAG?
Langer Kontext und RAG verschieben das Ergebnis – sie verbrauchen KV-Cache zur Laufzeit und zusätzlichen Speicher für Embeddings und Retrieval, nicht nur Modellgewichte.
- Kurzer Kontext (4K–8K): Alltags-Chat, Einzeldatei-Zusammenfassung. Geringer Speichereinfluss – bei Frage 2 bleiben.
- Langer Kontext (32K–128K): ganze Bücher, lange Logs, mehrstufige Agenten. KV-Cache kann mehrere GB bis 10+ GB kosten – eine Speicherstufe höher als in Frage 2.
- Lokales RAG: Vektorspeicher + Embedding-Modell + Generator gleichzeitig im RAM. GPT4All LocalDocs, Ollama mit eigener RAG-Pipeline usw. oft +2–8GB je nach Korpus und Embed-Modell.
| Nach Frage 2 | + Langer Kontext / RAG | Angepasste Empfehlung |
|---|---|---|
| 16GB · 8B Alltag | 32K Kontext oder kleines RAG | Geht; schwere Apps schließen, kein zusätzliches 14B laden |
| 16GB · 14B Alltag | Langer Kontext oder RAG | Auf 24GB wechseln |
| 24GB · 32B interaktiv | 128K oder große lokale Wissensbasis | Auf 32GB–48GB wechseln |
| 64GB · 70B Grenzfall | RAG mit langem Kontext | 70B nur mit kurzem Kontext; lange Dokumente → 32B + RAG oder Cloud |
Frage 4: Multitasking oder Parallelität?
macOS, Browser, Xcode, Simulatoren, Docker und Ihr lokales Modell teilen sich denselben Unified-Memory-Pool. Multitasking ändert die Gewichte nicht, frisst aber die Reserve für KV-Cache und Puffer. Sobald Swap einsetzt, wird es von „langsam“ zu „unbenutzbar“.
| Nutzungsmuster | Speicherstrategie |
|---|---|
| Einzelaufgabe: nur Ollama / LM Studio | Fragen 2 und 3 folgen |
| Leichtes Multitasking: Browser + Chat + Notizen | 16GB für 8B; 24GB für 14B–32B |
| Dev-Multitasking: Xcode + Simulator + lokales Modell | Mindestens 24GB; 32B Alltag → 32GB+ |
| Parallelität: mehrere Modelle / API-Sessions gleichzeitig | 64GB und mehr; oder „kleines Modell dauerhaft + großes bei Bedarf“ |
Praxis-Tipp: Das größte Modell muss nicht rund um die Uhr geladen sein. 8B für häufige Kleinstaufgaben; 32B/70B bei Bedarf mit ollama run – nachhaltiger als 32B auf 16GB zu erzwingen. Zur Tool-Wahl siehe Ollama vs LM Studio vs Jan vs GPT4All im Vergleich.
Vier Endpunkte: Für wen sie passen
Endpunkt A: 8GB – Linie für vorhandene Geräte / Tests
Empfohlen: aktuellen 8GB-Mac weiter nutzen. Am Rand: 4B–7B Q4, Kontext ≤8K, eine App. Nicht geeignet: 14B+ als Alltagsmodell, RAG, parallel zu Xcode. Beim Neukauf für lokale KI 8GB überspringen und 16GB/24GB wählen.
Endpunkt B: 16GB – Einstieg beim Neukauf
Empfohlen: knappes Budget, 8B als Alltagsmodell. Am Rand: 14B mit kurzem Kontext, leichtes RAG (Simulatoren und Extra-Tabs zu). Nicht geeignet: 32B dauerhaft geladen, 128K Kontext, Dev + großes Modell voll parallel. Gut für Mac mini / Air Einstiegskonfigurationen, um den lokalen Workflow zu validieren.
Endpunkt C: 24GB – langfristiger Sweet Spot
Empfohlen: Standard für alle, die lokale KI ernst nehmen. Am Rand: 14B dauerhaft + 32B bei Bedarf, mittleres RAG, Browser und IDE parallel. Nicht geeignet: 70B als Alltagsmodell, mehrere Modelle 24/7. Bestes Verhältnis aus Erfahrung und Kosten – bei Unsicherheit 24GB statt 16GB riskieren.
Endpunkt D: 64GB – Schwelle für große Modelle
Welche Zweige brauchen 64GB oder mehr?
- Alltagsmodell im Bereich 30B–32B mit langem Kontext + täglichem Dev-Multitasking.
- Bedingte 70B-Exploration (kein komfortabler Dauerbetrieb – siehe unten).
- Parallele Modell-APIs, verkettete lokale Agenten, große RAG-Wissensbasis dauerhaft im RAM.
- 48GB kann 70B manchmal laden, lässt aber zu wenig Spielraum – 64GB ist die konservative Untergrenze für 70B Q4.
70B als bedingter Grenzfall (wichtig): auf 64GB nehmen Q4-Gewichte für Modelle wie llama3.3:70b ~40GB+ ein; ~20GB bleiben für System, KV-Cache und Apps. 70B nur als gelegentliche Qualitätsschicht nutzen, wenn kurzer Kontext, wenig Parallelität und langsamere Antworten als bei 32B akzeptabel sind. Für 70B als echten Dauerbetrieb mit langem RAG eher 96GB–128GB (Mac Studio / MacBook Pro Max mit viel RAM) statt 64GB zu strecken.
Auch 64GB reicht nicht für: 235B-Klassen-Modelle, Multi-GPU-Server-Deployments – dafür Cloud-APIs oder dedizierte Inferenz-Knoten statt eines persönlichen Macs.
Wann upgraden, wenn sich die Anforderungen ändern
Diese Signale bedeuten, dass Sie die aktuelle Stufe ausgereizt haben – Zeit für ein neues Gerät oder einen zweiten Mac mit mehr RAM (Apple-Silicon-RAM ist nach dem Kauf nicht erweiterbar):
- Häufiger Swap: Speicherdruck in der Aktivitätsanzeige dauerhaft gelb/rot; Tippen und UI fühlen sich träge an.
- Modell-Downgrade zum Überleben: 14B lief früher flüssig, jetzt nur noch 8B – Parallelität oder Kontext ist gewachsen.
- Workflow hängt am größeren Modell: „32B ausprobieren“ wurde zu „ohne 32B geht es nicht“ – von 16GB/24GB auf 32GB/48GB.
- RAG oder Agenten im Produktivbetrieb: Embed-Modell + Vektorspeicher + Generator dauerhaft resident – pro Frage 3 eine Stufe hoch.
- 70B von Neugier zur Pflicht: 64GB nur Grenz-Exploration; stabiler 70B-Dauerbetrieb braucht 96GB+.
Upgrade-Reihenfolge: Speicherstufe (neues Gerät) → dann Chip-Stufe (M4 Pro/Max). Schnelleres Silizium bei zu wenig RAM bringt Swap nur früher – es löst nicht „passt nicht rein“.
30-Sekunden-Selbstcheck
- Test oder langfristiger Dauerbetrieb? (Test → vorhandener 8GB reicht; Dauerbetrieb → Neukauf ≥16GB)
- Hauptmodell: 8B, 14B, 32B oder 70B? (Tabelle oben für die Untergrenze)
- 32K+ Kontext oder lokales RAG? (ja → eine Stufe höher)
- Xcode / Docker parallel zum Modell? (ja → ab 24GB; 32B Alltag → 32GB+)
- Nach vier Schritten noch unsicher? → 24GB kaufen; für 32B Alltag oder 70B-Tests → 64GB
Dieser Artikel gibt konservative allgemeine Empfehlungen. Die tatsächliche Geschwindigkeit hängt von Chip-Stufe, Quantisierung und Tool (Ollama / LM Studio / MLX) ab. Vor dem Kauf die exakte Modellgröße im Ziel-Tool prüfen und „Gewichte + System + KV + Alltags-Apps“ im Kopf rechnen – nicht nur „es hat geladen“.
Unified Memory: Warum der Mac mini zu diesem Entscheidungsbaum passt
Jede Speicherstufe in diesem Baum wird durch Apple-Silicon Unified Memory verstärkt oder begrenzt: CPU, GPU und Neural Engine teilen sich einen hochbandbreiten Pool. Bei quantisierten 8B–14B-Modellen schlägt das oft gleich teure Windows-PCs, bei denen VRAM und System-RAM getrennt sind – weniger Gewichteshuffling, mehr Zeit für Tokens. Der Mac mini M4 ist kompakt mit rund 4W Leerlauf, ideal als dauerhaft laufender lokaler KI-Knoten: Ollama kann Modelle im Hintergrund stufenweise laden, während Sie tagsüber entwickeln und nachts RAG fahren – ohne Thermik- und Akkudruck eines Laptops.
Gatekeeper, SIP und FileVault in macOS schützen lokale Gewichte und RAG-Indizes zusätzlich – kontrollierter als mehrere KI-Clients auf einem geteilten PC. Landet der Baum bei 24GB oder 64GB, lohnt ein dedizierter Mac mini für Modelle und Dokumentenspeicher mehr als alles auf dem Hauptrechner zu quetschen. Der Mac mini M4 ist die kosteneffizienteste Hardware, um diesen Entscheidungsbaum reibungslos umzusetzen – jetzt Angebote ansehen, RAM zum Endpunkt passend wählen und lokale Inferenz rund um die Uhr stabil und leise betreiben.