Offene Gewichte vs. geschlossene APIs

„Offen“ ist ein Spektrum, kein Schalter. Was die lokale KI-Szene möglich macht, ist keine Philosophie — es ist die Existenz permissiv lizenzierter Gewichte, sodass Engines, Quantisierer und UIs etwas haben, worauf sie bauen können. Kennen Sie die Stufen, bevor Sie irgendetwas auf einem Model aufbauen.

Das Spektrum

Familien driften über die Zeit über die Stufen — eine permissive Version, im nächsten Release eine gedeckelte —, also prüfen Sie pro Model, nicht pro Marke. Die Stufennamen hier beschreiben die Lizenz, nicht die Qualität: Gedeckelte Llama- und Gemma-Releases schlagen in Benchmarks routinemäßig permissive.

Gewichte sind keine Daten und kein Code

• Offene Gewichte: Sie bekommen die Parameter und den Tokenizer. Sie können sie ausführen, quantisieren, fine-tunen und weiterverteilen (innerhalb der Lizenz).
• Open Source im strengen Sinn: Gewichte + Trainingsdaten + Trainingscode. Selten — OLMo ist das Flaggschiff-Projekt; fast alles andere sind nur offene Gewichte.
• Der praktische Unterschied: Offene-Gewichte-Modelle lassen sich nicht reproduzieren oder vollständig auditieren; Sie vertrauen der Beschreibung des Herausgebers. Für den lokalen Betrieb sind die Gewichte alles, was Sie brauchen.
• Trainingsdaten und -code liegen, wenn veröffentlicht, in eigenen Repos (Datensätze, GitHub). Gewichte allein verraten Ihnen nie, wie das Model gemacht wurde.
• Für Vertrauen gilt: permissiv ≠ auditiert — eine Apache-Lizenz sagt auch nichts über die Herkunft der Daten aus. Sie sagt, was Sie dürfen, nicht was getan wurde.

Warum die lokale Szene auf den permissiven Stufen läuft

Jedes Werkzeug in diesem Leitfaden — llama.cpp und seine GGUF-Quants, Desktop-UIs, OpenAI-kompatible lokale Server — wuchs um herunterladbare Gewichte herum und nahm mit der ersten wirklich brauchbaren offenen 7B-Generation 2023 Fahrt auf. Gedeckelte Lizenzen erlauben weiterhin lokale Nutzung, weshalb Modelle der Llama-Familie das Ökosystem durchdringen, obwohl sie im strengen Sinn kein Open Source sind. Permissive Familien bekommen das tiefste Tooling, schlicht weil niemand zuerst die Bedingungen lesen muss.

Stolperfallen, die Sie vor kommerzieller Nutzung prüfen sollten

• Nutzerdeckel: Die Llama-Community-Lizenz kippt oberhalb von 700 Mio. monatlich aktiven Nutzern auf eine separate kommerzielle Vereinbarung. Darunter irrelevant, aber wissen Sie, dass es sie gibt.
• Nutzungsrichtlinien: Llama und Gemma liefern Use-Policies mit, die Lizenznehmer binden — eingeschränkte Nutzungskategorien greifen sogar unterhalb der Deckel.
• Namensnennung und Branding: Hinweise wie „Built with Llama“ und Gemmas Attribution-Anforderungen sind Lizenzpflichten, keine Vorschläge.
• Regionale und Entity-Bedingungen: Manche Lizenzen schließen bestimmte Rechtsräume oder sanktionierte Entitäten aus; gewöhnliche Exportkontrollen stapeln sich obendrauf.
• Quanti­sierte Mirrors erben die Basislizenz: Ein Community-GGUF eines Gemma-Modells trägt die Gemma-Bedingungen. Lesen Sie die Lizenz des Basismodells, nicht nur die des Repos, aus dem Sie heruntergeladen haben.

Eine Lizenz in 30 Sekunden prüfen

1. Öffnen Sie die LICENSE-Datei des Modell-Repos — nicht die README-Zusammenfassung, den eigentlichen Lizenztext.
2. Ist das Repo ein Quant oder eine Variante, klicken Sie durch zum Basismodell, aus dem es quantisiert wurde, und lesen Sie stattdessen dessen Lizenz.
3. Durchsuchen Sie den Text nach: „monthly active users“, „revenue“, „acceptable use“, „attribution“, „jurisdiction“.
4. Entscheiden Sie erst nach Schritt 3 — die meisten Deckel spielen für kleine Produkte nie eine Rolle, aber Sie sollten wissen, dass sie da sind.

Anatomie eines Hugging-Face-Repo-Namens

Qwen/Qwen2.5-14B-Instruct
 │      │         │   └─ Stufe/Variante: instruct, chat, base, coder, vl, ...
 │      │         └─ Größe: Parameterzahl
 │      └─ Familie + Version
 └─ Organisation

community/Qwen2.5-14B-Instruct-GGUF
 └─ Repo des Quantisierers: dieselben Gewichte, umverpacktes Format

Dateiname: qwen2.5-14b-instruct-q4_k_m.gguf
           Familie      Größe  Stufe  Quant-Tag

Lesereihenfolge: Organisation / Familie-Version-Größe-Stufe. Originale Repos enthalten Safetensors; Community-Quantisierer veröffentlichen GGUF und andere Varianten — die Gewichte gehören dem Herausgeber, und die Lizenz reist mit ihnen (Modellformate).

Repos in freier Wildbahn beurteilen:

• First-Party-Organisationen veröffentlichen die Originale; eine Handvoll bekannter Community-Quantisierer publiziert GGUF/AWQ-Varianten von allem; unbekannte Mirrors fügen keinen Wert und gelegentliche Überraschungen hinzu.
• Download-Zahlen und Datum der letzten Aktualisierung sind brauchbare Gesundheits-Indikatoren — ein veralteter Quant eines zwei Generationen alten Modells ist meist eine Sackgasse.
• Beanspruchen zwei Repos dasselbe Model, nehmen Sie das, das von der Seite des Basismodells verlinkt ist.

Praktische Haltung

• Hobby und lokale Nutzung: Nahezu jede Offene-Gewichte-Lizenz ist in Ordnung — Sie führen das Model aus, Sie verteilen es nicht weiter.
• Ein Produkt ausliefern: Apache-/MIT-Familien sparen Anwaltszeit; gedeckelte Lizenzen sind unterhalb der Deckel meist unproblematisch, aber lesen Sie die Use-Policy einmal.
• Geschlossene APIs: beste rohe Frontier-Qualität, null lokale Kontrolle, Preis pro Token. Ein verbreiteter Hybrid: lokale Modelle für Volumen, Privatsphäre und Latenz; die API für die harten 5%.
• Gewichte weiterzuverteilen ist etwas anderes als sie auszuführen: Ein GGUF in Ihrem Produkt auszuliefern ist Distribution — zuerst die Bedingungen prüfen.
• Manche Lizenzen knüpfen Bedingungen an Modellausgaben oder Fine-Tuning-Derivate; keine (Stand dieses Textes) beansprucht Ihre Prompts, aber lesen Sie nach, bevor Sie generierte Inhalte im großen Stil verkaufen.

Lokale Gewichte vs. API, Seite an Seite

Wann lokal gewinnt: Privatsphäre-Anforderungen, Offline-Nutzung, riesiges Token-Volumen, latenzempfindliche UX, Reproduzierbarkeit (exakt diese Gewichte pinnen). Wann die API gewinnt: die härtesten 5% der Aufgaben, null Setup, elastische Skalierung. Die meisten ernsthaften Setups enden hybrid.

Konkret wählen: Modellauswahl. Was jede Familie mitbringt: Modellfamilien.

Verwandt: Modellfamilien · Modellauswahl · Modellformate · Engines