Das Modell Schritt für Schritt verstehen
Folge dem Lernpfad von Textstücken zu Informationsmischung, Speicherwiederverwendung, Zahlenformaten und ganzen Architekturen.
KI-gestützte Lernvisualisierung · schematische Erklärung zum Artikel
Ein Token ist ein Textstück mit einer ID. Das Modell wandelt diese IDs in Zahlenlisten um, die spätere Operationen verarbeiten können.
Du kannst ein Sprachmodell nutzen, ohne seinen inneren Aufbau zu kennen. Wenn du verstehen möchtest, warum Kontext wichtig ist, längere Gespräche mehr Speicher brauchen oder was „4-Bit“ bedeutet, hilft ein Blick auf die einzelnen Schritte.
Dieser Lernpfad führt eine Idee nach der anderen ein. Etwas Erfahrung mit Computern und Zahlen reicht; Kenntnisse in Machine Learning oder Matrizenrechnung brauchst du nicht. Jede Lektion erklärt ihre Begriffe, bevor sie damit arbeitet.
Drei Fragen, drei kurze Lektionen
- Wie verbindet Attention Informationen? Verfolge eine Query, vergleiche Keys und sieh, wie aus Zahlengewichten eine Mischung von Values entsteht.
- Was verwendet der KV-Cache wieder? Begleite einen Prompt in den Cache und beobachte, was sich beim nächsten Token ändert.
- Was bedeutet NVFP4 gegenüber INT4? Vergleiche Zahlenstrahlen, Rundungen und gemeinsame Skalen, um die Möglichkeiten von vier Bits zu verstehen.
Starte am besten in dieser Reihenfolge: Die Cache-Lektion baut auf den Keys und Values aus Attention auf. Bei der Quantisierung geht es anschließend darum, wie sich solche Zahlen kompakter speichern lassen.
Lerne in deinem Tempo
Gehe die Diagramme einzeln durch oder spiele den gesamten Ablauf ab. Pausiere, sobald sich eine Zahl ändert, und lies die Erklärung dazu. Der Text unter jedem Diagramm beschreibt die vollständige Idee auch ohne Wiedergabe oder JavaScript.
Die Beispiele sind bewusst klein und zum Erklären erfunden. Sie zeigen Berechnungen und Abwägungen; sie sind keine Messungen an einem bestimmten Modell.
Den größeren Zusammenhang findest du in Wie LLMs wirklich funktionieren. Jede Lektion verlinkt außerdem einen vertiefenden Artikel, sobald du mehr über Architekturen und Speicherberechnungen wissen möchtest.
Weiterlernen: ein Diagramm in jedem Fachartikel
Die drei Lektionen sind der Einstieg. Jeder technische Artikel und jede Werkzeugseite hat zusätzlich eine eigene visuelle Erklärung. Wähle einen Baustein aus, um seine Rolle zu verstehen, folge den hervorgehobenen Verbindungen oder spiele den Ablauf ab. Unter „Begriffe und vollständiger Ablauf“ findest du Definitionen und alle Schritte zum Nachlesen.
| Was du verstehen möchtest | Ein passender Einstieg |
|---|---|
| Wie ein ganzes Modell aufgebaut ist | Qwen3-Next-Architektur |
| Wie GPUs die Arbeit aufteilen | Tensor-Parallelisierung, Pipeline-Parallelisierung, Experten-Parallelisierung |
| Wie aus Sprache Text wird | Granite Speech TurboCTC |
| Wie eine Suche hilfreichen Kontext liefert | RAG-Retrieval |
| Wie Modell-Serving Speicher und Zeit benötigt | vLLM und SGLang, Inferenzberechnungen |
| Wie GPU-Netze zusammenhängen | NVLink |
| Wie eine GPU im Container verfügbar wird | NVIDIA-GPU-Container unter Ubuntu |
Architekturdiagramme erklären Aufbau und Datenfluss. Vergleichsdiagramme machen Annahmen, Belege und Schlussfolgerungen sichtbar. Sie vereinfachen den Kerngedanken des Artikels; der Fachtext darunter liefert Details und Grenzen. Über die Themenübersicht kannst du den restlichen Hub erkunden.