Wie ein Sprachmodell arbeitet.
Die Begriffe, die in jedem KI-Gespräch fallen, einmal verständlich erklärt. Damit Sie Tools, Risiken und Angebote richtig einordnen können.
Was ist ein LLM?
Ein grosses Sprachmodell (Large Language Model, LLM) ist ein Programm, das gelernt hat, das jeweils wahrscheinlich nächste Textstück vorherzusagen. Trainiert auf grossen Textmengen, erkennt es Muster der Sprache so gut, dass es zusammenfassen, formulieren, übersetzen und schlussfolgern kann. Es «versteht» nicht im menschlichen Sinn, sondern rechnet mit Wahrscheinlichkeiten. Das erklärt, warum es überzeugend formulieren und zugleich falsch liegen kann.
Tokens & Kontextfenster
Modelle verarbeiten Text in Tokens, kleinen Einheiten, etwa Wortteilen. Das Kontextfenster ist die Menge an Tokens, die ein Modell gleichzeitig «im Blick» hat: Eingabe plus Antwort. Ein grosses Kontextfenster (etwa eine Million Tokens) erlaubt es, ganze Vertragswerke oder Handbücher in einem Durchgang zu verarbeiten.
Prompt & System-Prompt
Der Prompt ist Ihre Eingabe. Der System-Prompt ist eine vorgelagerte Anweisung, die Rolle und Verhalten des Assistenten festlegt. Bei eigenen Assistenten («GPTs» oder Projekten) hinterlegen Unternehmen dort Tonfall, Regeln und Wissen.
Halluzinationen
Weil ein LLM Wahrscheinlichkeiten fortschreibt, kann es Inhalte erfinden, die plausibel klingen, aber falsch sind, sogenannte Halluzinationen. Deshalb gehört zu jedem ernsthaften Einsatz die Prüfung durch einen Menschen, besonders bei Zahlen, Zitaten und rechtlichen Aussagen.
Grounding & RAG
Grounding bedeutet, das Modell an verlässliche Quellen zu binden. RAG (Retrieval-Augmented Generation) ruft passende Firmendokumente ab und gibt sie dem Modell als Kontext mit, sodass es auf Basis Ihrer Daten antwortet statt nur aus dem Training. Copilot nutzt dafür Microsoft Graph; ChatGPT und Claude bieten Konnektoren und Datei-Uploads.
Agenten
Ein Agent ist ein KI-System, das nicht nur antwortet, sondern Schritte plant und Werkzeuge nutzt, etwa Dateien durchsucht, Code ausführt oder Aktionen anstösst. Claude Code und Codex von OpenAI sind Beispiele für solche agentischen Werkzeuge im Arbeitsalltag.