Grundlagen
Wie ein Sprachmodell arbeitet, was es sieht und warum es überzeugend klingt, auch wenn es falsch liegt.
Was ein Sprachmodell tut
Ein Sprachmodell ist ein Programm, das aus sehr vielen Texten gelernt hat, wie Sprache weitergeht. Bekommt es einen Text, berechnet es, welches Wortstück am wahrscheinlichsten folgt, hängt es an und rechnet erneut. So entsteht die Antwort Stück für Stück, bis das Modell das Ende für am wahrscheinlichsten hält.
Das Prinzip kennen Sie von der Wortvorschlagsleiste auf dem Telefon. Der Unterschied liegt in der Menge an Gelerntem: Das Modell kann ganze Briefe, Zusammenfassungen und Übersetzungen fortsetzen, die stimmig und fachkundig klingen.
Die Montage von ET-4711 dauert etwa
- 30 Minuten41 %
- eine Stunde27 %
- 20 Minuten14 %
- zwei Stunden9 %
Alle vier Fortsetzungen klingen plausibel. Welche stimmt, steht nur in der Montageanleitung. Bekommt das Modell die Anleitung mit, kann es die Zahl dort ablesen und die Stelle nennen.
- Eine flüssige Antwort ist noch kein Beleg.
- Fragen Sie nach der Fundstelle. Mit Quelle lässt sich eine Antwort prüfen, ohne Quelle nicht.
Wichtig für den Alltag: Das Modell schlägt beim Schreiben nichts nach. Es hat keine Artikeldatenbank und keine Preisliste im Hintergrund, solange niemand sie ihm gibt oder angebunden hat. Was es über Ihr Ersatzteil sagt, ist zunächst eine plausible Fortsetzung, keine Auskunft.
Wie lange dauert die Montage von ET-4711?
Wie lange dauert die Montage von ET-4711 laut der beigefügten Montageanleitung? Nennen Sie die Seite, auf der die Angabe steht. <Montageanleitung>
Ein Sprachmodell schreibt, was wahrscheinlich klingt; was stimmt, steht in Ihren Unterlagen.
Tokens und Kontextfenster
Intern zerlegt das Modell jeden Text in Tokens. Ein Token ist ein ganzes kurzes Wort, ein häufiger Wortteil oder ein Satzzeichen. Ein langes Wort wie „Rücklauftemperaturbegrenzer“ wird in mehrere Teile zerlegt. Länge und Kosten werden deshalb in Tokens gemessen, nicht in Wörtern oder Seiten.
Das Kontextfenster ist alles, was das Modell bei einer Antwort gleichzeitig berücksichtigen kann: Ihre Anweisungen, der bisherige Gesprächsverlauf und angehängte Dokumente. Was nicht darin steht, existiert für das Modell nicht. Fehlt eine Angabe, füllt es die Lücke mit einer Vermutung.
Was das Modell in einer Sitzung sieht
| Sieht es | Sieht es nicht |
|---|---|
| Ihre Nachrichten und seine eigenen Antworten in diesem Gespräch | Gespräche von gestern, sofern Ihr Assistent keine ausdrückliche Gedächtnisfunktion hat |
| Dokumente, die Sie in dieses Gespräch geladen oder eingefügt haben | Ihr Postfach, Ihr Warenwirtschaftssystem, Ihre Ablage, solange keine Anbindung eingerichtet ist |
| Feste Anweisungen, die Ihr Betrieb für den Assistenten hinterlegt hat | Was Sie über den Kunden wissen, aber nicht hingeschrieben haben |
| Wissen aus dem Training bis zu dessen Stichtag | Aktuelle Preise, Lieferzeiten, neue Normen und Ihre internen Absprachen |
Lange Gespräche driften. Je mehr im Fenster steht, desto eher vermischen sich frühere Annahmen mit neuen, und Angaben vom Anfang verlieren an Gewicht. Untersuchungen zeigen, dass Modelle Informationen am Anfang und am Ende eines langen Textes zuverlässiger nutzen als solche in der Mitte. Ist das Fenster voll, fallen ältere Teile ganz heraus oder werden verkürzt.
Ein langes Gespräch sauber neu beginnen
- Stand zusammenfassen lassenBitten Sie den Assistenten um eine kurze Übergabe mit Ziel, Stand, Entscheidungen und offenen Punkten.
- Übergabe prüfenLesen Sie die Zusammenfassung und korrigieren Sie, was falsch oder veraltet ist. Sie ist ab jetzt die Grundlage.
- Neues Gespräch öffnenFügen Sie die geprüfte Übergabe und nur die Unterlagen ein, die für den nächsten Schritt nötig sind.
Fassen Sie unser bisheriges Gespräch als Übergabe für ein neues Gespräch zusammen. Gliedern Sie in: Ziel, bisher erledigt, getroffene Entscheidungen mit Begründung, offene Punkte, Unterlagen, die weiter gebraucht werden. Höchstens <Anzahl> Zeilen. Lassen Sie Zwischenstände weg, die inzwischen überholt sind.
Wie es gelernt hat und warum es gefällig antwortet
Ein Sprachmodell entsteht in zwei Abschnitten. Im Vortraining liest es riesige Textmengen und lernt dabei Sprache, Fachbegriffe und viel Allgemeinwissen, allerdings nur bis zu einem Stichtag. Danach wird es nachtrainiert: an Beispielen für gute Antworten und mit Bewertungen von Menschen, welche von zwei Antworten besser ist.
Das Nachtraining macht aus einem Textfortsetzer einen hilfsbereiten Assistenten. Es hat eine Nebenwirkung: Menschen bewerten Antworten, die ihrer eigenen Meinung entsprechen und überzeugend formuliert sind, häufig besser als richtige. Das Modell lernt also auch, zuzustimmen. Fachleute nennen das Gefälligkeit.
Woran Sie Gefälligkeit erkennen
- Das Modell bestätigt die Annahme, die schon in Ihrer Frage steckt.
- Auf „Sind Sie sicher?“ ändert es eine richtige Antwort, ohne neuen Grund.
- Es lobt Ihren Entwurf, statt Schwächen zu benennen.
- Es liefert immer eine Lösung, auch wenn die Unterlagen keine hergeben.
ET-4711 passt doch in die Baureihe B, oder? Schreiben Sie dem Kunden eine Bestätigung.
Prüfen Sie anhand des beigefügten Datenblatts, ob ET-4711 in die Baureihe B passt. Nennen Sie die Stelle. Wenn das Datenblatt dazu nichts sagt, schreiben Sie das. <Datenblatt>
Prüfen Sie meinen Entwurf unten kritisch. Nennen Sie die drei größten Schwächen, jeweils mit Begründung. Stimmen Sie mir nicht zu, nur weil ich der Verfasser bin. Wenn etwas fachlich falsch ist, sagen Sie es deutlich. Entwurf: <Entwurf>
Fragen Sie offen und geben Sie dem Modell ausdrücklich die Erlaubnis, Ihnen zu widersprechen.
Quellen
Warum es Dinge erfindet
Erfundene Angaben nennt man Halluzinationen. Das Modell nennt eine Artikelnummer, eine Norm oder ein Zitat, das es nicht gibt, und formuliert es genauso sicher wie eine richtige Angabe. An der Sprache ist der Fehler nicht zu erkennen.
Ein Grund liegt in der Art, wie Modelle trainiert und bewertet werden. Gängige Tests vergeben Punkte für richtige Antworten und keine für „weiß ich nicht“. Wer rät, schneidet im Schnitt besser ab als wer sich enthält. Das Modell lernt deshalb, lieber eine plausible Antwort zu geben als eine Lücke zuzugeben.
Besonders anfällig
- Einzelne Produktdaten: Artikelnummern, Maße, Leistungswerte, Ersatzteilzuordnungen.
- Normen, Paragrafen und Fundstellen mit genauer Nummer.
- Preise, Lieferzeiten und alles, was sich nach dem Trainingsstichtag geändert hat.
- Zitate und Quellenangaben, die das Modell selbst nennt, ohne dass Sie ihm eine Quelle gegeben haben.
- Fragen, auf die es in Ihren Unterlagen keine Antwort gibt, die das Modell aber trotzdem beantworten soll.
Beantworten Sie die Frage ausschließlich anhand des Textes unten. Nennen Sie zu jeder Angabe die Stelle, an der sie steht. Steht die Antwort nicht im Text, schreiben Sie „steht nicht in der Unterlage“ und raten Sie nicht. Frage: <Frage> Text: <Datenblatt oder Auszug>
Auch mit Unterlage bleibt eine Restunsicherheit: Das Modell kann eine Stelle falsch lesen oder eine Fundstelle nennen, die die Aussage nicht trägt. Schlagen Sie deshalb bei Zahlen, Nummern und Zusagen die genannte Stelle selbst nach.
Eine Angabe ohne Fundstelle ist eine Vermutung, bis Sie sie im Original gesehen haben.
Was KI im Büro gut kann und was nicht
Sprachmodelle sind stark, wo es um Sprache geht: verstehen, umformulieren, kürzen, ordnen, übersetzen. Sie sind schwach, wo es auf exakte Werte, aktuelle Fakten oder eine verbindliche Entscheidung ankommt. Die folgende Übersicht hilft bei der Einordnung.
| Aufgabe | Eignung | Worauf Sie achten |
|---|---|---|
| Antwort auf eine Kundenanfrage entwerfen | gut | Datenblatt und Preisliste mitgeben, Angaben vor dem Versand prüfen |
| Besprechungsprotokoll zusammenfassen, offene Punkte mit Verantwortlichen auflisten | gut | Namen und Termine mit dem Original abgleichen |
| Lange Reklamation in Kernpunkte zerlegen | gut | Prüfen, ob ein Punkt fehlt |
| Montageanleitung in einfache Sprache oder eine Fremdsprache übertragen | gut | Sicherheitshinweise und Zahlen Wort für Wort kontrollieren |
| Eingangsmails nach Thema vorsortieren | gut | Stichproben ansehen, Grenzfälle von Hand entscheiden |
| Artikelnummer, Preis oder Lieferzeit nennen | schlecht ohne Unterlage | Nur aus angehängter Liste oder angebundenem System |
| Summen, Rabatte, Fristen berechnen | schlecht | Tabellenkalkulation rechnet exakt, die KI kann das Ergebnis erklären |
| Kulanz gewähren, Angebot freigeben, Lieferanten bewerten | nur als Vorschlag | Die Entscheidung und die Verantwortung bleiben bei einer benannten Person |
Dieselbe Frage kann zweimal unterschiedliche Antworten ergeben, weil das Modell bei jeder Antwort neu aus mehreren wahrscheinlichen Fortsetzungen wählt. Zudem ändern Anbieter ihre Modelle von Zeit zu Zeit. Ein Ablauf, der heute gut läuft, gehört deshalb in regelmäßigen Abständen erneut geprüft.
Der Einsatz lohnt sich, wenn Prüfen schneller geht als Selbermachen. Bei seltenen Aufgaben, bei denen jede Angabe stimmen muss, oder bei einer einzigen Zahl, die Sie in zehn Sekunden nachschlagen, ist der Weg ohne KI oft kürzer.
Rechnen Sie aus, was Familie Berger nach 8 Prozent Rabatt und 2 Prozent Skonto für die Positionen unten zahlt.
Die Summe habe ich in der Tabelle berechnet: <Ergebnis>. Formulieren Sie für Familie Berger zwei Sätze, die erklären, wie Rabatt und Skonto verrechnet wurden. Ändern Sie keine Zahl.
Begriffe kurz erklärt
| Begriff | Bedeutung im Büroalltag |
|---|---|
| Sprachmodell | Das Programm hinter Ihrem KI-Assistenten. Es hat aus großen Textmengen gelernt und setzt Texte nach Wahrscheinlichkeit fort. |
| Prompt, Auftrag | Was Sie dem Assistenten schreiben: Aufgabe, Hintergrund, gewünschtes Format und mitgegebene Unterlagen. |
| Kontext | Alles, was das Modell bei einer Antwort vor sich hat. Was dort fehlt, kennt es nicht. |
| Kontextfenster | Die Obergrenze, wie viel Text das Modell gleichzeitig berücksichtigen kann. |
| Token | Die Texteinheit, in der das Modell rechnet: ein kurzes Wort, ein Wortteil oder ein Zeichen. Länge und Kosten werden in Tokens gezählt. |
| Halluzination | Eine erfundene Angabe, die so sicher formuliert ist wie eine richtige. |
| Training | Der Lernvorgang, aus dem das Modell entstanden ist. Es endet an einem Stichtag; Ihre internen Daten gehören nicht dazu. |
| Suche in eigenen Unterlagen (RAG) | Vor der Antwort sucht ein Programm passende Stellen in Ihren Dokumenten und gibt sie dem Modell mit. Die Antwort stützt sich dann auf diese Stellen. |
| Agent | Ein Assistent, der mehrere Schritte selbst ausführt, etwa Dateien liest, ordnet und einen Vorschlag ablegt. Er schlägt vor, ein Mensch entscheidet. |
| Temperatur | Eine Einstellung, wie frei das Modell unter den wahrscheinlichen Fortsetzungen wählt. Niedrig heißt gleichförmiger, hoch heißt abwechslungsreicher. |
Die Abkürzung RAG steht für Retrieval Augmented Generation. Viele Assistenten im Betrieb arbeiten so: Sie beantworten Fragen zu Handbüchern oder Preislisten, ohne dass das Modell dafür neu trainiert wird.