ChatGPT beantwortet Fragen, schreibt Texte und löst Aufgaben, ohne dass irgendwo eine Antwortdatenbank läge, in der nachgeschlagen wird. Jede Antwort entsteht neu, Stück für Stück, und dahinter steckt eine sehr einfache Entscheidung, millionenfach wiederholt: welches Textstück als Nächstes am besten passt.
Die meisten Erklärungen im Netz hören genau an dieser Stelle auf. Sie beschreiben den Stand von 2023. Seitdem hat sich die Technik in vier Punkten verändert, die im Alltag spürbar sind. Modelle rechnen vor der Antwort intern nach, sie greifen selbstständig zu Werkzeugen, sie verarbeiten Bilder und Dateien, und sie merken sich Dinge über einzelne Unterhaltungen hinaus. Dieser Ratgeber erklärt beides, das Grundprinzip und den aktuellen Stand. Alle Angaben zu Modellen, Plänen und Funktionen haben den Stand vom 31. August 2026.
Was ist ein Sprachmodell überhaupt?
Ein großes Sprachmodell ist ein Rechenmodell, das für eine gegebene Textfolge angibt, wie wahrscheinlich jede mögliche Fortsetzung ist. Mehr macht es im Kern nicht. Alles, was du an Fähigkeiten erlebst, entsteht daraus, dass diese Vorhersage sehr gut geworden ist.
Ein Bild hilft beim Verständnis. Stell dir eine gewaltige Landkarte vor, auf der Wörter, Satzteile und ganze Gedanken nach Bedeutung angeordnet sind. Wörter, die in ähnlichen Zusammenhängen vorkommen, liegen nah beieinander. Das Modell hat beim Training gelernt, sich auf dieser Karte zu bewegen. Gibst du ihm einen Anfang vor, sucht es den Weg, den der Text mit der größten Wahrscheinlichkeit nimmt.
Diese Karte ist kein Speicher im üblichen Sinn. Es gibt keine Zeile, in der steht, wann Goethe geboren wurde. Das Modell hat das Geburtsdatum in unzähligen Texten gesehen, und die Verknüpfung ist so stark geworden, dass die richtige Zahl beim Abrufen zuverlässig herauskommt. Bei seltenen Fakten ist die Verknüpfung schwach, und genau dort beginnen die Probleme, die weiter unten unter dem Stichwort Halluzinationen stehen. Wie sich das im Alltag anfühlt, beschreibt der Testbericht zu ChatGPT mit konkreten Aufgaben.
Warum der Name irreführend ist
ChatGPT ist der Produktname für die Oberfläche, also App und Website. Darunter arbeiten mehrere Modelle mit eigenen Namen. Ende August 2026 gehören dazu die Familie GPT-5.6 mit den Varianten Sol, Terra und Luna sowie die Pro-Version von Sol. Welches Modell deine Frage beantwortet, hängt vom Plan ab, von deiner Auswahl und davon, wie schwer die Frage ist. Seit dem 6. August 2026 bekommen Gratisnutzer standardmäßig GPT-5.6 Luna, Plus und Pro bekommen GPT-5.6 Sol.
Was sind Token, und wie zerlegt ChatGPT deutschen Text?
Das Modell arbeitet nicht mit Buchstaben und nicht mit Wörtern, sondern mit Token. Ein Token ist ein Textbaustein, oft eine Silbe, manchmal ein ganzes kurzes Wort, manchmal nur zwei Zeichen. Welche Bausteine es gibt, wurde vor dem Training einmal festgelegt, anhand der Häufigkeit von Zeichenfolgen in großen Textmengen.
Nachrechnen lässt sich das mit dem frei verfügbaren Tokenizer o200k_base, den OpenAI veröffentlicht hat. Ein paar deutsche Beispiele zeigen, wie unterschiedlich die Zerlegung ausfällt.
- Haus ergibt genau ein Token, das Wort kommt oft genug vor, um einen eigenen Baustein zu bekommen.
- Krankenversicherung zerfällt in drei Teile, nämlich Kr, anken und versicherung.
- Erdbeere zerfällt in vier Teile, nämlich E, rd, be und ere.
- Donaudampfschifffahrtsgesellschaft braucht zehn Token.
- Wie funktioniert ChatGPT? sind fünf Token, weil auch das Fragezeichen einen eigenen Baustein bildet.
Zwei Dinge folgen daraus. Erstens kostet deutscher Text mehr Token als englischer mit gleichem Inhalt, weil unsere Komposita und Endungen seltener als fertige Bausteine im Vokabular stehen. Das verbraucht Platz im Kontextfenster und bei zahlenden Kunden auch Rechenzeit. Zweitens sieht das Modell den Buchstabenbestand eines Wortes nie direkt. Für den Rechner ist „Erdbeere“ eine Folge aus vier Nummern, keine Kette aus acht Buchstaben. Welche Zerlegung genau in den aktuellen Modellen steckt, veröffentlicht OpenAI nicht im Detail, das Prinzip bleibt aber dasselbe.
Warum bekommst du auf dieselbe Frage verschiedene Antworten?
Das Modell berechnet für jede Position eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Token. Danach wird gezogen, ähnlich wie bei einer Lotterie mit ungleich großen Losen. Der wahrscheinlichste Baustein gewinnt oft, aber nicht immer. Schon ein einziges anders gezogenes Token schickt den Rest der Antwort auf einen anderen Weg.
Dazu kommen Faktoren außerhalb des Modells. Das aktuelle Datum steht in den Systemanweisungen, gespeicherte Erinnerungen fließen ein, ein Werkzeugaufruf liefert bei jedem Durchgang leicht andere Ergebnisse, und die Zuteilung des Modells kann sich ändern. In der Programmierschnittstelle lässt sich die Zufälligkeit bei den Reasoning-Modellen inzwischen gar nicht mehr frei einstellen, dort ist der Wert fest vorgegeben. Für die Chatoberfläche veröffentlicht OpenAI keine Einstellung.
Reproduzierbarkeit gehört damit nicht zu den Eigenschaften des Systems. Wer eine Antwort belegen muss, speichert sie ab, statt darauf zu vertrauen, dass dieselbe Eingabe sie noch einmal erzeugt.
Wie wird ein Modell wie ChatGPT trainiert?
Das Training läuft in mehreren Stufen ab, die völlig unterschiedliche Dinge beibringen. Die erste Stufe kostet fast die gesamte Rechenzeit, die späteren prägen das Verhalten.
Was im Vortraining passiert
Im Vortraining sieht das Modell riesige Textmengen und übt eine einzige Aufgabe: das jeweils nächste Token vorhersagen. Laut OpenAI stammen die Daten aus öffentlich zugänglichen Internetquellen, aus Beständen von Partnern sowie aus Material, das Nutzer, geschulte Bearbeiter und Forschende beisteuern. Vor dem Training laufen Filter darüber, die Qualität sichern und personenbezogene Daten reduzieren sollen. Wie viele Parameter die aktuellen Modelle haben und wie viele Daten genau eingeflossen sind, veröffentlicht OpenAI seit GPT-4 nicht mehr. Alle kursierenden Zahlen dazu sind Schätzungen.
Was die Feinabstimmung mit menschlichen Beispielen ändert
Nach dem Vortraining kann das Modell Text fortsetzen, es beantwortet aber keine Fragen im Dialog. Dafür schreiben geschulte Bearbeiter Musterantworten zu echten Anfragen, und das Modell wird auf diesen Beispielen nachtrainiert. Diese Stufe heißt überwachte Feinabstimmung. Sie bringt dem System die Rolle bei, in der du es kennst.
Wie Verstärkungslernen mit menschlicher Rückmeldung funktioniert
Die dritte Stufe ist die interessanteste. Menschen bekommen mehrere Antworten desselben Modells auf dieselbe Frage und bringen sie in eine Rangfolge. Aus diesen Vergleichen entsteht ein zweites Modell, das Belohnungsmodell, das vorhersagt, welche Antwort Menschen bevorzugen würden. Anschließend wird das eigentliche Sprachmodell darauf optimiert, dieses Belohnungssignal zu maximieren. Das Verfahren heißt Verstärkungslernen mit menschlicher Rückmeldung, abgekürzt RLHF.
OpenAI hat für die Vorläufermodelle offengelegt, dass diese Ausrichtungsstufe weniger als zwei Prozent der Rechenleistung und Daten des Vortrainings benötigt. Das erklärt einen häufig missverstandenen Punkt. Die Feinabstimmung bringt dem Modell kaum neues Wissen bei, sie holt vorhandene Fähigkeiten hervor und formt den Ton. Ein sachlicher Fehler aus dem Vortraining verschwindet dadurch nicht zuverlässig.
Was ist das Kontextfenster, und warum werden lange Unterhaltungen schlechter?
Das Kontextfenster ist die Menge an Token, die das Modell für einen einzelnen Durchgang gleichzeitig vor sich hat. Alles, worauf sich die Antwort stützen soll, muss hineinpassen. Dazu gehören deine Frage, der bisherige Gesprächsverlauf, die Systemanweisungen, die Beschreibung der verfügbaren Werkzeuge, aktive Erinnerungen und der Platz für die Antwort selbst.
Wie groß das Fenster je Plan wirklich ist
OpenAI beziffert das Gesamtfenster in der eigenen Planübersicht. Im schnellen Instant-Betrieb reicht es von rund 27.000 Token im Gratisplan über 54.000 Token in den mittleren Bezahlplänen bis 128.000 Token im Pro-Plan. Für die Reasoning-Modelle nennt OpenAI 256.000 Token in den mittleren Bezahlplänen und 400.000 Token bei Pro. Wie viel davon für deine eigene Eingabe bleibt, gibt OpenAI in Textseiten an, nämlich rund zwölf Seiten im Gratisplan und rund 680 Seiten im Pro-Plan mit Reasoning.
Entscheidend ist der Zusatz, den OpenAI selbst dazu schreibt. Der für deine Eingabe nutzbare Anteil ist kleiner als das Gesamtfenster, weil Systemanweisungen, Erinnerungen und die interne Verarbeitung Platz belegen. Bei Reasoning-Modellen frisst dieses interne Nachdenken einen erheblichen Teil, und der Wert schwankt dynamisch je nach genutzten Funktionen. Welche Grenzen zu welchem Preis gehören, steht ausführlich im Ratgeber zu den Kosten von ChatGPT.
Was beim Überlaufen passiert
Ist das Fenster voll, verschwindet der Anfang der Unterhaltung aus dem Blickfeld. Manche Systeme fassen ältere Teile zusammen, bevor sie sie verwerfen. In jedem Fall arbeitet das Modell danach mit einer gekürzten Fassung dessen, was ihr besprochen habt. Genau deshalb wird eine sehr lange Unterhaltung schleichend schlechter. Anweisungen aus der ersten Nachricht werden ignoriert, Details werden falsch wiedergegeben, Widersprüche häufen sich. Der wirksamste Gegenzug ist unspektakulär: eine neue Unterhaltung starten und den wirklich nötigen Kontext in einer kompakten Nachricht mitgeben.
Was machen Reasoning-Modelle tatsächlich anders?
Reasoning-Modelle erzeugen vor der eigentlichen Antwort eine eigene Kette aus sogenannten Reasoning-Token. Das ist ein interner Notizblock, auf dem das Modell die Aufgabe zerlegt, mehrere Ansätze durchspielt, sich selbst korrigiert und erst danach die Antwort formuliert. Die Rechenmaschinerie darunter bleibt dieselbe Vorhersage des nächsten Bausteins. Neu ist, wofür trainiert wurde, nämlich für den Weg zur Lösung und nicht nur für deren Formulierung.
Drei Eigenschaften dieses Notizblocks sind wichtig. Er ist über die Programmierschnittstelle nicht einsehbar, er belegt Platz im Kontextfenster, und er wird wie ausgegebener Text abgerechnet. Je nach Schwierigkeit reicht sein Umfang laut OpenAI von einigen hundert bis zu mehreren zehntausend Token. Bei manchen offenen Modellen, etwa von DeepSeek, ist die Denkkette dagegen vollständig einsehbar.
Was du im Chat davon siehst
In der Oberfläche steuerst du diesen Aufwand seit August 2026 selbst. Plus und Pro haben einen Schieberegler für den Denkaufwand, im Gratisplan gibt es die Schaltfläche „Nachdenken“ für schwierigere Fragen. Über die Schnittstelle heißt derselbe Regler reasoning effort und kennt Stufen von none bis max. Bei einer reinen Wissensfrage bringt mehr Nachdenken wenig, bei mehrstufigen Aufgaben mit Rechnen, Planen oder Werkzeugeinsatz bringt es viel. Konkurrenzsysteme wie Claude und Gemini arbeiten mit demselben Grundprinzip.
Wann sucht ChatGPT wirklich im Netz?
Das ist der am häufigsten falsch verstandene Punkt. ChatGPT sucht nicht bei jeder Frage im Internet. Die Websuche ist ein Werkzeug, das automatisch anspringt, wenn die Frage von aktuellen Informationen profitiert, und das du über das Werkzeugmenü auch von Hand auslösen kannst. Verfügbar ist sie in allen Plänen, sogar ohne Anmeldung.
Springt sie an, passiert Folgendes. ChatGPT formt deine Frage in eine oder mehrere gezielte Suchanfragen um und schickt diese an Suchpartner, darunter Microsoft. Aus deiner IP-Adresse leitet das System einen ungefähren Standort ab und gibt diesen groben Ort weiter, die IP-Adresse selbst und deine Kontodaten bleiben laut OpenAI beim Anbieter. Ist die Speicherfunktion aktiv, können Erinnerungen die Formulierung der Suchanfrage beeinflussen.
Für dich sind zwei Folgerungen wichtig. Ohne Quellenangaben unter der Antwort hat vermutlich keine Suche stattgefunden, dann stammt die Aussage aus dem Modell. Stehen Quellen da, heißt das nur, dass eine Seite gelesen wurde, nicht dass sie die Aussage trägt. OpenAI weist selbst darauf hin, dass Suchergebnisse und Zitate unvollständig, veraltet oder falsch sein können. Wer regelmäßig belegte Antworten braucht, ist mit einer spezialisierten Recherchemaschine wie Perplexity oft besser bedient.
Welche Werkzeuge nutzt ChatGPT noch?
Die Websuche ist nur eines von mehreren Werkzeugen. Das Modell entscheidet während der Antwort, ob es eines davon aufruft, und verarbeitet das Ergebnis anschließend wie Text.
Wann ChatGPT Code schreibt und ausführt
Für Datenanalysen schreibt ChatGPT Python-Code und führt ihn in einer abgeschotteten Notebook-Umgebung aus. Diese Umgebung behält ihren Zustand innerhalb der Unterhaltung, sie kann Tabellen auswerten, rechnen und Diagramme erzeugen. Sie hat allerdings keinen Zugang zum Internet. Was ausgewertet werden soll, muss also hochgeladen oder über eine Verbindung bereitgestellt werden. Der entscheidende Unterschied zum reinen Chat: Hier wird tatsächlich gerechnet, statt das Ergebnis vorherzusagen.
Was multimodale Eingaben bedeuten
Neben Text verarbeitet ChatGPT Bilder, Sprache und Dateien. Für die Dateianalyse nennt OpenAI Tabellen im Format xls, xlsx und csv, dazu PDF sowie Textformate wie json, xml, yaml, txt und md. Bilder werden intern in dieselbe Token-Darstellung überführt wie Text, deshalb passt ein Foto in dieselbe Verarbeitung. Bei gescannten PDF-Dateien und Tabellen als Bild warnt OpenAI ausdrücklich davor, exakte Werte zu übernehmen. Wenn es auf Zahlen ankommt, gehört eine maschinenlesbare Datei hinein.
Wo die Werkzeugnutzung riskant wird
Sobald ein Werkzeug fremde Inhalte hereinholt, also eine Webseite, eine Datei oder eine angebundene App, kann in diesen Inhalten ein versteckter Befehl an das Modell stehen. Diese Angriffsform heißt Prompt Injection, und OpenAI prüft sie in den Sicherheitsberichten zu jedem Modell eigens. Vollständig gelöst ist sie nicht. Für dich heißt das: Was ChatGPT aus einer fremden Quelle übernimmt, ist eine Behauptung und keine geprüfte Information.
Wie funktioniert die Speicherfunktion über Unterhaltungen hinweg?
Die Erinnerung sammelt Angaben aus deinen Chats, Dateien und verbundenen Apps und stellt sie in späteren Unterhaltungen wieder bereit. Verwaltet wird sie unter Einstellungen, Personalisierung, Erinnerung. Dort steht eine Zusammenfassung dessen, was das System behalten hat, und die lässt sich im Text direkt korrigieren.
Zwei Details werden oft übersehen. Die Zusammenfassung zeigt nicht alles, worauf ChatGPT zurückgreift, weil die Erinnerung eine laufend fortgeschriebene Verdichtung aus vielen Quellen ist. Um eine Information wirklich loszuwerden, musst du außerdem jede Quelle löschen, in der sie steht, also auch alte und archivierte Chats sowie hochgeladene Dateien. Wer eine Unterhaltung ohne diesen Einfluss führen will, nutzt einen temporären Chat, der weder bestehende Erinnerungen liest noch neue anlegt.
Warum erfindet ChatGPT Dinge, die nicht stimmen?
Halluzinationen sind plausibel klingende, falsche Aussagen. OpenAI hat ihre Entstehung 2025 in einer eigenen Arbeit statistisch hergeleitet, und die Erklärung hat zwei Teile.
Warum das Vortraining Erfindungen begünstigt
Im Vortraining sieht das Modell ausschließlich flüssige, gültige Sprache. Es gibt keine Kennzeichnung „das ist falsch“. Muster mit innerer Regelhaftigkeit, etwa Rechtschreibung oder Klammersetzung, lernt es deshalb zuverlässig, und diese Fehler verschwinden mit wachsender Modellgröße fast vollständig. Willkürliche, seltene Einzelfakten haben dagegen kein Muster, aus dem sie sich ableiten ließen. OpenAI vergleicht das mit dem Versuch, aus einem Haustierfoto den Geburtstag des Tieres vorherzusagen. Diese Aufgabe erzeugt Fehler, unabhängig davon, wie gut das Verfahren ist.
Warum die Bewertung das Raten belohnt
Der zweite Teil liegt in den Prüfverfahren. Die gängigen Bewertungen messen den Anteil exakt richtiger Antworten. Ein „Ich weiß es nicht“ bringt darin sicher null Punkte, ein Rateversuch mit geringer Trefferchance bringt gelegentlich einen Punkt. Über tausende Testfragen schneidet ein ratendes Modell damit besser ab als ein vorsichtiges. Wie stark dieser Effekt ist, zeigt eine Auswertung von OpenAI. In einer Faktenprüfung enthielt sich ein neueres Reasoning-Modell in 52 Prozent der Fälle und lag in 26 Prozent falsch. Ein älteres Modell enthielt sich in 1 Prozent der Fälle, erreichte eine minimal höhere Trefferquote und lag dafür in 75 Prozent der Fälle falsch.
OpenAI zieht daraus einen klaren Schluss. Halluzinationen sind kein rätselhafter Defekt und auch nicht unvermeidbar, sie sind die Folge von Anreizen. Vollständig verschwinden werden sie trotzdem nicht, weil manche Fragen aus der wirklichen Welt schlicht nicht eindeutig beantwortbar sind.
Was kann ChatGPT strukturell nicht?
Einige Grenzen folgen unmittelbar aus dem Aufbau des Systems. Sie verschwinden nicht durch bessere Prompts und auch nicht durch das nächste Modell.
Rechnen ohne Werkzeug
Ohne aktives Werkzeug rechnet das Modell nicht, es sagt die Ziffernfolge vorher, die auf eine Rechenaufgabe folgen dürfte. Bei kleinen, häufig gesehenen Aufgaben stimmt das Ergebnis meist. Bei langen Zahlen, mehrstufigen Prozentrechnungen oder Zinsformeln wird es unzuverlässig, und das Ergebnis sieht trotzdem korrekt aus. Verlässlich wird es erst, wenn ChatGPT die Rechnung im Python-Werkzeug ausführt.
Buchstaben zählen und ähnliche Zeichenaufgaben
Die berühmte Frage nach der Zahl der Buchstaben in einem Wort scheitert aus demselben Grund wie oben beschrieben. „Erdbeere“ liegt im Modell als vier Token vor, nicht als acht Buchstaben. Das gilt genauso für Aufgaben wie das Rückwärtsschreiben eines Wortes, das Zählen von Zeichen in einem Text oder das Finden aller Wörter mit einem bestimmten Anfangsbuchstaben. Reasoning-Modelle lösen solche Aufgaben häufiger richtig, weil sie sich auf ihrem Notizblock die Buchstaben einzeln aufschreiben können. Sicher ist es damit trotzdem nicht.
Aktuelles Wissen ohne Suche
Das Modell kennt die Welt bis zum Ende seines Trainings. Was danach passiert ist, weiß es nur, wenn es sucht oder wenn du es ihm mitgibst. Fragen zu Preisen, Gesetzeslagen, Personalien oder Softwareversionen gehören deshalb immer mit ausdrücklicher Suche gestellt, danach mit einem Blick in die genannte Quelle. Auch die eigenen Fähigkeiten kennt ein Modell oft nur ungenau, weil sein Wissen über sich selbst ebenfalls aus dem Training stammt.
Die eigene Antwort prüfen
Ein Sprachmodell hat kein Maß dafür, ob eine erzeugte Aussage wahr ist. Es kann Widersprüche im Text bemerken, es kann bei einer Nachfrage einen Fehler einräumen, und es kann eine Quelle abrufen. Ein inneres Wahrheitssignal, das vor der Ausgabe warnt, gibt es nicht. Deshalb bleibt die Prüfung an dir hängen, besonders bei Zahlen, Namen, Daten und Zitaten. Welche Aufgaben sich dafür überhaupt eignen, sortiert die Übersicht der KI-Tools nach Einsatzzweck.
Was passiert mit dem, was du eingibst?
Eingaben laufen über die Server des Anbieters und werden dort verarbeitet. Ob sie zusätzlich in die Verbesserung der Modelle einfließen, steuerst du unter Einstellungen, Datenkontrollen mit dem Schalter „Das Modell für alle verbessern“. Schaltest du ihn aus, bleibt der Verlauf erhalten, er wird nur nicht mehr für das Training genutzt. Temporäre Chats werden nach 30 Tagen gelöscht, fließen nicht ins Training ein und legen keine Erinnerungen an.
Für berufliche Nutzung ist ein weiterer Punkt entscheidend. Eine feste Speicherung in Europa und eine Verarbeitung ausschließlich in der Region bietet OpenAI für ChatGPT nur den Plänen Enterprise und Edu sowie berechtigten Schnittstellenkunden an, für die Region Europa mit dem Europäischen Wirtschaftsraum und der Schweiz. In den Privatplänen gibt es das nicht. Wer mit Mandanten-, Patienten- oder Personaldaten arbeitet, prüft das vorher, und zwar unabhängig davon, wie gut das Werkzeug funktioniert. Die rechtliche Einordnung im Detail steht im Ratgeber zu vertraulichen Dokumenten und KI. Wer eine europäische Verarbeitung von vornherein sucht, findet mit Mistral einen Anbieter mit Sitz in Frankreich.
Was heißt das für die tägliche Arbeit?
Wer versteht, wie die Antwort entsteht, stellt automatisch bessere Fragen. Fünf Punkte fassen die praktischen Folgen zusammen.
- Kontext liefern statt Wissen abfragen. Das System ist stark darin, mit vorgelegtem Material zu arbeiten, und schwach darin, seltene Fakten aus dem Gedächtnis zu holen.
- Werkzeug erzwingen, wenn es darauf ankommt. Rechnen im Code-Werkzeug, Aktuelles per Suche, Dateien als maschinenlesbare Datei.
- Lange Unterhaltungen aufteilen. Ein neuer Chat mit einer knappen Zusammenfassung schlägt einen Verlauf, der über das Kontextfenster hinausgewachsen ist.
- Denkaufwand bewusst wählen. Mehr Reasoning hilft bei mehrstufigen Aufgaben und kostet bei einfachen Fragen nur Zeit.
- Zahlen, Namen und Zitate immer nachprüfen. Genau dort liegt die strukturelle Schwäche, und dort fällt sie am wenigsten auf.
ChatGPT ist damit ein außerordentlich guter Textrechner mit angeschlossenen Werkzeugen. Es ist kein Nachschlagewerk und keine Rechenmaschine, auch wenn es beides oft erfolgreich imitiert. Wer das im Kopf behält, holt aus dem System deutlich mehr heraus als jemand, der es für eine Suchmaschine mit besserer Sprache hält. Welche Werkzeuge dieselben Aufgaben anders lösen, zeigt der Vergleich der ChatGPT-Alternativen.