Prompt Engineering – Schritt für Schritt

Was ist Prompt Engineering?

Prompt Engineering bezeichnet das systematische Konstruieren von Eingabebefehlen, um über eine gezielte Kontextualisierung die stochastische Ausgabe großer KI-Sprachmodelle präzise zu steuern.

Prompt Engineering im Marketing bezeichnet …um über Natural Language Processing die Generierung zielgruppenspezifischer Werbemittel durch künstliche neuronale Netze präzise zu steuern.

Prompt Engineering vs. Context Engineering: Was ist der Unterschied?

Context Engineering erweitert das Prompt Engineering durch die gezielte Manipulation der gesamten Umgebung eines Sprachmodells zur deterministischen Steuerung der Token-Generierung – Prompt Engineering formuliert die Anweisung, Context Engineering entscheidet, welche Daten überhaupt in das Kontextfenster gelangen.

Große Kontextfenster und Tool-Schnittstellen (Function Calling) verschieben den Fokus der Steuerung von der Befehlsformulierung (Prompt Engineering) zur Datenarchitektur (Context Engineering).

Wie erzeugt ein Sprachmodell seine Antwort?

Ein autoregressives Sprachmodell berechnet über künstliche neuronale Netze die stochastische Wahrscheinlichkeit der nächsten Token-Sequenz auf Basis des gesamten Eingabekontexts.

Der technische Ablauf der Wortvorhersage und gliedern den Prozess in eine logische Kette:

  1. (Transformer-Architektur): Erklärt, wie das Modell mathematische Beziehungen und Prioritäten zwischen den Wörtern im Kontextfenster versteht.
  2. (Vektorraum-Projektion): Erklärt die Übersetzung von Text in geometrische Koordinaten, um logische Zugehörigkeiten zu realen Fakten (Knowledge Graph) messbar zu machen.
  3. (In-Context Learning): Erklärt, wie die aktuelle Eingabe das Verhalten der KI im Arbeitsspeicher sofort steuert, ohne das neuronale Netz permanent umzutrainieren.
  4. (Decoder-Ausgabe): Erklärt das mechanische Endergebnis – die fortlaufende, stochastische Generierung der Antwort Zeichen für Zeichen.

Warum liefert derselbe Prompt unterschiedliche Ergebnisse?

Derselbe Prompt liefert unterschiedliche Ergebnisse, weil die Token-Auswahl im Decoder auf mathematischen Wahrscheinlichkeiten basiert und stochastische Parameter die finale Wortausgabe gezielt variieren.

  • Stochastisches Sampling: Der Algorithmus wählt nicht deterministisch das absolut wahrscheinlichste Folge-Token, sondern zieht ein Token per Zufall aus einer berechneten Wahrscheinlichkeitsverteilung.
  • Temperature (scales_entropy): Der Parameter skaliert die Entropie der Wahrscheinlichkeiten vor der Auswahl; ein hoher Wert flacht die Kurve ab und erhöht die Vielfalt der Token, während ein Wert gegen Null die Antwort fast vollständig deterministisch macht.
  • Top-p / Nucleus Sampling (restricts_search_space): Der Parameter begrenzt die Auswahlbasis auf die relevantesten Token, deren kumulierte Wahrscheinlichkeit den Schwellenwert (p) erreicht, wodurch unbedeutende Wortenden rigoros wegfallen.
  • Seed-Wert (initializes_randomness): Der Initialisierungswert steuert den systemeigenen Pseudozufallszahlengenerator; identische Seed-Werte erzeugen bei konstanten Parametern reproduzierbare Textausgaben.

Die Auswahl des nächsten Tokens erfolgt stochastisch, und Temperature sowie Top-p steuern, wie breit gestreut diese Auswahl ausfällt.

Wie viele Beispiele gehören in einen Prompt?

Die optimale Anzahl an Beispielen im Prompt hängt von der Komplexität der Zielaufgabe ab, wobei strukturierte Vorgaben das In-Context Learning im Arbeitsspeicher des Sprachmodells kalibrieren.

  • Zero-Shot-Prompting (no_examples): Der Anwender übergibt keine Beispiele, weshalb das Modell die Aufgabe ausschließlich auf Basis seiner vortrainierten parametrischen Gewichte löst. Dies eignet sich für einfache, eindeutige Standardaufgaben wie Übersetzungen oder generische Zusammenfassungen.
  • One-Shot-Prompting (single_example): Ein einziges architektonisches Beispiel fungiert als syntaktische Brücke, um das Ausgabeformat oder den gewünschten Tonfall (Tone of Voice) ohne hohen Token-Verbrauch zu klären.
  • Few-Shot-Prompting (multiple_examples): Der Prompt enthält mehrere strukturierte Eingabe-Ausgabe-Paare (typischerweise drei bis fünf Demonstrationen). Diese Technik erzwingt präzise Klassifikationen, komplexe logische Denkmuster oder die exakte Einhaltung proprietärer Datenschemata.
  • Vektorraum-Konditionierung: Die übergebenen Demonstrationen verengen den latenten semantischen Suchraum des Transformators. Sie definieren exakt die Kookkurrenzen und Wortabstände, die zur Generierung eines hohen Evidence Scores im Phrase-Based Indexing notwendig sind.

Wann verbessern Zwischenschritte das Ergebnis?

Explizit ausformulierte Zwischenschritte verbessern die Ergebnisqualität bei mehrstufigen Aufgaben mit logischen oder mathematischen Rechenwegen, während sie reine Textformulierungsaufgaben nicht optimieren.

  • Chain-of-Thought (CoT): Das sequentielle Generieren logischer Zwischenschritte zerlegt komplexe Probleme in kleinere Teilaufgaben und minimiert die Fehlerquote im latenten Suchraum des Transformators.
  • Self-Consistency: Das Erzeugen paralleler Denkpfade mit anschließender Mehrheitsentscheidung (Majority Voting) filtert stochastische Ausreißer im Decoder-Sampling effektiv heraus.
  • Reasoning-Modelle: Moderne Sprachmodelle mit integrierter interner Denkphase (z. B. OpenAI o1/o3-mini, DeepSeek-R1) führen diesen Prozess bereits nativ vor der finalen Token-Ausgabe aus.
  • Prompt-Antipattern: Die Instruktion „Denke Schritt für Schritt“ stört die interne Struktur nativer Reasoning-Modelle und verbraucht unnötig Kontext-Tokens, bleibt jedoch für Standardmodelle geschäftskritisch.

Chain-of-Thought (arXiv:2201.11903), Self-Consistency (arXiv:2203.11171).

FYI: Modelle mit eigener Reasoning-Phase führen diesen Schritt intern aus. Die Aufforderung „denke Schritt für Schritt“ verliert dort ihren Nutzen und kann die interne Struktur stören. Die Technik gilt weiterhin für Modelle ohne Reasoning-Modus.

Wie erzwingt man ein maschinenlesbares Ausgabeformat?

Anwender erzwingen ein maschinenlesbares Ausgabeformat, indem sie dem Sprachmodell ein striktes Datenschema vorgeben und über System-Prompts jeglichen Begleittext explizit untersagen.

  • Structured Outputs (API): Entwickler-Schnittstellen maskieren unzulässige Token-Pfade im Decoder gegen ein hinterlegtes JSON-Schema zur mathematischen Absicherung valider Syntax [Google: 5].
  • Grammatik-Constraints: Systemseitige Filter steuern Token-Wahrscheinlichkeiten für die ausschließliche Generierung formatkonformer Zeichenketten.
  • Negative Prompting: Die explizite Instruktion „Ausgabe ohne Vor- und Nachtext“ unterdrückt linguistisches Rauschen im Kontextfenster.
  • Parser-Kompatibilität: Das erzwungene Zielformat (JSON/XML) ermöglicht die direkte, automatisierte Datenweiterverarbeitung in Datenbanken.

Strukturierte Ausgaben senken den Token-Verbrauch, da der Wegfall sprachlicher Einleitungen, Übergangsfloskeln und syntaktischer Korrekturen die Gesamtmenge der generierten Zeichen auf die reinen Datenwerte reduziert.

  • Redundanz-Eliminierung: Die Formatvorgabe unterdrückt grammatikalische Füllsätze sowie Höflichkeitsfloskeln.
  • Suchraum-Maskierung: Die API-Schnittstelle (Structured Outputs) blockiert unzulässige Token-Pfade im Decoder, wodurch Erläuterungstexte und syntaktische Korrekturschleifen entfallen.
  • Daten-Fokus: Das Modell berechnet ausschließlich die exakten Schlüssel-Wert-Paare (Keys and Values) eines Schemas.
  • Kosten-Skalierung: Die minimale Ausgabelänge verkürzt die Latenz und senkt die API-Rechenkosten im automatisierten Content-Engineering.

Was ist eine Prompt-Chain?

Ein Prompt-Chain zerlegt eine Aufgabe in Schritte, bei denen die Ausgabe eines Schritts die Eingabe des nächsten bildet.


Wie sollten Sie bei der Prompt-Optimierung vorgehen?

Zählen Sie zuerst, wie viele Ergebnisse entstehen sollen, und schreiben Sie genau einen Prompt pro Ergebnis.

Diese Zahl bestimmt alles Weitere. Ein Prompt, der recherchieren, gliedern, formulieren und prüfen soll, liefert vier mittelmäßige Ergebnisse statt eines brauchbaren. Er hat für jede Teilaufgabe zu wenig Aufmerksamkeit und für keine ein klares Erfolgskriterium.

Prüfen Sie danach vier Fragen.

  1. Verlangt der Prompt zwei unabhängige Artefakte?
  2. Vermischt er Recherche und Textproduktion?
  3. Muss ein Zwischenergebnis kontrolliert werden, bevor es weiterläuft?
  4. Stehen feste Regeln und wechselnde Daten im selben Block?

Jedes Ja bedeutet Aufteilen.

Der umgekehrte Fall gilt ebenso. Ein Schritt, der kein eigenes Ergebnis liefert, wird gestrichen. Die verbreitete Aufforderung „bestätige in drei Sätzen, dass du verstanden hast“ erzeugt kein Artefakt und kostet einen vollen Turn.

Warum trennen Sie Recherche von Formulierung?

Ein Modell, das gleichzeitig sucht und schreibt, erfindet Quellen.

Der Mechanismus liegt in der Token-Vorhersage. Während der Formulierung ist der nächste wahrscheinliche Satz ein Satz mit Beleg. Ob dieser Beleg existiert, entscheidet nicht die Wahrscheinlichkeit. Ein Modell, das eine Quellenangabe erwartet, erzeugt eine Quellenangabe.

Die Trennung schließt diese Lücke. Der erste Schritt liefert eine Tabelle mit Entität, Aussage und geprüfter Quell-URL. Der zweite Schritt darf ausschließlich verwenden, was in dieser Tabelle steht. Damit ist die Faktenbasis abgeschlossen, bevor der erste Satz entsteht.

Warum braucht die Prüfung / Validierung einen eigenen Schritt?

Ein Modell übersieht die eigenen Erfindungen, wenn es sie gerade selbst geschrieben hat.

Trennen Sie deshalb die Prüfung ab und geben Sie ihr eine eigene Aufgabe: jede Faktenbehauptung im Text einer Zeile der Recherchetabelle zuordnen. Behauptungen ohne Zuordnung werden markiert, nicht abgeschwächt.

Setzen Sie ein messbares Abbruchkriterium. Der Prüfschritt gibt den Anteil gedeckter Behauptungen in Prozent aus. Unter hundert geht der Text zurück in die Formulierung. Ohne diese Zahl bleibt jede Prüfung folgenlos, weil niemand entscheiden kann, ob sie bestanden wurde.

Warum steht alles Unveränderliche vorn im Prompt?

Anbieter speichern unveränderte Prompt-Anfänge zwischen und berechnen sie beim nächsten Aufruf günstiger.

Bauen Sie deshalb einen System-Block, der Rolle, Wissen, Stilregeln und Verbote enthält, und senden Sie ihn unverändert über alle Turns. Dahinter folgt der wechselnde Teil: Aufgabe und Daten des aktuellen Schritts.

Der Effekt ist doppelt. Er senkt die Kosten, und er beseitigt Widersprüche. Wer Stilregeln in jedem Turn neu formuliert, formuliert sie jedes Mal etwas anders.

Wie verhindern Sie unerwünschte Begriffe?

Benennen Sie den Begriff und verbieten Sie ihn ausdrücklich, statt ihn wegzulassen.

Ein Modell kennt Begriffe aus seinem Trainingsmaterial und setzt sie ein, sobald das Thema passt. Schweigen im Prompt verhindert das nicht. Im SEO-Umfeld betrifft das Bezeichnungen wie „Evidence Score“ oder „LSI-Keywords“, die in keiner Primärquelle vorkommen und trotzdem in jedem zweiten generierten Text auftauchen.

Führen Sie zwei Listen. Eine mit gesperrten Fachbegriffen, eine mit gesperrten Sprachmustern. In die zweite gehören Doppelpunkt-Ankündigungen, nachgestellte Gedankenstriche, verblose Fragmente und leere Verstärker wie „zuverlässig“ oder „professionell“.

Wie erzwingen Sie ein festes Ausgabeformat?

Beschreiben Sie das Format positiv und schließen Sie es negativ ab.

„Gib Markdown aus“ lässt offen, ob eine Einleitung davorsteht. Ergänzen Sie deshalb „Kein Vor- und kein Nachtext“. Bei tabellarischen Ergebnissen geben Sie die Spalten einzeln vor und fügen eine ausgefüllte Beispielzeile an.

Nennen Sie in Recherche-Schritten keine Beispielbegriffe. Jedes genannte Beispiel verengt die Suche auf sein Umfeld, und was außerhalb liegt, findet das Modell seltener.

Woran erkennen Sie einen optimierten Prompt?

Ein guter Prompt sagt, was herauskommen soll, in welcher Form, und woran man erkennt, dass es geklappt hat.

Fehlt das Erfolgskriterium, lässt sich der Prompt nur nach Gefühl bewerten. Fehlt das Format, entsteht bei jedem Aufruf eine andere Form. Fehlt das Ergebnis, macht das Modell die Aufgabenteilung selbst — meist anders als beabsichtigt.


Beachte:

  • Prompts erzeugen Text, keine Rankings: Eingaben generieren Text; Rankings erfordern Veröffentlichung, Crawling und Indexierung.
  • Parameter verändern die Wortwahl, kein Wissen: Sampling-Parameter variieren die Stochastik der Begriffe, nicht den Informationsgehalt.
  • Wortlisten senken Wahrscheinlichkeiten, blockieren keine Token: Negativlisten sperren keine Pfade im Decoder, sondern verschieben Wahrscheinlichkeitsverteilungen.
  • XML-Tags strukturieren Text, steuern keine Attention-Gewichte: Formatierungs-Tags grenzen Instruktionen ab, manipulieren neuronale Aufmerksamkeitsgewichte aber nicht direkt.
  • Grounding begrenzt Quellen, eliminiert Halluzinationen nicht: sie verengen den Suchraum, beseitigen Falschaussagen jedoch erst durch nachgeschaltete Prüfschritte.
  • Algorithmen ersetzen keine menschliche Fachprüfung: Kein automatisiertes Verfahren erübrigt die finale Verifizierung des Inhalts durch Fachexperten.

FAQ: Prompt Engineering

Was unterscheidet Prompt Engineering von Fine-Tuning? Prompt Engineering verändert den Kontext eines einzelnen Aufrufs. Fine-Tuning verändert die Gewichte des Modells dauerhaft. Prompting wirkt sofort und kostet einen Aufruf. Fine-Tuning erfordert einen Datensatz, Rechenzeit und ein eigenes Modellartefakt.

Wie viele Beispiele gehören in einen Few-Shot-Prompt? Genug, um die Form festzulegen, und wenige genug, um den Lösungsraum offen zu lassen. Beispiele wirken als Rahmen: Ähneln sich alle Beispiele stark, produziert das Modell Varianten dieses einen Musters.

Warum liefert derselbe Prompt unterschiedliche Ergebnisse? Die Auswahl des nächsten Tokens erfolgt stochastisch. Temperature und Top-p steuern die Streuung. Für wiederholbare Ergebnisse gehört Temperature auf einen niedrigen Wert.

Was ist eine Prompt-Chain? Eine Folge von Prompts, bei der die Ausgabe eines Schritts die Eingabe des nächsten bildet. Jeder Schritt erzeugt genau ein Ergebnis. Der Nutzen liegt in der Prüfbarkeit: Jedes Zwischenergebnis lässt sich einzeln kontrollieren.

Kann ein Prompt das Ranking einer Seite beeinflussen? Nein. Ein Prompt erzeugt Text. Ranking-Werte entstehen im Index der Suchmaschine. Zwischen beidem liegen Veröffentlichung, Crawling und Indexierung. Formulierungen, die Prompt-Struktur direkt mit Ranking-Werten verknüpfen, überspringen diese Kette.