Background: Zero-Shot- und Few-Shot-Prompting
In der Welt der künstlichen Intelligenz und des maschinellen Lernens sind "Zero-Shot" und "Few-Shot Prompting" zwei Begriffe, die oft in Diskussionen über moderne Sprachmodelle auftauchen. Diese Begriffe beziehen sich auf die Fähigkeit von Modellen, Aufgaben ohne oder mit nur wenigen vorherigen Beispielen auszuführen.
Zero-Shot-Prompting
Der Begriff "Zero-Shot" deutet bereits darauf hin, dass das Modell keine vorherigen "Schüsse" oder Beispiele gesehen hat, um eine bestimmte Aufgabe zu erlernen oder auszuführen.
Stell dir vor, du bittest jemanden, eine Aufgabe zu erledigen, ohne der Peron zu zeigen, wie sie gemacht wird. In der KI-Welt bedeutet das, dass das Modell in der Lage ist, Anfragen oder Aufgaben zu verstehen und auszuführen, ohne dass ihm zuvor explizite Beispiele des gewünschten Verhaltens gezeigt wurden.
Ein praktisches Beispiel dafür wäre, wenn ein Modell aufgefordert wird, einen englischen Text ins Französische zu übersetzen, ohne dass ihm zuvor Übersetzungsbeispiele gezeigt wurden. Wenn es dann korrekt antwortet, nutzt es seine antrainierten Zero-Shot-Fähigkeiten.
Beispiele:
“Übersetze diesen Text von Deutsch in Englisch.”
“Fasse den Hauptgedanken des folgenden Texts zusammen.”
“Erstelle ein Skript für ein Youtube-Video über das Thema XYZ.”
Few-Shot-Prompting
Wie der Name schon sagt, werden hier dem Modell "wenige Schüsse" oder Beispiele gezeigt, um es bei der Ausführung einer Aufgabe zu leiten. Es ist, als würdest du jemandem ein oder zwei Beispiele zeigen, wie eine Aufgabe erledigt wird, und dann erwarten, dass die Person sie basierend auf diesen Beispielen ausführt.
In der KI bedeutet dies, dass das Modell einige Beispiele oder Demonstrationen erhält, um es zu leiten und bessere Ergebnisse zu erzielen. Ein gutes Beispiel hierfür wäre, das Tool zu bitten Begriffspaare zuzuordnen oder mathematische Rechnungen durchzuführen. Es nutzt dann seine Few-Shot-Fähigkeiten, um die Aufgabe basierend auf dem gezeigten Beispiel korrekt auszuführen.
Beispiele (nach Brown et al. 2020):
Ergänze das fehlende Attribut:
This is awesome! - Positive
This is bad! - Negative
Wow that movie was rad! - Positive
What a horrible show! - ?
Ergänze die fehlende Antwort:
The odd numbers in this group add up to an even number: 4, 8, 9, 15, 12, 2, 1.
A: The answer is False.
The odd numbers in this group add up to an even number: 17, 10, 19, 4, 8, 12, 24.
A: The answer is True.
The odd numbers in this group add up to an even number: 16, 11, 14, 4, 8, 13, 24.
A: The answer is True.
The odd numbers in this group add up to an even number: 17, 9, 10, 12, 13, 4, 2.
A: The answer is False.T
he odd numbers in this group add up to an even number: 15, 32, 5, 13, 82, 7, 1.
A: ?
Zusammengefasst repräsentieren Zero-Shot und Few-Shot Prompting zwei verschiedene Ansätze im Umgang mit Sprachmodellen. Während Zero-Shot das Modell ohne vorherige Beispiele arbeiten lässt, gibt Few-Shot dem Modell einige Beispiele, um es bei der Ausführung einer Aufgabe zu leiten. Beide Ansätze haben ihre eigenen Stärken und Schwächen und können je nach Anforderung und Kontext ausgewählt werden.
