Tutorials · Werkzeug
Sprachmodell zum Ausprobieren
Ein großes Sprachmodell sagt immer nur das nächste Wort vorher. Hier steuern Sie ein winziges Modell selbst: Es hat nur ein paar Dutzend Sätze gelesen, arbeitet aber nach demselben Grundgedanken. In fünf Stufen kommt jeweils ein Baustein dazu.
Stufe 1: Das nächste Wort
Das Modell sieht nur das letzte Wort und schlägt vor, was im Trainingstext darauf folgte. Wie oft etwas folgte, wird zur Wahrscheinlichkeit. Klicken Sie Wort für Wort einen Satz zusammen - bis zum Punkt.
Stufe 2: Das Modell lost aus
Jetzt wählt das Modell selbst: Es lost das nächste Wort nach den Wahrscheinlichkeiten aus. Die Temperatur verschiebt diese Wahrscheinlichkeiten, Top-k lässt nur die k wahrscheinlichsten Wörter zu. Lassen Sie mehrere Sätze schreiben und drehen Sie an den Reglern.
Stufe 3: Mehr Kontext
Bisher sah das Modell nur ein Wort. Geben Sie ihm zwei oder drei Wörter und vergleichen Sie die Vorschläge an derselben Stelle. Die hervorgehobenen Wörter sind das, was das Modell gerade sieht - der Rest des Satzes existiert für es nicht.
Stufe 4: Selbst trainieren
Ein Modell kennt nur, was in seinem Trainingstext vorkam. Schreiben Sie eigene Sätze und trainieren Sie das Modell damit: Die Vorschläge ändern sich sofort. Tipp: Verwenden Sie Wörter, die das Modell schon kennt, zum Beispiel „Die Katze liest die Zeitung.“
Stufe 5: Urteile und Platzhalter
Jetzt hat das Modell Sätze aus erfundenen Urteilen gelesen - mit Namen, Wohnorten, Daten und Aktenzeichen. Lassen Sie es einige Sätze schreiben und achten Sie auf zweierlei: Es setzt Aktenzeichen zusammen, die es nie gab. Und es nennt Namen, die im Trainingstext standen. Schalten Sie dann auf den pseudonymisierten Trainingstext um.
Trainingstext ansehen
- Die Katze jagt die Maus.
- Die Katze jagt den Vogel.
- Die Katze schläft auf dem Sofa.
- Die Katze schläft im Garten.
- Die Katze trinkt die Milch.
- Die Katze spielt mit dem Ball.
- Die Katze sitzt auf dem Dach.
- Der Hund jagt die Katze.
- Der Hund jagt den Ball.
- Der Hund schläft im Garten.
- Der Hund bellt im Garten.
- Der Hund spielt mit dem Kind.
- Der Hund frisst den Knochen.
- Der Hund läuft durch den Garten.
- Die Maus frisst den Käse.
- Die Maus läuft durch die Küche.
- Die Maus versteckt sich im Keller.
- Die Maus schläft im Keller.
- Der Vogel singt im Garten.
- Der Vogel sitzt auf dem Dach.
- Der Vogel fliegt über das Haus.
- Der Vogel frisst den Wurm.
- Das Kind spielt mit dem Ball.
- Das Kind spielt im Garten.
- Das Kind liest ein Buch.
- Das Kind trinkt die Milch.
- Das Kind läuft durch den Garten.
- Das Kind schläft im Zimmer.
- Das Kind malt ein Bild.
- Die Frau liest ein Buch.
- Die Frau liest die Zeitung.
- Die Frau trinkt einen Kaffee.
- Die Frau arbeitet im Garten.
- Die Frau fährt mit dem Fahrrad.
- Der Mann liest die Zeitung.
- Der Mann trinkt einen Tee.
- Der Mann kocht die Suppe.
- Der Mann fährt mit dem Auto.
- Der Mann arbeitet im Büro.
- Die Sonne scheint über dem Garten.
- Die Sonne scheint auf das Dach.
- Der Ball rollt durch den Garten.
- Der Ball rollt unter das Sofa.
- Die Katze jagt die Maus, weil sie hungrig ist.
- Der Hund bellt, weil er die Katze sieht.
- Das Kind lacht, weil der Hund mit dem Ball spielt.
- Die Maus versteckt sich, weil die Katze kommt.
- Die Frau lacht, weil das Kind ein Bild malt.
- Der Mann schläft, weil er müde ist.
- Das Kind schläft, weil es müde ist.
- Die Katze schläft, weil sie müde ist.
- Der Vogel singt, weil die Sonne scheint.
- Am Morgen trinkt die Frau einen Kaffee.
- Am Morgen liest der Mann die Zeitung.
- Am Abend liest das Kind ein Buch.
- Am Abend schläft der Hund im Garten.
- Am Abend kocht der Mann die Suppe.
- Im Garten spielt das Kind mit dem Hund.
- Im Garten singt der Vogel.
- Im Keller frisst die Maus den Käse.
- Heute scheint die Sonne.
- Heute spielt das Kind im Garten.
- Heute fährt die Frau mit dem Auto.
- Die Katze sieht den Vogel auf dem Dach.
- Der Hund sieht die Maus im Keller.
- Das Kind sieht die Katze auf dem Sofa.
- Die Frau sieht den Mann im Garten.
- Der Mann sieht das Kind im Garten.
- Die Klägerin Erika Mustermann wohnt in Musterstadt.
- Der Beklagte Max Beispiel wohnt in Beispielhausen.
- Der Zeuge Peter Muster wohnt in Beispielhausen.
- Die Zeugin Anna Beispiel wohnt in Musterstadt.
- Die Klägerin Erika Mustermann hat die Klage zurückgenommen.
- Der Beklagte Max Beispiel hat die Berufung zurückgenommen.
- Der Zeuge Peter Muster hat die Klägerin gesehen.
- Die Zeugin Anna Beispiel hat den Beklagten gesehen.
- Das Gericht hat den Zeugen Peter Muster vernommen.
- Das Gericht hat die Zeugin Anna Beispiel vernommen.
- Die Klägerin verlangt von dem Beklagten die Zahlung von 5.000 Euro.
- Der Beklagte verlangt die Abweisung der Klage.
- Der Beklagte hat die Rechnung nicht bezahlt.
- Die Klägerin hat die Rechnung vom 05.07.2022 bezahlt.
- Das Landgericht hat die Klage abgewiesen.
- Das Landgericht hat der Klage stattgegeben.
- Das Amtsgericht hat den Beklagten zur Zahlung verurteilt.
- Das Oberlandesgericht hat die Berufung zurückgewiesen.
- Das Oberlandesgericht hat das Urteil aufgehoben.
- Der Bundesgerichtshof hat die Revision zurückgewiesen.
- Der Bundesgerichtshof hat das Urteil aufgehoben.
- Das Aktenzeichen lautet 4 O 284/23.
- Das Aktenzeichen lautet 12 O 284/21.
- Das Aktenzeichen lautet 12 O 91/22.
- Das Aktenzeichen lautet 7 C 91/23.
- Das Urteil vom 12.03.2021 ist rechtskräftig.
- Das Urteil vom 24.11.2023 wurde aufgehoben.
- Die Klage vom 05.07.2022 ist zulässig.
- Die Klage ist zulässig und begründet.
- Die Klage ist zulässig, aber unbegründet.
- Die Berufung ist zulässig, aber unbegründet.
- Die Berufung der Klägerin ist begründet.
- Die Revision des Beklagten ist unbegründet.
- Der Beklagte trägt die Kosten des Verfahrens.
- Die Klägerin trägt die Kosten der Berufung.
- Der Bundesgerichtshof hat mit Urteil vom 12.03.2021 die Revision zurückgewiesen.
- Das Oberlandesgericht hat mit Urteil vom 24.11.2023 die Berufung zurückgewiesen.
Was hier vereinfacht ist
- Zählen statt lernen. Dieses Mini-Modell zählt nur, welches Wort auf welche Wörter folgte. Ein großes Sprachmodell lernt stattdessen Milliarden von Stellschrauben und erfasst damit auch Bedeutung und Zusammenhänge, die nie wörtlich im Trainingstext standen.
- Wörter statt Tokens. Hier ist jedes Wort ein Baustein. Echte Modelle zerlegen Text in Tokens, oft Wortteile.
- Drei Wörter statt eines ganzen Dokuments. Hier reicht der Kontext höchstens drei Wörter zurück, bei großen Modellen bis zu Hunderttausenden von Tokens.
- Gleich geblieben ist der Kern: Aus dem bisherigen Text entsteht eine Wahrscheinlichkeit für jedes mögliche nächste Wort, eines wird ausgelost, und das Ganze beginnt von vorn.
Alles läuft in Ihrem Browser: Es wird nichts übertragen und nichts gespeichert. Die ausführliche Erklärung steht im Tutorial Wie große Sprachmodelle (LLMs) funktionieren.
Weiterlesen:Alle Tutorials und das Glossar · Wie große Sprachmodelle (LLMs) funktionieren · KI & Berufsrecht
KI nutzen, ohne Namen preiszugeben
LexITanon pseudonymisiert Urteile und Schriftsätze lokal, bevor sie an einen KI-Dienst gehen. Die Demo im Browser bearbeitet Texte und PDFs bis zu 20 Angaben - ohne Anmeldung.