Fine-Tuning
Fine-Tuning ist das Nachtrainieren eines vorhandenen Sprachmodells mit eigenen Beispieldaten, um Stil, Format oder Verhalten dauerhaft im Modell zu verankern.
Beim Fine-Tuning wird ein bereits trainiertes Modell mit einer vergleichsweise kleinen Menge eigener Beispiele weiter trainiert. Die Gewichte des Modells verändern sich dabei. Das Ergebnis ist ein Modell, das bestimmte Aufgaben in einem gewünschten Stil oder Format zuverlässiger erledigt, etwa Schreiben in der Tonalität eines Hauses oder Klassifizieren nach einem festen Schema.
Fine-Tuning ist nicht der geeignete Weg, einem Modell Faktenwissen beizubringen. Wissen, das im Training verankert wurde, lässt sich nicht gezielt aktualisieren oder löschen, und das Modell kann es mit Trainingsinhalten vermischen. Für Fragen zu Dokumenten ist Retrieval-Augmented Generation fast immer die bessere Wahl.
Datenschutzrechtlich ist Fine-Tuning heikel, wenn die Trainingsdaten personenbezogene Daten enthalten. Diese Daten gehen im Modell auf und können unter Umständen wieder hervorgebracht werden. Betroffenenrechte wie Löschung sind dann kaum umsetzbar.
Was das für Ihr Unternehmen bedeutet
Für die meisten mittelständischen Anwendungsfälle ist Fine-Tuning nicht nötig. Ein gutes Basismodell, ein sauberer System-Prompt und die eigenen Dokumente per Retrieval-Augmented Generation decken Fragen zu Verträgen, Richtlinien und Vorgängen ab. Wichtiger als eigenes Training ist die Zusage des Anbieters, dass er Kundendaten nicht für das Training seiner Modelle verwendet.