Large Language Model (LLM)
Ein Large Language Model ist ein neuronales Netz, das auf großen Textmengen trainiert wurde und Sprache versteht, fortsetzt, übersetzt und zusammenfasst.
Ein Large Language Model, kurz LLM, ist ein neuronales Netz mit Milliarden von Parametern, das an sehr großen Textmengen gelernt hat, welche Wörter in welchem Zusammenhang aufeinander folgen. Aus diesem statistischen Wissen entsteht die Fähigkeit, Fragen zu beantworten, Texte zusammenzufassen, zu übersetzen oder umzuformulieren. Das Modell erzeugt seine Ausgabe Stück für Stück, Token für Token.
Die bekanntesten Modelle stammen von wenigen großen Anbietern und laufen in deren Rechenzentren. Daneben gibt es Open-Source-Modelle, deren Gewichte veröffentlicht sind und die jeder auf eigener Infrastruktur betreiben kann. Beide Arten folgen demselben Grundprinzip, unterscheiden sich aber in Größe, Qualität, Kosten und in der Frage, wo die Daten verarbeitet werden.
Ein LLM weiß nur, was in seinen Trainingsdaten stand, und das nur bis zu einem bestimmten Zeitpunkt. Aktuelle oder unternehmensinterne Informationen kennt es nicht. Dafür wird es im Einsatz mit Kontext versorgt, etwa durch Retrieval-Augmented Generation, oder gezielt nachtrainiert.
Was das für Ihr Unternehmen bedeutet
Für den Mittelstand ist weniger die Architektur entscheidend als der Betrieb: Wo läuft das Modell, wer sieht die Eingaben, und werden sie zum Training verwendet. Ein Modell, das in einem deutschen Rechenzentrum läuft und keine Kundendaten zum Training nutzt, lässt sich datenschutzrechtlich deutlich einfacher einordnen als ein Dienst außerhalb der EU.