Training und Inferenz: lernen und anwenden
Training ist die Schulzeit der KI: monatelang lernen aus riesigen Textmengen. Inferenz ist der Berufsalltag: Das Gelernte anwenden, jedes Mal, wenn du eine Frage stellst. Beim Chatten lernt die KI nicht dazu, sie wendet nur an.
💡 Eine KI kennt die Welt nur bis zum Ende ihres Trainings. Für Aktuelles braucht sie eine Websuche oder Unterlagen, siehe RAG.
Training: lernen
Beim Training bekommt ein Modell sehr viele Beispiele zu sehen und stellt dabei Milliarden interner Werte ein, bis seine Vorhersagen gut passen. Das braucht große Rechenzentren und viel Energie und passiert selten. Danach ist das Wissen „eingefroren“, man spricht vom Wissensstand des Modells. Siehe auch Machine Learning.
Inferenz: anwenden
Inferenz passiert bei jeder einzelnen Anfrage: Das fertige Modell bekommt deine Eingabe und berechnet die Antwort. Eine einzelne Anfrage braucht nur einen Bruchteil der Rechenleistung des Trainings. Weil aber Millionen Menschen gleichzeitig fragen, fällt auch hier viel Aufwand an.
Ein Beispiel aus dem Alltag
Ein Koch lernt jahrelang in der Ausbildung (Training). Danach kocht er jeden Abend für Gäste (Inferenz). Ein neues Gericht kann er nur, wenn er es nachliest oder wieder etwas dazulernt.
Häufige Fragen
Lernt ChatGPT aus meinen Chats?
Nicht während des Gesprächs. Manche Anbieter verwenden Chats aber später für neues Training. Ob das passiert, steht in den Einstellungen und meist kannst du es abschalten.
Warum weiß die KI nichts über gestern?
Weil ihr Wissen aus dem Training stammt und dieses vor einiger Zeit abgeschlossen wurde. Neues kennt sie nur über eine Websuche oder Unterlagen, die du ihr gibst.