Gradient Descent Teil 2: Stochastic Gradient Descent und Mini-Batch GD

KI - kurz und informativ, Klartext "to Go" in unter 5 Minuten · Oct 29, 2026 · 7m

In der ersten Folge zu Gradient Descent haben wir mit den Schwächen dieses Verfahrens aufgehört. Heute schauen wir uns an, wie diese Schwächen angegangen werden.

Wir sprechen über lokale Minima, die richtige Lernrate und den hohen Rechenaufwand bei grossen Datensätzen.

Ihr braucht keine mathematischen Vorkenntnisse (wobei die Grundrechenarten sind nie verkehrt sind :D).

Aus den Herangehensweisen ergeben sich die drei wichtigen Ansätze aus der Praxis:

Gradient Descent: Wie der gesamte Datensatz zur Berechnung eines Optimierungsschritts verwendet wird.

Stochastic Gradient Descent (SGD): Warum…