Einführung in Deep Learning VL 5: Softmax, Kettenregel, Stochastischer Gradientenabstieg

Um das verallgemeinerte Perzeptron und daraus zusammengesetzte neuronale Netze zu trainieren, z.B. für ein Multiklassen-Klassifikationsproblem, verwenden wir Abstieg entlang der steilsten Richtung der Loss-Funktion, also den Gradientenabstieg. Am Anfang besprechen wir noch Softmax und die Kettenregel, wie in den Übungsaufgaben vorbereitet.