Deep Learning - Theorie und Praxis (Modellierung II)
Dozent:innen: Univ.-Prof. Dr. Michael WandKurzname: 08.079.318
Kurs-Nr.: 08.079.318
Kurstyp: Vorlesung/Übung
Voraussetzungen / Organisatorisches
Die Veranstaltung setzt die Inhalte von "Modellierung 1" voraus (u.a. Signaltheorie/Fourier-Transformation, PCA, Least-Squares Methoden, Regularisierung von inversen Problemen, gute Kenntnisse in Lineare Algebra und Analysis). Dies kann eventuell durch Kenntnisse aus einem Nebenfach (Physik/Mathematik) abgedeckt sein.Vorkenntnisse in maschinellem Lernen werden stark empfohlen (wir werden die Grundkonzepte nur ganz kurz in der ersten Veranstaltung wiederholen).
Digitale Lehre
Weitere Materialien und Information auf der Webseite der Veranstaltung:https://luna.informatik.uni-mainz.de/dl-25-26/
(Verfügbar ab 10/2025)
Inhalt
Die Veranstaltung beschäftigt sich mit der (eher) theoretischen Fragen im maschinellen Lernen, insbesondere in Bezug auf die Analyse tiefer neuronaler Netze: Wir haben hier in den letzten 10-15 Jahren dramatische Fortschritte gesehen, aber das konzeptionelle Verständnis hinkt immer noch der Praxis hinterher. Um zu verstehen, warum es überhaupt so verblüffend ist, was wir dort sehen, schauen wir uns zunächst das Problem von Generalisierung und Modellauswahl abstrakt an. Danach versuchen wir, zu verstehen, was die tiefen Netze eigentlich machen. Dazu setzen wir vor allem auf Taylor-Approximationen (Tangent-Linear Models im Gewichtsraum, NTK) die eine Approximation mit Gausschen Prozessen erlauben (welche wir uns entpsrechend auch noch genauer anschauen werden).Die Veranstaltung bietet auch eine kurze Einführung in Deep Learning (Vorkenntnisse werden nicht vorausgesetzt), aber die praktische Anwendung steht weniger im Vordergrund.
Termine
| Datum (Wochentag) | Zeit | Ort |
|---|---|---|
| 27.10.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 03.11.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 10.11.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 17.11.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 24.11.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 01.12.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 08.12.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 15.12.2025 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 05.01.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 12.01.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 19.01.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 26.01.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 02.02.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
| 09.02.2026 (Montag) | 12:00 - 14:00 | 04 432 2413 - Neubau Physik/Mathematik |
