Nächstes Semester

Modellierung II

Dozent:innen: Univ.-Prof. Dr. Michael Wand
Kurzname: 08.079.318
Kurs-Nr.: 08.079.318
Kurstyp: Vorlesung/Übung

Voraussetzungen / Organisatorisches

Die Vorlesung Modelierung 1 wird vorausgesetzt.
Andere Veranstaltungen zu machinellem Lernen und / oder Computer Vision sind hilfreich, aber nicht notwendig. Grundvorlesungen in Mathematik (Analysis/lineare Algebra sowie "Statistik für Informatiker", oder die analogen Veranstaltungen aus dem NF Physik) sind ebenfalls sehr wichtig (dies galt bereits für Modellierung 1).

Digitale Lehre

Die Veranstaltung ist als Präsenzveranstaltung geplant, wobei Video-Vorlesungen die Basis von Diskussionen in Präsenz bilden (siehe WWW-Link). Bei Bedarf ist ein (auch kurzfristige) änderung in ein rein virtuelles Format möglich.

Empfohlene Literatur

Weitere Literatur ist in der Webseite der Vorlesung angegeben.

Inhalt

Hinweis: Die Veranstaltung Modellierung II wurde im Sommersemester 2021 als "statistische Datenmodellierung" neu konzipiert.

Während der erste Teil (Modellierung I) sich vor allem lineare Modelle angeschaut hat, geht es nun darum, wie man statistische Informationen aus Daten extrahieren kann. Dabei stehen neben einer Einführung in maschinelles Lernen vor allem die Methoden des Lernens mit "tiefen Netzwerken" im Mittelpunkt des Interesses. Der Fokus ist hierbei weniger auf Anwendungen, als darauf, zu verstehen, wie und warum diese Methoden (so gut) funktionieren. Welche mathematischen Modelle können wir anwenden, um zu erklären wann und warum diese neue Methoden gut funktionieren?

Die Einführung in das maschinelle Lernen setzt zwar kein Wissen aus anderen Veranstaltungen zu diesem Thema voraus, ist aber möglichst methodisch komplementär zu der Grundvorlesung "Machine Learning" ausgelegt.

Behandelt werden u.a. die folgenden Inhalte:

  1. 1 Grundlagen
    2. [list]
  2. Übersicht Machine Learning (mit Fokus auf Generalisierungsfragen und Model Selection)
  3. Wiederholung lineare Modelle für machine Learning
  4. Einführung Deep Learning

  • 2 Klassische Verfahren (komplementär zur Vorlesung ML)

    1. Matrixfaktorisierung / Einbettungen, Kernels
    2. (optional: Markov-Random Fields)

  • 3 Verständnis tiefer Netze ("A Deeper Look into Deep Learning")

    1. Informationstheorie
    2. Gaussche Prozesse zur Analyse im linearen Limit
    3. Approximationen im Limit (Neural Tangent Kernel etc.)
    4. "Double Descent" - das Generalisierungsverhalten überparametrisierter Netze/Modelle
    5. Differentialgeometrische Modelle, Fischer-Information
    6. Ideen aus der statistischen Physik (Symmetrie, Renormierung, Phasenübergänge)

    [/list]
    Die Veranstaltung ist vor allem im letzten Teil thematisch forschungsnah und wendet sich eher an Studierende im Master (wobei interessierte Studierende im Bachelor trotzdem willkommen sind).
     

    Zusätzliche Informationen

    Wichtig: Die Veranstaltung wird als "blended-learning" Veranstaltung durchgeführt. Hierzu sollten Sie unbedingt die weiteren Informationen auf der Webseite der Veranstaltung unter

    https://luna.informatik.uni-mainz.de/mod2-22/

    durchlesen. Hier finden Sie auch bereits (fast) alle Vorlesungsvideos und weitere Angaben zu Organisation, Literatur und Hintergründen.

    Auf der Webseite sind auch Zugangsdaten für den Teams-Kanal der Veranstaltung zu finden. Tragen Sie sich hier unbedingt so bald wie möglich als Teilnehmer/in ein!

    Termine

    Datum (Wochentag) Zeit Ort
    19.04.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    26.04.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    03.05.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    10.05.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    17.05.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    24.05.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    31.05.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    07.06.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    14.06.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    21.06.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    28.06.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    05.07.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    12.07.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik
    19.07.2022 (Dienstag) 16:15 - 17:45 04 224
    2413 - Neubau Physik/Mathematik