Trustworthy AI: Fairness, Interpretability and Privacy

Dozent:innen: Dr. Mattia Cerrato
Kurzname: 08.079.22041
Kurs-Nr.: 08.079.22041
Kurstyp: Vorlesung/Übung

Voraussetzungen / Organisatorisches

(this description was translated automatically, and the class is offered only in English)

Machine Learning Modelle, insbesondere auf der Grundlage neuronaler Netze, gehören heute zu unserem Alltag und werden in Smartphones und eingebetteten Systemen eingesetzt. Algorithmen für das maschinelle Sehen erkennen unsere Haustiere auf den von uns aufgenommenen Fotos; Modelle für die Verarbeitung natürlicher Sprache sind in der Lage, unsere Grammatik zu korrigieren und sogar Texte zu generieren, die für Menschen verständlich sind.

Die neue Welle so genannter "Deep Learning"-Systeme zeigt zwar beeindruckende Leistungen bei verschiedenen Aufgaben, doch sind diese Modelle in vielerlei Hinsicht sehr schwer zu verstehen. Ein Beispiel dafür ist die GPT-Modellfamilie mit ihren 175 Milliarden lernbaren Parametern. Wenn etwas schief geht, ist es fast unmöglich zu verstehen, "warum" ein Modell eine bestimmte Entscheidung getroffen hat.

Der technische Optimismus und die Begeisterung für das maschinelle Lernen haben auch Unternehmen dazu veranlasst, es in Situationen anzuwenden, in denen es sich direkt auf das Wohlergehen der Menschen auswirken kann, z. B. bei Kreditanträgen, bei der Auswahl von Bewerbern für Stellenangebote und bei der Bewertung des Rückfallrisikos von Personen, die ein Verbrechen begangen haben. Auf neuronalen Netzen basierende Bildverarbeitungsanwendungen wurden sogar schon zur Bewertung von Schönheitswettbewerben eingesetzt.


In solchen Kontexten sind undurchsichtige Modelle besonders problematisch, da ein konkretes Risiko der Diskriminierung bestimmter Personengruppen besteht. Geschützte Merkmale wie Geschlecht und ethnische Zugehörigkeit könnten in die Berechnung der endgültigen Entscheidung einfließen, was aus moralischen Gründen problematisch und rechtswidrig ist. Die Existenz des geschlechtsspezifischen Lohngefälles zeigt beispielsweise, dass es komplexe Zusammenhänge zwischen gesetzlich geschützten Merkmalen (Geschlecht) und anderen, nicht sensiblen Merkmalen wie dem Jahresgehalt einer Person gibt.

Wenn Modelle aus voreingenommenen Daten lernen, folgt daraus, dass sie lernen, voreingenommene Entscheidungen zu treffen; wenn wir nicht in der Lage sind, diese Entscheidungen zu erklären, haben wir nur noch sehr wenig menschliche Kontrolle über einen Prozess, der letztlich ein Softwareprozess ist. Abgesehen davon, dass diese Methoden philosophisch beunruhigend und unethisch sind, könnten sie auch von der aktuellen Gesetzgebung als ungesetzlich angesehen werden. Die Allgemeine Datenschutzverordnung in der Europäischen Union ist ein Beispiel dafür, dass Transparenz und Fairness für Personen, die automatischen Softwaresystemen zur Entscheidungsfindung unterworfen sind, garantiert werden müssen.


In diesem Kurs werden Sie die aktuelle Diskussion in der KI- und ML-Literatur darüber kennenlernen, wie man KI- und ML-Algorithmen so kontrollieren kann, dass sie vertrauenswürdig sind. Wir werden uns insbesondere auf drei Merkmale konzentrieren:

* Fairness: Wie können wir nicht-diskriminierende Modelle aus verzerrten Daten lernen?
* Interpretierbarkeit: Wie können wir die Entscheidungen eines Modells nachvollziehen?
* Datenschutz: Wie können wir sicherstellen, dass ein mit unseren persönlichen Daten trainiertes Modell unsere Daten nicht an Dritte weitergibt?

Der Kurs findet **Dienstags 10-12 Uhr** im Raum **04-426** statt. Wir werden auch Tutorien am **Donnerstag** anbieten (Zeit wird noch bekannt gegeben).
 

Termine

Datum (Wochentag) Zeit Ort
25.10.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
08.11.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
15.11.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
22.11.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
29.11.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
06.12.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
13.12.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
20.12.2022 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
10.01.2023 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
17.01.2023 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
24.01.2023 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
31.01.2023 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik
07.02.2023 (Dienstag) 10:00 - 12:00 04 426
2413 - Neubau Physik/Mathematik