zur Startseite

Masterarbeit

Entwicklung von fairen und personalisierten Machine Learning Modellen
Projekt Fair and Accountable Decision Support
Betreuer M.Sc. Sarah Oppold
Prüfer Prof. Dr. rer. nat. Melanie Herschel
Beschreibung

Motivation

Machine Learning Modelle werden häufig zur Entscheidungsunterstützung eingesetzt. Im Idealfall sollten die Entscheidungen unparteiisch, unvoreingenommen und fair sein. Allerdings sind Machine Learning Modelle bei weitem nicht perfekt, z.B. aufgrund von Verzerrungen durch unvollkommene Trainingsdaten oder falsche Featureauswahl. Obwohl Anstrengungen unternommen werden und weiterhin in die Entwicklung besserer Modelle investiert werden sollte, erkennen wir auch an, dass wir uns bei vielen Anwendungen weiterhin auf unvollkommene Modelle verlassen werden müssen. Aber was wäre, wenn wir uns nachweislich auf das "beste" Modell für eine Person oder eine Gruppe von Personen verlassen und die damit verbundenen Risiken und Schwächen transparent kommunizieren könnten?

Ziele

Im Hinblick auf diese Frage soll im Rahmen dieser Masterarbeit ein Algorithmus für die Auswahl fairer und personalisierter Machine Learning Modelle entworfen und implementiert werden.

Hierfür soll die Idee von dynamischen Modellensembles [1, 2] aufgegriffen werden. Dabei wird nicht während der Entwicklung des Systems das beste Modell gewählt, sondern zur Laufzeit. Dafür wird zum Beispiel bei der Klassifikation eines Users die Qualität der existierenden Modelle für ähnliche User festgestellt und nur die besten Modelle ausgewählt und vom System verwendet. Bislang wurden die Auswahl der Modelle basierend auf Genauigkeitsmetriken vorgenommen. Für ein möglichst faires Programm soll das Konzept der dynamischen Modelensembles in dieser Arbeit auf Fairnessmetriken angepasst und implementiert werden.

Literatur

  1. [1]  A. H. Ko, R. Sabourin, and A. d. S. Britto Jr., “From dynamic classifier selection to dynamic ensemble selection,” Pattern Recognition, vol. 41, no. 5, pp. 1718–1731, 2008.

  2. [2]  K.Woods,W.P.Kegelmeyer,andK.Bowyer,“Combinationofmultipleclassifiersusinglocalaccuracy estimates,” IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 19, no. 4, pp. 405– 410, 1997.