Er wolle die Welt mit seiner Arbeit ein bisschen besser machen – sagt Tobias Krafft. Der Doktorand befasst sich mit den gesellschaftlichen Auswirkungen von Algorithmen. Mit welchen Folgen diese Technik einhergehen kann, ist den meisten Menschen nicht wirklich bewusst. „Algorithmen machen durchaus Sinn, wenn es etwa darum geht, Maschinen bei der Produktion einen genauen Ablauf vorzugeben“, sagt Krafft. „In anderen Bereichen sollte man den Einsatz aber kritisch hinterfragen.“ 

Vor allem wenn Menschen ins Spiel kommen. Algorithmen entscheiden oftmals über deren Schicksal. Erhalte ich einen Kredit? Welches neue Produkt empfiehlt mir der Onlineshop meiner Wahl? Wie groß ist die Chance, zum Bewerbungsgespräch eingeladen zu werden? Bei all diesen Beispielen treffen heutzutage immer öfter Algorithmen die Entscheidung. In wie weit spielt dabei Diskriminierung eine Rolle? Auf was sollten Unternehmen oder Institute achten, wenn sie die Technologie nutzen? Damit befasst sich Krafft in seiner Arbeit auf dem Campus. In seiner Masterarbeit hat er zum Beispiel untersucht, wie es um die Qualität sogenannter Rückfälligkeitsvorhersagesysteme bestellt ist. Hinter dem sperrigen Begriff versteckt sich nichts anderes als ein Rechenverfahren, das etwa in US-Gerichten zum Einsatz kommt und Voraussagen treffen soll, wie hoch die Rückfallwahrscheinlichkeit eines Angeklagten ist. „Die Ergebnisse fließen in die Urteile ein“, sagt Krafft. Bei seiner Arbeit hat er gezeigt, dass diese Systeme aber eklatante Qualitätsprobleme haben. „Ein mangelhaftes System wird hier herangezogen, um über das Schicksal eines Menschen zu entscheiden“, gibt er zu bedenken. Für die Arbeit hat er den renommierten Weizenbaum-Studienpreis erhalten. In einem weiteren Projekt, das er gemeinsam mit Professorin Zweig koordiniert, untersucht er weiterhin Algorithmen, die im Gerichtssaal Verwendung finden. Auch in seiner Doktorarbeit nimmt er solche Technologien unter die Lupe. Im Fokus diesmal: Die Analyse großer Softwaresysteme als Blackbox.

© Koziel/TUK

Ein mangelhaftes System wird hier herangezogen, um über das Schicksal eines Menschen zu entscheiden.

Tobias Krafft

Davon ausgehend hat 2017 folgende Arbeit für Schlagzeilen gesorgt: Das Team um Professorin Zweig hat vor der Bundestagswahl untersucht, ob der Suchmaschinenanbieter Google durch personalisierte Suchergebnisse den medial viel diskutierten Filterblaseneffekt unterstützt oder sogar auslöst. „Wir haben herausgefunden, dass dies nicht der Fall ist“, sagt er. 

Gemeinsam mit seiner Doktormutter möchte der Sozioinformatiker die Öffentlichkeit stärker für einen aufmerksameren Umgang mit Algorithmen sensibilisieren. Vor kurzem haben die beiden zusammen mit dem Pädagogen Winfried Zweig das Unternehmen Trusted AI gegründet, in dem sie Betriebe, Verbände, Institutionen und andere Interessierte über Künstliche Intelligenz aufklären. 

„Für den Umgang mit Algorithmen und KI-Systemen braucht es klare Regeln, aber keine Pauschalisierungen“, sagt er. Deshalb hat er bis vor Kurzem auch zusammen mit Professorin Zweig an einem differenzierten Modell gearbeitet. Dieses knüpft den Regulierungsbedarf an das jeweilige Gesamtschadenspotential, da „eine Entscheidung über einen Menschen muss deutlich transparenter sein als eine Entscheidung über ein Werkstück“. 

„Und wir sind stolz, dass diese Arbeit als direkte Empfehlung in den Abschlussbericht der Datenethikkommission Eingang gefunden hat“, fährt er fort. Diesen Gedanken bringt Krafft auch als Leiter der Arbeitsgruppe „KI und Ethik“ in die „Normungsroadmap KI“ des Deutsches Institut für Normung (DIN) ein, deren Ausarbeitung das Bundesministerium für Wirtschaft und Energie (BMWi) in Auftrag gegeben hat und welche 2020 im Rahmen des Digital-Gipfels im Herbst 2020 vorgestellt wird. 

Kraffts Arbeit weckt Interesse – nicht nur in der Wissenschaft, sondern auch bei Verbänden, Unternehmen und der Politik. Nun wurde er von der Gesellschaft für Informatik für die Wahl der größten KI-Talenten unter 30 Jahre 2019 nominiert. 

Zur Abstimmung: https://ki50.de/ki-newcomer/newcomer-geistes-und-sozialwissenschaften/tobias-krafft/

Über den Wettbewerb

Im Rahmen des Projektes „#KI50: Künstliche Intelligenz in Deutschland – Gestern, heute, morgen“ des Bundesministeriums für Bildung und Forschung (BMBF) sind die jungen Talente nominiert worden. Diejenigen, die die meisten Stimmen erhalten haben, werden am 5. Dezember vom BMBF und der Gesellschaft für Informatik (GI) in Berlin ausgezeichnet. Noch bis zum 17. November besteht die Möglichkeit, seine Stimme abzugeben.