Wissenschaftliche:n Mitarbeiter:in (Postdoc) im Bereich Künstliche Intelligenz für das BMBF-Verbundprojekt „Ethische Implikationen hybrider Teams aus Mensch und KI-System (Ethyde)“ (m/w/d)
Das Bayerische Forschungsinstitut für Digitale Transformation (bidt) ist ein Institut der Bayerischen Akademie der Wissenschaften.
Es trägt dazu bei, die Entwicklungen und Herausforderungen des digitalen Wandels besser zu verstehen. Damit liefert es die Grundlagen, um die digitale Zukunft im Dialog mit der Gesellschaft verantwortungsvoll und gemeinwohlorientiert zu gestalten.
Das bidt fördert herausragende interdisziplinäre Forschung und liefert als Think Tank Entscheidungsträgern in Politik und Wirtschaft evidenzbasierte Empfehlungen.
Forschung findet am Institut im offenen Dialog zwischen Wissenschaft, Politik, Wirtschaft und Gesellschaft statt.
Das Verbundprojekt ist interdisziplinär, im Schnittbereich von Erklärbarer Künstlicher Intelligenz und Kognitionsforschung, ausgerichtet.
Im am bidt verorteten Teilprojekt sollen Methoden des erklärenden interaktiven Lernens im Kontext von Klassifikationsmodellen mit Fokus auf Empfehlungssystemen in der medizinischen Diagnostik umgesetzt und deren Wirksamkeit empirisch überprüft werden.
Hierbei werden einerseits tabellarische Daten und andererseits Bilddaten untersucht. Ziel ist die Gewinnung von Erkenntnissen bezüglich des Einflusses von Erklärbarkeit und Interaktivität auf die adäquate Kalibrierung von Vertrauen in KI-basierte Systemempfehlungen.
Für die genutzten Modelle und basierend auf den generierten Ergebnissen soll dann genauer untersucht werden, welchen Einfluss die Art der Erklärung auf das Vertrauen und die Performanz der Nutzer hat.
Die gewählte Art der Erklärung wird von der Art der zugrundeliegenden Daten abhängen. Hierbei können relevanzbasierte, konzeptbasierte und beispielbasierte Erklärungen gewählt werden.
Basierend auf den Erkenntnissen aus den empirischen Arbeitspaketen soll ein Prototyp für ein partnerschaftliches KI-System umgesetzt werden.
Es ist dabei geplant möglichst generische Schnittstellen zu entwickeln, um die Erklärungs- und Interaktionsformen modular und kombinierbar zu machen.
Der Prototyp soll in Form einer Webapplikation breiten Kreisen als Demonstrator zur Verfügung gestellt werden.
Das Projekt wird von der bidt-Direktorin Prof. Dr. Ute Schmid betreut. Eine enge Kooperation mit dem Lehrstuhl für Kognitive Systeme an der Universität Bamberg sowie dem Bamberger Zentrum für Künstliche Intelligenz (BaCAI) ermöglicht einen Austausch mit Wissenschaftlerinnen und Wissenschaftlern in einem breiten methodischen Spektrum der KI-Forschung.
APCT1 DE