Masterarbeit : Lokalisierung von Sicherheitsneuronen in Text2Image-Modellen

Das Fraunhofer-Institut für Sichere Informationstechnologie SIT gehört zu den führenden Forschungs- und Entwicklungseinrichtungen für Cyber-Sicherheit in Deutschland und Europa und ist Teil von ATHENE, dem nationalen Forschungszentrum für angewandte Cybersicherheit. ATHENE ist eine Kooperation der Fraunhofer-Gesellschaft mit der TU Darmstadt, der Hochschule Darmstadt und der Goethe-Universität Frankfurt. Unser gemeinsames Ziel : die Welt von morgen sicherer zu machen.

Was Du bei uns tust

LLMs haben in den letzten Jahren große Aufmerksamkeit erlangt, aufgrund ihrer bemerkenswerten Fähigkeiten. Ein ähnliches, jedoch weniger erforschtes Feld konzentriert sich auf Text-zu-Bild (T2I) Modellarchitekturen. Da ein Bild mehr als 1000 Worte sagt, kann man annehmen, dass T2I Modelle mindestens genauso viele Fähigkeiten besitzen wie Text-zu-Text-Modelle (T2T). Daher ist es wichtig, diese Modelle einem "Alignment" Prozess zu unterziehen. In T2T-Modellen werden einige Neuronen in der Architektur zu Sicherheitsneuronen umfunktioniert. Um den Alignmentprozess besser zu verstehen, sollen die Lokalisierungen von Sicherheitsneuronen in beiden Architekturen verglichen werden.

Ziel : In der Arbeit sollen die Lokalisierungen von Sicherheitsneuronen in T2I-Modellen untersucht und mit T2T Modellen verglichen werden. Dazu werden die vorgeschlagenen Ansätze zur Lokalisierung von Sicherheitsneuronen von T2T-Modellen auf T2I-Modelle angepasst und implementiert. Schließlich werden Ergebnisse hinsichtlich der Lokalisierung und der Bedeutung der Neuronen analysiert, um Ähnlichkeiten und Unterschiede in den Architekturen hervorzuheben.

Ergebnisse : Die Ergebnisse dieser Arbeit sollen die Unterschiede der Modellarchitekturen für die LLM-Sicherheitsforschung konzeptualisieren. Da T2I-Modelle weniger Aufmerksamkeit erhalten, ist es wichtig, weitere Forschungen zu diesen Modellen zu motivieren. Dafür wird im Rahmen der Arbeit ein umfassender Vergleich von verschiedenen Architekturen und der dazugehörigen Sicherheitsneuronen angefertigt. Die Ergebnisse werden durch eine gezielte Deaktivierung der gefundenen Neuronen verifiziert und anschließend mit zufällig deaktivierten Neuronen verglichen.

Was Du bei uns tust :

• Forschen und Implementieren von neuartigen Machine Learning Ansätzen, die die Sicherheit von LLMs steigern
• Selbstkritische Evaluierung der gefundenen Ergebnisse
• Präsentieren der Ergebnisse
• Anfertigen eines Projektberichts in Form einer Masterarbeit

Was Du mitbringst

Was Du erwarten kannst

Verwandte Arbeiten :

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität.  Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.

Haben wir Dein Interesse geweckt?