Studentische Hilfskraft im Bereich LLM Security

Was Du bei uns tust

• Entwicklung von Verfahren, um die Sicherheit von LLMs zu steigern. Dabei liegt ein großer Fokus auf der Abwehr von gängigen Angriffen wie bspw. Backdoorattacks und damit einhergehenden Jailbreaks.
  
• Systematische Evaluation der Robustheit von LLMs gegenüber etablierten und neuartigen Angriffsszenarien, bezüglich gängiger und neuartiger Angriffe wie Backdoorattacks, Divergence Attacks oder Membership Inference Attacks etc.
  
• Untersuchung, Anwendung und Bewertung von Post-hoc-Explainability-Verfahren zur Analyse des Modellverhaltens, mit dem Ziel, ein tiefergehendes Verständnis der zugrunde liegenden Angriffsmechanismen sowie der Wirksamkeit und Grenzen entsprechender Verteidigungsstrategien zu erlangen.

Was Du mitbringst

• Sehr gute Python-Kenntnisse, die im Interview geprüft werden.
• Grundlegendes Verständnis von KI/ML hauptsächlich im Bezug auf Transformer
  
• Erfahrung mit Pytorch und Transformerarchitekturen sind wünschenswert
  
• Gute Englischkenntnisse
  
• Eingeschriebene/r Student/in (Informatik, Data Science, Mathematik o. ä.)
  
• Strukturierte, eigenständige Arbeitsweise und Teamfähigkeit
  
• Ausgeprägtes analytisches Denken

Was Du erwarten kannst

• Flexible Arbeitszeiten, die sich gut mit Deinem Studium vereinbaren lassen
  
• Eine inspirierende Arbeitsumgebung mit modernster Infrastruktur
  
• Die Möglichkeit, praktische Erfahrung zu sammeln und wertvolle Kontakte in der Forschung zu knüpfen
  
• Möglichkeit an wissenschaftlichen Papern mitzuarbeiten und eine spätere Bachelor- oder Masterarbeit anzufertigen.
  
• Stelle ist remote oder hybrid möglich
  
• Die monatliche Arbeitszeit beträgt etwa 40 Stunden, je nach Absprache

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.

Haben wir Dein Interesse geweckt?