Hintergrund/Motivation:
Backdoor Attacken sind Angriffe auf Neuronale Netze bei denen ein sogenannter Trigger das Entscheidungsverhalten der Netze verändert und dadurch Schwachstellen entstehen. Diese Trigger können in den Trainingsdatensatz eingeschleust werden oder direkt auf die Modellgewichte. Diese nennt man dann vergiftet. Durch Parametereffiziente Finetuning Methoden sind Backdoor Angriffe auf Large Language Modelle (LLMs) wesentlich schwieriger zu detektieren geworden, da ein vergiftetes Parameterupdate schwieriger zu erkennen ist als ein vergifteter Datensatz. Daher wurden in der vergangenen Zeit einige Verfahren entwickelt um vergiftete Modelupdates zu erkennen.
Ziel: Durch die Vielfalt der Backdoor Angriffe können Verfahren oft weitaus weniger Angriffe erkennen als sie vorgeben, da sie oft Annahmen treffen, die nicht der Realität entsprechen. Ziel dieser Arbeit ist es daher, bei Verfahren die in der Literatur vorgestellt wurden, Schwachstellen zu finden und auszunutzen, sodass versprochene Effekte doch nicht wie gewünscht erreicht werden.
Ergebnisse: Die Ergebnisse dieser Arbeit sollen der Forschungscommunity aufzeigen, dass ein grundlegendes Verständnis von den Mechaniken von Backdoor Angriffen zwingend erforderlich ist. Dafür sollen für vorher ausgewählte Detektionsverfahren Modelle, Datensätze oder Finetuning Adapter erstellt und getestet werden, die zuverlässig diese Detektionsverfahren umgehen können.
Hier sorgst Du für Veränderung
Hiermit bringst Du Dich ein
Was wir für Dich bereithalten
Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt. Unsere Aufgaben sind vielfältig und anpassbar – für Bewerber*innen mit Behinderung finden wir gemeinsam Lösungen, die ihre Fähigkeiten optimal fördern.
Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.
Bereit für Veränderung?
Masterarbeit: Aktuelle Backdoor Detektionsverfahren angreifen • Darmstadt
Als Aufsichtsbehörde für Banken, Versicherungen, Finanzdienstleister und Wertpapierinstitute agieren wir am Puls der Finanzwirtschaft und schützen Verbraucherinnen und Verbraucher.Informieren Sie s... Mehr anzeigen
Qualifizierung Kfz- Prüfingenieur/-in (m/w/d) bzw.Kfz- Sachverständige/-r (m/w/d).Die Menschen bei TÜV Hessen sorgen seit 150 Jahren für Sicherheit, Umweltschutz, Qualität und Marktfähigkeit von An... Mehr anzeigen
Prüfung der Anlagegrenzen für Wertpapierfonds der KVG(en) unter Berücksichtigung regulatorischer, gesetzlicher und vertraglicher Vorgaben.Unterstützung des Teams im definierten Projekt‑ bzw.Einsatz... Mehr anzeigen
HR Recruiting Manager | VON POLL IMMOBILIEN | Für Sie in den besten Lagen.Sie fokussieren sich auf alle relevanten Themen der Compliance und unterstützen somit das Management-Team (u.Fraud, Geschäf... Mehr anzeigen
Partner für den IT-Betrieb der Finanz- und Versicherungsbranche.Banken, Versicherungen und Finanzdienstleistern als Kunden betreibt FI-TS.Als Senior Architekt Cyber Security (m/w/d) sind Sie.Konzep... Mehr anzeigen
Senior) Manager IT-Strategieberatung – Defense & Security (m/w/d).Deutschlandweit (Fokus Frankfurt am Main) / Österreich.Offene Unternehmenskultur, flache Hierarchien und Zusammenarbeit auf Augenhö... Mehr anzeigen
DATRON steht für Machining Made Smarter, und Innovation beginnt dort, wo Maschinen nicht nur funktionieren, sondern technisch verstanden und gezielt weiterentwickelt werden.Du hast bereits Erfahrun... Mehr anzeigen
Sie unterstützen unser Team als.Masterarbeit zum Thema KI, Prozessoptimierung (w/m/d).Analyse bestehender Produktionsprozesse und relevanter Prozessparameter.Entwicklung von Konzepten zur Echtzeita... Mehr anzeigen
Gestalte mit uns die digitale Zukunft der Industrie!.Du möchtest nicht einfach irgendeinen Job, sondern aktiv die digitale Transformation in der Industrie mitgestalten? Dann bist Du bei SPIE RODIAS... Mehr anzeigen
Werden Sie (Senior-) Referent (m/w/d) IT-Risiko / IT-Security im Team IT-Steuerung in Voll-/Teilzeit / Standort in Bad Homburg Das ist mein Job! KARRIERE BEI DER TAUNUS SPARKASSE: NAH BEI DE‘... Mehr anzeigen
Rechtsanwalt (m/w/d) Compliance & Investigations.Rechtsanwalt (m/w/d) Compliance & Investigations.VON STEIG sucht für eine renommierte internationale Wirtschaftskanzlei am Standort Düsseldorf.Sie b... Mehr anzeigen
Prüfung der Anlagegrenzen für Wertpapierfonds der KVG(en) unter Berücksichtigung regulatorischer, gesetzlicher und vertraglicher Vorgaben.Unterstützung des Teams im definierten Projekt‑ bzw.Einsatz... Mehr anzeigen
Bereich Financial-Crime-Risk Management.Sie entscheiden im Rahmen der Real-Time-Sanktionsprüfung über angehaltene Zahlungen, stellen eine hohe Bearbeitungsqualität sicher und haben die laufende Ent... Mehr anzeigen
Dein Fokus liegt auf der Beratung – unser Fokus liegt auf deinem Erfolg.Bei Hüttig & Rompf arbeitest du selbstständig nach § 84 HGB – aber mit echtem Rückhalt:.Du profitierst von einer starken Mark... Mehr anzeigen
Bachelor- oder Masterarbeit im Bereich Hardware.Standort: Dreieich (Rhein-Main-Gebiet).Die Pan Dacom Gruppe ist ein mittelständisches IT-Systemhaus mit rund 300 Mitarbeitenden.Als technologisch füh... Mehr anzeigen
Bachelor- oder Masterarbeit im Bereich Software.Standort: Dreieich (Rhein-Main-Gebiet).Die Pan Dacom Gruppe ist ein mittelständisches IT-Systemhaus mit rund 300 Mitarbeitenden.Als technologisch füh... Mehr anzeigen
Are you ready to shape your future with confidence?.Gemeinsam die Welt jeden Tag ein bisschen besser machen.Für diesen Anspruch setzen wir bei EY alles in Bewegung und gehen als Team „all in\".Schl... Mehr anzeigen
Be among the first 25 applicants.Get AI-powered advice on this job and more exclusive features.Manager Forensic Investigation (w/m/d).In unseren Consulting-Teams arbeiten wir zusammen, um große for... Mehr anzeigen
Kaum eine Branche erfährt aktuell einen so tiefgreifenden Wandel wie die der Finanzdienstleister.Financial Services spezialisierte Strategie-, Management- und IT-Beratung in Europa.Wir helfen unser... Mehr anzeigen
Werkstudent Insight & Innovation (m/w/d).Du möchtest dein Studium mit spannender Praxiserfahrung ergänzen und dabei echte Softwareprojekte mitgestalten? Dann bist du bei uns genau richtig.Wir suche... Mehr anzeigen
){kind=logo}
