Das Fraunhofer-Institut für Sichere Informationstechnologie SIT gehört zu den führenden Forschungs- und Entwicklungseinrichtungen für Cyber-Sicherheit in Deutschland und Europa und ist Teil von ATHENE, dem nationalen Forschungszentrum für angewandte Cybersicherheit. ATHENE ist eine Kooperation der Fraunhofer-Gesellschaft mit der TU Darmstadt, der Hochschule Darmstadt und der Goethe-Universität Frankfurt. Unser gemeinsames Ziel: die Welt von morgen sicherer zu machen.
Hier sorgst Du für Veränderung
LLMs haben in den letzten Jahren große Aufmerksamkeit erlangt, aufgrund ihrer bemerkenswerten Fähigkeiten. Ein ähnliches, jedoch weniger erforschtes Feld konzentriert sich auf Text-zu-Bild (T2I) Modellarchitekturen. Da ein Bild mehr als 1000 Worte sagt, kann man annehmen, dass T2I Modelle mindestens genauso viele Fähigkeiten besitzen wie Text-zu-Text-Modelle (T2T). Daher ist es wichtig, diese Modelle einem "Alignment" Prozess zu unterziehen. In T2T-Modellen werden einige Neuronen in der Architektur zu Sicherheitsneuronen umfunktioniert. Um den Alignmentprozess besser zu verstehen, sollen die Lokalisierungen von Sicherheitsneuronen in beiden Architekturen verglichen werden.
Ziel: In der Arbeit sollen die Lokalisierungen von Sicherheitsneuronen in T2I-Modellen untersucht und mit T2T Modellen verglichen werden. Dazu werden die vorgeschlagenen Ansätze zur Lokalisierung von Sicherheitsneuronen von T2T-Modellen auf T2I-Modelle angepasst und implementiert. Schließlich werden Ergebnisse hinsichtlich der Lokalisierung und der Bedeutung der Neuronen analysiert, um Ähnlichkeiten und Unterschiede in den Architekturen hervorzuheben.
Ergebnisse: Die Ergebnisse dieser Arbeit sollen die Unterschiede der Modellarchitekturen für die LLM-Sicherheitsforschung konzeptualisieren. Da T2I-Modelle weniger Aufmerksamkeit erhalten, ist es wichtig, weitere Forschungen zu diesen Modellen zu motivieren. Dafür wird im Rahmen der Arbeit ein umfassender Vergleich von verschiedenen Architekturen und der dazugehörigen Sicherheitsneuronen angefertigt. Die Ergebnisse werden durch eine gezielte Deaktivierung der gefundenen Neuronen verifiziert und anschließend mit zufällig deaktivierten Neuronen verglichen.
Was Du bei uns tust:
Hiermit bringst Du Dich ein
Was wir für Dich bereithalten
Verwandte Arbeiten:
Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt. Unsere Aufgaben sind vielfältig und anpassbar – für Bewerber*innen mit Behinderung finden wir gemeinsam Lösungen, die ihre Fähigkeiten optimal fördern. Das Gleiche gilt, wenn sie aufgrund einer Behinderung nicht alle Profilanforderungen erfüllen.
Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.
Bereit für Veränderung?
Masterarbeit: Lokalisierung von Sicherheitsneuronen in Text2Image-Modellen • Darmstadt
Nehmen Sie Kontakt zu uns auf oder senden Sie uns ein kurzes Feedback.Wir melden uns dann umgehend bei Ihnen.Telefon Niederlassung Baden Württemberg:.Security Manager operative Technik (alle Geschl... Mehr anzeigen
Semantic 4D Occupancy Forecasting) ist von entscheidender Bedeutung für.Fahrzeugen ermöglicht, zukünftige Szenendynamiken und -geometrien zu antizipieren.Das Training moderner State-of-the-Art-Mode... Mehr anzeigen
DATRON steht für Machining Made Smarter, und Innovation beginnt dort, wo Maschinen nicht nur funktionieren, sondern technisch verstanden und gezielt weiterentwickelt werden.Du hast bereits Erfahrun... Mehr anzeigen
Der Bereich Cybersecurity wächst weiter und baut seine Beratungskompetenz im OT- und IoT-Umfeld aus.Für den weiteren Ausbau suchen wir einen.Senior Consultant OT / IoT Security (m/w/d).Deutschland ... Mehr anzeigen
Sie unterstützen unser Team als.Masterarbeit zum Thema KI, Prozessoptimierung (w/m/d).Analyse bestehender Produktionsprozesse und relevanter Prozessparameter.Entwicklung von Konzepten zur Echtzeita... Mehr anzeigen
Wir suchen dichalsSenior Security Engineer(m/w/d).Du gestaltest IT‑Security aktiv mit: Als Senior Security Engineer analysierst du Schwachstellen, koordinierst Security‑Incidents und setzt nachhalt... Mehr anzeigen
Der Manager Testing & Prototyping Global verantwortet den weltweiten Aufbau, die Steuerung und Weiterentwicklung der Testing- und Prototyping-Aktivitäten.Disziplinarische und fachliche Führung sowi... Mehr anzeigen
Reformer Club Studio Frankfurt.Du liebst Bewegung, bist ein Teamleader und möchtest ein Studio mit Leben füllen?.Teil unseres Teams und präge von Anfang an die Kultur und das Erlebnis im neuen Refo... Mehr anzeigen
Stellendetails zu: Device Security Architekt*in.Vollzeit, Teilzeit (Vormittag, Nachmittag, Abend).Veröffentlichungsdatum: Vor 2 Tagen veröffentlicht.Änderungsdatum: Gestern bearbeitet.Wir sind eine... Mehr anzeigen
Perfekt austariert - Wo liegt der Fokus?.Product Compliance Manager (m/w/d).Sie maßgeblich zur Sicherstellung von Produktkonformitäten nach europäischen und internationalen Rechtsvorschriften bei.I... Mehr anzeigen
Wir denken technische Lösungen ganzheitlich und setzen sie zuverlässig um.Unsere Mission ist es, durch die Bündelung von Elektrotechnik, Sicherheitstechnik, Facility Management und IT-Services das ... Mehr anzeigen
Ihre Aufgaben als Autor:in umfassen die Konzeption und die Erstellung von Studienheften für die Fernlehre, in Abstimmung mit den fachlichen Mitarbeiter:innen der Hochschule.Hinweise zur Form und zu... Mehr anzeigen
Heldinnen und Helden des Alltags.Menschen in Deutschland sicherer fühlen.Wir bei Securitas kümmern uns um dich – weil du dich um die Sicherheit der Menschen kümmerst.Wir suchen einen engagierten Ca... Mehr anzeigen
Mitarbeiterinnen und Mitarbeiter sind Tag für Tag bei uns im Einsatz.Sie betreuen die WISAG sowie seit einigen Jahren unsere externen Kunden.Mehr über die WISAG erfahren Sie auf unserer.Junior Cons... Mehr anzeigen
Bachelor- oder Masterarbeit im Bereich Hardware.Standort: Dreieich (Rhein-Main-Gebiet).Die Pan Dacom Gruppe ist ein mittelständisches IT-Systemhaus mit rund 300 Mitarbeitenden.Als technologisch füh... Mehr anzeigen
Werden Sie (Senior-) Referent (m/w/d) IT-Risiko / IT-Security im Team IT-Steuerung in Voll-/Teilzeit / Standort in Bad Homburg Das ist mein Job! KARRIERE BEI DER TAUNUS SPARKASSE: NAH BEI DE‘ LEUT‘... Mehr anzeigen
Immundiagnostik AG Stubenwald-Allee 8a.Immundiagnostik AG in Bensheim ist ein modernes, mittelständisches Unternehmen, das auf Labordiagnostika für die medizinische Forschung und Praxis spezialis... Mehr anzeigen
Senior Manager Process Automation (m/w/d).Arbeitgeber: Biotest GmbH & Co.So international wie ein Konzern, so persönlich wie ein Mittelständler, das ist die Kultur bei.Als weltweiter Spezialist für... Mehr anzeigen
Herausforderungen haben wir genug - und jetzt brauchen wir dich, um sie anzugehen!.Entwicklung, Pflege und Weiterentwicklung wiederverwendbarer Methoden, Templates, Leitplanken und Architektur-Arte... Mehr anzeigen
Heldinnen und Helden des Alltags.Menschen in Deutschland sicherer fühlen.Wir bei Securitas kümmern uns um dich – weil du dich um die Sicherheit der Menschen kümmerst.Gesamtverantwortung für die phy... Mehr anzeigen
){kind=logo}
