Für den Aufbau einer großskaligen, hybriden KI-Plattform im öffentlichen Sektor wird ein erfahrener DevOps Engineer (Freelancer) gesucht.
Die Plattform bildet die Basis für LLM-basiertes Arbeiten, wird On-Premise betrieben, perspektivisch in Richtung Cloud / Sovereign Cloud Deutschland erweitert und beinhaltet ein größeres GPU-Cluster.
Der Schwerpunkt liegt auf DevOps-Automatisierung, Plattformbetrieb und Infrastruktur-as-Code, alles rund um Kubernetes, Docker, Terraform sowie sichere Integrationsprozesse im Bereich ML/LLM.
Aufbau, Weiterentwicklung und Betrieb einer hybriden KI-/LLM-Plattform im öffentlichen Sektor
Implementierung und Pflege von CI/CD-Pipelines (z. B. Bitbucket Pipelines)
Automatisierung mittels Terraform, Docker, Kubernetes
Einrichtung & Administration von Kubernetes- und GPU-Clustern (on-prem & perspektivisch cloud)
Betrieb und Integration von LLM-Workloads in eine skalierbare Plattformarchitektur
Nutzung und Administration von Tools wie Rancher, Nexus, Docker
Unterstützung beim Aufbau sicherer Deployment-Prozesse nach öffentlichen Standards
Zusammenarbeit mit ML/AI-Teams für Deployment von Modellen und Pipelines
Monitoring, Logging & Observability im Plattformbetrieb
Mitarbeit in einem agilen Setup (Scrum), Teilnahme an Sprint Reviews vor Ort
Sehr gute Erfahrung im DevOps-Umfeld
Fundiertes Know-how in:
Kubernetes (Clusterbetrieb, Administrierung)
Docker (Container-Building & Management)
Terraform (IaC)
CI/CD-Pipelines (Bitbucket oder vergleichbar)
Rancher, Nexus
Erfahrung in Machine Learning / LLM-Umgebungen
Kenntnisse im Aufbau größerer Plattformen / Infrastrukturprojekte
Erfahrung im öffentlichen Sektor oder in hochregulierten Umgebungen
Deutsch fließend in Wort und Schrift
Erfahrung mit Sovereign Cloud Deutschland / EU-Cloud-Anforderungen
Kenntnisse in Python für Automatisierung / MLOps
Arbeit mit GPU-Clustern
Sicherheitsanforderungen im Behördenumfeld
Startdatum: 01.12.
Dauer: 6 Monate mit klarer Option auf Verlängerung
Einsatzort: Remote, ~1× alle 3 Wochen vor Ort im süddeutschen Raum
Projektsprache: Deutsch
DevOps Engineer (m/w/d) – KI-/LLM-Plattform (Öffentlicher Sektor) • Köln, de
Willkommen bei Astriol academics - deine Tür zu neuen und spannenden Karrierechancen in ganz Deutschland!.Astriol academics ist einer der am schnellsten wachsenden Personalvermittler in Deutschland... Mehr anzeigen
Willkommen bei indivHR, wo deine Karriere und Individualität an erster Stelle stehen.Wir sind nicht nur Experten im IT Recruiting – wir sind deine persönlichen Karriereberater.HR steht für ind... Mehr anzeigen
Wir sind ein Team aus mehr als 3.Mitarbeitenden, das sich an über 150 Standorten stark macht für Prävention.Bei uns findest du abwechslungsreiche Tätigkeiten im Arbeits- und Gesundheitsschutz, Raum... Mehr anzeigen
Die HDI IT bündelt die IT in der HDI Group in zentraler Funktion.Wir gestalten innovative IT-Lösungen und treiben die digitale Transformation des Konzerns voran.Von der Entwicklung moderner Soft... Mehr anzeigen
Für unsere Abteilung IT suchen wir innerhalb des Teams Entwicklung zum nächstmöglichen Zeitpunkt einen.Sie konzipieren und implementieren nicht nur unsere technische KI-Infrastruktur, vom LLM-Hosti... Mehr anzeigen
Du arbeitest eng mit unseren Kunden zusammen, um moderne DevOps-Praktiken zu etablieren.Du setzt gemeinsam mit Entwicklerteams Infrastructure-as-Code-Konzepte um (z.Du konzipierst und implementiers... Mehr anzeigen
Für unsere Abteilung IT suchen wir innerhalb des Teams Entwicklung zum nächstmöglichen Zeitpunkt einen.Sie konzipieren und implementieren nicht nur unsere technische KI-Infrastruktur, vom LLM-Hosti... Mehr anzeigen
Rohde & Schwarz ist ein globaler Technologiekonzern mit aktuell ca.Mitarbeitern und drei Divisionen: Test & Measurement, Technology Systems und Networks & Cybersecurity.Seit 90 Jahren entwickelt da... Mehr anzeigen
Self-Service-Plattform, die Kubernetes vereinfacht und die Produktivität steigert.Sie sorgt für sichere Abläufe und effiziente Workflows für DevOps und Entwickler.Unsere Mission ist es, Entwicklern... Mehr anzeigen
Du verfgst ber ein abgeschlossenes Studium im Bereich Informatik oder einen vergleichbaren Bildungsweg.Du besitzt sehr gute Deutsch- und Englischkenntnisse (C1-Niveau) fr eine klare und sichere Kom... Mehr anzeigen
Unser Mandant ist ein traditionsreiches Familienunternehmen welches sich national sowie international als Experte in verschiedensten Industrien etabliert hat.Das Produktportfolio des Unternehmens u... Mehr anzeigen
Experience: 5+ years in Software Engineering, with at least 3 years focused on DevOps, Release Engineering, or Infrastructure.Architectural Mindset: Proven track record of designing and implementin... Mehr anzeigen
Mehrjhrige Erfahrung im Bereich DevOps, Systemadministration oder Softwareentwicklung.Erfahrung mit Container-Technologien (z.Fundierte Kenntnisse in CI/CD-Tools (z.Kenntnisse in Programmiersprache... Mehr anzeigen
Engineering Manager der Service & Support Engineers im Westen und der Mitte Deutschlands (m/w/d).REWE digital ist das Zuhause für alle, die sich IT auf die Fahne schreiben.Hier gehörst Du hin, wenn... Mehr anzeigen
Als Technical Lead übernimmst du die technische Gesamtverantwortung für TOUGH.Du führst das gesamte Development-Team und stellst sicher, dass unsere Plattform und unsere Produkte technisch exzellen... Mehr anzeigen
Leading Forward! Arbeite bei conet in spannenden digitalen Themen und Projekten.Für die öffentliche Verwaltung, Verteidigung und Unternehmen entwickeln wir moderne und nachhaltige End-to-End-Lösung... Mehr anzeigen
Are you ready to shape your future with confidence?.Gemeinsam die Welt jeden Tag ein bisschen besser machen.Für diesen Anspruch setzen wir bei EY alles in Bewegung und gehen als Team „all in“.Schli... Mehr anzeigen
Mach gemeinsam mit ORDIX den nächsten Schritt in deiner Karriere!.Seit 35 Jahren sind wir ein zuverlässiger Partner namhafter Kunden aus dem Finanz- und Bankensektor, der Industrie und dem Handel s... Mehr anzeigen
