Experte für Kubernetes | DevOps | NVIDIA GPUs | Kong | max. 90 all (m/w/d)
Westhouse • Düsseldorf, nordrhein-westfalen, Germany
Vor 4 Stunden
Stellenbeschreibung
- Für unseren Kunden suchen wir aktuell eine / n Experte für Kubernetes | DevOps | NVIDIA GPUs | Kong | max. 90 all in (m / w / d) - Düsseldorf, Kaarst (20%) | Remote (80%).Ihre AufgabenAufbau und Optimierung einer skalierbaren NVIDIA GPU-Infrastruktur inklusive CUDA- und CuDNN-Konfiguration sowie Multi-GPU Scheduling für parallele KI-Workloads.Implementierung und Verwaltung eines API-Managers (z. B. Kong) zur zentralen Steuerung und Absicherung von Microservice-Schnittstellen.Einrichtung eines Model Serving Frameworks (z. B. Triton Inference Server) zur performanten Bereitstellung und Versionierung von KI-Modellen.Containerisierung und Orchestrierung von KI-Services mit Kubernetes, inklusive Deployment-Strategien, Skalierung und Cluster-Monitoring.Integration eines Service Mesh (z. B. Istio) zur Umsetzung von Traffic Management, Service Discovery und Zero-Trust-Kommunikation.Implementierung von API-Security-Mechanismen wie Rate-Limiting, Authentifizierung, Autorisierung und Audit Logging.Aufbau eines Model-Monitoring-Systems mit Grafana und Prometheus zur Überwachung von Modellleistung und Systemmetriken.Einführung einer Workflow-Orchestrierungslösung (z. B. MLFlow) zur Verwaltung von Trainings-, Validierungs- und Deployment-Pipelines.Administration von Betriebskomponenten wie Keycloak (Identity & Access Management) und cert-manager (TLS-Zertifikatsverwaltung) zur Sicherstellung des produktiven Betriebs.Interessiert?Hr. Jesse Lüder | #gerneperduTel. : +49-40-3176773921Fax. : +49-40-99996799Email : j.lueder@westhouse-consulting.comIhre QualifikationenErfahrung mit Kubernetes – Schwerpunkt der Tätigkeit, insbesondere im Aufbau, Betrieb und der Administration von Kubernetes-ClusternErfahrung mit GPU-Infrastrukturen, idealerweise mit NVIDIA GPUs, einschließlich CUDA, cuDNN und Multi-GPU-SchedulingKenntnisse im Umgang mit API-Managern, z. B. KongErfahrung mit Model Serving, z. B. mit dem NVIDIA Triton Inference ServerKenntnisse im Bereich Service Mesh, idealerweise mit IstioErfahrung mit API-Security, insbesondere Rate Limiting und Audit LoggingKenntnisse im Bereich Model Monitoring und Observability, insbesondere mit Grafana zur Erstellung von DashboardsErfahrung mit Workflow-Orchestrierung im ML-Umfeld, z. B. mit MLflowKenntnisse im Betrieb und in der Administration von Keycloak und cert-manager Düsseldorf, Kaarst (20%) | Remote (80%) Start : 02.11.2026 vor 14 Stunden Job Typ : ProjektDauer : bis 31.12.2026 + Verlängerung JahresweiseArbeitsumfang : VollzeitSprachen : Deutsch