Cloud Engineer mit Fokus auf AI Services (m/w/d)

Referenznummer: 17417 - Einsatzort: Stuttgart oder Berlin - Unternehmen: LBBW - Funktionsbereich: IT GBS & Software Development - Vollzeit / Teilzeit: 100
Die LBBW zählt zu den führenden Banken Deutschlands und ist ein innovatives Unternehmen im Finanzsektor. Neben traditionellen Bankdienstleistungen beschäftigen wir uns mit den Bereichen Digitalisierung, Nachhaltigkeit und internationale Märkte. Wir bieten ein Umfeld, das persönliche und berufliche Entwicklung fördert. Mit über 10.000 Mitarbeitenden gestalten wir die Zukunft der Finanzwelt – Gemeinsam #NeuesSchaffen
Als Cloud Engineer mit dem Fokus auf AI Services treibst Du den Ausbau unserer Cloud-Plattform gezielt für KI- und GenAI-Anwendungen voran und sorgst gleichzeitig dafür, dass diese Lösungen transparent, messbar und stabil betrieben werden können. Du nutzt die vorhandene LBBW-Cloud-Infrastruktur, um darauf leistungsfähige Services für LLMs, RAG, Agentic AI und MCP-Server bereitzustellen, optimal in unsere IT-Landschaft zu integrieren und mit Monitoring-, Logging- und Tracing-Lösungen abzusichern. In deiner Rolle verbindest du Cloud-, Plattform- und Automation-Know-how mit den speziellen Anforderungen moderner KI-Workloads: Du gestaltest Betriebs-, Security-, Skalierungs-, Kosten- und Observability-Konzepte, definierst Metriken und Dashboards und arbeitest eng mit GenAI-, Architektur- und Entwicklungsteams zusammen, damit KI-Lösungen in der LBBW sicher, performant und nachvollziehbar betrieben werden können.
Aufgaben: Konzeption, Implementierung und Betrieb von AI- und LLM-Plattformkomponenten (z.B. Azure OpenAI, eigene LLM-Deployments, Vektordatenbanken, Retrieval-/RAG-Services) sowie Anbindung interner Systeme (REST-APIs, Datenbanken, Fachanwendungen)
Aufbau der technischen Grundlage für LLM-Endpunkte, Tool-/Function Calling, Orchestrierung und MCP-Server sowie Integration in bestehende Systemlandschaften und Agentic-AI-Szenarien
Anbindung relevanter Datenquellen (z.B. Datenbanken, DWH, Datalake, Dokumenten-Repositories) inklusive Rollen- und Berechtigungskonzepten sowie Mitarbeit an Security- und Guardrail-Konzepten (ID- und API-Management, Content Filtering, Schutz vor Datenabfluss
Umsetzung und Pflege von Infrastructure as Code (z.B. Terraform, Bicep) sowie Integration der Plattform- und Observability-Komponenten in CI/CD-Pipelines (Azure DevOps, GitHub Actions) auf Basis definierter Plattform-Standards, Referenzarchitekturen und Landing Zones
Aufbau und Weiterentwicklung von Observability-Konzepten für AI-Services (Latenz, Fehlerraten, Ressourcen, Kosten, Nutzungsmuster) inklusive Implementierung von Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights, Dashboards, Alerts, SLIs/SLOs) sowie Mitarbeit an Auto-Scaling-, Limits-, Quotas- und Cost-Alerting-Konzepten
Mitarbeit im Incident- und Problem-Management (Ursachenanalyse, Verbesserungsmaßnahmen), Erstellung von Runbooks, Playbooks, Best Practices und Architekturunterlagen zu Skalierung, Observability, Sicherheit und Kosten sowie Beratung von Projekten zur optimalen Nutzung der KI-Plattform
Profil: Abgeschlossenes Studium der (Wirtschafts-)Informatik oder eine vergleichbare Qualifikation
Erfahrung im Cloud- und Infrastruktur-Umfeld, idealerweise mit großen, produktiven Umgebungen
Praxis mit Infrastructure as Code, CI/CD und dem Betrieb von Cloud-Workloads
Verständnis von Security, Governance und Netzwerkarchitekturen in Cloud-Umgebungen
Erfahrung mit Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights)
Strukturierte, qualitätsbewusste und eigenverantwortliche Arbeitsweise
Teamorientiert und kommunikativ, sicher im Austausch mit Entwicklung, Architektur, Security, Betrieb und Fachbereichen
Pragmatisch und belastbar, mit Freude daran, eine robuste und transparente Plattform für viele Teams bereitzustellen
Sehr gute Deutschkenntnisse in Wort und Schrift
Was wir bieten: Modernes Talentmanagement zur Karriereentwicklung
Aktive Förderung einer guten Vereinbarkeit von Beruf und Privatleben (u.a. über flexible Arbeitszeiten, Sabbaticals sowie die Möglichkeit teilweise mobil oder im Homeoffice zu arbeiten)
Attraktive betriebliche Altersversorgung
Umfassendes Gesundheitsmanagement (u.a. Kooperation mit Fitnessstudios, Betriebsärztlicher Dienst, Vorsorgeuntersuchungen)
Interessante Leasingmöglichkeiten, z.B. Job-Rad, Tablet, Smartphone
Tolle Lunch-Angebote (Bio, vegetarisch oder vegan)
Mehrere Kindertagesstätten