At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio. We are currently seeking an Senior AI DevOps / LLMOps specialist to join one of our clients' teams. If you're looking for an exciting opportunity to grow in a innovative environment, this could be the perfect fit for you.
Key Responsibilities
Automation of Build-to-Production
- Design and implement robust CI/CD pipelines tailored for AI, covering model weights,
dataset versioning, and application code.
- Develop specialized workflows for PromptOps, ensuring that system prompts are
version-controlled, tested for regressions, and deployed with the same rigor as traditional
code.
-Automate the deployment of Agentic workflows, managing the complexities of stateful
AI interactions and multi-agent handoffs.
2. AI Infrastructure as Code (IaC)
- Provision and manage high-performance compute environments (GPU clusters, TPU
pods) using Terraform, Pulumi, or Ansible.
- Define and enforce Policy-as-Code for AI endpoints to ensure compliance with security,
cost-usage limits, and data residency requirements.
- Maintain a consistent environment across Hybrid Infrastructure, ensuring seamless
parity between On-Premises development and Cloud production.
3. Safe Experimentation & Controlled Releases
- Architect Progressive Delivery strategies for AI, including Canary releases, Blue-Green
deployments, and Shadowing (where new models run in parallel with production to
compare outputs).
- Build “Evaluation-in-the-Loop” gates within the pipeline to automatically test for bias,
hallucination, and performance degradation before a release.
- Implement A/B testing frameworks specifically designed for LLM outputs and agentic
behavior.
4. Monitoring & Observability
- Establish deep observability into Inference Endpoints, tracking metrics like tokens-per-
second, latency, and drift in model accuracy.
-Integrate feedback loops that capture production “edge cases” to feed back into the
training and fine-tuning pipelines.
Must-Have Technical Skills:
-Orchestration: Advanced Kubernetes (K8s) skills, specifically with KubeFlow, Ray, or
NVIDIA Triton.
-CI/CD & IaC: Expertise in GitHub Actions/GitLab CI, and Terraform or Pulumi.
- AI Tooling: Experience with Weights & Biases, MLflow, LangSmith, or Arize
Phoenix.
-Hardware: Understanding of GPU virtualization, CUDA drivers, and on-premises
hardware management.
-Security: Familiarity with Open Policy Agent (OPA) and secret management (Vault).
Experience:
- 10+ years in DevOps, SRE, or Cloud Engineering.
- 2+ years of hands-on experience in MLOps or LLMOps, specifically moving LLMs
from notebook to production.
-Proven experience managing Hybrid Cloud environments (e.g., AWS/Azure + Private
Data Center).
Senior AI DevOps / LLMOps • Neu-Ulm, BY, DE
Unsere Produkte sind einsetzbar in den Bereichen Space, Air, Land, Sea, Security, Cyber & Information Space.Umsatz von 1,85 Milliarden Euro.Nach der Übernahme der ESG GmbH beschäftigt das Unternehm... Mehr anzeigen
Einleitung Mit einem Umsatz von 1.Jahr 2023 ist PERI international einer der größten Hersteller und Anbieter von Schalungs- und Gerüstsystemen.Seit Gründung im Jahr 1969 sind zentrale Funktionen, E... Mehr anzeigen
Airbus Defence & Space is looking for a.Senior Business Developer Defence.Public Safety & Security (PSS).With a 25-year legacy in narrowband radio, we are now accelerating a bold transformation tow... Mehr anzeigen
Senior IT Consultant SAP S/4 HANA EWM (m/w/d).Wieland-Werke AG | Ulm | Corporate Function Information Technology | Business Management | ab sofort .Du übernimmst die Verantwortung für IT-Projekte... Mehr anzeigen
Stellendetails zu: Senior DevOps/CI/CD Engineer (m/w/d).Arbeitgeber: FERCHAU GmbH Niederlassung Heidenheim.Stelle im Rahmen der Arbeitnehmerüberlassung.Veröffentlichungsdatum: Vor 11 Tagen veröffen... Mehr anzeigen
Lead Enterprise Infrastructure Architect (m/w/d).We are looking for an Lead Enterprise Infrastructure Architect to drive the development and standardisation of modern infrastructure and platform se... Mehr anzeigen
Senior SAP Analytics Consultant (all genders).Wir gehören zu den Top-Adressen in der IT-Welt und fokussieren uns auf die Optimierung der Kerngeschäftsprozesse unserer Kunden.Durch den smarten Einsa... Mehr anzeigen
Job DescriptionEinleitung\ NMit einem Umsatz von 1.Jahr 2023 ist PERI international einer der größten Hersteller und Anbieter von Schalungs- und Gerüstsystemen.Seit Gründung im Jahr 1969 sind zentr... Mehr anzeigen
Deal-Verantwortung: End-to-End übernimmst du Verantwortung für Lösungen, Storyline und strategische Ausrichtung von SAP-Angebotsprojekten.Orchestrierung: Du orchestrierst 1 bis 5 Practices bzw.Disz... Mehr anzeigen
Mehrjhrige Erfahrung im IT-Umfeld, auch begleitend zu Studium oder Ausbildung und idealerweise in den Bereichen Digitalisierung & AI.Du verfgst ber Kenntnisse im Umgang mit mit Microsoft-365- und A... Mehr anzeigen
Als dynamisches, schnell wachsendes Unternehmen im Hightech- und IT-Bereich haben wir ambitionierte Ziele und sehen einer spannenden Zukunft entgegen.Wir haben unsere Vision von Kommunikationslösun... Mehr anzeigen
We are looking for a skilled (Senior) R&D Systems Engineer (m/f/d) to strengthen our team and help shape the next generation of our technology.In this role, you will be working at the interface of ... Mehr anzeigen
At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio.Senior Enterprise Architect (Insurance Industry).If you're looking for an exciting opportunity to grow ... Mehr anzeigen
Bei der Liebherr-IT Services GmbH legen wir Wert auf die Entfaltung individueller und unternehmerischer Bedürfnisse und leben daher das Flex Office: Wir arbeiten im hybriden Modell bei flexiblen Ar... Mehr anzeigen
Als dynamisches, schnell wachsendes Unternehmen im Hightech und IT-Bereich haben wir ambitionierte Ziele und sehen einer spannenden Zukunft entgegen.Wir haben unsere Vision von Kommunikationslösung... Mehr anzeigen
Hochtechnologie und Innovation.Als Beratungsunternehmen unterstützen wir unseren Kunden bei der Suche nach einer passenden Person, die Herausforderungen nicht als Hürde, sondern als spannende Mögli... Mehr anzeigen
Bei Elbit Systems Deutschland arbeiten wir an Technologien, die in kritischen Situationen den Unterschied machen.Als Teil eines international vernetzten Unternehmens entwickeln wir in Deutschland L... Mehr anzeigen
Bei der Liebherr-IT Services GmbH legen wir Wert auf die Entfaltung individueller und unternehmerischer Bedürfnisse und leben daher das Flex Office: Wir arbeiten im hybriden Modell bei flexiblen Ar... Mehr anzeigen
Die Liebherr-Aerospace Lindenberg GmbH ist einer der führenden europäischen Hersteller von Flugzeugausrüstungen.Die Produkte sind an Bord vieler Großraumflugzeuge, Business-Jets und Hubschrauber im... Mehr anzeigen
ICT Service Provider im deutschen Markt und gilt als Backbone der Digitalisierung es Mittelstands.Sie ist die federführende, agile Einheit der Telekom Gruppe, um im deutschen Mittelstand die digita... Mehr anzeigen
