At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio. We are currently seeking an Senior AI DevOps / LLMOps specialist to join one of our clients' teams. If you're looking for an exciting opportunity to grow in a innovative environment, this could be the perfect fit for you.
Key Responsibilities
Automation of Build-to-Production
- Design and implement robust CI/CD pipelines tailored for AI, covering model weights,
dataset versioning, and application code.
- Develop specialized workflows for PromptOps, ensuring that system prompts are
version-controlled, tested for regressions, and deployed with the same rigor as traditional
code.
-Automate the deployment of Agentic workflows, managing the complexities of stateful
AI interactions and multi-agent handoffs.
2. AI Infrastructure as Code (IaC)
- Provision and manage high-performance compute environments (GPU clusters, TPU
pods) using Terraform, Pulumi, or Ansible.
- Define and enforce Policy-as-Code for AI endpoints to ensure compliance with security,
cost-usage limits, and data residency requirements.
- Maintain a consistent environment across Hybrid Infrastructure, ensuring seamless
parity between On-Premises development and Cloud production.
3. Safe Experimentation & Controlled Releases
- Architect Progressive Delivery strategies for AI, including Canary releases, Blue-Green
deployments, and Shadowing (where new models run in parallel with production to
compare outputs).
- Build “Evaluation-in-the-Loop” gates within the pipeline to automatically test for bias,
hallucination, and performance degradation before a release.
- Implement A/B testing frameworks specifically designed for LLM outputs and agentic
behavior.
4. Monitoring & Observability
- Establish deep observability into Inference Endpoints, tracking metrics like tokens-per-
second, latency, and drift in model accuracy.
-Integrate feedback loops that capture production “edge cases” to feed back into the
training and fine-tuning pipelines.
Must-Have Technical Skills:
-Orchestration: Advanced Kubernetes (K8s) skills, specifically with KubeFlow, Ray, or
NVIDIA Triton.
-CI/CD & IaC: Expertise in GitHub Actions/GitLab CI, and Terraform or Pulumi.
- AI Tooling: Experience with Weights & Biases, MLflow, LangSmith, or Arize
Phoenix.
-Hardware: Understanding of GPU virtualization, CUDA drivers, and on-premises
hardware management.
-Security: Familiarity with Open Policy Agent (OPA) and secret management (Vault).
Experience:
- 10+ years in DevOps, SRE, or Cloud Engineering.
- 2+ years of hands-on experience in MLOps or LLMOps, specifically moving LLMs
from notebook to production.
-Proven experience managing Hybrid Cloud environments (e.g., AWS/Azure + Private
Data Center).
Senior AI DevOps / LLMOps • Bielefeld, NW, DE
Werden auch Sie Teil der SVA-Community!.Als eines der führenden Systemhäuser in Deutschland bieten wir Ihnen vielfältige Möglichkeiten, in einem spannenden Berufsumfeld und einer wachsenden Branche... Mehr anzeigen
Solution Architect Embedded Linux / Web (m/w/d) in Bielefeld.Unser Kunde ist ein international tätiges Industrieunternehmen im Maschinenbau, das zu den technologischen Vorreitern in seinem Segment ... Mehr anzeigen
Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft – genauer: 32 000 Menschen aus Technik, Wissenschaft, Verwaltung und IT.Sie wissen: Wer zu Fraunhofer kommt, wil... Mehr anzeigen
Es erwartet Dich ein fundiertes und abwechslungsreiches Ausbildungsprogramm mit abteilungsübergreifenden Tätigkeiten in einem fordernden, aber angenehmen Umfeld unter einer 1:1 Betreuung (acht Ausb... Mehr anzeigen
Bei BENTELER machen wir es möglich.Von der Talentförderung bis zu internationalen Karriereaussichten oder von großzügigen Gestaltungsmöglichkeiten bis zu individuellen Entwicklungschancen – bei BEN... Mehr anzeigen
Du arbeitest im zentralen AI Team, welches die.AI –Initiativen bei DuMont vorantreibt.Du gestaltest mit uns kreativ unsere internen .AI Initiativen, wie Events, Learning Sessions .Du wirst Mitdenke... Mehr anzeigen
Wir suchen im Rahmen der Direktvermittlung einen SAP Inhouse Consultant (m/w/d) für unseren Mandanten am Standort Hiddenhausen .Unser Angebot für Sie als SAP Inhouse Consultant (m/w/d) am Stand... Mehr anzeigen
DMG MORI ist ein weltweit führender Hersteller von hochpräzisen Werkzeugmaschinen und in 43 Ländern vertreten – mit 116 Vertriebs- und Servicestandorten, davon 17 Produktionswerke.In der „Global On... Mehr anzeigen
CosMed ist ein Full-Service-Supplier für die Entwicklung und Fertigung komplexer Kunststoffprodukte und Baugruppen aus Kunststoff.Zur Verstärkung unseres innovativen Teams suchen wir einen.ERP Appl... Mehr anzeigen
Du verfgst ber mehrjhrige praktische Erfahrung in der Software-Entwicklung.Du besitzt sehr gute Deutsch- und Englischkenntnisse (mind.C1-Niveau) fr eine klare und sichere Kommunikation im Team und ... Mehr anzeigen
Duales Studium – Bachelor of Sience (m/w/d) in Angewandte Informatik.Du begeisterst dich für Informatik und hast Lust, in einem kreativen Team zu arbeiten? Du bist neugierig auf eine Branche, die d... Mehr anzeigen
FACHINFORMATIKER FÜR SYSTEMINTEGRATION (W/M/D).Du startest deine Ausbildung am 01.Grundstein für dein künftiges Berufsleben als IT Spezialist.Du bist für die Planung und Konfiguration von IT-System... Mehr anzeigen
Wir suchen einen Senior Developer, der vorne mitspielen will bei der AI-first-Entwicklung von B2B SaaS-Produkten.Original Stellenanzeige auf StepStone. Mehr anzeigen
DMG MORI ist ein weltweit führender Hersteller von hochpräzisen Werkzeugmaschinen und in 43 Ländern vertreten – mit 116 Vertriebs- und Servicestandorten, davon 17 Produktionswerke.In der „Global On... Mehr anzeigen
Bei uns hat die IT viele Facetten.Du interessierst dich für die Themen IT, Informatik und digitale Kommunikation?.Nur Theorie ist dir zu eintönig und du möchtest am liebsten schon gleich praktisch ... Mehr anzeigen
Wir bieten Ihnen mit dem Ausbildungsstart zum 01.Ausbildung zum Fachinformatiker (m/w/d) für Systemintegration.Als Spitzenzentrum zur Behandlung von Herz-, Kreislauf- und Diabeteserkrankungen mit m... Mehr anzeigen
Werden auch Sie Teil der SVA-Community!.Als eines der führenden Systemhäuser in Deutschland bieten wir Ihnen vielfältige Möglichkeiten in einem spannenden Berufsumfeld und einer wachsenden Branche ... Mehr anzeigen
In diesem Ausbildungsprogramm arbeitet S&N eng mit der Fachhochschule der Wirtschaft (FHDW) am Standort Paderborn oder anderen FHDW-Standorten zusammen.Nach Zulassung zum dualen Studium seitens der... Mehr anzeigen
Mach gemeinsam mit ORDIX den nächsten Schritt in deiner Karriere!.Seit 35 Jahren sind wir ein zuverlässiger Partner namhafter Kunden aus dem Finanz- und Bankensektor, der Industrie und dem Handel s... Mehr anzeigen
Wir suchen im Rahmen der Direktvermittlung einen IT Cloud Architect (m/w/d) für unseren Mandanten am Standort Bielefeld .Unser Angebot für Sie als IT Cloud Architect (m/w/d) am Standort Bielef... Mehr anzeigen
