Talent.com
EXXETA
AI Inference Engineer (all genders)EXXETA • Stuttgart
AI Inference Engineer (all genders)

AI Inference Engineer (all genders)

EXXETA • Stuttgart
Vor 30+ Tagen
Stellenbeschreibung
Was erwartet dich
  • Du konzipierst, entwickelst und betreibst produktive LLM-Inferenzplattformen für Kunden mit hohen Anforderungen an Datensouveränität, Sicherheit und Betriebskontrolle – on-premises, in privaten Cloud-Umgebungen oder souveränen europäischen Cloud-Setups.
  • Gemeinsam mit Cloud-, Plattform-, Security- und Data-Engineering-Teams sowie unseren Kunden überführst du AI-Use-Cases in den produktiven Betrieb.
  • Dabei integrierst du moderne Inferenz-Engines und Open-Weights-Modelle in Kubernetes-, Container- und Plattformumgebungen.
  • Außerdem planst und optimierst du GPU- und Speicherressourcen sowie Inferenz-Workloads: Von Modellgrößen, Quantisierung und Batching bis hin zu KV-Cache-Strategien, Latenz, Durchsatz und Kosten.
  • Du verantwortest die Runtime produktiver AI-Systeme, inklusive Modellserving, APIs, Authentifizierung, Secrets, Observability, Logging
  • Aus Kundenprojekten entwickelst du wiederverwendbare Referenzarchitekturen, Deployment-Templates und Betriebs-Playbooks und stärkst so unsere Applied-AI-Capability.

Was erwarten wir von dir

  • Persönlicher Background: Erfahrung in Platform Engineering, Cloud Infrastructure, MLOps, LLMOps, DevOps, Backend Engineering oder Machine Learning Engineering. Entscheidend ist deine Erfahrung im Aufbau und Betrieb produktiver Systeme und dein Antrieb zu schneller persönlicher Weiterentwicklung
  • Inference Engineering: Du verstehst die technischen und wirtschaftlichen Zusammenhänge moderner LLM-Inferenz, von Model-Serving und GPU-Auslastung über Quantisierung, Batching und KV-Cache-Management bis hin zu Latenz, Durchsatz und Kosten.
  • Cloud & Plattformen: Docker, Kubernetes, Helm, Terraform, CI/CD, Linux sowie Observability gehören für dich zum Arbeitsalltag.
  • AI-Verständnis: Du kannst Transformer-basierte Modelle wie LLMs und Embeddings einordnen und fundierte technische Entscheidungen für produktive AI-Systeme treffen.
  • Security & Governance: Themen wie Identitäten, Berechtigungen, Secrets, Logging, Auditierung und Compliance denkst du, insbesondere in regulierten Umgebungen, von Anfang an mit.
  • Kommunikation & Arbeitsweise: Du vermittelst komplexe technische Zusammenhänge verständlich, arbeitest pragmatisch und bewegst dich auch in dynamischen Projektumfeldern sicher.
  • Pluspunkt: Erfahrung mit vLLM, SGLang oder vergleichbaren Inference-Technologien, GPU-Clustern, souveränen Cloud- oder Private-Cloud-Umgebungen.
  • On the road: Du bist reisebereit und flexibel, unsere Kunden bundesweit vor Ort zu beraten.
  • Let's talk: Du sprichst fließend Deutsch und Englisch - super, dann findest du dich bei Exxeta bestens zurecht

Warum Exxeta

Bei Exxeta entwickeln wir digitale Lösungen, die wirklich etwas verändern – in Unternehmen, Märkten und Köpfen. Über 1200 Kolleg:innen bringen dafür Technologie, Ideen und unterschiedliche Perspektiven zusammen. Was uns antreibt: Neugier, Teamspirit und der Anspruch, echten Impact zu schaffen. Hightech with a heartbeat eben.

Jobalert für diese Suche erstellen

AI Inference Engineer (all genders) • Stuttgart

Ähnliche Stellen

KI - Engineer (m/w/d)

Heinrich Schmid Systemhaus GmbHReutlingen, Baden-Württemberg, DE

KI - Engineer (m/w/d) in Reutlingen.Menschen an mehr als 200 Standorten setzen sich jeden Tag bei der familiengeführten Unternehmensgruppe Heinrich Schmid dafür ein, dass Handwerk Zukunft hat.Mit e... Mehr anzeigen

Senior Unreal Engine Tools Engineer

realworld onebaden württemberg, Deutschland

Senior Unreal Engine Tools Engineer.Be among the first 25 applicants.Senior Unreal Engine Tools Engineer.Senior Unreal Engine Tools Engineer.Development Kit (RDK) – a powerful, modular toolkit desi... Mehr anzeigen

 • Gesponsert

Software Engineer – AI / Agent Lab (m/w/d/x)

TempSearch GmbHstuttgart, baden württemberg, Deutschland

Für unseren Kunden suchen wir einenSoftware Engineer – AI / Agent Lab (m/w/d).In dieser Position entwickelst du innovative KI- und GenAI-Lösungen mit Fokus auf agentenbasierte Systeme.Du arbeitest ... Mehr anzeigen

 • Gesponsert

AI Specialist / AI Architect (m/w/d) eCommerce | Stuttgart

Neuffer Fenster + Türen GmbHstuttgart, baden württemberg, Deutschland

AI Specialist / AI Architect (m/w/d) in Stuttgart für Neuffer.Entwicklung und Verbesserung von KI-Anwendungen zur Automatisierung von internen Prozessen.Entwicklung von Lösungen zur automatischen G... Mehr anzeigen

 • Gesponsert

Software Engineer - Data & AI Platform - STACKIT (gn)

Schwarz DigitsHeilbronn, DE

Go-Expertise: Du hast fundierte Erfahrung mit Go in Produktion.Du kennst die Standard-Library in- und auswendig.Pragmatismus: Du entscheidest dich für die einfachste Lösung, die das Problem zuverlä... Mehr anzeigen

 • Gesponsert

Senior KI-Entwickler / AI Engineer (m/w/d) – 40 Stunden / Remote möglich

jadeva GmbHstuttgart, baden württemberg, Deutschland
Homeoffice

Künstliche Intelligenz auf höchstem Niveau – gestalte mit uns die nächste Generation intelligenter Systeme.Wir bauen kein gewöhnliches Entwicklerteam.Wir entwickeln skalierbare, produktionsreife KI... Mehr anzeigen

 • Gesponsert

Senior Full Stack Engineer, AI Platform & Agents

Wolters Kluwer N.V.workfromhome, baden württemberg, Deutschland

As principal Full Stack Engineer, AI Platform & Agents, you will build the GenAI platform that powers critical decisions in healthcare, legal, tax, and compliance industries.Your work will directly... Mehr anzeigen

 • Gesponsert

Data Engineer / DevOps Engineer (all genders)

Quanto Solutions GmbHStuttgart, de

Sehr gutes Gehalt und ein attraktives Bonusmodell.Flexible Arbeitszeiten, Homeoffice-Option, 31 Tage Urlaub.Mobilitätsangebot (Bahn, Bike, Auto).Moderne IT-Ausstattung, Laptop/Handy auch zur privat... Mehr anzeigen

 • Gesponsert

Data Platform Engineer (m/w/d)

Deutsche Automobil Treuhand GmbHOstfildern, de

Sie sind verantwortlich für die Entwicklung, Implementierung und Überwachung von Datenqualitätsstandards und -richtlinien.In Zusammenarbeit mit Fachabteilungen identifizieren und bewerten Sie Daten... Mehr anzeigen

 • Gesponsert

AI Engineer Experte für Large Language Models (w/m/d)

PwC Deutschlandstuttgart, baden württemberg, Deutschland

AI Engineer Experte für Large Language Models (w/m/d).AI Engineer Fokus Large Language Models (w/m/d).Du implementierst komplexe KI-Systeme für vielseitige produktive Anwendungsszenarien im Bereich... Mehr anzeigen

 • Gesponsert

Senior AI Engineer

Bluefishstuttgart, baden württemberg, Deutschland

As a Senior AI Engineer, you\'ll spearhead the development of LLM-powered products at the forefront of marketing and advertising technologies.Utilizing your expertise in machine learning, large lan... Mehr anzeigen

 • Gesponsert

AI Architect (all genders) - BCG Platinion

BCG Platinionstuttgart, baden württemberg, Deutschland

You want to use AI to transform how companies operate, make decisions, and grow? Then join us in shaping the next generation of AI-driven architectures for leading organizations worldwide.Design ag... Mehr anzeigen

 • Gesponsert

KI - Engineer (m/w/d)

Heinrich Schmidbaden württemberg, Deutschland

Menschen an mehr als 200 Standorten setzen sich jeden Tag bei der familiengeführten Unternehmensgruppe Heinrich Schmid dafür ein, dass Handwerk Zukunft hat.Mit einer großen Anzahl an verschiedenen ... Mehr anzeigen

 • Gesponsert

Solution Engineer - Tooling (Vehicle Intelligence)

Decisive Pointstuttgart, baden württemberg, Deutschland

Founded in 2017 and now valued at $15 billion, the Silicon Valley company is creating the digital infrastructure needed to bring intelligence to every moving machine on the planet.Applied Intuition... Mehr anzeigen

 • Gesponsert

Senior AI Data Engineer (all genders)

DYMATRIX GmbHstuttgart, baden württemberg, Deutschland

Daten sind das Gold von morgen! Und Du suchst, förderst und veredelst das Wertvollste, was unsere Kundenbesitzen: Ihre Daten.Senior AI Data Engineer (all genders).Stuttgart, Hamburg, Köln, München.... Mehr anzeigen

 • Gesponsert

Creative AI Workflow Specialist / Creative AI Engineer

WongDoodystuttgart, baden württemberg, Deutschland

Kolleg:innen in 22 Designstudios auf vier Kontinenten – ein hochgradig kollaboratives Team aus Expert:innen für Produkterlebnisse, digitales Marketing und immersive Technologien.Unsere Lösungen ent... Mehr anzeigen

 • Gesponsert

AI, PLA & NeuraGym Demo Coordinator (human)

Atlas Metricsgemeindeverwaltungsverband metzingen, baden württemberg, Deutschland

AI, PLA & NeuraGym Demo Coordinator (human).In the AI Department, you’ll develop the cognitive abilities of our robots, enabling them to understand and interact with their surroundings.You’ll work ... Mehr anzeigen

 • Gesponsert

Senior AI Platform Software Engineer - Go / Kubernetes (m/w/d)

Schwarz Dienstleistung KGheilbronn, baden württemberg, Deutschland

Wählen Sie aus, wie oft (in Tagen) Sie eine Benachrichtigung erhalten möchten:.Als IT- und Digitalsparte der Schwarz Gruppe entwickeln und verantworten wir einerseits die IT-Infrastrukturen für die... Mehr anzeigen

 • Gesponsert

Praktikant Management Advisory mit Schwerpunkt AI Engineer (w/m/d)

BDO Germanystuttgart, baden württemberg, Deutschland

Werde Teil unseres Management Advisory Teams in einem unserer Offices in Stuttgart, Berlin, Köln oder Hamburg und gestalte die Zukunft der strategischen Unternehmensberatung aktiv mit – insbesonder... Mehr anzeigen

 • Gesponsert

AI Modeling Specialist (Senior)

Amentumstuttgart, baden württemberg, Deutschland

This position is contingent upon contract award*.AI Modeling Specialist (Senior).Combatant Command Operations in the Information Environment (OIE) under the Apollo program.The selected candidate wi... Mehr anzeigen