Talent.com
EXXETA
AI Inference Engineer (all genders)EXXETA • Leipzig
AI Inference Engineer (all genders)

AI Inference Engineer (all genders)

EXXETA • Leipzig
Vor 30+ Tagen
Stellenbeschreibung
Was erwartet dich
  • Du konzipierst, entwickelst und betreibst produktive LLM-Inferenzplattformen für Kunden mit hohen Anforderungen an Datensouveränität, Sicherheit und Betriebskontrolle – on-premises, in privaten Cloud-Umgebungen oder souveränen europäischen Cloud-Setups.
  • Gemeinsam mit Cloud-, Plattform-, Security- und Data-Engineering-Teams sowie unseren Kunden überführst du AI-Use-Cases in den produktiven Betrieb.
  • Dabei integrierst du moderne Inferenz-Engines und Open-Weights-Modelle in Kubernetes-, Container- und Plattformumgebungen.
  • Außerdem planst und optimierst du GPU- und Speicherressourcen sowie Inferenz-Workloads: Von Modellgrößen, Quantisierung und Batching bis hin zu KV-Cache-Strategien, Latenz, Durchsatz und Kosten.
  • Du verantwortest die Runtime produktiver AI-Systeme, inklusive Modellserving, APIs, Authentifizierung, Secrets, Observability, Logging
  • Aus Kundenprojekten entwickelst du wiederverwendbare Referenzarchitekturen, Deployment-Templates und Betriebs-Playbooks und stärkst so unsere Applied-AI-Capability.

Was erwarten wir von dir

  • Persönlicher Background: Erfahrung in Platform Engineering, Cloud Infrastructure, MLOps, LLMOps, DevOps, Backend Engineering oder Machine Learning Engineering. Entscheidend ist deine Erfahrung im Aufbau und Betrieb produktiver Systeme und dein Antrieb zu schneller persönlicher Weiterentwicklung
  • Inference Engineering: Du verstehst die technischen und wirtschaftlichen Zusammenhänge moderner LLM-Inferenz, von Model-Serving und GPU-Auslastung über Quantisierung, Batching und KV-Cache-Management bis hin zu Latenz, Durchsatz und Kosten.
  • Cloud & Plattformen: Docker, Kubernetes, Helm, Terraform, CI/CD, Linux sowie Observability gehören für dich zum Arbeitsalltag.
  • AI-Verständnis: Du kannst Transformer-basierte Modelle wie LLMs und Embeddings einordnen und fundierte technische Entscheidungen für produktive AI-Systeme treffen.
  • Security & Governance: Themen wie Identitäten, Berechtigungen, Secrets, Logging, Auditierung und Compliance denkst du, insbesondere in regulierten Umgebungen, von Anfang an mit.
  • Kommunikation & Arbeitsweise: Du vermittelst komplexe technische Zusammenhänge verständlich, arbeitest pragmatisch und bewegst dich auch in dynamischen Projektumfeldern sicher.
  • Pluspunkt: Erfahrung mit vLLM, SGLang oder vergleichbaren Inference-Technologien, GPU-Clustern, souveränen Cloud- oder Private-Cloud-Umgebungen.
  • On the road: Du bist reisebereit und flexibel, unsere Kunden bundesweit vor Ort zu beraten.
  • Let's talk: Du sprichst fließend Deutsch und Englisch - super, dann findest du dich bei Exxeta bestens zurecht

Warum Exxeta

Bei Exxeta entwickeln wir digitale Lösungen, die wirklich etwas verändern – in Unternehmen, Märkten und Köpfen. Über 1200 Kolleg:innen bringen dafür Technologie, Ideen und unterschiedliche Perspektiven zusammen. Was uns antreibt: Neugier, Teamspirit und der Anspruch, echten Impact zu schaffen. Hightech with a heartbeat eben.

Jobalert für diese Suche erstellen

AI Inference Engineer (all genders) • Leipzig

Ähnliche Stellen

AI & Automation Architect SAP (all genders)

adesso business consulting AGleipzig, sachsen, Deutschland

Architekturdesign: End-to-End-Architekturen mit SAP AI Core/Launchpad, Joule Studio (Skills, Agents) und SAP BTP konzipierst und integrierst du nahtlos in S/4HANA-Landschaften.Multi-Agenten & RAG: ... Mehr anzeigen

 • Gesponsert

AI Engineer - Transfer Pricing (w/m/d)

PwC Deutschlandleipzig, sachsen, Deutschland

AI Engineer - Transfer Pricing (w/m/d).KI-Systeme – Du entwirfst und implementierst wissensbasierte und KI-gestützte Anwendungen, die Expertenwissen skalierbar machen und komplexe Prozesse intellig... Mehr anzeigen

 • Gesponsert

Research Associate R&D ELISA (m/w/d) - INLRD2603

Vimian Groupleipzig, sachsen, Deutschland

Planung, Durchführung und Dokumentation von veterinärdiagnostischen Tests nach Absprache mit dem zuständigen Scientist.Herstellung von Antigenen und Konjugaten nach Absprache mit dem zuständigen Sc... Mehr anzeigen

 • Gesponsert

Sales Engineer/Vertriebsingenieur (m/w/d) Region Thüringen, Sachsen, Sachsen-Anhalt

FlexLink Systems GmbHLeipzig, Dresden, Magdeburg, DE

FlexLink ist ein weltweit führender Experte für Fördertechnik, Robotik und industrielle Automatisierung.In enger Zusammenarbeit mit Kundinnen und Kunden auf der ganzen Welt stellen wir seit mehr al... Mehr anzeigen

 • Gesponsert

Koch (m/w/d)

See- und Waldresort GröbernMuldestausee, DE

Für unser schönes See- und Waldresort Gröbern mit einem 4-Sterne Hotel, 35 komfortablen Ferienhäusern und 24 großzügigen Wohnmobilstellplätzen, ca.Lutherstadt Wittenberg entfernt, suchen wir.Verein... Mehr anzeigen

 • Gesponsert

Data Engineer (w/m/d) Business Intelligence Microsoft

BE-ternaleipzig, sachsen, Deutschland

Suchst du ein offenes und vielfältiges Umfeld? Hast du innovative Ideen und möchtest diese umsetzen? Dann ist BE-terna der richtige Ort für dich! Erweitere deinen Horizont und lass dich dazu ermuti... Mehr anzeigen

 • Gesponsert

AI-Developer - Public Sector & Energy (w/m/d)

PwC Deutschlandleipzig, sachsen, Deutschland

Für unseren Geschäftsbereich Transformation suchen wir dich zum nächstmöglichen Zeitpunkt als AI-Developer – Public Sector & Energy (w/m/d).Du arbeitest in unserem cross-funktionalen Team Hand in H... Mehr anzeigen

 • Gesponsert

Masterand (all genders) – Semantic 4D Occupancy Forecasting

XITASO GmbH IT & Software Solutionsleipzig, Deutschland

Semantic 4D Occupancy Forecasting) ist von entscheidender Bedeutung für.Fahrzeugen ermöglicht, zukünftige Szenendynamiken und -geometrien zu antizipieren.Das Training moderner State-of-the-Art-Mode... Mehr anzeigen

 • Gesponsert

Bauleiter / Bauingenieur Hochbau (m/w/d)

Elspass AutolandSandersdorf, Anhalt-Bitterfeld, Sachsen-Anhalt

Bauleiter / Bauingenieur Hochbau (m⁠/⁠w⁠/⁠d) Seit über vier Jahrzehnten steht der Name Autoland für höchste Kundenorientierung, Top Preise und beste Qualität.Mit 37 Standorten in 10 Bundesländern, ... Mehr anzeigen

 • Gesponsert

Duales Studium BWL - Spezialisierung Artificial Intelligence(B.A.)

IU Internationale Hochschule GmbHLeipzig, Sachsen, Germany

Fragst Du Dich auch, wie sich die zunehmend digitalisierten Geschäftswelt weiter entwickeln wird und wie man sich hierauf am besten vorbereiten kann? Im Studiengang BWL - Spezialisierung Artificial... Mehr anzeigen

 • Gesponsert • Neu!

Artificial Intelligence Specialist

fairforce.oneleipzig, sachsen, Deutschland

Gestalte mit uns die Zukunft der KI-gestützten Rechtsberatung.Als Teil unseres interdisziplinären Teams aus IT, Legal, Mobility und Kommunikation arbeitest Du an KI-gestützten Produkten, die echten... Mehr anzeigen

 • Gesponsert

(Senior) Software Developer (m/w/d) – Cross-Plattform-Apps & KI

CORTEX Biophysik GmbHLeipzig, DE

Die CORTEX Biophysik GmbH ist ein führender Hersteller von Systemen zur Spiroergometrie und Leistungsdiagnostik.Seit über 30 Jahren entwickeln und produzieren wir unsere Produkte in Leipzig.Mit dem... Mehr anzeigen

 • Gesponsert

Erzieherin (m/w/d) für unsere Familienwohngruppe

SOS-Kinderdorf e.V.Schmölln, DE

Hilfsorganisation und ein freier, gemeinnütziger Träger der Kinder- und Jugendhilfe mit 38 Einrichtungen im gesamten Bundesgebiet und rund 5.Mitarbeiterinnen und Mitarbeitern.Erzieherin (m/w/d) für... Mehr anzeigen

 • Gesponsert

Leiter Produktentwicklung (m/w/d) in Direktvermittlung

FerchauAltenburg, Altenburger Land, Thüringen

Für ein erfolgreiches, europaweit agierendes Industrieunternehmen wurden wir exklusiv mit der Besetzung der Position Leiter:in Produktentwicklung beauftragt.Unser Partner entwickelt, produziert und... Mehr anzeigen

 • Gesponsert

Founders Associate - Strategy, Product & Finance in AI/ML

getML / Code17 GmbHleipzig, sachsen, Deutschland

Founders Associate – SaaS Growth & Finance.Code17’s next major leap: transitioning getML into a scalable SaaS offering.This role combines strategic product thinking with involvement in the finance ... Mehr anzeigen

 • Gesponsert

ML Engineer — AI & Operations Research (all genders)

MICE DESKleipzig, sachsen, Deutschland

Group and MICE business is one of the last scientifically underserved problems in revenue management.Transient pricing has decades of literature and tooling; group pricing — with its displacement e... Mehr anzeigen

 • Gesponsert

Lead Software Engineer GenAI-Engineering (all genders)

adesso SEleipzig, sachsen, Deutschland

Wir gehören zu den Top-Adressen in der IT-Welt und fokussieren uns auf die Optimierung der Kerngeschäftsprozesse unserer Kunden.Durch den smarten Einsatz maßgeschneiderter IT-Lösungen unterstützen ... Mehr anzeigen

 • Gesponsert

Data Engineer (all genders)

MICE DESKleipzig, sachsen, Deutschland

Everything Rocket does — AI extraction, pricing intelligence, customer dashboards, business reporting — runs on data that you make trustworthy.You will build and operate the pipelines that pull sal... Mehr anzeigen