Talent.com
EXXETA
AI Inference Engineer (all genders)EXXETA • Mannheim
AI Inference Engineer (all genders)

AI Inference Engineer (all genders)

EXXETA • Mannheim
Vor 30+ Tagen
Stellenbeschreibung

Was erwartet dich

  • Du konzipierst, entwickelst und betreibst produktive LLM-Inferenzplattformen für Kunden mit hohen Anforderungen an Datensouveränität, Sicherheit und Betriebskontrolle – on-premises, in privaten Cloud-Umgebungen oder souveränen europäischen Cloud-Setups.
  • Gemeinsam mit Cloud-, Plattform-, Security- und Data-Engineering-Teams sowie unseren Kunden überführst du AI-Use-Cases in den produktiven Betrieb.
  • Dabei integrierst du moderne Inferenz-Engines und Open-Weights-Modelle in Kubernetes-, Container- und Plattformumgebungen.
  • Außerdem planst und optimierst du GPU- und Speicherressourcen sowie Inferenz-Workloads: Von Modellgrößen, Quantisierung und Batching bis hin zu KV-Cache-Strategien, Latenz, Durchsatz und Kosten.
  • Du verantwortest die Runtime produktiver AI-Systeme, inklusive Modellserving, APIs, Authentifizierung, Secrets, Observability, Logging
  • Aus Kundenprojekten entwickelst du wiederverwendbare Referenzarchitekturen, Deployment-Templates und Betriebs-Playbooks und stärkst so unsere Applied-AI-Capability.

Was erwarten wir von dir

  • Persönlicher Background: Erfahrung in Platform Engineering, Cloud Infrastructure, MLOps, LLMOps, DevOps, Backend Engineering oder Machine Learning Engineering. Entscheidend ist deine Erfahrung im Aufbau und Betrieb produktiver Systeme und dein Antrieb zu schneller persönlicher Weiterentwicklung
  • Inference Engineering: Du verstehst die technischen und wirtschaftlichen Zusammenhänge moderner LLM-Inferenz, von Model-Serving und GPU-Auslastung über Quantisierung, Batching und KV-Cache-Management bis hin zu Latenz, Durchsatz und Kosten.
  • Cloud & Plattformen: Docker, Kubernetes, Helm, Terraform, CI/CD, Linux sowie Observability gehören für dich zum Arbeitsalltag.
  • AI-Verständnis: Du kannst Transformer-basierte Modelle wie LLMs und Embeddings einordnen und fundierte technische Entscheidungen für produktive AI-Systeme treffen.
  • Security & Governance: Themen wie Identitäten, Berechtigungen, Secrets, Logging, Auditierung und Compliance denkst du, insbesondere in regulierten Umgebungen, von Anfang an mit.
  • Kommunikation & Arbeitsweise: Du vermittelst komplexe technische Zusammenhänge verständlich, arbeitest pragmatisch und bewegst dich auch in dynamischen Projektumfeldern sicher.
  • Pluspunkt: Erfahrung mit vLLM, SGLang oder vergleichbaren Inference-Technologien, GPU-Clustern, souveränen Cloud- oder Private-Cloud-Umgebungen.
  • On the road: Du bist reisebereit und flexibel, unsere Kunden bundesweit vor Ort zu beraten.
  • Let's talk: Du sprichst fließend Deutsch und Englisch - super, dann findest du dich bei Exxeta bestens zurecht

Warum Exxeta

Bei Exxeta entwickeln wir digitale Lösungen, die wirklich etwas verändern – in Unternehmen, Märkten und Köpfen. Über 1200 Kolleg:innen bringen dafür Technologie, Ideen und unterschiedliche Perspektiven zusammen. Was uns antreibt: Neugier, Teamspirit und der Anspruch, echten Impact zu schaffen. Hightech with a heartbeat eben.

Jobalert für diese Suche erstellen

AI Inference Engineer (all genders) • Mannheim

Ähnliche Stellen

Azure Data Platform Engineer (m/w/d)

netgo group GmbHMannheim, DE

Werde auch du "part of netgo group" - einem der größten IT-Dienstleister Deutschlands.Mitarbeiter*innen an zahlreichen Standorten in ganz Deutschland erwarten dich als neues Teammitglied.Du sorgst ... Mehr anzeigen

 • Gesponsert

Abteilungsleiter - Visual Merchandising / Teamführung / Verkauf (m/w/d)

Jakob Jost GmbHGrünstadt, Worms, Frankenthal, DE

Stil beweisen – das ist für Mode Jost nicht nur der wichtigste Anspruch bei der Auswahl unserer Kollektionen.Wir finden: Hochwertige Mode sollte auch in einem stilvollen, einzigartigen Ambiente zur... Mehr anzeigen

 • Gesponsert

Senior Developer & Consultant – CIAM (m/w/d)

amiconsult GmbHKarlsruhe, de

Technische Tiefe und Beratungsstärke – du brauchst dich nicht zu entscheiden.Als Senior Developer & Consultant – CIAM (m/w/d) bei amiconsult bringst du beides zusammen, übernimmst Verantwortung, wo... Mehr anzeigen

 • Gesponsert

Ingenieur Anlagenvisualisierung SCADA/HMI (m/w/d) / Engineer Plant Visualisation SCADA/HMI (all

Sit Steuerungstechnik GmbHEttlingen, de

Wir sind führend in der Entwicklung und Installation maßgeschneiderter Steuerungslösungen im Bereich der Intralogistik.Unsere Teams sind europaweit im Einsatz und arbeiten in einem familiären Umfel... Mehr anzeigen

 • Gesponsert

QSMP Cloud Engineer (m/w/d)

QUNDIS GmbHErfurt, Mannheim, Maribor (Slowenien), Deutschland

CI/CD-Tools Affinität für agile Arbeitsweisen und Tool, idealerweise Erfahrungen mit Jira Idealerweisung Erfahrungen in KI-gestützter Programmierung Begeisterung für neue Technologien, Digita... Mehr anzeigen

 • Gesponsert

Duales Studium Wirtschaftsingenieurwesen (B.Eng.) am virtuellen Campus

IU Internationale HochschuleLudwigshafen am Rhein, Ludwigshafen am Rhein (Kreis), Rheinland-Pfalz

Dein Studium ist als duales Fernstudium akkreditiert – Deine Theorie findet 100 % virtuell parallel zu Deiner praktischen Tätigkeit in einem Unternehmen in Deiner Nähe statt.Staatlich anerkannter A... Mehr anzeigen

 • Gesponsert

(Senior) Full Stack AI Engineer (F/M/X) - Hamburg or Mannheim

HUBBLR GmbHMannheim, Baden-Württemberg, Germany

Everyone at HUBBLR is obsessed about building innovative products with our clients and we hope you are as well.We take pride in believing that the way product should be build in 2026 is a fast movi... Mehr anzeigen

Senior Cloud Engineer - AWS / Kubernetes / Terraform (m/w/d)

WIBU-SYSTEMS AGKarlsruhe, DE

Wir sind ein innovativer Technologieführer auf dem globalen Markt für Softwareschutz und -lizenzierung.Das 1989 gegründete Unternehmen hat sich zum Ziel gesetzt, ein Höchstmaß an Schutz, Lizenzieru... Mehr anzeigen

 • Gesponsert

Software Security Engineer - C++ / Java / Python (m/w/d)

WIBU-SYSTEMS AGKarlsruhe, DE

Wir sind ein innovativer Technologieführer auf dem globalen Markt für Softwareschutz und -lizenzierung.Das 1989 gegründete Unternehmen hat sich zum Ziel gesetzt, ein Höchstmaß an Schutz, Lizenzieru... Mehr anzeigen

 • Gesponsert

Sales Engineer Photonics (m/f/d)

Nanoscribe GmbH & Co. KGEggenstein-Leopoldshafen, Asien, Australien, DE

We strive for excellence - with this mission in mind, Nanoscribe develops and produces solutions for 3D microfabrication.As a pioneer in high-precision additive manufacturing, we are the technology... Mehr anzeigen

 • Gesponsert

SAP Solution Architect (m/w/d)

SD Worx GmbHLudwigshafen am Rhein, Ludwigshafen am Rhein (Kreis), Rheinland-Pfalz

SD Worx ist ein führender europäischer Anbieter von Payroll- und HR-Dienstleistungen mit globaler Reichweite.Wir haben Niederlassungen in Europa und ein Büro auf Mauritius.Unser Ziel? Wir erwecken ... Mehr anzeigen

 • Gesponsert

Ingenieur (Diplom / Bachelor / Master) für den Bereich TGA Heizung / Klima / Lüftung / Sanitär

Stadtverwaltung WormsWorms, Rheinland-Pfalz, Deutschland
Homeoffice

Einleitung: Bei der Stadtverwaltung Worms ist zum nächstmöglichen Zeitpunkt beim Bereich 8 – Wormser Immobilienmanagement in der Abteilung 8.Technische Gebäudeausrüstung (TGA) eine Stelle in der En... Mehr anzeigen

 • Gesponsert

IAM System Engineer (m/w/d)

amiconsult GmbHKarlsruhe, de

Du hast Verständnis für IT-Zusammenhänge im Identity and Access Management Bereich und weißt ein angenehmes Arbeitsumfeld zu schätzen? Dann bewirb dich und hilf unseren Kunden als IAM System Engine... Mehr anzeigen

 • Gesponsert

Developer & Consultant - CIAM (m/w/d)

amiconsult GmbHKarlsruhe, de

Du interessierst dich für die Frage, wie sich digitale Identitäten sicher und nutzerfreundlich gestalten lassen – und willst das gemeinsam mit Kunden in die Praxis bringen? Unser Team bei amiconsul... Mehr anzeigen

 • Gesponsert

Duales Studium Wirtschaftsingenieurwesen (B.Eng.) am virtuellen Campus - WayCon

IU Internationale HochschuleMannheim, Mannheim (Kreis), Baden-Württemberg

WayCon ist ein führender Anbieter präziser Abstandsmesssysteme und professioneller Sensorik für Industrie und Forschung.Das familiengeführte Unternehmen wurde 1999 in München gegründet.Wir entwicke... Mehr anzeigen

 • Gesponsert • Neu!

Jetzt Agenturleiter werden (m/w/d) - Mit Erfolg und Konzept und unserer AI Durchstarten

StellenmanufakturLudwigshafen am Rhein, Rheinland-Pfalz, Germany

Möchtest du Teil eines dynamischen und leidenschaftlichen Teams werden?.Zukunft des Marketings mitzugestalten.Unser kleines, aber engagiertes Team ist auf der Suche nach jemandem, der unsere Werte ... Mehr anzeigen

Development Engineer (m/w/d)

Headway RecruitmentDeutschland, Baden-Württemberg, Mannheim
Quick Apply

Mannheim | Vollzeit | Pharmaindustrie.Dann sind Sie bei uns genau richtig!.Im Rahmen der Arbeitnehmerüberlassung suchen wir für unseren Kunden Roche Diagnostics GmbH in Mannheim zum nächstmöglichen... Mehr anzeigen

Senior DevOps Engineer (m/w/d)

PACE Mobility GmbHKarlsruhe, DE

Wir betreiben eine Payment-Plattform, bei der Verfügbarkeit kein Qualitätsmerkmal ist, sondern Grundvoraussetzung: Echtzeit-Transaktionen an der Zapfsäule, auf die sich Millionen Fahrer täglich ver... Mehr anzeigen

 • Gesponsert

Quereinstieg als Prompt Engineer (m/w/d) – 100% remote

mycareernow GmbHLudwigshafen am Rhein, DE
Homeoffice

AZAV zertifizierter Bildungsträger mit klarem Fokus auf Projektmanagement und Künstliche Intelligenz.Unsere praxisnahen Weiterbildungen bereiten dich gezielt auf den nächsten Karriereschritt vor – ... Mehr anzeigen

System Engineer Private Cloud (m/w/d)

Atruvia AGMünster, Karlsruhe, Aschheim, DE

Als deutschsprachiges Unternehmen nutzen wir zukunftsweisende Technologien wie künstliche Intelligenz oder Smart Data und schreiben Prozessoptimierung, Sicherheit und Regulatorik groß.Wir haben un... Mehr anzeigen