Talent.com
ML Engineer (LLM Google Cloud)
ML Engineer (LLM Google Cloud)Triskel Consulting • Berlin, Germany
ML Engineer (LLM Google Cloud)

ML Engineer (LLM Google Cloud)

Triskel Consulting • Berlin, Germany
Vor 15 Tagen
Stellenbeschreibung

Our client is a digital services provider operating within the iGaming field. As part of their growth and expansion they are now seeking to recruit an ML Engineer (LLM / Google Cloud) who will be responsible for training and Fine-tuning text models (LLMs), deploying them on Google Cloud, and building automation around these models.

The core mission : take example texts, train the model so that the output strictly follows the required format, and build reliable infrastructure and services that will call this model in production.

Responsibilities

  • Analyse business requirements for the desired output format and the logic the model must implement.
  • Prepare datasets based on example texts : cleaning, annotation, creating training / validation splits.
  • Train and fine-tune LLMs for specific use cases :

configure training parameters;

  • experiment with prompts, system instructions, input / output formats.
  • Evaluate model quality :
  • design and track metrics;

  • create test scenarios and A / B experiments;
  • ensure output format consistency and stability.
  • Deploy models to Google Cloud (for example via Vertex AI, Cloud Run, Kubernetes, etc.).
  • Develop services and APIs (REST / gRPC) that expose the model to other systems.
  • Build automations and integrations that call the model :
  • background jobs, queues, event-driven triggers;

  • integration with internal services and databases.
  • Implement MLOps pipelines :
  • automate training / retraining workflows;

  • version models and datasets;
  • monitor model performance and quality in production.
  • Document models, pipelines, APIs, and architectural decisions.
  • Requirements

  • 3+ years of software development experience (preferably Python).
  • Hands-on experience with ML / NLP : understanding of models, loss functions, training and validation workflows.
  • Practical experience with at least one ML framework : TensorFlow, PyTorch, Hugging Face, etc.
  • Experience with Google Cloud :
  • Core services (Cloud Storage, IAM, VPC);

  • ideally Vertex AI, Cloud Run, Pub / Sub or similar.
  • Experience deploying models into production (API services, containerization with Docker, CI / CD).
  • Experience building and integrating REST APIs; confident working with JSON / JSONL, logging, and monitoring.
  • Understanding of how to design reliable and scalable systems (error handling, retries, queues, timeouts).
  • Direct experience with LLMs : prompt engineering, few-shot learning, RAG.
  • Experience with MLOps tools (MLflow, Vertex AI Pipelines or equivalents).
  • Experience with messaging / queue systems (Pub / Sub, Kafka, RabbitMQ) and workflow orchestration (Workflows, Airflow, etc.).
  • Understanding of data security and handling sensitive information, including access control (IAM).
  • Jobalert für diese Suche erstellen

    ML Engineer LLM Google Cloud • Berlin, Germany

    Ähnliche Stellen
    AI Solutions Backend Engineer (RAG & LLM Systems)

    AI Solutions Backend Engineer (RAG & LLM Systems)

    CROWDCONSULTANTS • Berlin, Berlin, DE
    Quick Apply
    This job operates on a hybrid model, requiring you to be based and work from within Bulgaria.Build and orchestrate AI workloads using. OpenAI, Anthropic, Mistral, Azure OpenAI).Pinecone, FAISS, Weav...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen
    OpenStack Cloud Engineer (m / w / d)

    OpenStack Cloud Engineer (m / w / d)

    Burda DigitalSystems GmbH • Berlin, DE
    Außerdem verfügt BurdaSolutions über eine hohe Kompetenz in den Bereichen Business Intelligence, CRM, ERP und mobile Applikationen. Offenburg oder München, Vollzeit, unbefristetWas dich bei uns er...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen
    Senior Cloud Architect (w / m / d)

    Senior Cloud Architect (w / m / d)

    Capgemini Deutschland GmbH • Berlin, Dortmund, Düsseldorf, Frankfurt, Hamburg, Hannover, Köln, München, Nürnberg, Stuttgart, DE
    Das Unternehmen schafft messbaren Mehrwert für seine Kunden, indem es die Zukunft von Organisationen gestaltet und im Zusammenspiel von KI, Technologie sowie dem Mensch Realität werden lässt.Seit f...Mehr anzeigen
    Zuletzt aktualisiert: vor 9 Tagen • Gesponsert
    Senior Software Engineer - Fullstack

    Senior Software Engineer - Fullstack

    dltHub • Berlin, BE, DE
    Quick Apply
    Python library for data loading with.We are building the next generation of AI-native data tooling on top of our strong OSS foundation. We move and iterate fast, and ship with a strong bias toward e...Mehr anzeigen
    Zuletzt aktualisiert: vor 3 Tagen
    (Senior) Specialist (w / m / d) - M365 Engineer / Solution Engineer

    (Senior) Specialist (w / m / d) - M365 Engineer / Solution Engineer

    Germany Trade & Invest • Berlin, Bonn, DE
    Wir informieren den deutschen Mittelstand über Chancen und Risiken in Auslandsmärkten und beraten ausländische Unternehmen bei der Ansiedlung in Deutschland. Durch unsere Arbeit fördern wir aktiv di...Mehr anzeigen
    Zuletzt aktualisiert: vor 1 Tag • Gesponsert
    Microsoft Azure Cloud Engineer (m / w / d)

    Microsoft Azure Cloud Engineer (m / w / d)

    netgo group GmbH • Berlin, DE
    Werde auch du "part of netgo group" - einem der größten IT-Dienstleister Deutschlands.Mitarbeiter •innen an zahlreichen Standorten in ganz Deutschland erwarten dich als neues Teammitglied.Als Azure ...Mehr anzeigen
    Zuletzt aktualisiert: vor 7 Tagen • Gesponsert
    Audio ML Data Engineer

    Audio ML Data Engineer

    ai-coustics • Berlin, Germany
    Quick Apply
    By combining state-of-the-art speech and audio research with real-time, production-grade SDKs, we test, observe, and enable Voice AI systems to work in any environment. Our software is used by Voice...Mehr anzeigen
    Zuletzt aktualisiert: vor 5 Tagen
    Senior Python / GenAI Engineer (RAG & LLM Systems)

    Senior Python / GenAI Engineer (RAG & LLM Systems)

    CROWDCONSULTANTS • Berlin, Berlin, .DE
    Quick Apply
    This job operates on a hybrid model, requiring you to be based in Bulgaria and work from there.Retrieval-Augmented Generation (RAG) and GenAI systems. Orchestrate and deploy AI solutions using.Azure...Mehr anzeigen
    Zuletzt aktualisiert: vor 9 Tagen
    Solutions Engineer

    Solutions Engineer

    dltHub • Berlin, BE, DE
    Quick Apply
    We are looking for an enthusiastic Solutions Engineer to help our customers implement our products in their systems, as well as assist our sales team in winning customers.If you thrive in the fast-...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen
    Cloud Engineer – Incident Response (w / m / d)

    Cloud Engineer – Incident Response (w / m / d)

    HiSolutions AG • Berlin, Berlin, Deutschland
    Quick Apply
    Cloud Engineer – Incident Response (w / m / d) bei HiSolutions AG | softgarden.Cloud Engineer – Incident Response (w / m / d). Wir sind ein wachsendes Beratungsunternehmen mit über 300 Mitarbeitenden, die l...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen
    ML Research Engineer

    ML Research Engineer

    ai-coustics • Berlin, Germany
    Quick Apply
    By combining state-of-the-art speech and audio research with real-time, production-grade SDKs, we test, observe, and enable Voice AI systems to work in any environment. Our software is used by Voice...Mehr anzeigen
    Zuletzt aktualisiert: vor 12 Tagen
    (Senior) System Engineer MS Cloud (m / w / d)

    (Senior) System Engineer MS Cloud (m / w / d)

    netgo group GmbH • Berlin, DE
    Werde auch du "part of netgo group" - einem der größten IT-Dienstleister Deutschlands.Mitarbeiter •innen an zahlreichen Standorten in ganz Deutschland erwarten dich als neues Teammitglied.Senior) Sy...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen • Gesponsert
    IAM Engineer (m / w / d)

    IAM Engineer (m / w / d)

    GEMA - Gesellschaft für musik. Aufführungs- und mechan. Vervielfältigungsrechte • Berlin, DE
    Du liebst Musik? Dann hilf mit, sie zu schützen!.Wir sorgen dafür, dass die Urheberinnen und Urheber an den Einnahmen aus der Nutzung ihrer Musikwerke angemessen beteiligt werden und sich ganz auf ...Mehr anzeigen
    Zuletzt aktualisiert: vor 8 Tagen • Gesponsert
    Mid-Level-DevOps / Cloud Engineer (m / w / d)

    Mid-Level-DevOps / Cloud Engineer (m / w / d)

    ThinPrint GmbH • Berlin, Berlin, Deutschland
    Quick Apply
    Mid-Level-DevOps / Cloud Engineer (m / w / d) at ThinPrint GmbH | softgarden.Mid-Level-DevOps / Cloud Engineer (m / w / d). Mid-Level-DevOps / Cloud Engineer (m / w / d).Wir sind ein international tätiges Softwareunt...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen
    Cloud Engineer (m / w / d) - München - Optimus Search

    Cloud Engineer (m / w / d) - München - Optimus Search

    Optimus Search • Berlin, DE
    Über uns About usCloud Engineer (m / w / d) - MünchenThe client is an innovative software manufacturer in München.With customers including upper mid-market companies and international enterprises - man...Mehr anzeigen
    Zuletzt aktualisiert: vor 4 Stunden • Neu!
    Learning Content Engineer - Cloud / DevOps (m / w / d)

    Learning Content Engineer - Cloud / DevOps (m / w / d)

    StackFuel GmbH • Hennigsdorf, Germany
    Abgeschlossenes Studium im MINT-Bereich oder vergleichbare technische Qualifikation.Erfahrung in der didaktischen Aufbereitung und Erstellung technischer Lerninhalte, idealerweise im Bereich Cloud,...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen • Gesponsert
    Learning Content Engineer - KI (m / w / d)

    Learning Content Engineer - KI (m / w / d)

    StackFuel GmbH • Ludwigsfelde, Germany
    Abgeschlossenes Studium im MINT-Bereich oder vergleichbare technische Qualifikation.Erfahrung in der didaktischen Aufbereitung und Erstellung technischer Lerninhalte, idealerweise im Bereich KI, Da...Mehr anzeigen
    Zuletzt aktualisiert: vor über 30 Tagen • Gesponsert
    Cloud Engineer (m / w / d) - München

    Cloud Engineer (m / w / d) - München

    Optimus Search • Berlin, DE
    Über uns About usCloud Engineer (m / w / d) - MünchenThe client is an innovative software manufacturer in München.With customers including upper mid-market companies and international enterprises - man...Mehr anzeigen
    Zuletzt aktualisiert: vor 4 Stunden • Neu!