Talent.com
Mindrift
Freelance Agent Evaluation EngineerMindrift • Stuttgart, BW, DE
Freelance Agent Evaluation Engineer

Freelance Agent Evaluation Engineer

Mindrift • Stuttgart, BW, DE
Vor 7 Tagen
Anstellungsart
  • Homeoffice
  • Quick Apply
Stellenbeschreibung

Please submit your CV in English and indicate your level of English proficiency.


Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.


We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.

You'll create challenging tasks and evaluation criteria within realistic simulated environments:

  • Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
  • Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
  • Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
  • Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust

What this is NOT:

  • Not data labeling
  • Not prompt engineering
  • Not writing code from scratch - the agent writes most of the code; you guide and evaluate

What we look for:

  • 5+ years in software development
  • Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
  • Experience writing tests (functional, integration)
  • English proficiency - B2+

Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.

Requirements and benefits

Educational qualifications

  • A Master’s Degree in Computer Science, Software Engineering, Data Science / Data Analytics, Artificial Intelligence / Machine Learning, Computational Linguistics / Natural Language Processing (NLP), Information Systems or other related fields.
  • Bachelor’s degree is accepted if only candidate has 5 years of experience in the field.

Academic and/or Professional Experience

Candidates should have a minimum of 3 years of professional experience in related roles or domain - specifically for QA-automation/testing or cybersecurity roles

How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paid

Compensation:
Paid per accepted task. Your rate depends on the qualification tier you reach and how efficiently you complete tasks — up to the equivalent of $50/hr. Because payment is per task, a faster pace raises your effective hourly rate.

Why this freelance opportunity might be a great fit for you?

  • Take part in a part-time, remote, freelance project that fits around your primary professional or academic commitments.
  • Work on advanced AI projects and gain valuable experience that enhances your portfolio. - Influence how future AI models understand and communicate in your field of expertise.
Jobalert für diese Suche erstellen

Freelance Agent Evaluation Engineer • Stuttgart, BW, DE

Ähnliche Stellen

Senior Messaging Engineer (M365 / Email Infrastructure) (m/w/d)

STRABAG BRVZ GMBH & CO.KGStuttgart, Deutschland

Senior Messaging Engineer (M365 / Email Infrastructure) (m/w/d) STRABAG BRVZ GMBH & CO.KG Direktanstellung (mit Berufserfahrung) Stuttgart JOB-ID: 1021 Senior Messaging Engineer (M365 / Email Infra... Mehr anzeigen

 • Gesponsert

Quereinstieg als Prompt Engineer (m/w/d) – 100% remote

mycareernow GmbHLudwigsburg, DE
Homeoffice

AZAV zertifizierter Bildungsträger mit klarem Fokus auf Projektmanagement und Künstliche Intelligenz.Unsere praxisnahen Weiterbildungen bereiten dich gezielt auf den nächsten Karriereschritt vor – ... Mehr anzeigen

Teilnehmer an Online-Umfragen (Bezahlt) - Ohne Berufserfahrung

Clubshop | USSt. Johann, Reutlingen

Wir suchen motivierte und detailorientierte Personen, die von der Bequemlichkeit des eigenen Zuhauses aus an Online-Umfragen teilnehmen möchten.Als Teilnehmer an Online-Umfragen liefern Sie we... Mehr anzeigen

AI Prompt Evaluator (Croatian) Limited Openings in Essen

Cross Border TalentsStuttgart, Germany
Quick Apply

Fluent Croatian + strong English (B2+).Yes 2 months of paid accommodation + travel reimbursement up to 250.Competitive base + performance bonuses.Opportunities like this don't come often.You'll be ... Mehr anzeigen

Küchenplaner / Küchenverkäufer (alle Geschlechter)

OBI GmbH & Co. Deutschland KGPfullingen, Baden-Württemberg, Germany

Mit mehr als 350 Märkten in Deutschland und über 660 Märkten in 10 Ländern gehören wir zu den führenden Baumärkten Europas.Unsere Vision ist es, die erste Anlaufstelle für alle Fragen und Projekte ... Mehr anzeigen

 • Gesponsert

Senior SAP Anwendungsberater (m/w/d) - Schwerpunkt FI/CO

Heinrich Schmid Systemhaus GmbHReutlingen, Baden-Württemberg, DE

Senior SAP Anwendungsberater (m/w/d) - Schwerpunkt FI/CO in Reutlingen.Menschen an mehr als 200 Standorten setzen sich jeden Tag bei der familiengeführten Unternehmensgruppe Heinrich Schmid dafür e... Mehr anzeigen

Data Engineer / DevOps Engineer (all genders)

Quanto Solutions GmbHStuttgart, de

Sehr gutes Gehalt und ein attraktives Bonusmodell.Flexible Arbeitszeiten, Homeoffice-Option, 31 Tage Urlaub.Mobilitätsangebot (Bahn, Bike, Auto).Moderne IT-Ausstattung, Laptop/Handy auch zur privat... Mehr anzeigen

 • Gesponsert

Dein Neustart als International Project Manager (m/w/d) – Remote & Quereinstieg willkommen!

mycareernow GmbHReutlingen, DE
Homeoffice

AZAV zertifizierter Bildungsträger mit klarem Fokus auf Projektmanagement und Künstliche Intelligenz.Unsere praxisnahen Weiterbildungen bereiten dich gezielt auf den nächsten Karriereschritt vor – ... Mehr anzeigen

Entwicklungsingenieur (m/w/d)

MANNDECKUNG GmbHReutlingen, Deutschland

MANNDECKUNG ist ein mehrfach ausgezeichneter Top-Arbeitgeber und steht für innovative technologische Lösungen.Wir verbinden menschliche Kompetenz mit technologischer Innovation und entwickeln so pa... Mehr anzeigen

Senior Formal Verification Engineer

TechBiz Global GmbHStuttgart, BW, DE

At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio.We are currently seeking a Senior Formal Verification (FV) Engineer to join one of our clients' teams.R... Mehr anzeigen

Technical Recruiter (Remote)

RM Staffing B.V.Reutlingen, BW, DE
Homeoffice

Reboot Monkey is a global datacenter services provider headquartered in Haarlem, Netherlands, operating.We deliver colocation, IP transit, smart hands, remote hands, and managed datacenter services... Mehr anzeigen

Technical Project Manager Data Center (Remote)

RM Staffing B.V.Reutlingen, BW, DE
Homeoffice

Clients need a single point of contact who actually understands hardware, not just a relationship manager who has to relay every technical question.Projects span hardware deployment, structured cab... Mehr anzeigen

Architekt (m/w/d) für unser Ingenieurbüro

Heinrich Schmid Ingenieure GmbHReutlingen, Baden-Württemberg, DE

Architekt (m/w/d) für unser Ingenieurbüro in Reutlingen.Menschen an mehr als 170 Standorten setzen sich jeden Tag bei der familiengeführten Unternehmensgruppe Heinrich Schmid dafür ein, dass Handwe... Mehr anzeigen

Customer Service Agent (m/w/d)

DIS AGHeilbronn, Baden-Württemberg, Germany

Wir suchen ab sofort mehrere Customer Service Mitarbeiter (m/w/d) in Vollzeit.Neben einer abwechslungsreichen Aufgabe erwartet Sie ein Arbeitsvertrag mit übertariflicher Bezahlung, sowie eine beruf... Mehr anzeigen

Czech AI Evaluation Expert | Germany, Essen

Cross Border TalentsStuttgart, Germany
Quick Apply

Bachelors degree, valid work permit for Germany.As soon as possible limited vacancies, apply fast!.Competitive salary + signing bonus .Apply here or send your CV in English to.AI Prompt Evalua... Mehr anzeigen

Data & Cloud Integration Engineer (m/w/d)

Heinrich Schmid Systemhaus GmbHReutlingen, Baden-Württemberg, DE

Data & Cloud Integration Engineer (m/w/d) in Reutlingen.Menschen an mehr als 200 Standorten setzen sich jeden Tag bei der familiengeführten Unternehmensgruppe Heinrich Schmid dafür ein, dass Handwe... Mehr anzeigen

PreMaster im Bereich Semiconductor Volume Forecast, -Allocation & Planning Scenarios (w/m/div.)

Bosch GruppeReutlingen, Baden-Württemberg, Germany

Lesen Sie den Überblick über dieses Stellenangebot, um zu verstehen, welche Fähigkeiten, einschließlich relevanter Soft Skills und Softwarepaket-Kenntnisse, erforderlich sind.Möchten Sie Ihre Ideen... Mehr anzeigen

 • Gesponsert

Senior Messaging Engineer

STRABAG BRVZ GMBH & CO.KGStuttgart, Federal Republic Of Germany, DE

Job DescriptionSenior Messaging Engineer (M365 / Email Infrastructure) (m/w/d)\ NSTRABAG BRVZ GMBH & CO.KG\ N Direktanstellung (mit Berufserfahrung)\ NStuttgart\nJOB-ID: 1021\ NSenior Messaging... Mehr anzeigen

 • Gesponsert

Fixed Term or Freelance Recruiters (Europe)

David Kennedy RecruitmentStuttgart, Baden-Württemberg, Germany

Hey there! David Kennedy Recruitment is on the lookout for an amazing Freelance Recruitment Partner to join our team.If you're a true hunter and love connecting talented individuals with our client... Mehr anzeigen

Senior Verification Engineer

TechBiz Global GmbHStuttgart, BW, DE

At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio.If you're looking for an exciting opportunity to grow in a innovative environment, this could be the pe... Mehr anzeigen