Talent.com
Mindrift
Senior Python Engineer - AI Coding Agent Evaluation (Freelance)Mindrift • Frankfurt am Main, HE, DE
Es werden keine Bewerbungen mehr angenommen
Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Mindrift • Frankfurt am Main, HE, DE
Vor 21 Tagen
Anstellungsart
  • Homeoffice
  • Quick Apply
Stellenbeschreibung

Please submit your CV in English and indicate your level of English proficiency.


Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.What this opportunity involves:
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.


You'll create challenging tasks and evaluation criteria within realistic simulated environments:

  • Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
  • Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
  • Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
  • Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust

What this is NOT:

  • Not data labeling
  • Not prompt engineering
  • Not writing code from scratch - the agent writes most of the code; you guide and evaluate

What we look for:

  • 8+ years in software development
  • Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
  • Experience writing tests (functional, integration)
  • English proficiency - B2+

Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.

How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paidEffort estimate


Tasks for this project are estimated to take 30 hours to complete, depending on complexity. This is an estimate and not a schedule requirement; you choose when and how to work. Tasks must be submitted by the deadline and meet the listed acceptance criteria to be accepted.

Compensation:
Up to $200/hr equivalent, depending on level and pace. Tasks are estimated at ~30 hours each; you set your own schedule.

Jobalert für diese Suche erstellen

Senior Python Engineer - AI Coding Agent Evaluation (Freelance) • Frankfurt am Main, HE, DE

Ähnliche Stellen

Senior Software Engineer - QuantumBlack, AI by McKinsey

QuantumBlack, AI by McKinseyfrankfurt, hesse, Deutschland

Driving lasting impact and building long–term capabilities with our clients is not easy work.You are the kind of person who thrives in a high performance/high reward culture – doing hard things, pi... Mehr anzeigen

 • Gesponsert

Associate Data Analytics (m/w/d), AI + Innovation

FGS Globalfrankfurt, hesse, Deutschland

FGS Global berät die einflussreichsten Entscheider:innen der Welt, genau dort, wo Wirtschaft, Politik und öffentliche Meinung aufeinandertreffen.Wir unterstützen CEOs, Aufsichtsräte und Führungstea... Mehr anzeigen

 • Gesponsert

Data Engineer als Senior Berater Projektmanagement & Kundenlösungen (m/w/d)

ISR Information Products AGFrankfurt am Main, DE

Du hast Freude an Innovationen, spannenden Inhalten und kollegialem Teamspirit? Mit unseren Berater:innen wächst du mit deinen Aufgaben und lernst von unseren Expert:innen.Gemeinsam beraten wir uns... Mehr anzeigen

 • Gesponsert

Field Solutions Architect, Generative AI, Google Cloud

Googlefrankfurt, hesse, Deutschland

Bachelor’s degree in Engineering, Computer Science, a related field, or equivalent practical experience.Candidates will typically have 8 years of experience in technical project management, stakeho... Mehr anzeigen

 • Gesponsert

Masterand – Agentic AI: Talk to Your Data (m/w/d)

BearingPointfrankfurt, hesse, Deutschland

Attraktive Vergütung: Als Fair Company bieten wir dir ein faires Gehalt.Berufliches Netzwerk: Du baust dir ein berufliches Netzwerk in einem international geprägten Umfeld auf – damit setzt du ein ... Mehr anzeigen

 • Gesponsert

AI & Data Operations Engineer (m/w/d)

Dr. Dienst & PartnerFrankfurt am Main, Hessen, DE

Mehr als 300 Kolleginnen und Kollegen arbeiten bei uns zusammen an spannenden nationalen und internationalen Mandaten.Du kannst dich auf einen sicheren Arbeitsplatz mit abwechslungsreichen Aufgaben... Mehr anzeigen

Cloud Architect / Lead AWS Infrastructure Engineer (w/m/d)

AWESOME! Softwarefrankfurt, hesse, Deutschland

Unser Technologie-Stack ist auf AWS ausgerichtet und umfasst Terraform, AWS CDK, Kubernetes/EKS, CI/CD Pipelines, observability tools und moderne Sicherheitslösungen.Mehr zu unserem Stack findest d... Mehr anzeigen

 • Gesponsert

Team Lead IT Data & AI Governance (m/f/d)

KION Groupfrankfurt, hesse, Deutschland

We are expanding our team and are seeking a Team Lead Data & AI Governance (m/f/d) for our headquarters in Frankfurt am Main.Leading global IT Data & AI Governance at the intersection of technology... Mehr anzeigen

 • Gesponsert

AI Developer (m/w/d)

Shift Agency GmbHFrankfurt am Main, Hessen, DE

Zur Verstärkung unseres Teams suchen wir zum nächstmöglichen Zeitpunkt einen AI Developer (m/w/d), der unsere KI-Projekte vorantreibt und in produktionsreife Lösungen überführt.Als Shift Agency AI ... Mehr anzeigen

zeroG - Solution Architect – Data Analytics & AI/GenAI (m/f/d)

Lufthansa Groupfrankfurt, hesse, Deutschland

G - Solution Architect – Data Analytics & AI/GenAI (m/f/d).G - Solution Architect – Data Analytics & AI/GenAI (m/f/d).We're looking for an experienced Solution Architect to join our family of fearl... Mehr anzeigen

 • Gesponsert

AWS Data Automation Engineer

node.energyfrankfurt, hesse, Deutschland

Must have an active Top Secret Security Clearance.Government customer to provide support for onsite incident response to civilian Government agencies and critical asset owners who experience cyber‑... Mehr anzeigen

 • Gesponsert

AI Engineer - Transfer Pricing (w/m/d)

PwC Deutschlandfrankfurt, hesse, Deutschland

AI Engineer - Transfer Pricing (w/m/d).KI-Systeme – Du entwirfst und implementierst wissensbasierte und KI-gestützte Anwendungen, die Expertenwissen skalierbar machen und komplexe Prozesse intellig... Mehr anzeigen

 • Gesponsert

Lead AI Engineer (w/m/d) IT-Consulting

MaibornWolff GmbHfrankfurt, hesse, Deutschland

Dein Herz schlägt für Generative und Agentische KI?.Dich begeistern die zahlreichen Einsatzmöglichkeiten von RAG-basierten Systemen und KI-Agenten in der Industrie? Du möchtest für Kunden individue... Mehr anzeigen

 • Gesponsert

Senior Specialist AI / KI Innovation (m/w/d)

MGRP GmbHFrankfurt am Main, de

Senior Specialist AI / KI Innovation (m/w/d).Deutschlandweit (Fokus Frankfurt am Main) / Österreich.Die Möglichkeit, intern die KI-Strategie einer Managementberatung aktiv mitzugestalten sowie punk... Mehr anzeigen

 • Gesponsert

Team Lead Azure Cloud (w/m/d)

Claranet GmbHFrankfurt am Main, DE

Innovation und stabiler Betrieb sowie Windows und Automatisierung sind keine Gegensätze.Du weißt, dass technische Exzellenz allein nicht reicht: Du hast den Blick für den Markt, erkennst, wo sich K... Mehr anzeigen

 • Gesponsert

Cloud Engineer / Kubernetes (m/w/d)

indivHR | We IT RecruitingFrankfurt am Main, Hessen, Germany

Cloud-native Technologien sind heute ein zentraler Baustein moderner IT-Landschaften – insbesondere dann, wenn skalierbare, stabile und zukunftsfähige Plattformen gefragt sind.Für ein international... Mehr anzeigen

Senior Cloud-Infrastructure Engineer (w/m/d)

finanzen.net zero GmbHFrankfurt, Karlsruhe, Berlin, München, DE

Neobroker für kostengünstigen Wertpapierhandel.Anbieter von Finanzinformationen und Trading-Tools für semi-professionelle Investoren und die, die es werden wollen.We strive to be the best partner f... Mehr anzeigen

 • Gesponsert

Senior Architect Confidential Computing & Encryption (m/w/d)

CANCOM SEfrankfurt am main, Deutschland

Bei CANCOM erwartet dich ein innovatives, agiles und nachhaltiges Umfeld: Mehr als 5.Mitarbeiter arbeiten tagtäglich daran, mit Hilfe moderner IT-Lösungen die Zusammenarbeit und den Austausch in ve... Mehr anzeigen