Jobriver IT Jobbörse

Machine Learning Operations Engineer (w/m/d)

  • Full-time
  • Frankfurt am Main
  • Hybrid
  • Mid-level
  • Start immediately
  • €61,000 – €83,000 / year

Your tasks

Das Unternehmen ist ein verantwortungsvolles, KI-zentriertes globales Unternehmen im Bereich der digitalen Transformation. Hier wird an fortschrittlichen Lösungen für die Daten- und KI-Transformation gearbeitet, Technologie-Infrastrukturen werden modernisiert und Kernsysteme der nächsten Generation für führende Banken, Versicherungen sowie Industrie- und Robotik-Unternehmen entwickelt. In enger Zusammenarbeit mit den Kunden werden Grenzen verschoben, um deren volles Potenzial auszuschöpfen. Das motivierte Team sucht einen Machine Learning Operations Engineer (w/m/d), der den Aufbau und Betrieb einer Model-Serving-Plattform, wie beispielsweise dem Triton Inference Server, übernimmt. Zu den Aufgaben gehören die Integration unterschiedlichster Modelltypen und Frameworks, die Entwicklung von Inference APIs für Batch- und Streaming-Anwendungen sowie das Design robuster Input- und Output-Schemata für ML-Modelle. Zudem wird die Performance-Optimierung hinsichtlich Latenz, Durchsatz und GPU-Auslastung erwartet. Der Umgang mit Containerisierung und Deployment von Modellen, insbesondere mit Docker und AWS, ist ebenfalls Teil der täglichen Arbeit. Das Unternehmen legt großen Wert auf eine offene Unternehmenskultur, in der Teamspirit und flache Hierarchien gelebt werden. Die Mitarbeiter haben die Möglichkeit, sich kontinuierlich weiterzubilden und an internationalen Projekten mit Experten aus über 20 Ländern zusammenzuarbeiten.

Your profile

Der ideale Kandidat bringt sehr gute Kenntnisse in Python mit, insbesondere im Backend und der ML Runtime. Erfahrung mit ML Inference und Serving, wie Triton oder TorchServe, ist erforderlich. Ein fundiertes Verständnis von Model-Inputs und -Outputs, Batching versus Streaming sowie FP32, FP16 und Quantisierung ist von Vorteil. Der sichere Umgang mit Docker und produktiven Deployments sowie starke Debugging-Fähigkeiten in verteilten ML-Systemen sind ebenfalls wichtig. Grundkenntnisse in CUDA und GPU-Computing werden erwartet. Darüber hinaus sind sehr gute Deutsch- und Englischkenntnisse erforderlich, um effektiv im internationalen Team arbeiten zu können. Persönliche Eigenschaften wie Teamfähigkeit, Kommunikationsstärke und analytisches Denken sind von großer Bedeutung, um in dieser Rolle erfolgreich zu sein.

Tech stack

Tap what you already know – we will show you how well the job fits.

0 %Match

Nothing selected yet.

Also important

TeamworkKommunikationAnalytical thinking GermanEnglish

Sounds like you?

Apply in two minutes – no cover letter required, no account needed.

1
Short skill testA few questions on Python, Docker, AWS – the result is sent to the company with your application.
Loading questions …
2Your details
Which skills do you bring?
CV & documents