Ein MLOps Engineer arbeitet an der Nahtstelle zwischen Data Science und IT-Operations. Er baut die Infrastruktur, mit der Machine-Learning-Modelle überhaupt in den Produktivbetrieb kommen, und er automatisiert die Pipelines für Training und Deployment. Vor allem aber muss er dafür sorgen, dass die Modelle im laufenden Betrieb stabil bleiben. Dadurch können KI-Lösungen schneller an den Markt gebracht werden, und die technischen Risiken sinken, weil die Prozesse standardisiert und reproduzierbar sind. Im Folgenden erfahren Sie, welche Aufgaben ein MLOps Engineer hat, welche Qualifikationen er mitbringen sollte und wie viel er verdient.
Ein MLOps Engineer baut und betreibt End-to-End-ML-Pipelines, also den ganzen Weg vom Training über das Deployment bis zum Monitoring, damit KI-Modelle produktiv genutzt werden können.
Er arbeitet meistens im Team für Data Science, AI Engineering oder DevOps. In größeren Unternehmen gibt es inzwischen auch eigenständige MLOps-Teams.
Je nach Firmenstruktur berichtet er an den Leiter Data Science, an den IT-Operations-Manager, an den IT-Leiter oder direkt an den CTO.
Jobtitel und Varianten (je nach Organisation)
| Variante |
Wann sinnvoll |
| Machine Learning Operations Engineer |
Wenn „MLOps“ intern noch wenig bekannt ist |
| ML Platform Engineer / AI Platform Engineer |
Wenn Plattform und Enablement im Vordergrund stehen |
| DevOps Engineer (Machine Learning) / DevOps for AI |
Wenn das DevOps-Team die Rolle aufnimmt |
| LLMOps Engineer / GenAI Ops Engineer |
Wenn der GenAI- und LLM-Betrieb zentral ist |
| Applied ML Engineer (Production/Deployment) |
Wenn Produktisierung statt Forschung im Fokus steht |
Zusammenarbeiten muss ein MLOps Engineer mit vielen Bereichen, nämlich mit Data Scientists, ML Engineers, Data Engineers und Software Engineers, dazu mit den Platform-, DevOps- und SRE-Teams sowie mit Security und Compliance. Er ist damit dasjenige Bindeglied, das die Modellentwicklung mit dem stabilen Betrieb verbindet.
MLOps Engineer: Aufgaben und Verantwortlichkeiten
Ein MLOps Engineer begleitet ML-Projekte über den gesamten Lebenszyklus, also von der Entwicklung bis zur produktiven Nutzung. Die wichtigsten Aufgaben haben wir im Folgenden zusammengestellt. Im Projektalltag arbeitet die Rolle eng mit Profilen wie Head of AI Innovation zusammen.
Die Automatisierung steht am Anfang. Der MLOps Engineer muss den Build-, Test- und Deployment-Prozess für die ML-Modelle automatisieren und die entsprechenden Pipelines pflegen. Dazu gehören auch Workflows, mit denen sich Modelle laufend aktualisieren und neu bereitstellen lassen.
Containerisierung und Orchestrierung folgen darauf. ML-Anwendungen werden in der Regel mit Docker containerisiert und anschließend über Kubernetes orchestriert, damit die Deployments auch bei wachsender Last funktionieren.
Cloud- und Infrastrukturmanagement gehören ebenfalls dazu. Der MLOps Engineer plant und verwaltet die Ressourcen für Training und Inferenz, die entweder in der Cloud oder On-Premises liegen können, und bereitgestellt werden sie üblicherweise über Infrastructure as Code, beispielsweise mit Terraform.
Modell- und Datenmanagement sorgen dafür, dass Ergebnisse reproduzierbar bleiben. Modelle und Daten müssen versioniert werden, wofür Werkzeuge wie MLflow oder Kubeflow zum Einsatz kommen. Auch die Datenpipelines für Training und Inferenz sollten möglichst automatisiert laufen.
Monitoring und Logging richtet er ein, damit Probleme früh auffallen, z.B. mit Prometheus, Grafana oder dem ELK-Stack. Überwacht werden Modellperformance, Systemstabilität und Latenzen, und bei Data Drift oder Systemausfällen sollte automatisch ein Alarm ausgelöst werden. Bei generativen Modellen kommen Kosten- und Qualitätsmetriken hinzu, beispielsweise der Tokenverbrauch.
Security und Compliance gehören von Anfang an in den ML-Lifecycle. Der MLOps Engineer führt Code-Reviews und Vulnerability-Scans durch und muss die Datenzugriffsrichtlinien so umsetzen, dass die regulatorischen Vorgaben eingehalten werden, also z.B. die DSGVO.
Die Zusammenarbeit macht den Rest aus. Er stimmt sich eng mit Data Scientists, Data Engineers und den DevOps-Teams ab und unterstützt die Kollegen häufig dabei, Best Practices aus dem MLOps-Umfeld einzuführen.
Aus der TechMinds-Praxis: Als Verantwortung ausschreiben, nicht als Titel. Robotik-Software, generative Medienproduktion, Pricing im Handel, KI-Dienste in der Immobilienwirtschaft: In diesen Briefings kam MLOps vor, aber nie als eigene Stelle. Erwartet wird die Fähigkeit von AI Engineers, Data Engineers und ML-Beratern. Sie sollen Modelle versionieren, ausrollen und im Betrieb überwachen. Schreiben Sie MLOps deshalb als konkrete Verantwortung aus.
Spezialisierungsmöglichkeiten als MLOps Engineer
Wer im MLOps-Umfeld Erfahrung gesammelt hat, kann sich in verschiedene Richtungen weiterentwickeln.
Plattform- und Site Reliability Engineering ist ein möglicher Weg. Dabei baut man entweder unternehmensweite ML-Plattformen auf oder kümmert sich, ähnlich wie ein SRE, vor allem um Verfügbarkeit und Skalierbarkeit.
DevSecOps und MLOps Security sind eine andere Richtung. Hier vertieft man sich in Sicherheitsthemen rund um Machine Learning, also beispielsweise in Security-Tests für Modelle sowie in die Identitäts- und Zugriffskontrolle in den Pipelines.
Als KI-Architekt entwirft man ganzheitliche AI-Architekturen, die mehrere Geschäftsbereiche abdecken.
Teamleitung oder eine Product-Owner-Rolle kommt für alle infrage, die Führungsverantwortung übernehmen möchten. Man leitet dann ein MLOps-Team oder verantwortet bereichsübergreifende KI-Projekte.
Was muss ein MLOps Engineer können? Ausbildung & Qualifikationen
Ein guter MLOps Engineer muss mehrere Kompetenzbereiche abdecken, die wir im Folgenden erläutern.
Ausbildung und Studium bilden die Grundlage. In der Regel wird ein abgeschlossenes Studium in Informatik, Data Science oder Wirtschaftsinformatik erwartet, alternativ eine vergleichbare IT-Ausbildung, z.B. als Fachinformatiker. Wichtiger als der formale Abschluss ist allerdings die praktische Erfahrung mit ML- und DevOps-Themen.
Programmierkenntnisse werden vorausgesetzt. Ein MLOps Engineer muss sehr gut in Python programmieren können, und Kenntnisse in Skriptsprachen wie Bash oder PowerShell sind hilfreich. Erfahrung mit ML-Frameworks wie TensorFlow, PyTorch oder Scikit-Learn wird ebenfalls erwartet.
Cloud-Services sollte er im Detail kennen, und zwar mindestens eine Plattform, also AWS, Azure oder Google Cloud, samt deren ML- und Container-Services wie AWS SageMaker, Azure ML oder GCP AI Platform.
Containerisierung und Orchestrierung braucht er in der Praxis. Erfahrung mit Docker-Containern und mit Kubernetes bzw. ähnlichen Orchestrierungssystemen ist unerlässlich, dazu Wissen über automatisierte Deployments, beispielsweise mit Helm oder ArgoCD. Außerdem sollte er CI/CD-Pipelines aufsetzen können, z.B. mit GitLab CI/CD, Jenkins oder GitHub Actions, und mit Automatisierungswerkzeugen wie Terraform oder Ansible umgehen.
Monitoring und Logging sollte er von der Werkzeugseite kennen, also Prometheus, Grafana, den ELK- bzw. EFK-Stack oder Datadog, sowohl für Anwendungen als auch für ML-Modelle.
Kenntnisse im ML-Lifecycle sind Pflicht. Vertraut sein muss er mit den üblichen ML-Workflows und den zugehörigen Tools, also z.B. mit Kubeflow, MLflow oder Airflow, mit denen sich Training, Testing und Deployment automatisieren lassen.
Daten-Infrastruktur sollte er verstehen, also Datenbanken und Big Data, beispielsweise SQL und NoSQL oder Data Warehousing. Erfahrung mit Datenpipelines im Sinne von ETL bzw. ELT ist von Vorteil.
Eine analytische Denkweise hilft im Alltag. Er sollte strukturiert an Probleme herangehen können und einen sicheren Blick dafür haben, welche Abhängigkeiten in einem komplexen System bestehen.
Kommunikation und Teamwork sind wichtiger, als es zunächst klingt. Weil er ständig mit Data Scientists, Entwicklern und IT-Kollegen zu tun hat, muss er technische Anforderungen verständlich erklären können, damit Lösungen gemeinsam erarbeitet werden.
Proaktivität wird ebenfalls erwartet. Engpässe im ML-Betrieb sollte er selbst erkennen und beseitigen, und neue Ideen für die Automatisierung sollte er auch umsetzen wollen.
Qualitäts- und Sicherheitsbewusstsein gehören zum Selbstverständnis der Rolle, also Sorgfalt bei der Datenqualität und die Einhaltung der Sicherheitsstandards, genauso wie der Anspruch, möglichst viel zu automatisieren.
Lernbereitschaft braucht er nicht zuletzt, denn das KI-Umfeld entwickelt sich schnell und neue ML- und Cloud-Technologien kommen laufend hinzu.
Mit DevOps Engineers und Data Engineers gibt es dabei Überschneidungen, weil auch dort Pipelines im Mittelpunkt stehen. Der MLOps Engineer bringt allerdings zusätzlich die Besonderheiten des Machine Learning in den DevOps-Ansatz ein.
KPIs & Erfolgskriterien eines MLOps Engineers
Gemessen wird die Arbeit eines MLOps Engineers in der Regel an den folgenden Kennzahlen.
Wie produktiv gearbeitet wird, lässt sich daran ablesen, wie viele neue Modelle pro Monat entstehen und wie lange es bis zum Deployment dauert.
Die Deployment-Frequenz zeigt, wie oft neue Modelle und Updates tatsächlich live geschaltet werden.
Bei Modell-Drift oder Systemfehlern wird gemessen, wie schnell das Problem erkannt und behoben wird, also die Mean Time to Detect und die Mean Time to Resolve.
Zur Systemqualität gehören die Genauigkeit der Modelle, die Latenz der Vorhersagen und die Uptime.
Der Automatisierungsgrad gibt an, wie viel Prozent der Prozesse automatisiert ablaufen, also beispielsweise Tests und Deployments.
Bei den Kosten wird geschaut, was eine Vorhersage an Rechenleistung kostet, wie gut die GPUs ausgelastet sind und in welchem Verhältnis die Storage-Kosten zur Leistung stehen.
Außerdem wird geprüft, ob die Governance-Anforderungen erfüllt werden, was sich z.B. an einem Data-Governance-Score ablesen lässt.
Diese Kennzahlen sollten so gewählt werden, dass sich daran ablesen lässt, ob der ML-Betrieb tatsächlich schneller und sicherer geworden ist.
MLOps Engineer Gehalt
Wie viel ein MLOps Engineer verdient, hängt vor allem davon ab, wie viel Erfahrung er mitbringt und wie viel Verantwortung er übernimmt. Daneben spielen die Branche, die Größe des Unternehmens und der Standort eine Rolle. Weil in dieser Position Machine Learning, Cloud und DevOps zusammenkommen, werden erfahrene Profile mit Architektur- oder Plattformverantwortung besser bezahlt als reine Entwicklerrollen.
In Deutschland sind ungefähr die folgenden Jahresgehälter üblich.
Wer als Junior einsteigt und schon etwas Praxis mitbringt, verdient ca. 60.000 bis 75.000 Euro im Jahr, meist in bestehenden Pipelines und mit den Werkzeugen, die im Unternehmen ohnehin laufen.
Pipelines eigenständig aufsetzen und im Betrieb halten gehört nach einigen Jahren zur Erwartung. Das Gehalt liegt dann bei ca. 75.000 bis 95.000 Euro.
Mit Architektur- oder Projektverantwortung als Senior sind ca. 95.000 bis 120.000 Euro üblich, wobei dann seltener einzelne Modelle im Mittelpunkt stehen und häufiger die Frage, wie die Plattform insgesamt gebaut sein sollte.
Als Lead oder Principal MLOps Engineer, der eine Plattform strategisch verantwortet, sind ab ca. 120.000 Euro möglich. Wie hoch das Gehalt am Ende ausfällt, hängt davon ab, wie groß das Unternehmen ist und wie viel Budget an der Position hängt.
Boni und andere variable Bestandteile kommen vor allem in Konzernen, in regulierten Branchen und in stark datengetriebenen Geschäftsmodellen dazu. Regional gibt es ebenfalls Unterschiede, wobei die Gehälter in München, Frankfurt und Berlin in der Regel über dem bundesweiten Durchschnitt liegen.
Einordnung: In der TechMinds Gehaltsstudie IT & Engineering steht diese Rolle auf der Ebene Senior Professional im Fachbereich Data & AI. Dort lassen sich die Gehaltsspannen aller 142 Tech-Rollen vergleichen.
Interview-Fragen für MLOps Engineers
Wie würden Sie einen CI/CD-Prozess für Machine-Learning-Modelle aufsetzen? Und was müsste dabei anders laufen als bei einem klassischen Software-Release?
Was muss alles erledigt sein, damit ein Modell reproduzierbar in Produktion gehen kann?
Woran merken Sie, dass Data Drift oder Model Drift vorliegt? Und was tun Sie dann als Erstes?
Welche Kennzahlen sollte man aus Ihrer Sicht bei einem produktiven ML-System dauerhaft im Blick behalten?
Worin unterscheiden sich cloud-native und On-Premises-Architekturen, wenn ML-Modelle betrieben werden sollen?
Wie stellen Sie sicher, dass in einer MLOps-Pipeline auch die Sicherheitsanforderungen berücksichtigt werden?
Kurzes Anforderungsprofil (Stichpunkte)
ein Studium in Informatik oder Data Science bzw. eine vergleichbare Qualifikation
sehr gute Python-Kenntnisse und Erfahrung mit ML-Frameworks
Praxiserfahrung mit Docker, Kubernetes und CI/CD
fundierte Kenntnisse in AWS, Azure oder GCP
ein Verständnis dafür, wie ML-Lifecycle, Deployment und Monitoring zusammenhängen
eine analytische und strukturierte Arbeitsweise sowie die Bereitschaft, im Team zu arbeiten
TechMinds als Headhunter für MLOps Engineers
MLOps Engineers sind schwer zu finden, weil drei Felder zusammenkommen müssen: Machine Learning, DevOps und Cloud-Architektur. In unseren Suchprojekten meldet sich auf eine ausgeschriebene Stelle kaum jemand von selbst; besetzt werden sie fast ausschließlich über die Direktansprache aus dem eigenen Netzwerk.
TechMinds ist als Recruiting-Boutique mit Tech-DNA auf DevOps- und MLOps-Headhunting spezialisiert. Bei Besetzungen im Bereich MLOps und Data Engineering können Sie mit folgender Unterstützung rechnen. Wie die Suche konkret läuft, erklärt der Headhunter DevOps & MLOps.
strukturierter Anforderungsanalyse und realistischem Marktfeedback
gezielter Netzwerk- und Direktansprache passiver Kandidaten
methodischen Qualifikationsgesprächen durch erfahrene Personalberater
einer qualifizierten, vorselektierten Shortlist geeigneter Profile
transparenter Einschätzung zu Marktverfügbarkeit und Gehaltsbandbreiten
Bewertet werden dabei nicht nur die technischen Kenntnisse, sondern auch Motivation, Cultural Fit und die langfristige Perspektive. Dass sich das auszahlt, sehen wir an unseren Zahlen: Weniger als 3 % der von uns vermittelten Kandidaten verlassen das Unternehmen in der Probezeit. Gerade bei strategischen KI-Positionen hängt es an der Passung, ob eine ML-Plattform dauerhaft erfolgreich betrieben wird.
Grafiken: Die Infografiken dürfen gerne verwendet und geteilt werden. Bitte nennen Sie als Quelle diesen Beitrag oder techminds.de
