AI Engineer / KI-Entwickler: Aufgaben, Gehalt

Autor

Florenz Klasen (Wirtsch.-Ing.)

Partner, Senior HR Consultant

Inhaltsverzeichnis

Suchen Sie Personal?

PERSONAL FINDEN

Das Wichtigste in Kürze

Rolle: Ein AI Engineer entwickelt, trainiert und betreibt produktive KI-Systeme.
Gehalt: Marktdurchschnitt 70.000 bis 110.000 Euro, Einstieg ab rund 55.000, Leads darüber.
Nachfrage: Seit 2024 zählt AI Engineering zu den gefragtesten Funktionen im Tech-Recruiting.

Ein AI Engineer, auf Deutsch KI-Entwickler und teilweise auch KI Engineer oder AI Entwickler genannt, entwickelt, trainiert und betreibt produktive Systeme der Künstlichen Intelligenz. Seine Arbeit beginnt dort, wo die Forschung aufhört. Er muss Machine-Learning-Modelle und Large Language Models in einen Zustand bringen, in dem sie unter Last zuverlässig laufen, und arbeitet damit an der Nahtstelle zwischen Data Science, Softwareentwicklung und Produktverantwortung. Der Beitrag beschreibt Aufgaben, Qualifikationen und Gehalt dieser Position.

AI Engineer: Key Facts

Was macht ein AI Engineer?

Ein AI Engineer begleitet eine KI-Anwendung vom ersten Datensatz bis in den Betrieb, also von der Datenaufbereitung bis zum Monitoring im laufenden System. Der größte Aufwand liegt dabei in der Regel nicht im Training, sondern davor bei den Daten. Im Tagesgeschäft arbeitet er zwischen Data Engineering und Softwareentwicklung und muss sich laufend mit dem Fachbereich abstimmen. Am Ende sollen Systeme im Wirkbetrieb stehen, und das kann von der Bilderkennung in der Fertigung über Assistenzsysteme auf internen Wissensbeständen bis zu weiteren KI-Anwendungen reichen.

Welche Skills braucht ein AI Engineer?

Vorausgesetzt wird in der Regel ein technisches Studium, am häufigsten Informatik oder Mathematik. Dazu muss ein AI Engineer belastbar programmieren können und sollte mit den gängigen ML-Frameworks gearbeitet haben. Sobald Modelle nicht nur trainiert, sondern auch in Betrieb genommen werden, kommen Kenntnisse in Architektur und Datenmodellierung dazu. Praxis mit Sprachmodellen im Produktivbetrieb wird inzwischen fast überall erwartet, und nicht mehr nur bei spezialisierten Anbietern. Eng verzahnt ist die Arbeit mit Rollen wie GenAI Engineer, MLOps Engineer oder Head of AI Innovation.

Wie viel verdient ein AI Engineer?

Der Marktdurchschnitt für AI Engineers liegt in Deutschland zwischen 70.000 und 110.000 Euro brutto pro Jahr. Berufseinsteiger starten bei ca. 55.000 Euro, während Lead AI Engineers und AI Architects deutlich darüber liegen. Für Erfahrung mit Sprachmodellen oder mit MLOps werden zusätzlich spürbare Aufschläge gezahlt. Die Einzelheiten dazu finden Sie weiter unten.

Wo arbeiten AI Engineers?

AI Engineers werden branchenübergreifend gesucht, allerdings nicht überall gleich stark. Die meisten Stellen entstehen bei Tech- und Cloud-Anbietern sowie in der Industrie und im Automotive-Bereich. Finanzdienstleister, Versicherer und das Gesundheitswesen ziehen zwar nach, sie arbeiten dort aber unter deutlich strengeren regulatorischen Auflagen. Weil es mehr Stellen als Kandidaten gibt, steigen die Gehälter und die Entscheidungswege werden kürzer.

AI Engineer / KI-Entwickler: Steckbrief mit den wichtigsten Eckdaten der Rolle

Was macht ein AI Engineer? Aufgaben und Tätigkeiten

Die Aufgaben eines AI Engineers waren früher auf mehrere Rollen verteilt, weil sich Data Scientist, Machine Learning Engineer und Softwareentwickler diese Arbeit geteilt haben. In vielen Unternehmen liegt sie heute in einer Hand, sodass der Zuschnitt der Stelle je nach Größe und Reifegrad der Organisation ziemlich unterschiedlich ausfällt. Der Unterschied zur Forschung liegt im Wort produktiv, denn ein Modell im Notebook reicht nicht aus. Die Tätigkeiten lassen sich grob in die folgenden Bereiche einteilen.

Anforderungsanalyse und Use-Case-Entwicklung: Der AI Engineer übersetzt die fachlichen Anforderungen aus den Abteilungen in technische Lösungsansätze. Zunächst muss er allerdings bewerten, ob sich ein KI-Use-Case überhaupt lohnt, ob die nötigen Daten vorhanden sind und ob am Ende jemand im Haus das Ergebnis auch tatsächlich benutzen wird. An der Modellarchitektur scheitert das selten, häufiger an der Datenlage oder an Erfolgskriterien, die im Vorfeld niemand festgelegt hat. Prototypen und Machbarkeitsstudien entstehen meistens in genau dieser Phase.
Datenaufbereitung und Feature Engineering: Daten sind die Grundlage jeder KI-Lösung. Gemeinsam mit den Data Engineers muss der AI Engineer deshalb die Datenqualität prüfen, Altbestände bereinigen, Trainings- und Testsets aufbauen und dokumentieren, woher welcher Datensatz stammt. Ohne diese Dokumentation lässt sich später weder ein Ergebnis nachvollziehen noch ein Fehler zurückverfolgen. Am Ende muss die Pipeline reproduzierbar sein, und in der Praxis liegt hier der größte Teil des Aufwands.
Modellauswahl, Training und Fine-Tuning: Je nach Anwendungsfall muss der AI Engineer entscheiden, ob ein klassisches ML-Verfahren, eine Deep-Learning-Architektur oder ein vortrainiertes Foundation Model die richtige Wahl ist. Ein Modell von Grund auf zu trainieren, lohnt sich nur noch selten. Bei generativen Anwendungen verschiebt sich der Schwerpunkt ohnehin in Richtung Retrieval-Augmented Generation, Fine-Tuning bestehender Sprachmodelle und agentischer Systeme, die mehrere Werkzeuge selbständig aufrufen. Deren Verhalten lässt sich deutlich schwerer testen als das eines klassischen Klassifikators.
MLOps, Deployment und Inferenz: Ein produktives KI-System braucht verlässliche Pipelines für Training, Versionierung, Deployment, Monitoring und Re-Training. Welche Werkzeuge dabei zum Einsatz kommen, hängt vom Stack des jeweiligen Unternehmens ab, das Ziel bleibt aber dasselbe. Die Inferenz muss auch bei wachsender Last tragen, und die Kosten müssen kalkulierbar bleiben, was bei Sprachmodellen schnell zu einer eigenen Disziplin werden kann.
Evaluation und Qualitätssicherung: Woran der Erfolg gemessen wird, muss der AI Engineer in der Regel selbst festlegen, und das ist häufig die schwierigste Abstimmung im ganzen Projekt. Dazu kommt, dass er die Modelle auf Verzerrungen prüfen sollte. Im laufenden Betrieb muss er beobachten, ob die Vorhersagequalität abdriftet, und dabei die Vorgaben aus Datenschutz und Sicherheit einhalten.
Integration in Produkte und Prozesse: Ein Modell nützt erst dann etwas, wenn es irgendwo angebunden ist. Das kann eine Web-Anwendung sein, ein ERP-System oder eine Anlage in der Produktion. Der AI Engineer muss dafür die APIs, die Schnittstellen und die Servicegrenzen festlegen.
Betrieb, Monitoring und kontinuierliche Verbesserung: Nach dem Go-Live behält der AI Engineer die Modellperformance, die Datenqualität und die Systemstabilität im Blick. Wenn die Ergebnisse abdriften, trainiert er nach oder justiert die Hyperparameter. Vieles davon zeigt sich erst im Betrieb, etwa wenn sich die Eingangsdaten nach einem Update des Vorsystems ändern.
Wissensaustausch und Beratung: Ein AI Engineer berät häufig auch die Fachbereiche. Er muss ihnen erklären können, was aktuelle KI-Verfahren leisten und wo ihre Grenzen liegen, und er unterstützt das Unternehmen dabei, seine KI-Strategie weiterzuentwickeln.

Sechs Kernaufgaben des AI Engineers: KI-Backend, APIs, agentische Systeme, Frontend, MLOps-Pipelines, Cloud-Integration.

Abgrenzung: AI Engineer, Machine Learning Engineer und Data Scientist

In vielen Stellenausschreibungen werden die Begriffe AI Engineer, ML Engineer und Data Scientist synonym verwendet. Wer die Rolle falsch zuschneidet, merkt das in der Regel erst im laufenden Prozess. Data Scientists bewerben sich dann auf AI-Engineer-Stellen und scheitern an der Betriebsfrage, während sich Engineers in Rollen langweilen, die vor allem Analysen liefern sollen. Auch das Gehaltsband hängt an dieser Zuordnung.

Rolle	Fokus	Typische Outputs	Anforderungsschwerpunkt
Data Scientist	Analyse, Hypothesen, Forschung	Modelle, Notebooks, Reports, Empfehlungen	Statistik, Domänenwissen, Visualisierung
Machine Learning Engineer	Produktive ML-Systeme, Skalierung	Trainings-Pipelines, Modell-APIs, MLOps	Software Engineering, MLOps, Cloud
AI Engineer	End-to-End KI-Lösungen, generative KI	LLM-Anwendungen, RAG-Architekturen, KI-Agenten	LLM, Vektordatenbanken, MLOps, Architektur
AI Architect / Head of AI	KI-Strategie, Plattform, Team	Roadmap, Architektur, Governance	Strategie, Architektur, Führung

AI Engineer und Machine Learning Engineer lassen sich seit dem Aufstieg der generativen KI kaum noch sauber trennen. In den Stellenprofilen zeigt sich der Unterschied trotzdem, denn beim AI Engineer stehen die Sprachmodelle im Mittelpunkt und beim ML Engineer die klassische Trainingspipeline. In kleinen Teams macht ohnehin dieselbe Person beides, und wer aus einem solchen Team kommt, hat in der Regel die breitere Erfahrung.

Aus der TechMinds-Praxis: AI Engineer ist ein Sammelbegriff. In unseren Briefings der letzten Jahre standen hinter dem Titel drei verschiedene Rollen. Der eine baut Pipelines, der zweite arbeitet an generativen Anwendungen, der dritte führt das KI-Team an der Schnittstelle zum Produkt. Ein Robotik-Startup sagte im Briefing sehr deutlich, dass es keinen Modellforscher wollte. Gesucht war ein Softwareentwickler mit Python, PyTorch und Erfahrung im Pipeline-Bau. Diese Zuordnung vorab spart in der Suche mehrere Wochen.

Was muss ein AI Engineer können? Qualifikationen und Skills

Das Anforderungsprofil hat sich zuletzt deutlich erweitert. Klassisches ML-Wissen allein reicht heute selten aus, weil in den meisten Ausschreibungen auch Praxis mit vortrainierten Modellen erwartet wird und immer häufiger noch agentische Systeme dazukommen. In einem Mandat für ein Versicherungsunternehmen stand im Profil zuerst nur Machine Learning, nach vier Wochen kam RAG dazu.

Studium: Genannt werden in den Ausschreibungen meistens Informatik oder Mathematik, daneben Physik, Computational Linguistics, Data Science, Statistik und die Ingenieurwissenschaften. Welches Fach vorne steht, schwankt von Unternehmen zu Unternehmen. In der Praxis besteht kaum jemand auf einer bestimmten Fachrichtung, solange die Grundlagen sitzen. Eine Promotion braucht nur, wer forschungsnah arbeiten möchte. Auch Quereinsteiger aus der Softwareentwicklung kommen ohne einschlägigen Abschluss durch, wenn sie ein produktives Projekt vorweisen können, das tatsächlich jemand benutzt.
Programmierkenntnisse: Python ist die Arbeitssprache, dazu kommt SQL für den Zugriff auf die Daten. Je nach Umfeld kommen weitere Sprachen hinzu, in hardwarenahen Projekten häufig C++ oder Rust, in Backend-lastigen Häusern eher Go, Java oder Scala. Wichtiger als die Zahl der Sprachen ist allerdings die Arbeitsweise: Wer nie mit Code-Reviews, mit Testing und mit CI/CD gearbeitet hat, fällt spätestens im technischen Interview auf, und zwar unabhängig davon, wie gut die Modelle sind, die er gebaut hat.
Machine-Learning- und Deep-Learning-Frameworks: Am weitesten verbreitet ist PyTorch. TensorFlow hält sich vor allem dort, wo ältere Systeme laufen. Für klassische Verfahren wird scikit-learn genutzt, in forschungsnahen Teams gelegentlich auch JAX. Rund um Sprachmodelle kommen Bibliotheken wie Hugging Face Transformers, LangChain oder LlamaIndex dazu, für den Betrieb vLLM oder Ray. Diese Werkzeuge lösen sich schneller ab, als die meisten Lebensläufe nachziehen können. Die Transformer-Architektur sollte ein AI Engineer trotzdem erklären können.
Large Language Models und generative KI: Erwartet wird Erfahrung mit den führenden Foundation Models. Dazu kommt das Prompt-Engineering, und in vielen Ausschreibungen steht inzwischen auch RAG, also die Kombination eines Sprachmodells mit den eigenen Unternehmensdaten. Immer häufiger wird zusätzlich Tool-Use verlangt, teilweise zusammen mit Function Calling. Wer schon einmal ein Modell auf eigene Daten angepasst hat, hat im Gespräch einen spürbaren Vorsprung.
MLOps und Cloud: Die Infrastruktur für Training und Inferenz läuft in der Regel bei einem der großen Anbieter, also bei AWS, bei Microsoft Azure oder bei Google. Welche Werkzeuge darauf eingesetzt werden, unterscheidet sich von Haus zu Haus. Für das Nachverfolgen von Experimenten wird meistens MLflow genannt, in einigen Teams auch Weights & Biases. Für die Orchestrierung der Trainingsläufe steht häufig Kubeflow im Profil. Wenn ein Modell ausgeliefert werden soll, kommt entweder BentoML zum Einsatz oder die Plattform des jeweiligen Anbieters. Docker und Kubernetes tauchen in den Profilen kaum noch als eigener Punkt auf, weil sie zur Grundausstattung gehören.
Datenarchitektur und Vektordatenbanken: Ein Modell ist nur so verlässlich wie die Pipeline, die es mit Daten versorgt. Für diese Pipelines wird in den Ausschreibungen am häufigsten Airflow genannt, in moderneren Teams auch Dagster. Wo die Aufbereitung im Data Warehouse stattfindet, taucht zusätzlich dbt auf. Für RAG-Anwendungen braucht ein AI Engineer außerdem einen Vektorspeicher, und dafür kommen je nach Haus Pinecone, Weaviate oder Qdrant infrage. In einer bestehenden PostgreSQL-Landschaft reicht häufig pgvector. Wenn die Daten laufend nachfließen und nicht einmal im Monat geladen werden, kommt eine Streaming-Komponente dazu.
Mathematische und statistische Grundlagen: Ohne lineare Algebra lässt sich nicht nachvollziehen, was ein Modell beim Rechnen tut, und ohne Wahrscheinlichkeitsrechnung nicht, wie sicher ein Ergebnis ist. Die Grundlagen der Optimierung erklären, warum ein Training konvergiert oder eben nicht. Und ein AI Engineer sollte sagen können, was eine Metrik aussagt und wo ihre Grenzen liegen.
Sicherheit, Compliance und Ethik: Der EU AI Act hat diesen Punkt aus dem Anhang nach vorne geholt. In Banken und im Gesundheitswesen muss jede Modellentscheidung erklärbar und auditierbar sein. Guardrails begrenzen deshalb, was ein Modell ausgeben darf. Im Red Teaming wird vorab geprüft, wie es sich unter Angriffen verhält. Beides steht dort inzwischen im Pflichtenheft, auch wenn die Umsetzung in vielen Häusern noch am Anfang steht.
Soft Skills: Der häufigste Ablehnungsgrund in unseren Prozessen ist nicht fachlicher Natur. Kandidaten scheitern daran, dem Fachbereich zu erklären, was ein Ergebnis bedeutet und warum eine Zahl mit Unsicherheit behaftet ist, ohne dass die Zuhörer nach zwei Minuten abschalten. Wer offen sagt, was eine Anwendung nicht leisten kann, kommt in der Regel weiter.
Kontinuierliches Lernen: Die Werkzeuge in diesem Feld wechseln schnell, deshalb interessiert Arbeitgeber, welche davon jemand zuletzt erprobt hat und warum er sich ausgerechnet dafür entschieden hat.

Anforderungen an einen AI Engineer: KI/ML- und GenAI-Wissen, Python-Backend-Praxis, Daten- und Cloud-Praxis, MLOps.

Wie viel verdient ein AI Engineer? Gehalt

Die Vergütung im AI Engineering liegt deutlich über vergleichbaren Rollen im Software Engineering. Marktstudien berichten von einem Aufschlag zwischen 15 und 25 % gegenüber klassischen Entwicklerrollen, wobei dieser Aufschlag stark davon abhängt, wie weit die KI-Anwendungen im jeweiligen Unternehmen schon im Betrieb angekommen sind und nicht nur als Projekt laufen. Treiber sind die angespannte Verfügbarkeit und der hohe technische Anspruch dieser Position.

Innerhalb des Marktdurchschnitts von 70.000 bis 110.000 Euro fächert sich die Spanne stark nach Erfahrungsstufe auf. Junior AI Engineers mit bis zu zwei Jahren Erfahrung starten bei ca. 55.000 bis 70.000 Euro. Wer End-to-End-Verantwortung trägt, kommt als Senior auf 90.000 bis 120.000 Euro. Lead AI Engineers, die zusätzlich ein Team führen und die Architekturentscheidungen verantworten, bewegen sich zwischen 115.000 und 150.000 Euro, während AI Architects und Heads of AI noch darüber liegen. Nach oben ist die Spanne offen: In Konzernen, in Tech-Scaleups und in regulierten Branchen sehen wir für LLM- und GenAI-Spezialisten Gesamtpakete von 200.000 Euro und mehr, in der Regel ergänzt um Boni und Beteiligungsprogramme.

Ob ein Angebot am oberen oder am unteren Rand liegt, entscheidet vor allem der Reifegrad: Wo KI-Anwendungen bereits im Betrieb laufen, wird anders gezahlt als dort, wo gerade der erste Anwendungsfall geprüft wird.

AI Engineer / KI-Entwickler: Gehalt nach Berufserfahrung und Verantwortung

Einordnung: In der TechMinds Gehaltsstudie IT & Engineering steht diese Rolle auf der Ebene Senior Professional im Fachbereich Data & AI. Dort lassen sich die Gehaltsspannen aller 162 Tech-Rollen vergleichen.

Marktlage und Recruiting-Erfahrungen von TechMinds

Seit 2024 gehört AI Engineering zu den am stärksten nachgefragten Funktionen im Tech-Recruiting. Was hier steht, stammt aus eigenen Such- und Besetzungsprojekten in der DACH-Region, darunter ein Senior Software Engineer für ein AI-Robotics-Startup in München und eine Team-Lead-Rolle für Pricing-Algorithmen im E-Commerce.

Der erreichbare Markt ist deutlich kleiner, als die Zahl der Ausschreibungen vermuten lässt, denn ein großer Teil der Gesuchten ist mit der aktuellen Position zufrieden und schaut sich gar nicht um. Weil viele AI Engineers nicht aktiv suchen, führt der Weg über das eigene Netzwerk und die diskrete Direktansprache. TechMinds greift dafür auf eine eigene Datenbank mit über 100.000 Kandidaten und auf spezialisierte Kandidaten-Pools in den Business-Plattformen der DACH-Region zurück, für jedes Projekt ergänzt um eine frische Direktansprache und um Initiativbewerbungen. Weil die Such-Strings, die Vorqualifizierung und die Ansprache auf genau diese Zielgruppe zugeschnitten sind, kommen im Schnitt rund 50 % mehr relevante Profile zusammen.

In den Projekten zeichnen sich klare Muster ab. Ein AI Engineer entscheidet sich für einen neuen Arbeitgeber häufig nicht in erster Linie über das Gehalt. Wichtiger sind ihm die Aussicht auf KI-Anwendungen, die tatsächlich produktiv genutzt werden, eine moderne technische Infrastruktur und ein Team, das etwas vorhat. Gefragt wird deshalb fast immer zuerst nach dem Use-Case, und wer an dieser Stelle keinen geschäftskritischen Anwendungsfall benennen kann, verliert das Gespräch früh. Danach kommt die Infrastruktur zur Sprache, also die verfügbaren GPU-Ressourcen, die MLOps-Plattform und die Frage, ob es eine Datenstrategie gibt oder nur ein gewachsenes Data Warehouse. Mitsprache bei den Architekturentscheidungen ist vielen wichtiger als ein paar tausend Euro mehr im Jahr. Flexible Arbeitsmodelle und ein zugesagtes Weiterbildungsbudget nennt fast jeder, allerdings selten an erster Stelle.

Wie wird man AI Engineer?

In diesen Beruf führen mehrere Wege. Was sie verbindet, ist ein Praxisbezug, der sich nachweisen lässt, denn Theorie allein reicht in diesem Feld schon lange nicht mehr aus. Wer eine Anwendung schon einmal in den Betrieb gebracht hat, kann das an Details festmachen: an der Antwortzeit, an den Kosten je Anfrage, am ersten Rollback nach einem Modellwechsel.

Studium und Softwarehandwerk

Am Anfang steht meistens ein Studium der Informatik oder der Mathematik. Daneben führen Data Science, Computational Linguistics, Physik und die Ingenieurwissenschaften in den Beruf, gern mit einem Schwerpunkt in Machine Learning oder Statistik. Mindestens ebenso wichtig ist das Handwerk der Softwareentwicklung. Wer Python beherrscht, mit Git arbeitet und weiß, wozu Tests und eine Deployment-Strecke gut sind, bringt die Grundlage mit, auf der alles Weitere aufsetzt.

Praxisprojekte und MLOps

Eigene Projekte zählen bei vielen Arbeitgebern mehr als Zertifikate. Das kann ein Beitrag zu einem Open-Source-Projekt sein, ein Kaggle-Wettbewerb oder ein dokumentiertes Praktikum. Besonders gefragt ist alles, was schon einmal jemand benutzt hat, der nicht selbst daran gebaut hat, also eine produktive Anwendung mit einem Sprachmodell oder eine RAG-Architektur. Dazu sollte Erfahrung mit einer der großen Cloud-Plattformen kommen und mit den Werkzeugen, mit denen Modelle dort ausgeliefert und überwacht werden.

Branchenwissen und Weiterbildung

Für Schnittstellenrollen zahlt sich Branchenwissen aus. In der Energiewirtschaft geht es um Netzdaten und Prognosen, im Finanzbereich um die Nachvollziehbarkeit gegenüber der Aufsicht, in der Medizintechnik um Zulassungen. Wer die Datenstruktur und die Regeln seines Feldes kennt, kann bei den Konditionen besser verhandeln. Und weil sich die Werkzeuge hier schnell ändern, gehören Konferenzen und neue Modellreleases ohnehin zum Alltag.

Team-Meeting der TechMinds Personalberatung im Konferenzraum, Präsentation von Kennzahlen

Florenz Klasen, Headhunter bei TechMinds, telefoniert konzentriert am Schreibtisch im modernen Büro.

Headhunterin bei TechMinds telefoniert und notiert Informationen an einem modernen Büroarbeitsplatz.

Ihr Headhunter für AI Engineers

Über Stellenanzeigen findet man diese Kandidaten selten, denn wer gut ist, wird ohnehin laufend angesprochen und hat wenig Anlass, sich irgendwo zu bewerben. TechMinds setzt deshalb auf das eigene Netzwerk und die strukturierte Direktansprache im Tech-Umfeld, auf methodische Qualifikationsgespräche und auf eine digitale, interaktive Shortlist, die alle Beteiligten an einem Ort einsehen können. Das erste Interview zwischen Ihnen und einem vorgestellten Kandidaten findet im Durchschnitt bereits nach 23 Tagen statt. Sprechen Sie uns gerne an, wir beraten Sie vertraulich zu Ihrer AI-Vakanz. Den passenden Suchpartner dafür finden Sie im Bereich Headhunter für KI & Machine Learning.