(Senior) MLOps Engineer (w/m/d)

Begleite KPMG und unsere Mandant:innen auf ihrer KI-Transformationsreise. In Deiner Rolle als (Senior) MLOps Engineer verantwortest Du den Aufbau, den Betrieb und die kontinuierliche Weiterentwicklung produktiver LLM-basierter Systeme und fungierst als zentrale Ansprechperson für Projektteams während der technischen Implementierung. Deine Arbeit ermöglicht einen effizienten, sicheren und skalierbaren Einsatz generativer KI im Delivery-Bereich und trägt wesentlich zur Operationalisierung unserer AI-Lösungen bei.

Deine Aufgaben

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

• LLMOps & Lifecycle Management: Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
• Produktivsetzung von AI: Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
• Modellintegration & Orchestrierung: Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
• Agentic Skills & Skalierung: Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
• Evaluierung & Qualität: Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
• Daten & Retrieval: Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
• Cloud & Betrieb: Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
• Security & Governance: Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
• Zusammenarbeit & Agilität: Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

• Akademischer Hintergrund: Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
• LLM- und KI-Verständnis: Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
• Technologische Kompetenz: Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
• Cloud-Erfahrung: Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
• Datenverständnis: Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
• Tooling & Frameworks: Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
• Arbeitsweise und Kommunikation: Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

• Willkommen im Team: Damit Du von Beginn an voll bei uns durchstarten kannst, begleiten wir Dich mit strukturierten Onboarding-Maßnahmen während der gesamten Orientierungsphase.
• Vielfältige Karriereperspektiven: Wir legen Wert auf die individuelle Entwicklung Deiner fachlichen und persönlichen Stärken durch strukturierte Entwicklungsgespräche und regelmäßiges Feedback.
• Vereinbarkeit von Beruf und Privatleben: Mit flexiblen Arbeitszeiten, Homeoffice-Option, Zeitkonten und Auszeiten schaffen wir Räume, um Privat- und Berufsleben miteinander zu vereinbaren.
• Fort- & Weiterbildung: Durch regelmäßige Trainings, Workshops und Weiterbildungen entwickelst Du Deine Fähigkeiten stetig weiter. Zudem fördern wir Berufsexamina sowie berufsbegleitende Master-Studiengänge.

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.