AI Engineer, Production Software (m/w/d)

Job Responsibilities

• Du entwickelst KI-Anwendungen auf Basis von Large Language Models, z. B. RAG-Systeme, Agenten und Assistenzfunktionen, und schreibst dabei selbst produktiven Code.
• Du wirkst an der Architektur von KI-Systemen mit: Datenflüsse, Retrieval, Prompting, Tool-Anbindung und Schnittstellen zu bestehenden Produkten.
• Du wählst passende Modelle aus (kommerziell und Open Source) und bewertest sie nach Qualität, Kosten, Latenz und Datenschutz.
• Du passt Modelle bei Bedarf an, z. B. durch Fine-Tuning, Embedding-Optimierung oder Distillation.
• Du baust Evaluations-Pipelines und Testsets, mit denen wir die Qualität von KI-Funktionen messbar und reproduzierbar machen.
• Du bringst Lösungen in Produktion und betreibst sie: APIs, Deployment, Monitoring, Observability und Kostenkontrolle (MLOps/LLMOps).
• Du optimierst Performance und Skalierung, etwa durch Caching, Batching oder die Wahl der Inferenz-Infrastruktur.
• Du sorgst für Sicherheit und Compliance, z. B. Schutz vor Prompt Injection, sicherer Umgang mit Kundendaten und Anforderungen des EU AI Act.
• Du verfolgst neue Entwicklungen im KI-Bereich, testest sie in Prototypen und bringst deine Ideen ins Team ein. Deine Aufgaben – Nähe zum Produkt
• Du bringst deine technische Sicht in Refinements ein und schätzt Aufwände ab.
• Du lernst Kundenanforderungen kennen, z. B. in Terminen mit Fachbereichen.
• Du hilfst mit, den Nutzen von KI-Funktionen nach dem Release zu messen. Qualifications

Dein Profil

• Abgeschlossenes Studium (Bachelor oder Master) in Informatik, Mathematik, Data Science oder vergleichbare Qualifikation
• Erste praktische Erfahrung mit LLM-basierten Anwendungen, z. B. aus Praktika, Werkstudententätigkeit, Abschlussarbeit oder eigenen Projekten
• Gute Python-Kenntnisse und erste Erfahrung mit KI-Frameworks, Modell-APIs oder Vektordatenbanken
• Solides Verständnis von Machine-Learning-Grundlagen und den Grenzen von LLMs
• Grundkenntnisse in Cloud-Plattformen (z. B. Azure, AWS oder GCP), Git und Containern
• Offenheit für Produktthemen und Interesse daran, wie unsere Kunden KI nutzen
• Teamfähigkeit und Freude am Austausch mit anderen Disziplinen
• Sehr gute Englischkenntnisse

Das wäre ein Plus

• Erste Berührungspunkte mit Produktmanagement oder agilen Methoden (z. B. Scrum)
• Erfahrung mit Open-Source-Modellen im Self-Hosting oder mit Agenten-Frameworks
• Branchenwissen in Industrie, Fertigung, Geodaten oder Engineering-Software

#LI-MI1