Head of AI Engineering (m/w/d) - Schwerpunkt: Agentic Systems & Backend Engineering

Du übernimmst die technische und fachliche Verantwortung für unsere KI-Systeme – vom agentenbasierten Assistenten bis hin zu einer Plattform, auf der unsere Kund:innen eigene Agenten, Aufgaben und Abläufe zusammenstellen können. Das ist bewusst keine reine Management-Rolle: Du arbeitest hands-on am Code, triffst Architekturentscheidungen und baust parallel die Strukturen, Standards und – perspektivisch – das Team auf, mit dem wir unsere KI-Produkte skalieren. Du bist die Person, die dafür sorgt, dass aus vielversprechenden Prototypen zuverlässige, messbare und sichere Produktionssysteme werden.

Deine Hauptaufgaben

• (Weiter-)Entwicklung unseres agentenbasierten KI-Assistenten – von der Konzeption über die Implementierung bis zum Betrieb
• Aufbau eines dynamischen Multi-Agenten-Systems, in dem Kund:innen eigene Agenten, Aufgaben und Workflows selbst erstellen und konfigurieren können
• Design von Agentensystemen, deren Verhalten und Qualität kontrollierbar und nachvollziehbar sind – inklusive Guardrails, Berechtigungskonzepten und Human-in-the-Loop-Mechanismen
• Aufbau systematischer Evaluationsstrategien: Du definierst, woran wir Qualität messen, und sorgst dafür, dass Änderungen an Prompts, Tools und Agenten überprüfbar sind statt nur „gefühlt besser"
• Integration von KI- und ML-Konzepten in eine bestehende, gewachsene SaaS-Anwendung – mit allem, was dazugehört: Datenmodell, Berechtigungen, Performance, Kosten
• Technische Führung: Architekturentscheidungen, Code Reviews, fachlicher Sparringspartner für Produkt und Engineering, Aufbau von Best Practices
• Betrieb und Optimierung: Observability, Tracing, Latenz-, Kosten- und Stabilitätsoptimierung

LLM- und ML-Verständnis

• Sehr gutes konzeptionelles Verständnis der Funktionsweise und der Grenzen von LLMs
• Verständnis weiterer ML-Konzepte und wie sich diese sinnvoll in Business-Logik integrieren lassen
• Fundiertes Verständnis von:
• Tokenisierung/Tokens, Embeddings und Context Windows
• Vector Search, Retrieval und Re-ranking (RAG)
• Halluzinationen, Context Bloat und weiteren typischen Fehlermodi – inklusive Strategien, diese zu erkennen und abzufedern
• Tool Calling und Structured Outputs
• A2A (Agent2Agent Protocol), MCP (Model Context Protocol) und Human-in-the-Loop
• Sicherheitsrisiken von LLM- und Agentensystemen (u. a. Prompt Injection, Tool-Missbrauch, Datenabfluss)
• Prompt Engineering – Formulierung, Struktur und Steuerung einzelner Modellanfragen
• Context Engineering – gezielte Auswahl, Aufbereitung und Verwaltung dessen, was überhaupt

Techstack

• LLM / KI: Anthropic API – Anthropic Client, Anthropic on Vertex AI (oder Erfahrung mit vergleichbaren LLM-Clients und -APIs)
• ML-Toolchain: Toolchain zur Entwicklung und Evaluation eigener ML-Anwendungen, z. B. PyTorch, TensorFlow, scikit-learn, NumPy, pandas, CUDA
• Cloud: Google Cloud Platform – Vertex AI, Cloud Run, GKE (oder vergleichbare Plattformen wie AWS oder Azure)
• Infrastruktur: Kubernetes, Docker
• Backend: Python, Django
• Datenbank: PostgreSQL (oder ein vergleichbares RDBMS)
• Async / Jobs: Celery, Taskiq oder vergleichbare worker-basierte Task-Queue-Systeme
• Sonstiges: Git

Wir bieten

• Gestaltungsspielraum in einem Bereich, in dem noch niemand fertige Antworten hat – du prägst Architektur und Standards von Grund auf
• Ein Produkt mit echten Nutzer:innen und echtem Feedback statt Innovationstheater
• Arbeite Remote/Hybrid, oder vor Ort
• Strukturierte Einarbeitung in Produkt, Prozesse und Testvorgehen
• Und natürlich die ganzen weiteren Basics, die jeder auf seiner Karriereseite mittlerweile so hat...;-)