Job-Nr. 68558526

Intermediate Cloud AI & LLMOps Engineer (m/w/d)

BCM Solutions GmbH vor 1 Wochen

VollzeitHybrid

StandortStuttgart, Baden-Württemberg

LLMOps-Infrastruktur: Du entwirfst und betreibst stabile Pipelines für das Deployment, das Monitoring und das Tracing von LLMs (z. B. mit LangSmith oder Arize Phoenix).
Inferenz-Optimierung: Du optimierst die Performance und Latenz von Modellen in der Produktion durch Techniken wie Quantisierung.
Enterprise Cloud Integration: Du bindest Cloud-AI-Dienste (wie Azure OpenAI Service oder AWS Bedrock) nahtlos an bestehende Enterprise-Infrastrukturen an.
AI FinOps: Du überwachst und optimierst die Token-Verbräuche und Cloud-Infrastrukturkosten (Cost Optimization).
Automatisierung: Du schreibst „Infrastructure as Code“ (z. B. via Terraform), um KI-Umgebungen automatisiert und reproduzierbar aufzusetzen.
Schnittstellen-Brücke: Du bist das Bindeglied zwischen den AI-Software-Entwicklern und dem klassischen IT-Betrieb mitbringst:

Sehr gute Kenntnisse
Konzeption, Aufbau und Betrieb von LLMOps-Pipelines (z. B. Deployment, Monitoring, Evaluation und Tracing mit LangSmith oder Arize Phoenix).
Cloud-Plattformen (Azure, AWS oder GCP) und deren spezifischen KI-Diensten (z. B. Azure OpenAI Service, AWS Bedrock).
DevOps-Tools zur Container-Orchestrierung (Docker, Kubernetes) und dem Entwurf von CI/CD-Pipelines.
Solide Kenntnisse
Infrastructure as Code (IaC) mit Tools wie Terraform.
Konzepte zur Inferenz-Optimierung (Quantisierung, Caching) und Kostenkontrolle (AI FinOps).
Sicherheits- und Compliance-Standards im Umgang mit Unternehmensdaten in Cloud-Umgebungen.
Persönlich
Systemisches Denken: Du behältst die Systemstabilität, Skalierbarkeit und Kosteneffizienz von Infrastrukturen immer im Blick.
Kommunikationsstärke: Du agierst souverän und verständlich als Bindeglied zwischen der KI-Software-Entwicklung und dem IT-Betrieb unserer Kunden.
Deutsch (sehr gut) und Englisch (gut) sowie ein abgeschlossenes IT-Studium oder eine Qualifikation.Was bieten:

Du kannst in einem rollenbasierten Unternehmen arbeiten #NoHierarchieGehabe
Du findest bei uns eine offene Unternehmenskommunikation und kurze Entscheidungswege wieder.
Für Deinen optimalen Start bei der BCM steht ein umfangreiches und individuelles Onboarding-Programm in den Startlöchern.
Kollegen auf Augenhöhe und unsere Personalentwicklung unterstützen Dich dabei, sowohl fachlich als auch persönlich aufs nächste Level zu kommen.
Du arbeitest überwiegend remote und genießt dabei maximale Flexibilität. Je nach Projekt bist Du bereit, unsere Kunden remote oder direkt vor Ort zu unterstützen.
Unvergessliche Mitarbeiterevents: monatliche Teamaktivitäten und ein BCM-Urlaub im Sommer.
BCM stärkt Deine Balance, egal ob Work oder Life, wir stehen immer hinter Dir.
Casual oder Anzug? Büro oder Homeoffice? Frühaufsteher oder Nachteule? Du entscheidest, bei uns hast Du die Freiheit, so zu arbeiten, wie es am besten zu Dir passt.
Du läutest mit unserer BCM Community das Wochenende mit einem (hopfenreichen) Erfrischungsgetränk ein.
Frisches Obst, Tee, Mineralwasser, Kaffee usw. in unserem