AI Platform Engineer - LLMOps (m/w/d)

• KI-Infrastruktur betreuen: Gemeinsam mit dem Team kümmerst du dich um unsere GPU-Server, von Treibern und CUDA über Docker bis hin zu Monitoring und Updates. Du sorgst dafür, dass alles stabil läuft.
• Lokale LLMs an den Start bringen: Du probierst neue Open-Source-Modelle aus, bringst die besten mit vLLM in den Betrieb und machst sie über LiteLLM für unsere Anwendungen verfügbar.
• KI im Unternehmen zugänglich machen: Du betreust LibreChat, unseren unternehmensweiten KI-Chat, von der Nutzerverwaltung über Updates bis zur Anbindung neuer Modelle und Tools.
• Messen statt raten: Mit eigenen Benchmarks vergleichst du Modelle und Konfigurationen, etwa nach Qualität, Geschwindigkeit und Ressourcenbedarf. So findest du heraus, welches Modell für welchen Anwendungsfall am besten passt.
• Brücke in die Prozesse: Du unterstützt unsere Teams dabei, KI in bestehende Abläufe einzubinden. Wenn du Lust hast, baust du auch selbst LLM-Pipelines und Automatisierungen, denn niemand kennt die Plattform so gut wie du.
• Perspektive & Verantwortung: Du startest mit so viel Eigenverantwortung, wie zu deiner Erfahrung passt: mit Rückendeckung aus dem Team oder direkt eigenständig. Schritt für Schritt übernimmst du mehr, bis hin zur technischen Leitung unserer KI-Plattform.

Motivation an erster Stelle: Du willst verstehen, wie KI unter der Haube funktioniert, und hast Spaß daran, Neues auszuprobieren. Diese Neugier zählt für uns genauso viel wie Erfahrung, denn im LLM-Umfeld lernen wir alle ständig dazu.

• Dein Hintergrund: Du hast ein MINT-Studium, z. B. (Wirtschafts-)Informatik, oder eine Ausbildung, etwa als Fachinformatiker für Systemintegration (m/w/d), abgeschlossen oder stehst kurz davor. Auch ein Quereinstieg, etwa aus der Systemadministration oder der Softwareentwicklung, ist herzlich willkommen.
• Technisches Know-how: Du hast erste Erfahrung mit Linux und Docker und kannst kleinere Aufgaben mit Python oder Bash automatisieren. Kenntnisse in vLLM, LiteLLM, dem NVIDIA-GPU-Stack oder Monitoring-Tools sind Pluspunkte, aber kein Muss.
• KI-Affinität: Idealerweise hast du schon einmal ein LLM lokal zum Laufen gebracht, z. B. mit Ollama auf dem eigenen Rechner. Wenn nicht, bringst du die Lust mit, genau das zu lernen. Private Projekte und dein Homelab zählen bei uns als echte Erfahrung.
• Was dich auszeichnet: Du arbeitest strukturiert, gehst Problemen gern auf den Grund und fragst nach, wenn du nicht weiterkommst. Technische Zusammenhänge erklärst du verständlich, auch Kolleginnen und Kollegen ohne IT-Hintergrund.
• Sprache: Du sprichst verhandlungssicher Deutsch (mind. C1) und kommst mit englischer Fachdokumentation gut zurecht.

Deine Benefits:

• Unternehmenskultur: Wir bieten Dir einen sicheren Arbeitsplatz in einem familiären Betriebsklima. Passend dazu erhältst du einen unbefristeten Arbeitsvertrag.
• Work-Life-Balance: Du arbeitest 40 Stunden pro Woche. Neben 30 Tagen Urlaub sowie Sonderurlaub bei besonderen Anlässen haben wir die Möglichkeit, unsere Arbeitszeiten durch das Gleitzeitmodell flexibel zu gestalten und tageweise mobil zu arbeiten.
• Dein Weg zur Arbeit: Dein Fahrzeug kannst Du gerne auf unserem kostenlosen Mitarbeiterparkplatz ab­stellen. Auch mit öffentlichen Verkehrsmitteln wie Bus oder Bahn sind wir gut zu erreichen. Wenn Du künftig mit dem Fahrrad zur Arbeit radeln möchtest, könnte unser Dienstrad-Leasing interessant für Dich sein.
• Weitere attraktive Benefits: Für Dein leibliches Wohl wird in unserer subventionierten Kantine sowie mit kostenfreiem Mineralwasser gesorgt. Deine Gesundheit ist unser wichtigstes Gut, daher haben wir ein betriebliches Gesundheitsmanagement eingerichtet. Außerdem erhältst Du beim Einkauf bei BADER einen attraktiven Personalrabatt.