Ab 10/2026 suchen wir Verstärkung für ein Vorhaben, in dem LLM-basierte Agenten den Sprung vom Prototyp in den verlässlichen Betrieb schaffen sollen. Die Plattform läuft auf Microsoft Azure, Databricks ist die Basis für Daten und ML.
Worum es geht
- Agenten und mehrstufige Agenten-Abläufe entwerfen, bauen und betreiben
- Retrieval mit Embeddings und Vektorsuche umsetzen, dazu Tool Calling und die Anbindung von Sprachmodellen an vorhandene Schnittstellen
- Datenstrecken auf Delta-Basis mit Python, SQL und Spark automatisieren
- Versionierung und Evaluation von Modellen und Prompts mit MLflow, später auch das Monitoring im Betrieb
- Deployment-Pipelines aufsetzen und Infrastruktur als Code pflegen
- Die Umgebung absichern: Zugriffsrechte, Secrets, Identitäten, private Netzanbindung, Logging
- Antwortqualität und Betriebskosten dauerhaft im Blick behalten
Was du mitbringen solltest
- Mehrere Jahre im Umfeld von ML, Data oder Cloud Engineering und eigene Projekte mit LLM-Anwendungen, gern schon mit RAG und Agenten
- Sicheres Python und SQL sowie belastbare Databricks-Praxis
- Azure-Erfahrung, vor allem rund um Azure OpenAI, Key Vault, Netzwerk und Monitoring
- CI/CD mit GitHub Actions oder Azure DevOps, Terraform oder Bicep
- Saubere Arbeitsweise mit Git, automatisierten Tests und Reviews
- Gespür für Cloud Security, Datenschutz und AI Governance
Schön wäre außerdem Erfahrung mit Guardrails, strukturierten Ausgaben oder Human-in-the-Loop. Docker, Kubernetes und Event-Streaming über Kafka oder Event Hubs helfen ebenfalls.
Du arbeitest eng mit Kolleginnen und Kollegen aus Data, Cloud und Security zusammen. Technische Entscheidungen solltest du verständlich erklären können. Und du übernimmst Verantwortung für das, was du in Produktion bringst.
Rahmen
- Start 10/2026
- Rund 12 Monate, Verlängerung möglich
- Vollständig remote
- Stundensatz 75-95 €
