AI/ML Engineer (w/m/d)
- Entwicklung und Betrieb von LLM- und Agenten-Workflows (Agenten-CLIs wie Claude Code/opencode, Workflow-Orchestrierung, Human-in-the-Loop-Gates)
- Aufbau des Knowledge-Management- und Retrieval-Layers: Embeddings, Chunking und Retrieval-Logik über Code-Repositories, Confluence und Jira – von Volltextsuche bis zu semantischer Suche auf einer Vektordatenbank – inklusive Evaluierung von Retrieval-Qualität
- Integration externer Systeme über APIs und das Model Context Protocol (MCP) (Bitbucket, Confluence, Jira) mit projektbezogener Autorisierung
- Betrieb und Weiterentwicklung des LLM-Gateways (LiteLLM): Modell-Routing, Token-/Kosten-Attribution, Rate-Limiting
- Monitoring und kontinuierliche Verbesserung von Antwortqualität, Latenz, Kosten und Drift (Prometheus, OpenTelemetry, Kafka-basierte Kosten-Events)
- Übersetzung von Anforderungen der Produktteams in skalierbare, wartbare AI-Workflows in einer Kubernetes-nativen Architektur
- Erfolgreich abgeschlossenes Studium (z. B. Informatik, Data Science) oder eine vergleichbare Qualifikation
- Mehrjährige Berufserfahrung in der Softwareentwicklung
- Sehr gute Python-Kenntnisse und moderne Engineering-Standards (Testing, API-Design, Git-Workflows); Grundkenntnisse in Java/Spring Boot von Vorteil
- Praktische Erfahrung mit LLM-APIs sowie dem Aufbau von RAG-/Retrieval-Architekturen (Embeddings, Chunking, Vektordatenbanken)
- Erfahrung mit API-basierter Systemintegration; Kenntnisse des Model Context Protocol (MCP) sind ein Plus
- Solides Verständnis verteilter, cloud-nativer Systeme: Docker, Kubernetes, Observability
- Erfahrung mit Event-Streaming (Kafka) und relationalen Datenbanken (PostgreSQL) von Vorteil
- Bewusstsein für Kosten-, Sicherheits- und Governance-Aspekte produktiver LLM-Systeme (EU-Datensouveränität, Secrets-Handling)
Vielfalt bereichert. Unterschiedliche Kulturen, Nationalitäten, Geschlechter, Altersgruppen, sexuelle Orientierungen und Religionen sowie Menschen mit Behinderungen – wir wünschen uns Vielfalt und fördern sie. Denn nur Teams, die alle Facetten der Gesellschaft widerspiegeln, bieten die besten Rahmenbedingungen für Kreativität und machen ein Unternehmen produktiv und unverwechselbar. Wir wertschätzen Vielfalt und begrüßen alle Bewerbungen.
Kontakt
Fragen?
1&1 Telecommunication SE
Recruting
Nutzen Sie für Ihre Bewerbung bitte ausschließlich unser unkompliziertes Online-Formular , sodass wir Ihnen einen möglichst transparenten Bewerbungsprozess unter Einhaltung aller datenschutzrechtlicher Vorgaben gewährleisten können. Bewerbungen per Mail können wir leider aus genannten Gründen nicht berücksichtigen.
Empfohlene Jobs
Controller (m/w/d) Perspektive kaufmännische Geschäftsführung
Das Unternehmen Die HAPEKO ist eine der größten und erfolgreichsten Personalberatungen für den deutschen Mittelstand und ist aktuell mit über 25 Standorten vertreten. Als moderne Personalberatung …
Facility Manager (m/w/d)
Diese Herausforderungen übernimmst du * Planung, Steuerung und Überwachung der gebäudetechnischen Anlagen und Infrastruktur * Organisation und Kontrolle von Wartungs-, Reparatur- und Instandhaltungsar…
Qualitätsprüfer TGA (Elektro & HKLS) (m/w/d) - 100k-130k
Keine Lust mehr auf starre Bauprozesse, endlose Meetings und fehlendes Vertrauen? Wie wäre es stattdessen mit flachen Hierarchien, echter Wertschätzung und einem flexiblen Arbeitsumfeld, das Raum für …
Praxiskoordinator/in (m/w/d) in der Zentralen Praxisanleitung
Das Städtische Klinikum Karlsruhe ist das größte Krankenhaus in der Region Mittlerer Oberrhein. Es ist im Krankenhausbedarfsplan des Landes Baden-Württemberg als Haus der Maximalversorgung für die Reg…
IT Consultant (all genders)
Was erwartet dich Du setzt in einem Team anspruchsvolle Fach- und IT-Projekte um. Egal ob die Übersetzung fachlicher Anforderungen in IT-Spezifikationen, die Analyse komplexer Zusammenhänge ode…
Freiwillige *r für den Bundesfreiwilligendienst (BFD)
Du bringst mit Freude und die Bereitschaft an der Arbeit mit hilfsbedürftigen Menschen Soziale Kompetenz Teamfähigkeit Wir bieten Dir Taschengeld Abwechslungsreiche Tätigkeiten Pro…
Junior Java Developer(w/m/d)
So gestaltest du mit Herzstück ist die Entwicklung technisch und optisch anspruchsvoller Lösungen für Beziehungsmanagement und Produktkonfiguration, wobei dein Fokus auf den serverseitigen Anwendu…
Finanzbuchhalter (m/w/d)
Für unseren Kunden, ein wachsendes Unternehmen im Raum Karlsruhe, suchen wir einen motivierten Finanzbuchhalter (m/w/d), der das bestehende Finanzteam in Vollzeit verstärken möchte. Die Positio…