AI/ML Engineer (w/m/d)
- Entwicklung und Betrieb von LLM- und Agenten-Workflows (Agenten-CLIs wie Claude Code/opencode, Workflow-Orchestrierung, Human-in-the-Loop-Gates)
- Aufbau des Knowledge-Management- und Retrieval-Layers: Embeddings, Chunking und Retrieval-Logik über Code-Repositories, Confluence und Jira – von Volltextsuche bis zu semantischer Suche auf einer Vektordatenbank – inklusive Evaluierung von Retrieval-Qualität
- Integration externer Systeme über APIs und das Model Context Protocol (MCP) (Bitbucket, Confluence, Jira) mit projektbezogener Autorisierung
- Betrieb und Weiterentwicklung des LLM-Gateways (LiteLLM): Modell-Routing, Token-/Kosten-Attribution, Rate-Limiting
- Monitoring und kontinuierliche Verbesserung von Antwortqualität, Latenz, Kosten und Drift (Prometheus, OpenTelemetry, Kafka-basierte Kosten-Events)
- Übersetzung von Anforderungen der Produktteams in skalierbare, wartbare AI-Workflows in einer Kubernetes-nativen Architektur
- Erfolgreich abgeschlossenes Studium (z. B. Informatik, Data Science) oder eine vergleichbare Qualifikation
- Mehrjährige Berufserfahrung in der Softwareentwicklung
- Sehr gute Python-Kenntnisse und moderne Engineering-Standards (Testing, API-Design, Git-Workflows); Grundkenntnisse in Java/Spring Boot von Vorteil
- Praktische Erfahrung mit LLM-APIs sowie dem Aufbau von RAG-/Retrieval-Architekturen (Embeddings, Chunking, Vektordatenbanken)
- Erfahrung mit API-basierter Systemintegration; Kenntnisse des Model Context Protocol (MCP) sind ein Plus
- Solides Verständnis verteilter, cloud-nativer Systeme: Docker, Kubernetes, Observability
- Erfahrung mit Event-Streaming (Kafka) und relationalen Datenbanken (PostgreSQL) von Vorteil
- Bewusstsein für Kosten-, Sicherheits- und Governance-Aspekte produktiver LLM-Systeme (EU-Datensouveränität, Secrets-Handling)
Vielfalt bereichert. Unterschiedliche Kulturen, Nationalitäten, Geschlechter, Altersgruppen, sexuelle Orientierungen und Religionen sowie Menschen mit Behinderungen – wir wünschen uns Vielfalt und fördern sie. Denn nur Teams, die alle Facetten der Gesellschaft widerspiegeln, bieten die besten Rahmenbedingungen für Kreativität und machen ein Unternehmen produktiv und unverwechselbar. Wir wertschätzen Vielfalt und begrüßen alle Bewerbungen.
Kontakt
Fragen?
1&1 Telecommunication SE
Recruting
Nutzen Sie für Ihre Bewerbung bitte ausschließlich unser unkompliziertes Online-Formular , sodass wir Ihnen einen möglichst transparenten Bewerbungsprozess unter Einhaltung aller datenschutzrechtlicher Vorgaben gewährleisten können. Bewerbungen per Mail können wir leider aus genannten Gründen nicht berücksichtigen.
Empfohlene Jobs
Ausbildung im Berufsbild Bankkaufleute (m/w/d) Ausbildungsort Karlsruhe (2027)
Die LBBW hat ein klares Ziel. Die beste mittelständische Universalbank zu sein! Wir bauen unsere gewachsenen Stärken konsequent aus und stellen uns den Herausforderungen des Bankensektors. Dafür such…
Key Account Manager (w/m/d) eCommerce
Key Account Manager (w/m/d) eCommerce Vollzeit | Standort im Raum Karlsruhe, bzw. remote Für unseren Kunden, ein sehr erfolgreiches - auf Phytopharmaka spezialisiertes - mittelständisches Unter…
Verkäufer (m/w/d) Fleisch und Wurst in Teil- und Vollzeit
Wir suchen aktuell Verkäufer (m/w/d) Fleisch und Wurst in Teil- und Vollzeit in Karlsruhe-Durlach Über uns Die Familie Scheck betreibt selbstständig als Mitglied der EDEKA Südwest ins…
Duales Studium Data Science und KI - Smart Operations Management 2027 in Neckarsulm, Lidl
Deine Aufgaben Intelligente Daten, smarte Entscheidungen: Baue dir Data-Science-Fachwissen auf und entfalte dein Potenzial im internationalen Einkauf, Controlling, oder in der Logistik. … konkre…
IT- Koordinator/in (m/w/d)
Die Römisch-katholische Kirchengemeinde Karlsruhe sucht zum nächstmöglichen Zeitpunkt unbefristet in Vollzeit (39,5 Wochenstunden) eine/n IT-Koordinator/in (m/w/d) Ihre Aufgaben Zentrale K…
Buchhalter Hauptbuch / Accountant (m/w/d)
Die börsennotierte französische emeis S.A. ist einer der führenden europäischen Pflegeheimbetreiber und mit einem Portfolio von knapp €7 Mrd. einer der größten Bestandshalter von Sozialimmobilien in …
kfm. Objektmanager/-Betreuer (m/w/d) in Vollzeit gesucht
Wir suchen im Auftrag eines Kunden in Karlsruhe ab sofort oder zum nächstmöglichen Zeitpunkt eine/n gewerblichen Immobilienverwalter/-in bzw. kfm. Objektmanager/-in - gerne in Teilzeit oder Vollzeit.…
Senior Customer Success Manager (m/w/d) HPJB1_DE
Die Forterro Deutschland Abas GmbH ist Teil der internationalen Forterro-Gruppe, einem führenden Anbieter von ERP-Software für die Fertigungsindustrie. Mit Sitz in Karlsruhe entwickeln und vertreiben …
Personalsachbearbeiter (m/w/d) - Schwerpunkt Lohn & Gehalt | Teilzeit | 80% Remote möglich
Hast du Zahlen im Griff und Menschen im Blick? Super! Personalsachbearbeiter (m/w/d) – Schwerpunkt Lohn & Gehalt | Teilzeit | 80% Remote möglich in Karlsruhe Hier wirst Du gebraucht Manchmal brau…
Mitarbeiter (m/w/d) Notruf- und Serviceleitstelle
Mitarbeiter (m/w/d) Notruf- und Serviceleitstelle ~ Karlsruhe big. family of services Beraten, planen, betreiben: wir sind ein erfahrener und kompetenter Dienstleistungspartner rund ums Geb…