KI Plattform Engineer (m/w/d)

Unser Kunde zählt zu den führenden Full-Service-Providern für Digitalisierungsprojekte der öffentlichen Verwaltungen in Deutschland. Mit einem Team von rund 500 Kolleginnen und Kollegen gestalten wir den digitalen Wandel der Verwaltung und unterstützen unsere Kunden mit Fachkompetenz, Beratung und innovativen Lösungen. In der Rolle des KI Plattform Engineers (m/w/d) sind Sie ab Juli Teil eines dynamischen Teams, das vollständig remote arbeitet. Ihre Hauptaufgaben umfassen den Aufbau und Betrieb von RAG-Chat-Lösungen sowie die Skalierung der LLM-Plattform unter Verwendung modernster Technologien wie vLLM, GPUs und Kubernetes/OpenShift. Darüber hinaus sind Sie verantwortlich für die Konzeption und den Betrieb von Vektor- und NoSQL-Datenbanken sowie den Aufbau von Daten- und Analysepipelines, die Ingestion, Transformation und Anreicherung von Daten ermöglichen. Die Entwicklung einer zentralen API für Chatbots, Browser-Erweiterungen, IDEs und Office-Anwendungen gehört ebenfalls zu Ihrem Aufgabenbereich. Sie arbeiten in einem unterstützenden und innovativen Umfeld, das Ihnen die Möglichkeit bietet, aktiv zur digitalen Transformation beizutragen und Ihre Fähigkeiten in der Künstlichen Intelligenz weiterzuentwickeln.

Für diese Position suchen wir einen Kandidaten mit mehrjähriger Projekterfahrung im Bereich Künstliche Intelligenz. Sie sollten über sehr gute Python-Kenntnisse in produktiven KI- und Plattformprojekten verfügen. Idealerweise haben Sie bereits Erfahrung als KI Platform Engineer oder MLOps Engineer gesammelt und sind mit dem On-Premise-Betrieb von KI- und LLM-Systemen vertraut. Kenntnisse über RAG-Architekturen, Vektor-Datenbanken und LLM-Serving, insbesondere vLLM, sowie Kubernetes und Red Hat OpenShift sind ebenfalls erforderlich. Zudem erwarten wir Deutschkenntnisse auf C1-Niveau. Persönlich sollten Sie teamfähig, kommunikativ und analytisch denkend sein, um in einem dynamischen Arbeitsumfeld erfolgreich zu agieren.