GenAI Platform Engineer – LLMOps & AI Infrastructure (m/w/d)

Rocken® ist in der Rekrutierung von Talenten und Experten aus IT Consulting und Software Engineering spezialisiert. Wir kollaborieren mit den spannendsten, Schweizer IT Softwarehersteller und Beratungsfirmen. Wir stellen einhergehend ein Netz an etablierten Unternehmungen digital und transparent durch unsere geschlossene Rocken® Talent Plattform zur Verfügung.

Damit unsere Partner ihre Projekte erfolgreich stemmen können, braucht es ein Zusammenspiel verschiedener Fachspezialisten aus den Bereichen: Agile Business Analyse, Requirements Engineering, Project Management, Software Engineering, Architektur, DevOps, und Security.

Hast du Lust auf eine neue Herausforderung? Dann profitiere als Rocken® Talent von unserer breiten Vernetzung und lass dir spannende Jobs vorstellen.

Rolle:

Generative KI entfaltet ihr volles Potenzial erst dann, wenn leistungsfähige Technologien zuverlässig zusammenspielen. Gesucht wird ein technischer Experte, der moderne AI-Workloads industrialisiert, intelligente Plattformservices entwickelt und innovative Sprachmodelle in skalierbare Produktionsumgebungen überführt. Eine ideale Herausforderung für ambitionierte Engineers mit Leidenschaft für Cloud-Native-Technologien, AI Infrastructure und moderne Automatisierung.

Verantwortung:

• Konzeption und Implementierung einer modernen Plattform für den unternehmensweiten Einsatz generativer KI.

• Entwicklung technischer Services für Model Hosting, LLM Inference, Prompt Management und AI Workload Orchestration.

• Aufbau robuster LLMOps-Prozesse zur Automatisierung des gesamten Modelllebenszyklus.

• Integration verschiedener Foundation Models und Entwicklung standardisierter Schnittstellen für AI-basierte Anwendungen.

• Implementierung moderner Agentic-AI-Architekturen und automatisierter Workflows mit Frameworks wie LangGraph oder vergleichbaren Technologien.

• Entwicklung effizienter Retrieval-Systeme auf Basis von RAG, semantischer Suche und Vektordatenbanken.

• Optimierung von Inference-Prozessen hinsichtlich GPU-Auslastung, Token-Durchsatz, Antwortzeiten und Betriebskosten.

• Aufbau automatisierter Qualitäts- und Evaluationsmechanismen für generative KI-Anwendungen.

• Implementierung von Tracing-, Monitoring- und Observability-Konzepten zur transparenten Überwachung komplexer AI-Workflows.

• Sicherstellung einer sicheren und kontrollierten Nutzung von Modellen, Daten und AI-Services.

• Weiterentwicklung der Plattform durch moderne DevSecOps-Methoden, Infrastructure as Code und automatisierte Deployment-Prozesse.

Qualifikationen:

• Mehrjährige Erfahrung im Platform Engineering, AI Engineering, MLOps oder in der Entwicklung verteilter Cloud-Systeme.

• Sehr gute Kenntnisse in Python und idealerweise Erfahrung mit Go oder vergleichbaren Programmiersprachen.

• Tiefgehendes Verständnis von LLM-Technologien, Model Serving und produktiven GenAI-Anwendungen.

• Erfahrung mit LLMOps, Model Deployment, Prompt Evaluation und automatisierten AI-Pipelines.

• Praktische Kenntnisse mit Frameworks wie Hugging Face, LangChain, LangGraph, LlamaIndex oder vergleichbaren Lösungen.

• Erfahrung mit Kubernetes, Docker und Cloud-Native-Architekturen.

• Kenntnisse in GPU-basierten Infrastrukturen, Inference Optimization und skalierbaren Computing-Umgebungen.

• Erfahrung mit Vector Databases, Embedding-Modellen und Retrieval-Augmented Generation.

• Vertrautheit mit modernen Observability-Technologien sowie AI-spezifischen Monitoring- und Evaluationsverfahren.

• Kenntnisse in Terraform, GitOps, CI/CD und automatisierter Infrastrukturverwaltung.

• Verständnis für AI Security, Datenschutz und den sicheren Betrieb unternehmenskritischer Plattformservices.

• Selbstständige, lösungsorientierte Arbeitsweise und ausgeprägte Begeisterung für neue Technologien.

• Homeoffice
• Interessante und abwechslungsreiche Tätigkeiten/Projekte
• Flexible Arbeitszeitgestaltung
• Markt- und leistungsgerechte Löhne
• Komfortables Büro mit moderner Infrastruktur
• Flache Hierarchien
• Attraktive Weiterbildungs- und Entwicklungsmöglichkeiten

https://rocken.jobs

https://rocken.jobs/application/profil-erstellen/