Ingénieur Devops IA - CDI (H/f)

Missions principales

1. Industrialisation et automatisation du déploiement

• Industrialiser le déploiement de plateformes d’IA générative On-Premise dans un environnement sécurisé et hautement disponible, en utilisant des outils comme Terraform, Ansible, Jenkins et GitLab CI.
• Automatiser les processus de déploiement (CI/CD) pour une intégration continue et reproductible des modèles et services.
• Optimiser les workloads data et IA (allocation et partage des GPU, autoscaling des services d’inférence), en collaboration avec les équipes IA et Sécurité.

2. Conception et architecture de la plateforme

• Contribuer à la conception de l’architecture technique de la plateforme, en intégrant les contraintes de sécurité, compliance et gouvernance.
• Définir les bonnes pratiques pour le déploiement de solutions d’IA générative et leur intégration dans l’écosystème existant.
• Garantir la résilience de la plateforme via des solutions de haute disponibilité (Kubernetes, OpenShift, Docker).

3. Mise en place de services managés

• Développer et intégrer des services managés pour les utilisateurs finaux, en respectant les exigences de sécurité et de conformité.
• Mettre en place une passerelle d’accès aux modèles (type LiteLLM) : routage, quotas, suivi de la consommation par équipe.
• Documenter les offres et services pour faciliter leur adoption par les équipes techniques et métiers.
• Assurer la mise en production des solutions, en collaboration avec les équipes d’exploitation.

4. Maintenance et exploitation en conditions opérationnelles

• Maintenir en condition opérationnelle (MCO) les plateformes IA déployées, en garantissant leur disponibilité, performance et sécurité.
• Surveiller les plateformes via des outils d’observabilité (Dynatrace, Prometheus, Grafana), en suivant les indicateurs propres aux LLM : temps de réponse, débit, utilisation des GPU.
• Gérer les incidents et participer aux astreintes techniques.

5. Collaboration et leadership technique

• Assurer le lead technique sur un produit au sein d’une équipe Agile, en collaboration avec le Responsable Technique.
• Participer aux rituels Agile (daily meetings, sprint reviews, rétrospectives) et contribuer à la construction de la roadmap technique.
• Prendre en charge les éléments du backlog et prioriser les tâches techniques.
• Animer des présentations et démonstrations pour promouvoir les offres et services auprès des parties prenantes internes.

Profil recherché

Formation / Expérience

• Diplômé d’une école d’ingénieurs ou titulaire d’un Master (Bac+5) en Informatique, Data Science, ou Cloud Computing.
• Minimum 8 ans d’expérience en déploiement de plateformes techniques, dont au moins 2 ans sur des workloads data / IA ou GPU, idéalement dans des environnements sécurisés, distribués et critiques.
• Première expérience de lead technique au sein d’une équipe Agile (animation technique, priorisation du backlog, revue de code).
• Habilitation : Secret Défense (déjà habilité ou habilitable).

Compétences techniques

• Maîtrise du déploiement et de la manipulation des workloads data/IA.
• Expérience avancée en conteneurisation (Docker, Kubernetes, OpenShift) et CI/CD (Jenkins, GitLab CI, Terraform, Ansible).
• Maîtrise de l’exploitation de GPU sous Kubernetes / OpenShift : NVIDIA GPU Operator, drivers CUDA, partage des GPU (MIG, time-slicing), dimensionnement des capacités.
• Expérience de la mise à disposition de LLM en production (vLLM, Triton, KServe ou OpenShift AI).
• Expérience en air-gapped environments : private registries (Harbor, Artifactory), package et container image mirrors, et model weight management et transfer.
• Sécurisation de la plateforme : secrets management (Vault), identity et access management (Keycloak / SSO), Kubernetes hardening, et container image scanning. GitOps deployment avec ArgoCD.
• Connaissance approfondie des bonnes pratiques en sécurité des données et conformité.
• Expérience avec les plateformes d’IA générative (LLM), les outils de cycle de vie des modèles (MLflow, Dataiku) et d’orchestration de workflows (Airflow, Kubeflow ou Argo Workflows).
• Exploitation des bases de données vectorielles (OpenSearch, pgvector) : sauvegarde, montée en charge, performance. Maîtrise de l’observabilité (Prometheus, Grafana, Dynatrace), y compris les métriques propres aux LLM et aux GPU (latence, débit en tokens, DCGM exporter).
• Atouts appréciés : certifications CKA / CKS ou Red Hat OpenShift, connaissance du déploiement self-hosted des modèles Mistral, notions de FinOps GPU.

Environnement de Travail

• Lieu : Île-de-France
• Type de contrat : CDI