ML Ops Engineer IA

Informatique

Courbevoie

IT

Azure DevOps.NETLinuxHelmKubernetesvLLMTGITritonONNX RuntimeLangChainSemantic KernelLiteLLMPyTorchTensorFlowscikit-learnONNXSafeTensorsTriton Inference ServerTorchServeBentoMLKServeSeldon CoreArgoCDFluxDockerTerraformAnsiblePrometheusGrafanaOpenTelemetryELK

Rôle

Garantir le déploiement l'exploitation et la supervision fiables des solutions d'IA produites par Brain en cohérence avec les standards DSI et les exigences métier.

Technologies

Azure DevOps.NETLinuxHelmKubernetesvLLMTGITritonONNX RuntimeLangChainSemantic KernelLiteLLMPyTorchTensorFlowscikit-learnONNXSafeTensorsTriton Inference ServerTorchServeBentoMLKServeSeldon CoreArgoCDFluxDockerTerraformAnsiblePrometheusGrafanaOpenTelemetryELK

Entités

BrainDSI

Contextes

Édition logicielle

Compétences

Conception et maintenance de chaînes CI/CDPackaging d'applications via HelmGestion de charts et valeurs par environnementConfiguration KubernetesDiagnostic et résolution d'incidents de plateformeMise en place de pipelines de déploiement de modèlesOptimisation de l'inférenceIntégration de briques d'écosystème LLMMonitoring spécifique aux LLMsMise en place de stack d'observabilitéDéfinition et suivi d'indicateurs SREIntégration de la sécurité dès la conceptionOptimisation des coûts d'infrastructure et d'inférence

Challenges détectés

2 enjeux

Transformation
Accélérer le déploiement de la Data & de l'IA dans les pratiques et les produits du groupe
Optimisation
Garantir que les solutions d'IA soient déployées, exploitées et supervisées de manière fiable, performante et reproducti