Ingénieur logiciel IA haute performance

Informatique

PythonC++GoRustCUDANCCLDockerKubernetesSlurmNsight SystemsNsight ComputevLLMSGLangTritonTorchDynamoTorchInductorMLIRLLVMXLACUTLASSCUDA GraphTensor CorescontainerdCRI-OCRIUAWSGCPAzure

Rôle

Conçoit optimise et déploie des systèmes d’inférence IA à grande échelle en développant des piles logicielles performantes des kernels GPU et des outils de benchmarking pour accélérer l’exécution de modèles d’IA sur des environnements multi GPU et multi cloud.

Technologies

PythonC++GoRustCUDANCCLDockerKubernetesSlurmNsight SystemsNsight ComputevLLMSGLangTritonTorchDynamoTorchInductorMLIRLLVMXLACUTLASSCUDA GraphTensor CorescontainerdCRI-OCRIUAWSGCPAzure

Contextes

Intelligence artificielleSystèmes haute performanceCloud computing

Compétences

Programmation parallèleOptimisation de performanceDéveloppement de kernels GPUOrchestration de conteneursDébogageProfilageConception d’architectures logiciellesCommunicationRecherche et développement

Challenges détectés

5 enjeux

Optimisation
Optimiser les performances des systèmes d’inférence IA à grande échelle
Technologies clés
PythonC++CUDANCCL
Compétences clés
Optimisation de performanceProgrammation parallèleDébogage
Optimisation
Développer et benchmarker des kernels GPU pour l’IA
Technologies clés
CUDACUTLASSCUDA GraphTensor Cores
Compétences clés
Développement de kernels GPUOptimisation de performance
Optimisation
Définir et mettre en œuvre des méthodologies de benchmarking pour l’inférence IA
Technologies clés
MLPerf Inference
Compétences clés
BenchmarkingConception d’architectures logicielles
Optimisation
Orchestrer le déploiement de l’inférence IA sur des clusters GPU multi-cloud
Technologies clés
DockerKubernetesSlurmcontainerd
Compétences clés
Orchestration de conteneursCloud computing
Croissance
Intégrer des avancées de recherche en systèmes IA dans les produits logiciels NVIDIA
Compétences clés
Recherche et développement