vLLM
IA générative / Outils d’inférence et de serving de modèles de langage (LLM)
Personas associées
2
Part observée dans Tekos
100 %
Parmi les personas de la même catégorie. Ce n'est pas une part de marché.
Entreprises associées
2
Entreprises où la technologie est observée
Enjeux associés
- Accompagner la montée en compétences des développeurs juniors et alternants1
- Assurer la fiabilité et la résilience de la plateforme en production1
- Définir et maintenir l’architecture globale du système d’information1
- Déployer et opérer une plateforme LLM auto-hébergée pour des produits IA santé1
- Développer des services métiers critiques et des interfaces utilisateurs à forte valeur métier1
- Garantir la cohérence, la robustesse et l’évolutivité du système d’information interne sur une infrastructure souveraine1
- Garantir la sécurité, la conformité et la confidentialité des données de santé1
- Garantir la souveraineté des données et la maîtrise de la chaîne technique1