Consultant DevOps
Freelance - Casablanca
Mission
- Industrialisation & CI/CD : Mise en place Model Registry et automatisation des pipelines CI/CD pour les modèles et les agents IA.
- Observabilité Conversationnelle : Mise en place du tracing de sessions et scoring qualité par tour pour auditer les échecs
- Sécurité et PII : Implémentation de pipeline de scrubbing PII et masqage de données sensibles
- Gouvernance de couts : monitoring de la consommation de tokens par cas d’usage et mise en place des rates-limiting stratégies
Compétences demandées
- Infrastructure : Kubrenetes avancée, gestion des GPUs
- Monitoring & tracing : Pormetheus, Grafana, Dynatrace ainsi que des outils spéifiques LLM
- CI/CD : GitLab, Jenkins, ArgoCD
- MLflow ou équivalent (Model Registry)