☀️ C'est l'été chez ITTA ! Profitez de 10% de réduction jusqu'au 31 juillet sur une sélection de formations 🌴

Formation : LLMOps et observabilité des LLM

Durée :
2
 jours
Examen :
Non certifiant
Niveau :
Avancé
Financement :
Eligible

Formation LLMOps et observabilité des LLM

La formation LLMOps vous donne les méthodes pour faire passer vos modèles de langage du prototype à la production. Entre une démonstration qui impressionne et un assistant qui tient la charge, répond de manière fiable et reste sous contrôle, il existe un fossé que peu d’équipes franchissent sans incident.

Piloter le cycle de vie complet de vos modèles de langage

En deux jours, vous parcourez les étapes qui comptent : architecture d’une plateforme LLMOps, préparation des données, évaluation des modèles, gouvernance et conformité, puis déploiement et montée en charge. La dernière partie est consacrée à l’observabilité : quelles métriques suivre, comment détecter une dérive de qualité ou de coûts avant vos utilisateurs.

Le formateur illustre chaque concept par des démonstrations tirées de projets réels, et la session laisse une large place aux échanges sur vos propres cas d’usage.

Profils des Participants

  • Ingénieurs machine learning et ingénieurs LLM
  • Data scientists passant du prototype à la production
  • Ingénieurs DevOps, SRE et équipes plateforme impliqués dans l’exploitation de modèles
  • Développeurs backend intégrant des modèles de langage par API
  • Architectes de solutions IA
  • Responsables de plateformes de données et d’intelligence artificielle
  • Chefs de projet technique pilotant une mise en production de modèles de langage

Objectifs

  • Situer le LLMOps dans le cycle de vie d’une application basée sur un modèle de langage
  • Identifier les composants d’une plateforme LLMOps et le rôle de chacun
  • Structurer la préparation des données et la constitution d’un jeu d’évaluation
  • Choisir entre RAG, fine-tuning et ingénierie de prompts selon votre besoin
  • Poser un cadre de gouvernance et de conformité adapté au contexte suisse
  • Comparer les stratégies d’inférence, de déploiement et de montée en charge
  • Déterminer les métriques d’observabilité à suivre et les seuils d’alerte pertinents

Connaissances Préalables

  • Avoir déjà utilisé un modèle de langage dans un cadre professionnel, par exemple via une API ou un assistant intégré
  • Une culture technique en développement, en données ou en infrastructure, nécessaire pour suivre les démonstrations

Contenu du Cours

Module 1 : Introduction aux grands modèles de langage (LLMs) et au LLMOps

  • Ce qui change entre un prototype et une application en production
  • Le cycle de vie complet d’une application basée sur un modèle de langage
  • Définir ses objectifs de latence, de coût et de qualité (SLO et SLA)
  • Panorama des acteurs, des outils et des standards en cours de stabilisation

Module 2 : Les composants fondamentaux d’une plateforme LLMOps

  • Passerelle d’accès aux modèles : routage, quotas, gestion des clés
  • Gestion et versionnement des prompts
  • Base vectorielle et récupération de contexte
  • Registre de modèles, d’artefacts et de jeux de données
  • Orchestration des traitements et gestion des dépendances

Module 3 : Préparation et traitement des données dans une chaîne LLMOps

  • Collecte, nettoyage et découpage des documents
  • Contrôle qualité, déduplication et gestion des versions de corpus
  • Constituer un jeu d’évaluation de référence
  • Données sensibles : anonymisation, cloisonnement et durée de conservation

Module 4 : Développement, évaluation et gestion des modèles avec le LLMOps

  • Ingénierie de prompts versionnée et tests de régression
  • RAG ou fine-tuning : critères de choix et coûts associés
  • Adaptation de modèles par LoRA et QLoRA : principes et limites
  • Évaluation automatique : métriques objectives et approche LLM as judge
  • Mesurer la pertinence, les hallucinations et la toxicité des réponses

Module 5 : Gouvernance, validation et conformité des solutions LLMOps

  • Traçabilité complète des générations et conservation des preuves
  • Cadre réglementaire : nLPD, RGPD et AI Act européen
  • Gestion des accès, des secrets et cloisonnement des environnements
  • Filtrage des entrées et des sorties, protection contre les fuites de données
  • Politique d’usage interne et circuit de validation avant mise en production

Module 6 : Stratégies d’inférence, de déploiement et de montée en charge des modèles

  • API managée ou modèle auto-hébergé : arbitrage coût, souveraineté et performance
  • Serveurs d’inférence et optimisation : batching, cache de contexte, quantification
  • Dimensionnement GPU, files d’attente et gestion de la charge
  • Déploiement progressif, bascule canari et retour arrière

Module 7 : Supervision, observabilité et amélioration continue des solutions LLMOps

  • Instrumenter la chaîne complète avec des traces et des métriques
  • Métriques clés : latence, débit de tokens, taux d’erreur, coût par requête
  • Détecter la dérive de qualité, de latence et de coûts
  • Seuils d’alerte, tableaux de bord et intégration à une stack de supervision existante
  • Boucle de retour utilisateur et cycle d’amélioration continue

Module 8 : L’avenir du LLMOps et les technologies émergentes

  • Agents et systèmes multi-agents : ce que cela change pour la supervision
  • Modèles ouverts et modèles propriétaires : évolution du rapport de force
  • Standards émergents et interopérabilité des outils
  • Construire sa feuille de route d’adoption

Documentation

  • Support de cours numérique inclus

Lab / Exercices

  • Ce cours s’appuie sur des démonstrations conduites par le formateur et sur l’analyse de cas réels, complétées par des échanges et des recommandations adaptées à vos projets. Il ne comprend pas d’environnement technique dédié aux participants.

Cours complémentaires

Financement Eligible

ITTA est partenaire d’un fonds de formation continue destiné aux travailleurs temporaires. Ce fonds peut subventionner cette formation, sous réserve que vous soyez assujetti(e) à la convention collective de travail (CCT) « Location de services » et que vous remplissiez certaines conditions, notamment avoir travaillé au moins 88 heures au cours des 12 derniers mois.

Informations Additionnelles

Qu’est-ce que le LLMOps et pourquoi s’impose-t-il en entreprise ?

Le LLMOps désigne l’ensemble des pratiques, des outils et des processus qui permettent d’exploiter des grands modèles de langage en production de manière fiable, mesurable et maîtrisée. Là où un prototype se contente de produire une réponse plausible, une solution en production doit répondre dans un délai contraint, à un coût prévisible, avec une qualité constante et une traçabilité complète de ce qui a été généré. Cet écart explique pourquoi tant de projets d’intelligence artificielle générative s’arrêtent au stade de la démonstration.

Les entreprises suisses qui déploient aujourd’hui des assistants internes, des moteurs de recherche documentaire ou des agents métier se heurtent toutes aux mêmes questions : comment savoir si la qualité des réponses se dégrade, comment détecter une dérive avant que les utilisateurs ne la signalent, comment justifier une décision assistée par un modèle devant un auditeur, comment maîtriser une facture d’inférence qui grimpe sans prévisibilité. Le LLMOps apporte une réponse structurée à chacune de ces questions, et c’est précisément l’objet de cette formation.

LLMOps, MLOps et DevOps : quelles différences ?

Le LLMOps hérite du MLOps, qui hérite lui-même du DevOps, mais il introduit des contraintes qui lui sont propres. Un modèle de machine learning classique produit une sortie déterministe que l’on compare à une vérité terrain. Un modèle de langage produit du texte, dont la qualité dépend du contexte, du prompt et de la formulation. L’évaluation ne peut donc plus reposer sur une simple métrique de précision.

  • Le DevOps industrialise la livraison du code : intégration continue, tests, déploiement automatisé
  • Le MLOps ajoute la gestion des jeux de données, l’entraînement, le versionnement des modèles et la détection de dérive statistique
  • Le LLMOps ajoute la gestion des prompts, l’évaluation qualitative des réponses, la maîtrise des coûts par token, la protection contre les fuites de données et la traçabilité des générations

Comprendre ce qui se transpose depuis vos pratiques existantes et ce qui doit être inventé vous évite de reconstruire une chaîne complète là où une adaptation suffisait. C’est l’un des acquis les plus directement applicables de ces deux jours.

Pourquoi l’observabilité est le maillon faible des projets LLM

La plupart des équipes instrumentent correctement leur infrastructure et leurs applications, puis découvrent que cette instrumentation ne dit rien de ce qui les intéresse vraiment : la pertinence des réponses. Un assistant peut afficher une disponibilité parfaite et des temps de réponse excellents tout en produisant des réponses de moins en moins utiles, parce qu’un fournisseur a changé de version de modèle, parce que la base documentaire a évolué ou parce qu’un prompt a été modifié sans contrôle.

L’observabilité appliquée aux LLM consiste donc à instrumenter la chaîne complète : la requête de l’utilisateur, la recherche de contexte, l’appel au modèle, la réponse produite, le coût associé et le retour éventuel de l’utilisateur. Elle suppose des métriques spécifiques, des jeux d’évaluation de référence et des seuils d’alerte définis à l’avance. La formation détaille cette mise en place et montre comment l’articuler avec une stack de supervision existante, sujet que vous pouvez approfondir avec la formation Observabilité avec Prometheus et Grafana (PRM-01).

Pourquoi suivre cette formation plutôt que d’avancer seul

Le LLMOps est un domaine jeune, où la documentation disponible mélange discours d’éditeurs, standards en cours de stabilisation et retours d’expérience contradictoires. Trier seul ce qui est mature de ce qui ne l’est pas représente un investissement considérable, avec le risque de bâtir une chaîne autour d’un outil qui n’existera plus dans dix-huit mois.

Ces deux jours vous font gagner ce temps de tri. Le formateur, praticien du domaine, présente les approches qui ont fait leurs preuves, signale celles qui restent instables et explique les arbitrages à poser selon la taille de votre organisation et votre niveau d’exigence réglementaire. Le format privilégie délibérément la discussion et la démonstration plutôt que l’exercice guidé : vous repartez avec des recommandations applicables à votre contexte, pas avec un tutoriel à rejouer.

L’approche ITTA

La formation se donne à Genève, à Lausanne et en classe virtuelle, en petit effectif, ce qui permet au formateur de traiter les situations que vous apportez. Elle s’inscrit dans un parcours complet consacré à l’intelligence artificielle : vous pouvez la préparer avec Comprendre les grands modèles de langage (LLM) en entreprise (AI-01-05) si vos équipes découvrent le sujet, ou avec Développer des applications LLM et RAG avec LangChain (AI-06-06) si vous construisez déjà des applications et souhaitez maintenant les opérer correctement. Le financement Temptraining est mobilisable selon votre situation.

Après la formation : par où commencer

La suite logique consiste rarement à déployer une plateforme complète. Elle commence par instrumenter une seule application existante, définir trois à cinq métriques qui comptent réellement pour ses utilisateurs, puis constituer un jeu d’évaluation de référence d’une cinquantaine de cas représentatifs. Cette base modeste suffit déjà à détecter les régressions les plus coûteuses. Vient ensuite la mise sous contrôle des coûts, puis la formalisation du cadre de gouvernance. Cette progression par paliers, présentée en fin de session, évite l’effet tunnel d’un chantier trop ambitieux.

FAQ

Faut-il savoir entraîner un modèle pour suivre cette formation ?

Non. Le LLMOps porte sur l’exploitation de modèles existants, pas sur leur entraînement. Une expérience opérationnelle sur un projet utilisant un modèle de langage suffit.

La formation est-elle liée à un fournisseur particulier ?

Non. Les principes présentés s’appliquent aux modèles propriétaires accessibles par API comme aux modèles ouverts hébergés en interne. Les démonstrations couvrent plusieurs environnements.

Y a-t-il des travaux pratiques sur un environnement dédié ?

Cette session repose sur des démonstrations du formateur et des échanges à partir de cas réels, sans environnement technique fourni aux participants. Ce format permet de consacrer davantage de temps à vos propres problématiques.

Le LLMOps concerne-t-il aussi les agents et les systèmes multi-agents ?

Oui. Les agents amplifient les enjeux de supervision, puisqu’une même demande déclenche plusieurs appels enchaînés. Les principes d’observabilité vus en cours s’y appliquent directement.

Quelle est la différence avec une formation MLOps ?

Une formation MLOps traite du cycle de vie des modèles entraînés en interne. Le LLMOps se concentre sur les spécificités des modèles de langage : gestion des prompts, évaluation qualitative, maîtrise des coûts par token et traçabilité des générations.

Cette formation débouche-t-elle sur une certification ?

Non, il n’existe pas à ce jour de certification reconnue sur le LLMOps. Un badge de réussite ITTA vous est remis à l’issue de la session.

Prix de l'inscription
CHF 1'600.-
Inclus dans ce cours
  • Formation dispensée par un expert du domaine
  • Démonstrations et recommandations sur vos cas d'usage
  • Documentation et supports digitaux
  • Badge de réussite
Mois actuel

mer04Nov(Nov 4)09:00jeu05(Nov 5)17:00VirtuelVirtuel Etiquettes de sessionAI-06-08

mer04Nov(Nov 4)09:00jeu05(Nov 5)17:00Genève, Route des Jeunes 35, 1227 Genève Etiquettes de sessionAI-06-08

mer09Déc(Déc 9)09:00jeu10(Déc 10)17:00VirtuelVirtuel Etiquettes de sessionAI-06-08

mer09Déc(Déc 9)09:00jeu10(Déc 10)17:00Lausanne, Av. Mon-Repos 24, 1005 Lausanne Etiquettes de sessionAI-06-08

Contact

ITTA
Route des jeunes 35
1227 Carouge, Suisse

Horaires d’ouverture

Du lundi au vendredi

de 8h30 à 18h00

Tél. 058 307 73 00

Contactez-Nous

ITTA
Route des jeunes 35
1227 Carouge, Suisse

Faire une demande

Horaires d’ouverture

Du lundi au vendredi

de 8h30 à 18h00

Tél. 058 307 73 00

Contactez-Nous

ITTA
Route des jeunes 35
1227 Carouge, Suisse

Faire une demande