Introduction à l’intelligence artificielle aujourd’hui (30 min)
Notions fondamentales : IA vs Machine Learning, réseaux de neurones, entraînement de modèles
Fonctionnement des applications IA modernes : fine-tuning, déploiement, intégration
Focus sur le RAG (Retrieval-Augmented Generation) : principe et cas d’usage
Nouveaux risques de sécurité liés à l’IA (1h30)
Pourquoi l’IA introduit-elle de nouvelles surfaces d’attaque dans les systèmes d’information ?
Attaques antagonistes : comprendre ce nouveau type de menace ciblant les réseaux neuronaux
Revue des 10 risques majeurs du Top 10 OWASP LLM 2025 :
LLM01 – Injection de prompts
LLM02 – Fuite d’informations sensibles
LLM03 – Vulnérabilités de la chaîne d’approvisionnement
LLM04 – Empoisonnement des données et modèles
LLM05 – Mauvaise gestion des sorties
LLM06 – Capacité d’action excessive
LLM07 – Fuite du prompt système
LLM08 – Faiblesses des vecteurs et embeddings
LLM09 – Dépendance excessive au modèle
LLM10 – Consommation illimitée de ressources
Chaque point est illustré par des scénarios concrets, des exemples d’attaque et des leviers de mitigation.
Challenge pratique (4 à 6h)
Une plateforme interactive avec une douzaine de mini-challenges à réaliser en binôme, accompagnés par le formateur
Chaque défi illustre une ou plusieurs des failles étudiées dans la partie précédente
Classement en temps réel, progression par niveaux de difficulté, accès prolongé après la formation (en option gratuite)
Exemples de challenges :
Prompt injection : forcer le LLM à révéler un mot de passe caché malgré les protections
Injection indirecte : créer un site malveillant pour détourner un service de résumé automatisé
RAG et cloisonnement des données : accéder à des documents censés rester confidentiels
Débriefing final (30 min)
Revue collective des solutions proposées
Explication détaillée des attaques attendues et des mécanismes sous-jacents
