Sécurité des systèmes d'intelligence artificielle
Sécurité des systèmes d'intelligence artificielle
Cybersécurité et IA > Cybersécurité
Objectifs
- Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes.
- Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant.
- Préparer et réaliser un audit de sécurité approfondi d'un système d'IA.
- Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la
sécurité de ces systèmes.
Le programme de la formation
Jour 1 - Vulnérabilités du modèle
Concepts fondamentaux du deep learning : entraînement et fine-tuning, architectures, jeux de
données, embeddings, ...
Attaques antagonistes
Injection de prompt
Empoisonnement des données d'entraînement
Attaques sur l'apprentissage fédéré
Inversion de modèle
Jour 2 - Vulnérabilités applicatives
Injection via les sorties du modèle
Fuite de données sensibles
Attaques sur la chaîne d'approvisionnement
Élévation de privilèges via le modèle
Attaques sur RAG : fuite de documents, attaques par canal auxiliaire
Jour 3 - Mesures défensives et bonnes pratiques + évaluation
Méthodes de préparation et de restitution d'un audit de sécurité IA
Sécurisation des systèmes d'IA, de la conception jusqu'à la mise en production
Gestes à adopter en cas d'attaque, considérations juridiques et protection des données
Correction des travaux pratiques des jours 1 et 2
Examen de compétences
Public et Pré-requis de la formation
Développeurs, responsables techniques, architectes travaillant sur des projets d'IA. Consultants en cybersécurité souhaitant renforcer leur éventail de compétences.
Expérience en programmation, idéalement liée à l'IA ou la science des données.
Notions de base en sécurité applicative.
Méthode pédagogique de la formation
Cours magistral illustré par des exemples concrets et des démonstrations.
Exercices de mise en pratique sur des environnements réalistes, challenges type Capture The Flag.
29 Commentaires
Formation flexible en petit groupe
Très bonne formation! Organisation rapide et on est bien conseillé. Merci up up formation, je recommande fortement!!
Formation intéressante avec de bons échanges et une formatrice à l'écoute.
Merci up up concernant la flexibilite de mon planning
Bien.
Une organisation à la fois simple et professionnelle
bien mais surprenant concernant le paiement
Une formation adaptée à ce que je désirais m’a été trouvée avec succès
Bonne prestation Groupe sympathique
Société professionnelle, bon relationnel
Bonne formation
Simple et concis, une bonne présentation du concept
Je suis très satisfait d’UpUp. Le principe de la mutualisation est malin et très innovant. J’ai pu me former pour le 1/4 du prix initial de la formation. Je recommande.
Je suis particulièrement satisfaite de la formation surtout par la disponibilité de la formatrice et par le contenu du programme.
J'ai découvert cette plateforme très récemment. J'ai trouvé une formation près de chez moi dans le domaine recherché en quelques clics. Simple, efficace et rapide ! merci.
formation adaptée à mes besoins et mes horaires, je recommande vivement
Site clair. Offre complète
Claire facile d'acces ,rapide
Super formation. Merci beaucoup
Je recommande pour la qualité, la réactivité et la précision,
Simple, efficace, pratique !
très bonne formation très agréable merci
Site simple et facile d'utilisation.
Bonne formation
Site convivial facile d'accès et ergonomique prix intéressant
Excellente formation et concept innovant. Je recommande !
Upup est très professionnel, le site ergonomique.
Très clair, moderne et utile. N’hésitez pas à y aller, vous ne serez pas déçu
Un concept innovant. En mutualisant la formation, on assure un minimum de stagiaires par session.