Programme de formation

• Objectifs

  Ce cours vise à donner aux étudiants une compréhension des risques liés à l'intelligence artificielle ainsi que les outils nécessaires pour analyser les mécanismes d'attaques et les méthodes pour les atténuer, tout en sensibilisant aux considérations éthiques liées au développement de l'IA. Il sensibilise également aux considérations éthiques liées au développement de l'IA. À l'issue du cours, les étudiants sont capables de :

  • dentifier et analyser les principales menaces pesant sur les systèmes d'IA
  • comprendre les mécanismes d'attaques techniques (adversariales, par empoisonnement, par injection, etc.)
  • proposer des contre-mesures adaptées
  • appréhender les enjeux de gouvernance, d'éthique et d'alignement de l'IA
• Contenu

  • Introduction à l'AI Safety et à la sécurité des systèmes d'IA
  • Rappels et approfondissement de PyTorch (fondations pour les labs)
  • Attaques adversariales sur les CNN
  • Introduction au framework MITRE ATLAS (taxonomie des attaques sur systèmes d'IA)
  • Reinforcement Learning et enjeux d'alignement spécifiques au RL : (reward hacking, spécification gaming, goal misgeneralisation)
  • Large Language Model (LLM) : prompt injection, jailbreak, attaques multimodales
  • Transparence et explicabilité des systèmes d'IA : Mechanistic interpretability, Circuit Tracing
  • Considérations éthiques et de gouvernance : réglementation (EU AI Act), état de l'art dans les grandes entreprises, risques existentiels, alignement

Forme d'enseignement et volume de travail

Spécification du cours

Modalités d'évaluation

• Contrôle continu: travaux écrits, TP/évaluation de rapports

Mode de calcul de la note de cours

La note du contrôle continu est la moyenne pondérée des évaluations du semestre. En cas d'examen de révision, la note finale du cours est la moyenne arithmétique de la note du contrôle continu et de celle de l'examen de révision.

Enseignant(s) et/ou coordinateur(s)

Philippe Joye, Jacques Supcik