1/ Enjeux technologiques essentiels

• Acquisition des bases de connaissance sur le fonctionnement et la mise en place de systèmes d’intelligence artificielle ;
• Machine learning, deep learning et IA génératives. ;
• Gouvernance, qualité et intégrité des données ;
• Robustesse, précision, et cybersécurité ;
• Implications pour les entreprises : comment garantir une IA de confiance ?
• Étude des normes et documentation technique (référentiels, certifications, etc).

Cas d’usage :

1. Les modèles de fondation et système d’IA à usage général : étude comparative des performances (biais, transparence, explicabilité, soutenabilité, etc) ;
2. Démonstration d’agents conversationnels internes « My legal RSSI » et « My RGPD ».

2/ Enjeux juridiques principaux :

• Le risque RGPD : minimisation, bases légales, DPIA, durées de conservation, transferts hors UE, obligation de sécurité du traitement, etc ;
• Les risques éthiques et droits fondamentaux : étude des concepts de biais, de discrimination, de transparence, d’explicabilité et de durabilité ;
• Le risque en propriété intellectuelle (IP) : sécurisation de la propriété des données d’input et d’output, droits d’auteur, propriété littéraire et artistique, propriété industrielle, œuvre exploitée, œuvre générée, secret des affaires, etc ;
• Le risque contractuel : qualification juridique des acteurs, enjeux de responsabilité, garanties des fournisseurs, etc.

Cas d’usage : Quelles responsabilités ? Comment satisfaire à ses obligations de conformité à l’AI Act ? Qui est fournisseur, qui est déployeur ? Quelle responsabilité des concepteurs, développeurs, utilisateurs ?

3/ Mise en conformité opérationnelle et gouvernance : l’approche par les risques

• Déterminer le niveau de risque du système d’IA : cartographie, classification et auditabilité des systèmes d'IA selon le niveau de risque : risque inacceptable, haut risque, risque faible, risque minime ;
• Déterminer son statut et qualification juridique (fournisseur, déployeur, distributeur, etc) ;
• Engagement et gouvernance : comment et quand engager les processus de mise en conformité ?
• Étude des obligations de conformité pour les systèmes à haut risque :
  • Pour les fournisseurs (système de gestion des risques, choix et gouvernance des données, documentation technique, instructions d’utilisation, système de gestion de la qualité, obligations d’information et de coopération, déclaration de conformité, marquage CE, inscription dans la base de données EU, etc)
  • Pour les déployeurs (conformité aux instructions d’utilisation, surveillance humaine, contrôle des données input, obligations de vigilance et d’information, conservation des logs, etc)

4/ Cas d’usage : mises en situation 

• Pour les fournisseurs :
  • Comment construire un système de gestion des risques (évaluation des risques et remédiation, mise à jour du système, tests préalables, etc) 
  • Comment assurer que ses données d’apprentissage, de validation et d’essai sont qualitatives ? Comment identifier et corriger les biais ?
  • Comment atteindre un niveau approprié de précision, de robustesse et de cybersécurité ?
  • Quand et comment recourir au bac à sable réglementaire ? Quels intérêts ?
• Pour les déployeurs :
  • Quelles formations prévoir et pour qui ? 
  • Comment assurer un niveau suffisant de compétences, de formation, d’autorité et de soutien des personnes physiques chargées de la surveillance des systèmes d’IA ?
  • Quelles mesures techniques et organisationnelles pour utiliser les systèmes d’IA conformément aux instructions d’utilisation ?
  • Quels process pour satisfaire aux obligations de vigilance et d’information ?

5/ Financement de l’innovation et valorisation de vos outils