IA ACT : enjeux, risques et obligations pour en déterminer des points de contrôles clés

Le marché de l’IA est en croissance exponentielle, tout le tissu économique s’en imprègne. On observe une recrudescence des scandales et des risques associés à un usage incontrôlé de l’IA. En réponse à ces risques l’UE travaille depuis 2018 sur une proposition de loi visant à réguler les IAs en réponse à une crise de confiance envers ses systèmes.
Dès 2024 les métiers de l’Audit et du Contrôle Internes devront intégrer dans leurs missions la mise en conformité de leurs organisations et faire face à un double enjeu : être capable de comprendre les risques liés à l’usage de l’IA et les exigences réglementaires associées.

4 / 5
( 8 notes,
de janvier à mars 2024 )

Les sessions

Date

Durée

Tarif HT

Lieu

Horaire

Places

Crédits CPE

Fiche formation

Date: 20/06/2024

Durée: 1 jour*

Adhérents: 805 €
Non adhérents : 960 €
Déjeûner(s) inclus

Lieu: Presentielle
Paris intra muros

Horaires 8h45 – 17h30

Places:

Crédits CPE: 7

Date: 27/09/2024

Durée: 1 jour*

Adhérents: 805 €
Non adhérents : 960 €
Déjeûner(s) inclus

Lieu: Presentielle
Paris intra muros

Horaires 8h45 – 17h30

Places:

Crédits CPE: 7

Date: 21/11/2024

Durée: 1 jour*

Adhérents: 805 €
Non adhérents : 960 €
Déjeûner(s) inclus

Lieu: Presentielle
Paris intra muros

Horaires 8h45 – 17h30

Places:

Crédits CPE: 7

Participants

Auditeurs internes, contrôleurs internes

Prérequis

Connaissance de la data et de l’IA
Connaissance d’une démarche d’audit

Intervenants

Formation co-conçue par des experts l’IFACI et Quantmetry et animée par des experts de Quantmetry.

Documentation

Visuels de présentation – alternance de retours d’expériences et d’exposés

Objectifs pédagogiques

– Comprendre l’IA Act, ses enjeux et obligations associées
– Identifier les risques d’une IA
– Maîtriser la méthodologie de préqualification des niveaux de risque – comprendre le cas particulier des IA génératives
– Connaître les modèles organisationnels mis en œuvre dans les organisations pour délivrer des IA de confiance
– Connaître, pour chaque pilier thématique de l’IA Act, les points de contrôle qui pourraient être demandés lors d’audit internes.

Contenu

– C’est quoi une IA ? Pourquoi l’IA de confiance ?
— Définition des grands concepts de l’IA
— Rappel des principaux risques associés à l’IA / comprendre le cas particulier des IA génératives
— Définir la notion d’IA de confiance, des 8 piliers de l’IA de confiance
— Impact sur les métiers de l’audit et du contrôle internes
– IA de « confiance by design » : comprendre les processus projet IA
— Processus détaillé « Confiance by design » pour valider les exigences techniques et métiers ainsi que leur certification
— Rôles, responsabilités et comitologie (RACI, comité éthique…)
– Mise en application TP : analyse de risques et détection des failles
— Pour différents processus projet IA :
— Réaliser des analyses de risque
— Identifier les manques et améliorations possibles de ces processus garantissant un haut niveau de qualité
– Contenu d’un contrôle qualité d’une IA :
— Compréhension du processus contrôle qualité d’une IA
— Pour chacune des 8 thématiques de l’IA de confiance, détail de 2 points de contrôle :
— Illustration pédagogique du point de contrôle
— Quel est le concept IA de confiance et le risque sous-jacent ?
— A quelle étape projet le point de contrôle doit être réalisé ?
— Exemples de preuves
— Quel profil du projet doit documenter la preuve (Data Scientist, Data Engineer, Product Owner…) ?
— TP : valider ou non des preuves et identifier des points de remédiation (quiz)