ShopXpress et TalentScan : Quand l'algorithme reproduit les biais du passé

ShopXpress, leader européen du e-commerce (12 000 salariés, 3,2 milliards d'euros de chiffre d'affaires), utilise depuis 2022 TalentScan, un outil SaaS de recrutement automatisé développé par la startup RecruIT. En janvier 2027, un signalement anonyme révèle que l'algorithme pénalise systématiquement les femmes et les candidats issus d'établissements moins reconnus que certaines grandes écoles et universités, en reproduisant les déséquilibres structurels présents dans les données historiques de recrutement. Un audit interne de 2023, délibérément mis de côté par la direction, confirme que ces biais étaient connus. Le 2 février 2027, Lou Milet (candidate n°7), dont la candidature a été écartée en raison d'un congé parental, publie un témoignage sur LinkedIn qui devient viral et provoque une chute de 12 % du cours de l'action. Le même jour, l'association EqualTech adresse une mise en demeure à ShopXpress, et une journaliste du Monde contacte la direction générale pour un article à paraître le lendemain.
Placé dans la position d'un stagiaire chez Me Claire Arnaud, avocate mandatée par ShopXpress, l'étudiant doit qualifier juridiquement TalentScan au regard du RIA, identifier les manquements de ShopXpress et RecruIT, analyser leurs responsabilités respectives et proposer un plan de mise en conformité.

La finalité de l'étude de cas est de vérifier que l'étudiant maîtrise le champ d'application du règlement européen sur l'intelligence artificielle et sait identifier les systèmes d'IA à haut risque en particulier dans le domaine du recrutement automatisé.
L'étudiant doit pouvoir distinguer les obligations respectives du fournisseur et du déployeur d'un système d'IA à haut risque (RIA, art. 16 et 26), et les appliquer à une situation concrète impliquant une relation contractuelle entre deux entreprises.
L'étude de cas permet d'évaluer si l'étudiant sait analyser les manquements aux obligations de transparence (RIA, art. 13), de documentation technique (RIA, art. 11), d'évaluation des risques (RIA, art. 9) et de surveillance humaine (RIA, art. 14) dans un cas pratique.
Il permet également de s'assurer que l'étudiant sait évaluer l'incidence juridique d'une connaissance préalable du risque sur la responsabilité des acteurs, à partir d'éléments de preuve documentaires.
L'étude de cas vise enfin à évaluer si l'étudiant est en capacité de construire un plan de mise en conformité hiérarchisé et juridiquement argumenté, en articulant les exigences du RIA avec les contraintes opérationnelles de l'entreprise.

Intelligence artificielle - Données - Droit du numérique - AI Act - Biais algorithmiques - Recrutement - Conformité - Compliance - E-commerce

Etudiants de M1/M2 qui ont suivi un cours en droit des nouvelles technologies
Etudiants de programmes généralistes de niveau bac +3 à bac +5 suivant un cours d'introduction au droit du numérique ou à la gouvernance des données
Professionnels en formation continue (juristes d'entreprise, responsables conformité, délégués à la protection des données).

Vente à distance sur catalogue spécialisé (vente en ligne ou par correspondance).

Durée d'utilisation : 3 heures. Jeu de rôle. Cas d'examen.

Année de la problématique : 2027

Livraison : Livraison par lien de téléchargement

Nombre de pages : 13