Objectifs de la chaire
La chaire Law, Accountability and Social Trust in IA regroupe une équipe interdisciplinaire de chercheurs en droit, informatique et mathématiques. Sont aussi associés des professionnels travaillant dans des secteurs d’application critique de l’IA, en particulier celui de la santé ou de la sécurité publique. La chaire privilégie une approche pragmatique à travers des partenariats industriels et institutionnels, tels que Toulouse métropole, Occitanie Data, Oncopole, Gendarmerie nationale.
À la croisée du droit et de la technique, l’objectif principal est d’étudier les risques sociaux susceptibles d’être générés par l’IA. Il s’agit d’envisager les réponses apportées par le droit pour atténuer les risques et réparer les dommages qui pourraient survenir. Pour ce faire, la chaire analyse et anticipe les effets des règles de droit en intégrant les caractéristiques techniques de l’IA, ce qui est rendu possible par la coopération des chercheurs de ces trois domaines de recherche. La collaboration entre droit et sciences permet non seulement de dépasser les principes éthiques de l’IA afin de proposer des exigences concrètes de réglementation, mais aussi de concevoir des outils permettant de contrôler la conformité aux exigences juridiques existantes et à venir.
Les objectifs plus spécifiques de la chaire sont de : mener des études sur l’encadrement des technologies d’IA, en s’appuyant sur les projets de réglementations actuels et futurs, en France et dans l’Union européenne, mais aussi au Canada et aux États-Unis ; d’accompagner les chercheurs en IA sur le respect et la discussion de ces exigences : nourrir la réflexion sur l’insuffisance des normes en cours d’élaboration pour nourrir les normes futures dans un souci de faire émerger une IA responsable et socialement juste. Les travaux de la Chaire visent autant à informer et sensibiliser les concepteurs et utilisateurs publics et privés de l’IA qu’à éclairer le législateur et les responsables des politiques publiques. La chaire se caractérise enfin par un leadership fort pour encadrer la nouvelle génération de chercheurs (étudiants M1 & M2, doctorants, post-doctorants) afin de les former à une approche transdisciplinaire du droit et de la technologie.
Programmes : IA acceptable
Thèmes : Fair learning, IA et société, robotique et IA
Porteur : Céline Castets-Renard, Université d’Ottawa, Ontario, CA.
Contact : Celine.Castets-Renard@uottawa.ca
Site : https://droitcivil.uottawa.ca/fr/personnes/castets-renard-celine
Co-Chair :
• Laurent Risser | Site : http://laurent.risser.free.fr
• Sylvain Cussat-Blanc | Site : https://www.irit.fr/~Sylvain.Cussat-Blanc/
• Céline Castets-Renard – Porteuse de la chaire
Professeure titulaire à l’Université d’Ottawa dans la Faculté de droit civil, Céline Castets-Renard est aussi titulaire de la chaire de recherche IA responsable à l’échelle mondiale. Ses travaux de recherches et enseignements couvrent les champs disciplinaires du droit du numérique et du droit de l’IA (principes généraux de l’IA et règles sectorielles notamment sur les outils de surveillance de la police, action humanitaire et immigration, biais et discrimination de race et de genre, IA et éducation) ainsi que du droit et de l’éthique de l’IA dans une perspective comparée (UE, US, Canada, relations Nord/Sud).
Les problématiques de ses recherches actuelles portent sur l’IA et la covid-19 au Sénégal et au Mali, la reconnaissance faciale, le profilage racial et les technologies, ainsi que les logiciels de surveillance des examens.
En savoir plus : https://univ-droit.fr/universitaires/5103-castets-renard-celine
• Laurent Risser – Co-chair
Laurent Risser est ingénieur de Recherche CNRS en mathématiques appliquées aux sciences des données au sein de l’IMT (Institut de Mathématiques de Toulouse). Il couvre plusieurs champs disciplinaires, à savoir les modèles mathématiques l’IA explicable et la détection/correction de biais algorithmiques, ainsi que l’implication du droit sur la définition de modèles de prédiction en IA. Ses travaux de recherche actuels portent sur l’explicabilité des réseaux de neurones en imagerie et en NLP et sur la correction de biais algorithmiques.
• Sylvain Cussat-Blanc – Co-chair
Maître de conférences en informatique, les travaux et enseignements de Sylvain Cussat-Blanc portent sur la modélisation du vivant, les algorithmes évolutionnaires et la programmation génétique. Ses problématiques de recherche actuelles traitent de la modélisation orientée agent de la prolifération cellulaire, l’optimisation de protocoles thérapeutiques et expérimentaux, et l’analyse interprétable d’images médicales et biologiques par programmation génétique.
https://www.irit.fr/~Sylvain.Cussat-Blanc/
• Jessica Eynard – Chercheuse associée
Maître de conférences en droit à l’Université Toulouse Capitole au sein de l’IDP (Institut de Droit Privé), les travaux de recherche et enseignements de Jessica Eynard couvrent le droit du numérique, l’identité numérique, le droit des données et le droit des personnes. Ses travaux de recherche actuels portent sur l’identification électronique et biométrique ainsi que l’usurpation d’identité (compréhension du phénomène, prévention, détection, preuve).
https://univ-droit.fr/universitaires/21812-eynard-jessica
• Suzanne Vergnolle – Chercheuse associée
Post-doctorante à l’ISDC (Institut suisse de droit comparé), les travaux de Suzanne Vergnolle portent sur la protection des personnes et le droit des données. Ses problématiques de recherche actuelles traitent de la co-régulation de l’IA, de la preuve juridique et l’IA, des normes techniques ainsi que des mesures des biais algorithmiques.
https://www.linkedin.com/in/suzanne-vergnolle-65b6b662/
• Anne-Sophie Hulin – Postdoctorante ANITI ; Chercheuse associée
Postdoctorante en droit à l’Université d’Ottawa au sein de la faculté de droit civil, Anne-Sophie Hulin traite du droit des données et de la gouvernance des données. Ses problématiques de recherche actuelles portent sur les modèles juridiques de gouvernance des données.
https://www.linkedin.com/in/anne-sophie-hulin-b6629388/
• Ronan Pons – Doctorant ANITI ; Coordinateur
Doctorant en droit de l’IA sous co-tutelle à l’Université Toulouse Capitole et à l’Université d’Ottawa, les travaux de Ronan Pons portent sur l’explicabilité, la discrimination et les biais algorithmiques, le droit du numérique ainsi que l’interaction entre le droit et les sciences. Ses problématiques de recherche actuelles traitent de la co-régulation de l’IA, de la preuve juridique et l’IA, des normes techniques et des mesures des biais algorithmiques.
https://www.linkedin.com/in/ronan-pons-996a79142/
• Claire Boine – Doctorante
Claire Boine est chercheuse en politique publique à l’Ecole de santé publique de l’Université de Boston. En plus des politiques publiques, ses travaux portent aussi sur le droit de l’Intelligence artificielle. Ses problématiques de recherche actuelles traitent du genre et de la technologie, de la vie artificielle, du droit de l’IA, des risques existentiels et de la prévention de la violence.
https://www.linkedin.com/in/claireboine/
• Evgeniia Volkova – Doctorante
• Fanny Jourdan – Doctorante – co-supervision N.Asher (2021 – 2024)
• Luca De Lara – Doctorant, École Polytechnique – co-supervision N.Asher (2020 – 2023)
- Colonel Patrick Perrot, PhD in AI, Gendarmerie Nationale
- Martin Jacob, Experienced Contract Lawyer Digital and Consulting Industries, Accenture
- Toulouse Métropole
- Occitanie Data
- Gendarmerie Nationale
- Oncopole
- Europe : H2020 projet COALA: Pr Castets-Renard is in charge of the WP on Ethics Issues and chair of the Ethics Board
- France : collaboration avec le 3IA-Nice Côte d’Azur (Chair in Law, Marina Teller). Workshop Dec. 2020
- Canada (DEEL)
- ICML Workshop 2020, Law&Machine Learning
- Colloquia September 8, 2021: “The future AI Law: Presentation of the EC proposal on AI regulation”
- 8th thematic of JDEV 2020 on programming tools for I.A. with E. Gondet (OMP) ; 2020
- CIMI-ANITI summer school on optimization, with E. Cazelles, C. F.votte and E. Soubies (CNRS, IRIT) ; 2021
- Workshop on AI based surrogate models SURDAY, with J. Morlier (ISAE-Supaero) and E. Gondet (OMP)
- Projet d’ouvrage collectif sur le « Droit de l’IA : entre règles sectorielles et régime général”. Des perspectives de comparaison du droit , avec la participation de plus de 50 auteurs de l’UE, du Canada, des États-Unis, du Japon et d’Afrique. Ce livre sera
le premier du genre et sera publié en français et en anglais en 2022 (Bruylant). Céline Castets-
Renard est membre du groupe d’experts de l’Observatoire sur l’économie des plateformes en ligne, de la Commission européenne.
1) CASTETS-RENARD C., (2020), Marché unique numérique et intelligence artificielle, Bruylant, Oct. 2020, 388 p.
2) CASTETS-RENARD C., (2021), “Human Rights and Algorithmic Impact Assessment for Predictive Policing”, Algorithmic State, Market, and Society, Cambridge University Press, Forthcoming, 2021.
3) CASTETS-RENARD C., (2021), “AI and the Law in the E.U. and the U.S.”, in Florian Martin-Bariteau, Teresa Scassa, eds, AI and the Law in Canada, LexisNexis, Mars. 2021.
4) CASTETS-RENARD C. et FOURNIER-TOMBS E. (2020), “COVID-19 and Accountable Artificial Intelligence in a Global Context”, in Colleen M Flood, Vanessa MacDonnell, Jane Philpott, Sophie Theriault & Sridhar Venkapuram, eds, Vulnerable: The Policy, Law and Ethics of COVID-19, University of Ottawa Press, July 2020.
5) CASTETS-RENARD C. (2021), « Quelle politique européenne de l’intelligence artificielle ? » dans Quels cadres de gouvernance pour le marché européen des données, Dossier spécial sur l’Europe et le numérique, Revue Trimestrielle de Droit Européen (RTDE), Juin 2021, pp. 295-310.
6) HULIN A.-S. et CASTETS-RENARD C. (2021), « Quels cadres de gouvernance pour le marché européen des données ? » Recueil Dalloz, 2021, p. 848
7) CASTETS-RENARD C., (2020), « Le Livre blanc de la Commission européenne sur l’intelligence artificielle : vers la confiance ? », Recueil Dalloz 2020, p. 837
8) CASTETS-RENARD C., (2020), “Algorithmic Content Moderation on Social Media in EU Law: Illusion of Perfect Enforcement”, University of Illinois Journal of Law, Technology & Policy (JLTP), Volume 2020, Fall Issue, page(s) 283-323
9) CASTETS-RENARD C., (2020), « Comment construire une intelligence artificielle responsable et inclusive? », Recueil Dalloz 2020, p. 225
10) CASTETS-RENARD C., (2019), « L’intelligence artificielle, les droits fondamentaux et la protection des données personnelles dans l’Union européenne et les États-Unis », Revue de droit d’Assas, 2019, 2, page(s) 158-174
11) CASTETS-RENARD C., (2019), “Accountability of Algorithms: A European Legal Framework on Automated Decision-Making”, 30 Fordham Intell. Prop. Media & Ent. L.J. 91 (2019)
12) CASTETS-RENARD C., (2018), “Privacy Shield: toward a strong Personal Data Protection between the US and the EU?”, dans BISMUTH R. (dir.), in Quel avenir pour la coopération transatlantique, Revue des Juristes de Sciences Po, n° 14, en ligne :https://revuedesjuristesdesciencespo.com/la-revue/la-revue-n14-quel-avenir-pour-la-cooperation-transatlantique
13) CASTETS-RENARD C., (2018), « Régulation des algorithmes et gouvernance du machine learning : vers une transparence et “explicabilité” des décisions algorithmiques ? », Dossier spécial Intelligence Artificielle, Revue Droit & Affaires, Paris II, oct. 2018, page(s) 32-48
14) CASTETS-RENARD C., (2018), « Quels impacts de l’intelligence artificielle sur les métiers du droit et du journalisme ? », Dossier sur l’intelligence artificielle, Les cahiers de la Propriété Intellectuelle, oct. 2018, page(s) 985-1002
15) CASTETS-RENARD C., BESSE Ph., GARIVIER A. et LOUBES J.-M., (2018), « L’IA du Quotidien peut-elle être Éthique ? : Loyauté des Algorithmes d’Apprentissage Automatique », Statistique et Société, 2018-3, vol. 6.
16) CASTETS-RENARD C., (2016), « Traitement algorithmique des activités humaines : le sempiternel face à face homme / machine », Cahiers Droit, Sciences et Technologies, n° 6, page(s) 239-255.Bi
En savoir +
Le droit : le garde fou d’une IA responsable
Le droit de l’intelligence artificielle ne se résume pas à l’éthique. Il doit protéger les individus et l’avenir de notre planète. Telle est la vision de la juriste Céline Castets-Renard.
Céline Castets – Renard, cyberjuriste sans frontière
Céline Castets-Renard, spécialiste du droit du numérique à l’Université Toulouse Capitole, explore avec passion le monde changeant des technologies de l’information.
French 
English