Chair objectives

La recherche sur l’intelligence artificielle éthique s’est principalement concentrée sur l’alignement des valeurs, lthe challenge of ensuring intelligent machines operate in accordance with human moral norms and values..

This approach assumes that moral norms are fixed, being either prescriptive, defined by experts, or descriptive, discovered through behavioral science.

Principal investigator

Bien que cette perspective soit précieuse, elle limite également l’exploration du potentiel de l’IA à façonner les normes morales. De nouvelles recherches sont nécessaires pour prendre en compte la nature dynamique des normes morales et le rôle des machines intelligentes dans le renforcement, la remise en question ou la transformation de ces dernières. Le Centre pour l’intelligence artificielle morale morales (MoAI) vise à étudier l’impact des machines intelligentes sur les normes et les valeurs morales humaines en utilisant une approche multidisciplinaire qui combine la psychologie morale, l’économie expérimentale et l’informatique. Les projets MoAI commencent par identifier les valeurs morales susceptibles d’être affectées par une technologie et pourquoi, en s’inspirant de la psychologie morale. Ils utilisent ensuite l’économie expérimentale pour concevoir des protocoles compatibles avec les incitations afin de mesurer l’impact de la technologie sur ces valeurs.

Finally, computer science is employed to develop a simplified or prototyped version of the technology for use in experiments, with the added challenge that this technology often does not exist yet. This proactive approach will enable us to prepare society for upcoming technological shifts and guide AI development away from undesirable outcomes.

Ne manquez rien !

Inscrivez-vous pour recevoir l'actualité d'ANITI chaque mois.

Nous n’envoyons pas de messages indésirables !

en_GBEnglish