Soutenance de thèse de PIET Laetitia
Titre de thèse
Les questionnements éthiques dans la conception des intelligences artificielles :
une approche par les systèmes d'activité
Ethical issues in the design of artificial intelligence. An activity theory perspective
Résumé de la thèse
Cette thèse étudie les conditions dans lesquelles les enjeux éthiques deviennent objets de problématisation dans l'activité de conception de systèmes d'intelligence artificielle. La littérature sur l'IA responsable a identifié les principes susceptibles d'orienter une conception éthique et développé des méthodes pour leur opérationnalisation. D'autres travaux insistent sur les qualités morales et les capacités de jugement des concepteurs. Ces approches partagent une conception prescriptive de l'éthique et ne rendent pas compte de la manière dont les problèmes éthiques se constituent dans les pratiques ordinaires de conception et dans leur contexte organisationnel.
Cette recherche déplace l'attention des prescriptions vers les processus de problématisation éthique de l'activité de conception et répond à la problématique suivante : comment les questionnements éthiques émergent-ils, circulent-ils et produisent-ils des effets – ou non– dans les systèmes d'activité de conception de l'IA ? La thèse articule deux cadres théoriques. De l'ethics as practice, elle retient que l'analyse doit porter sur les processus par lesquels certaines situations en viennent à être reconnues et formulées comme éthiquement problématiques. Avec la théorie des systèmes d'activité (TSA), elle examine les médiations et les contradictions intervenant dans cette constitution et dans le devenir des questionnements. L'enquête qualitative, conduite entre 2023 et 2025 au sein d'une organisation spécialisée dans la conception, la recherche et le conseil en IA, combine entretiens et observations de terrain, complétés par l'analyse documentaire.
Les résultats distinguent deux voies de constitution des questionnements. La première procède des ressources normatives instituées. Les principes d'IA responsable rendent certains enjeux plus visibles et structurent leur examen, mais leur traduction tend à maintenir le questionnement à l'intérieur d'un cadrage technico-instrumental. La seconde voie apparaît à travers les contradictions des systèmes d'activité (SA) dont l'analyse donne accès à des questionnements plus émergents. Les résultats montrent aussi que l'existence d'un questionnement ne préjuge ni de son devenir ni de ses effets. Les espaces de discussion facilitent l'expression des préoccupations, sans impliquer toutefois que l'objet de l'activité et ses finalités soient réexaminés collectivement. De même, la réflexivité critique transforme davantage le rapport du sujet à son métier ou à l'organisation que l'activité elle-même. La contribution de la thèse consiste dès lors à replacer l'éthique dans les SA de conception qui rendent certaines situations questionnables, en maintiennent d'autres hors du champ de la réflexion et conditionnent la capacité du questionnement à produire des effets.
Sur le plan pratique, l'analyse des SA constitue un outil de diagnostic utile pour les organisations engagées dans une démarche d'IA responsable, pour identifier les conditions qui ouvrent ou ferment l'espace du questionnement éthique et les contradictions susceptibles de révéler des enjeux non anticipés par les référentiels existants. Elle permet d'examiner aussi les leviers permettant aux questionnements de devenir transformatifs. Concernant la formation des concepteurs, les résultats incitent à développer la réflexivité éthique, entendue comme la capacité individuelle et collective à interroger les présupposés, les cadrages et les finalités de l'activité, ainsi que sa propre responsabilité dans leur maintien ou leur transformation.
Thesis resume
This thesis investigates the conditions under which ethical issues come to be questioned in the design of Artificial Intelligence (AI) systems. The Responsible AI literature has identified several principles intended to guide ethical design and developed methods to support their integration in practice. Other streams of research have focused on designers' moral qualities and their capacities for ethical judgment. Despite their differences, these approaches share a predominantly prescriptive view of ethics and offer limited insight into how ethical issues emerge, are recognized, and become constituted as problems within everyday design practices and the organizational contexts in which they occur.
This research shifts attention away from ethical prescriptions and toward the processes through which design activity becomes ethically problematized. It addresses the following research question: How does ethical questioning emerge and circulate within AI design activity systems, and wath effects, if any, does it produce? The thesis combines two theoretical frameworks. Drawing on an ethics-as-practice perspective, it focuses on the processes through which certain situations come to be recognized and formulated as ethically problematic. Activity systems theory complements this perspective by examining the mediations and contradictions involved both in the emergence of ethical questioning and in its subsequent trajectories. The qualitative study was conducted between 2023 and 2025 within an organization specializing in AI design, research, and consulting, and draws on interviews, field observations and documentary analysis.
The findings identify two pathways through which ethical questioning is constituted. The first is grounded in established normative resources. Responsible AI principles increase the visibility of certain issues and provide a framework for examining them. However, their translation into practice tends to confine ethical questioning within a techno-instrumental frame. The second pathway arises from contradictions within activity systems, the analysis of which brings to light more emergent forms of ethical questioning. The findings further show that the existence of ethical questioning predetermines neither its subsequent trajectory nor its effects. Spaces for discussion allow ethical concerns to be expressed, without necessarily leading to a collective re-examination of the object and purposes of the activity. Similarly, critical reflexivity may transform individual's relationship to their profession or organization more profoundly than it transforms the activity itself. The thesis contributes to relocating ethics within the activity systems through which AI is designed. These systems shape which situations open to ethical questioning, which remain outside the scope of reflection, and the extent to which such questioning can produce transformative effects.
From a practical perspective, activity-system analysis provides organizations pursuing Responsible AI with a diagnostic tool for identifying the conditions that open or constrain spaces for ethical questioning, as well as the contradictions through which issues overlooked by existing frameworks may surface. It also enables organizations to examine the conditions that facilitate or hinder the translation of ethical questioning into transformative action. For the education and training of AI designers, the findings highlight the importance of developing ethical reflexivity, understood as the individual and collective capacity to question the assumptions, frames, and purposes underlying an activity, as well as one's own responsibility for reproducing or transforming them.