Décembre 2020 - Veille collaborative de l'association

sommaire
action associative

Retrouvez chaque mois la synthèse éditorialisée de la veille collaborative de l'association Les Designers Ethiques.

Cette synthèse est issue du Slack de l'association où nous partageons les informations relatives à la responsabilité dans les domaines du design, de la conception et du numérique.

Ce mois-ci, nous souhaitions parler d'intersectionnalité avec Gaétan Pautler, rédacteur en chef de ce numéro. Bienvenue à lui !

Qu'est-ce que l'intersectionnalité?

"L'intersectionnalité, un concept à ne pas vider de sa substance"- Aïda Yancy

Commençons par le début. L'intersectionnalité, c'est quoi? Cet article propose de répondre à cette question sans pour autant évacuer la complexité que ce terme recouvre.

"L'explication la plus simple de l'intersectionnalité est la métaphore qui lui donne son nom. Imaginons qu’une personne soit à la fois une femme et noire. Elle se trouve au carrefour, à l’intersection, entre la rue du genre et celle de la race. Sur ces rues roulent respectivement la voiture « sexisme » et la voiture « racisme ».”

“Demarginalizing the Intersection of Sace and sex: A Black Feminist critique of Antidiscrimination Doctrine, Feminist Theory And Antiracist Policies” - Kimberly Crenshaw

Le terme “intersectionnalité” est introduit en 1989 par Kimberly Crenshaw, juriste, enseignante à UCLA et féministe américaine de la Critical Race Theory, dans cet article fondateur.

Vous pouvez écouter Kimberly Crenshaw exposer elle-même ses recherches dans sa conférence TED de 2016, "L'urgence de l'intersectionnalité".

L’intersectionnalité ne se limite pas pour autant à une étude critique des discriminations subies par les femmes noires. Kimberly Crenshaw la définit comme une situation dans laquelle une personne regroupe “des caractéristiques raciales, sociales, sexuelles et spirituelles qui lui font cumuler plusieurs handicaps sociaux et en font la victime de différentes formes de discrimination”.

Il est essentiel de ne pas réduire l’intersectionnalité à un discours militant, puisqu’il s’agit en fait d’un outil, d’une grille de lecture critique qui vient remettre en cause la façon dont la société s’empare traditionnellement des questions portant sur les discriminations, quelles qu’elles soient. Aïda Yancy poursuit ainsi sa métaphore d’une victime se trouvant simultanément heurtée à un carrefour par les voitures “sexisme” et “racisme” :

“Lorsque l’ambulance représentant ici la Loi débarque pour soigner et protéger cette personne, elle est incapable de voir les effets modifiés et décuplés du crash et exige de savoir si les dégâts ont été occasionnés par le sexisme ou le racisme.”

"L'intersectionnalité, une critique émancipatrice" - Libération

Pour compléter cet apport théorique, écoutez dans cet article Le récit de l’écrivaine et sociologue Kaoutar Harchi, qui se souvient précisément du jour où elle a su mettre des mots sur sa position, “à l’intersection de multiples identités”. Elle nous explique comment, depuis son enfance, elle est victime d’injustices systémiques dans son quotidien, comment la société parle et pense à sa place, mais décrit aussi le jour où elle a décidé de prendre la parole et de s'émanciper des barrières morales et sociales bâties autour d’elle.

“D’échanges, en lectures, en séminaires, en conférences, j’ai commencé à entrevoir les potentiels processus croisés d’infériorisation, d’altérisation, d’exotisation, auxquels il m’était arrivé d’être sujette au sein de la société française.”

Le témoignage fort, militant et plein d’espoir d’une vie où préjugés et discriminations sociales sont sublimés par une révolution intime et politique.

Les nouvelles technologies au prisme de l'intersectionnalité

"A Century of "Shrill": How Bias in Technology Has Hurt Women 's Voices" - New Yorker

L’article explicite la manière dont les technologies transmettant des voix humaines ont, dès leurs débuts, été pensées de façon sexiste. Tout, des microphones aux modes de transmission, a été optimisé pour les voix graves.

“ When station directors were interviewed by Radio Broadcast magazine in 1924, they asserted that women sounded “shrill,” “nasal,” and “distorted” on the radio, and claimed that women’s higher voices created technical problems”
“Even today, many data-compression algorithms and bluetooth speakers disproportionately affect high frequencies and consonants, and women’s voices lose definition, sounding thin and tinny.”

L’article met en lumière la propension des concepteurs à rejeter la faute sur les caractéristiques biologiques et les aspects de la personnalité propre à chaque femme, plutôt que sur la manière dont leurs outils ont été conçus. Il nous rappelle également la responsabilité des concepteurs à veiller à ce que leurs outils ne réduisent pas une partie de la population au silence.

“Consequently, women are still receiving the same advice that they were given in the nineteen-twenties: lower the pitch of your voice, and don’t show too much emotion.“

"Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I" - NY Times

Les discriminations systémiques peuvent porter sur le sexisme, le racisme, le classisme, l’homophobie, la transphobie ou le validisme, tout en combinant ces problématiques entre elles. Se pourrait-il que le solutionnisme technologique puisse également venir croiser ces champs déjà multiples? C’est ce que semble indiquer cet article du New York Times qui relate l’histoire du Dr. Timnit Gebru, employée chez Google, où elle était à la tête d’un groupe de travail dédié à l'éthique dans les intelligences artificielles. Timnit Gebru affirme avoir été licenciée à la suite de critiques sur la politique de recrutement des employés issus de minorités et aux préjugés intégrés dans la conception des intelligences artificielles.

“Her firing only indicates that scientists, activists and scholars who want to work in this field — and are Black women — are not welcome in Silicon Valley.”

L’article rappelle combien la conception même des intelligences artificielles, basée sur l’étude d’un grand nombre de textes, de livres et d’articles en ligne, les pousse inéluctablement à reproduire les inégalités et les préjugés présents dans tous les domaines de notre société.

“These systems learn the vagaries of language by analyzing enormous amounts of text, including thousands of books, Wikipedia entries and other online documents. Because this text includes biased and sometimes hateful language, the technology may end up generating biased and hateful language.”

Là encore, Timnit Gebru met en lumière la difficulté à exprimer son opinion et ses idées pour une femme issue d’une minorité dans un système clairement conçu par et pour des hommes.

“The trouble, Dr. Gebru said, is that most of the people making the ultimate decisions are men. “They are not only failing to prioritize hiring more people from minority communities, they are quashing their voices,” she said.”-

“Race, intersectionnalité et études critiques du code informatique” - Marc Jahjah

Un article de Marc Jahjah qui aborde beaucoup de thématiques, avec en trame de fond, le lien entre la construction du code des logiciels que nous utilisons, les représentations qui y sont insérées et les effets sur la perception que nous avons des minorités dans notre société. Cette matérialisation numérique de la race porte un nom, c’est le “New Jim Code”, théorisé par Ruha Benjamin dans “Race After Technology: Abolitionist Tools for the New Jim Code”.

“Une grande partie de la population est amenée à vivre dans l’espace imaginaire de personnes (les informaticiens) à l’origine de ces dispositifs.”

Marc Jahjah cite de nombreux exemples de ce transfert de discriminations raciales dans le code informatique :

  • Un concours de beauté jugé par des robots (Beauty IA) qui n’ont élu que des candidats à la peau blanche ;
  • Les algorithmes qui ont du mal à “s’interfacer” avec des créatifs noirs, notamment sur Instagram, qui sont peu mis en avant, contrairement aux artistes de couleur blanche ;
  • L’assistant vocal de Google Maps qui propose aux conducteurs de se rendre dans la rue “Malcom Ten” au lieu de “Malcom X”.

En bonus, on y retrouve une belle liste de hackers, artistes, universitaires, citoyens, étudiants qui développent des projets de “contre-conduites”, ainsi qu’une très large bibliographie dans laquelle vous pourrez aisément piocher pour approfondir le sujet.

“Pour en finir avec le « colonialisme technologique »” - Mais où va le web?

Dans cet article, Irénée Régnauld revient sur la notion de colonialisme technologique. Il y évoque la thèse de Sareeta Amrute : la technologie partage avec le colonialisme un certain nombre de caractéristiques communes comme l’extractivisme et l’exploitation. Dans la veine de l’article précédent, on y retrouve la notion de hiérarchisation, au sein de la Silicon Valley, mais aussi en Inde par exemple. On y développe aussi les notions d’exploitation (coucou “New Jim Code”) et d’extractivisme de données.

“Il n’y aura pas d’IA éthique tant que toute la chaîne de production de l’intelligence artificielle ne sera pas éthique elle-même“

Comment le design s’empare-t-il du sujet?

Nous abordions plus haut, en présentant l’article de Marc Jahjah, plusieurs projets qui voient le jour et abordent les problématiques de discrimination sous l’angle de l’intersectionnalité. Des artistes, universitaires, citoyens, designers qui développent des projets de “contre-conduites” visent ainsi à nous ouvrir les yeux, changer nos mentalités et, in fine, rendre notre société plus juste et plus éthique.

Design Justice Network

À retrouver ici : https://designjustice.org/

Design Justice Network est un collectif, qui dresse notamment une liste d’engagements pour un design plus éthique (disponible dans pas mal de langues). Une grosse source d'inspiration.

“The Design Justice Network is an international community of people and organizations who are committed to rethinking design processes so that they center people who are too often marginalized by design.”

Le site de Ahmed Ansari

À retrouver ici : https://ahmedansari.com/

Ahmed Ansari est chercheur et enseignant en design à l’Université de New-York. Son site donne accès à de nombreux articles scientifiques et conférences.

“My research interests intersect between critical design studies and history, postcolonial and decolonial theory”

Un nouveau sujet de recherche pour Designers Éthiques

Peut-on aujourd’hui se définir comme designers éthiques sans se poser de questions sur les enjeux liés à la situation de personnes subissant simultanément plusieurs formes de domination et/ou de discrimination ? Au même titre que le design de l’attention et l’éco-conception, le design intersectionnel doit interroger notre manière d’appréhender la conception de services et de produits numériques qui ne soient pas discriminants selon la race, le sexe, le genre, le handicap, le groupe éthnique, l’âge ou encore la classe sociale.

L’association ouvre donc un sujet de recherche sur cette question, en commençant par définir, dans un premier temps, les stratifications des formes de domination, comment elles se manifestent dans le design et en faisant un état de l’art des travaux existants dans le design intersectionnel ; puis viendra, dans un deuxième temps, le temps des échanges en organisant pour les membres de Designers Éthiques, des cafés-débats, voire des séminaires avec des praticien.ne.s qui proposent déjà une vision du design intersectionnel, et comment ils/elles le mobilisent en entreprise, en agence ou au sein de leur communauté.

La finalité de cette recherche sera de co-créer, via des ateliers, une boîte à outils sous licence Creative Commons pour les designers qui désirent faire du design intersectionnel.

Gaétan Pautler, rédacteur en chef
Photographie de Gaétan Pautler

Merci à Gaétan d'avoir accepté de rédiger cette veille ! Petite présentation en 3 petites bulles...

  • Gaétan est directeur de création à l'Agence 148, labellisée BCorp et membre de Green IT
  • Il prône dans son travail une approche de la conception qui prend en compte une éthique environnementale et sociétale
  • Et il tient à remercier Margot Faudeil, cheffe de projet, pour son aide dans la rédaction de cette veille !
projet participatif

Cette veille est un projet participatif. Vous souhaitez participer ? Rejoignez-nous sur slack.designersethiques.org, canal #veille

Découvrez les éditions précédentes

Sauf mention contraire, les contenus de ce site sont mis à disposition selon les termes de la licence Creative Commons Attribution 4.0 International.

Venez échanger avec nous sur http://slack.designersethiques.org, canal #veille.

Coordinatrice de l'action : Anne Nicole.