Publicités

RACISME : CE FLÉAU TOUCHE MÊME LA ROBOTIQUE

BlacKkKlansman, Qu’est-ce qu’on a encore fait au bon dieu ou Green Book : sur les routes du sud… Le rapport entre ces trois films ? Le racisme abordé dans ces derniers et les préjugés liés à celui-ci. Le racisme et la discrimination sont toujours fortement présents dans le monde. Cependant, ces dernières années, ces deux fléaux se sont développés chez une espèce particulièrement étonnante : les robots !

Racisme

Quand l’intelligence artificielle dérape ! En février 2019, trois chercheurs américains ont sorti un rapport concernant la capacité des intelligences artificielles à utiliser la reconnaissance faciale. Après avoir analysé des milliers d’images de piétons dans des villes américaines telles que San Francisco ou New York, ces chercheurs ont ainsi conclu que la détection de personnes noires n’était pas systématique. Une erreur de langage de programmation qui s’apparente étrangement à du racisme…

DES MACHINES « RACISTES », C’EST POSSIBLE ?

En novembre 2018, lors d’un trajet test d’une voiture autonome, ses passagers ont pu découvrir le déclenchement d’une alerte, à chaque fois que le véhicule croisait un piéton. La voiture analyse la présence du piéton afin de ralentir et d’éviter l’obstacle qui se présente à elle. Excepté lorsque cette dernière croisait le chemin de piétons noirs… Dans ce cas présent, la voiture ne détectait aucune présence. La voiture autonome ne semble donc pas considérer ces personnes comme des êtres humains ou obstacles à éviter. Ce phénomène n’est pas isolé puisque l’entreprise Google avait été accusée de racisme en 2015. L’application Google Photos avait ainsi identifié deux Afro-Américains comme étant des gorilles. La question du racisme se trouve, ici ,clairement mise sur le tapis.

Racisme
Dans cette analyse d’images Google, on peut constater que le logiciel associe les deux personnes de couleur noire, à des gorilles…

Pourtant, le problème est bien plus profond. Pour qu’un système basé sur l’intelligence artificielle exécute une tâche, il doit alors vivre des expériences et apprendre de ces dernières. Ces expériences sont donc acquises au travers des données introduites dans ce système. Dans le cas d’une voiture autonome, des milliers d’images représentant les « humains » lui sont transmises afin qu’elle les assimile. Cependant, il faut savoir que les scientifiques spécialistes en intelligence artificielle sont principalement asiatiques ou blancs. La plupart des images « humains » partagées représentent des personnes à la peau claire. Difficile donc pour la voiture d’identifier une personne à la peau foncée comme faisant partie de cette catégorie…

Racisme
Compliqué pour un robot d’associer une personne noire à la catégorie « humain », si cette dernière ne fait pas (ou peu) partie de sa base de données…

UNE DISCRIMINATION OMNIPRÉSENTE CHEZ NOS AMIS LES ROBOTS

Dans la lignée des erreurs de reconnaissance faciale, on observe des phénomènes, inspirés des biais de la société actuelle. C’est ainsi que des logiciels d’aide à l’analyse et au repérage de futurs criminels ont notamment révélé être plus sévères envers des personnes noires que blanches. Aux Etats-Unis, des distributeurs automatiques de savon ne parvenaient pas à détecter les mains noires. Ils se déclenchaient donc pour des personnes blanches, mais jamais pour des personnes noires.

Insolite, aux Etats-Unis, le premier distributeur de savon…raciste !

Le sexisme n’est d’ailleurs pas en reste chez les robots et a été observé avec Google (encore une fois!). L’application Google Traduction associe très régulièrement les femmes au ménage et les hommes aux métiers scientifiques, même lorsque la langue traduite ne connaît pas le système de genre…

Ces bugs et défauts de programmation sont la preuve qu’une prise de conscience est indispensable. Si des traits de racisme et de sexisme se retrouvent dans l’identité des intelligences artificielles, ce n’est pas pour rien. Après tout à l’image de Pinocchio et de son inventeur Gepetto, l’homme façonne le robot à son image…

Publicités
%d blogueurs aiment cette page :
CYMPRESS

GRATUIT
VOIR