Chez les animaux, les rôles des sexes sont fluides, naturels, non discriminatoires en apparence (sinon, dans de nombreux cas, au détriment du sexe masculin).

Chez les êtres humains, la question est différente : la question du genre est très complexe et orientée par l’organisation sociale et les habitudes historiques. Les femmes sont souvent discriminées pour leur rôle, leur position sociale, leur salaire, leurs droits, toujours dans de nombreuses régions du monde, occidentales ou non. Le sujet est largement débattu, mais à l’ère technologique actuelle, la discrimination fondée sur le sexe se manifeste de bien d’autres façons. La technologie, par exemple, donne matière à réflexion. On sait, par exemple, que les femmes sont beaucoup moins présentes dans les secteurs technologiques que les hommes, malgré leur réussite scolaire généralement supérieure. Les femmes sont généralement découragées d’entreprendre des études et des professions dans les secteurs technologiques parce qu’elles sont traditionnellement considérées comme des hommes. Aujourd’hui, de nombreuses campagnes visent à équilibrer cette situation et encouragent les filles non seulement à s’identifier aux « princesses » et aux « demoiselles à sauver », mais à montrer sans crainte leurs aspirations scientifiques, intellectuelles et professionnelles.

Dans le monde réel, donc, nous luttons contre ces discriminations, nous essayons de faire entendre notre voix, nous nous intéressons aussi à l’impact que les nouvelles technologies, comme l’intelligence artificielle, auront sur la question du genre. Par exemple, en ce qui concerne le genre et les méthodes d’apprentissage machine (machines sw et hw qui peuvent apprendre par elles-mêmes) utilisées pour soutenir les activités de prise de décision, nous soulevons la question du biais en raison des données utilisées pour les former. En fait, dans les modèles d’apprentissage machine, on apprend à partir de données, souvent en grande partie au masculin, donc si, par exemple, on imagine une situation dans laquelle la machine devra décider d’engager un homme ou une femme, ayant appris des indices de performance à partir de données concernant uniquement les employés masculins, elle aura naturellement tendance à choisir un candidat masculin, ce qui reflète le conditionnement social auquel nous sommes soumis. (Ce n’est pas mon exemple, et je suis heureux de citer la source, Milena Harito, experte en transformation numérique). Il existe plusieurs exemples de discrimination technologique. Pensez à de nombreux chatbots (assistants virtuels) et assistants à domicile (Alexa d’Amazon, Cortana de Microsoft, Siri d’Apple) : ils parlent d’une voix féminine et acceptent des ordres plutôt brutaux pour les faire taire. En fait, Google assistant et Google home, par Google, sont des exceptions, parce qu’ils parlent avec une voix masculine, mais même dans ce cas, vous pouvez l’interpréter comme le message intrinsèque que la technologie est une affaire d’hommes et non de femmes…. Peut-être pourriez-vous simplement donner aux utilisateurs la possibilité de choisir la caractérisation du genre et éviter que des commandes agressives (telles que « shut up » ou « enough ») puissent être données à des assistants ayant des caractéristiques vocales féminines

La différence est encore plus évidente lorsqu’on considère le monde des robots. La plupart des robots de compagnie ou de service (soins aux personnes âgées, soins infirmiers, médecine) sont conçus avec des caractéristiques et des moyens qui plaisent parfois aux enfants et, dans la plupart des cas, ont des caractéristiques féminines. Ce n’est pas le cas des robots qui exécutent des fonctions d’automatisation industrielle ou militaire : dans ce cas, ils ont des caractéristiques mâles ou animales. Quelle en est la raison ? On pourrait certainement penser que l’une des raisons en est qu’elles ont été conçues par des êtres humains du sexe masculin et qu’elles ont donc été affectées par les préjugés induits par notre système social qui considère que les femmes, considérées comme plus fragiles, conviennent mieux à certaines professions.

D’autre part, il ne faut pas oublier la question de l’empathie : l’intelligence artificielle (et donc la robotique) est effrayante et si les fabricants de ces machines (un marché en constante expansion) parviennent à sécuriser les gens et à susciter l’empathie envers ces outils, ils pourront certainement vendre plus de produits pour le marché des consommateurs. Par conséquent, le choix de donner à un robot le look d’une femme est rassurant et donc plus pratique du point de vue du marketing. Mais est-il juste et, surtout, est-il éthique ?

Encore une fois, la question est complexe. Ces derniers temps, j’ai été invité à de nombreuses conférences sur l’éthique et le droit, pour parler de l’intelligence artificielle et en particulier des robots. Chez moi, j’ai un petit robot que j’ai construit à des fins de recherche, dont le nom est 42, et je m’adresse à lui avec le pronom « it ». Cette chose en intrigue plus d’un. J’ai fait remarquer lors des conférences mentionnées qu’au fil du temps, nous devrions également reconnaître certains droits aux robots, peut-être en créant la figure juridique de la « personne numérique » (je ne suis pas le seul à le penser, cela a également été discuté au sein de l’UE). Si l’on considère les dernières décennies, jusqu’à relativement récemment, les droits n’étaient accordés qu’aux êtres humains. Aujourd’hui, les animaux ont aussi des droits et, dans certains Etats, certains spécimens de grands singes ont été reconnus comme des « personnes » capables d’autodétermination. C’est le cas de Sandra, orang-outan, en Argentine, par exemple. Considérons l’I.A. : si les prévisions sont correctes, dans quelques décennies les intelligences artificielles dépasseront en capacité celles des êtres humains. Il faudra donc se demander s’il convient ou non de leur accorder certains droits, faute de quoi nous serions confrontés à une nouvelle forme d’esclavage, que nous détestons tous. Ces droits devraient-ils donc inclure le droit à l’égalité des sexes ?

Je n’ai pas de réponse à cette question, qui est certainement provocatrice, mais je pense que nous devons réfléchir en profondeur aux préjugés que nous introduisons également dans les technologies émergentes, afin d’éviter de nouveaux problèmes de genre à l’avenir.
Personnellement, je ne fais pas de distinction de genre, et je continuerai à m’adresser à Alexa en lui demandant « s’il vous plaît » et en la remerciant