Manque d'éthique dans la tech : est-ce aux salariés de s’attaquer au problème ?

On aurait pu vous faire répéter le plus vite possible « les salariés de la tech doivent se soucier de l’éthique », mais le sujet ne prête pas exactement à la plaisanterie. Les principaux intéressés le prennent plus que jamais au sérieux, notamment aux États-Unis, où quelques scandales ont secoué les mastodontes de la Silicon Valley ces dernières années. Que faire ? L’ouvrir ou se taire ? Et comment agir ? Si la France s’épargne encore souvent ces questions, elles méritent d’être posées.

Il faut dire que ces sujets interpellent de plus en plus ceux qui œuvrent dans la tech. Des cas de conscience éthiques aux prises de conscience tout court : la tech n’a pas été épargnée ces dernières années. Pour certains, cela même été de véritables cris du cœur. Tristan Harris, ancien de chez Google, a jeté un pavé dans la mare en alertant sur la manipulation des esprits par la technologie. D’autres pétitions ou protestations au sein des poids lourds américains de la tech ont fait grand bruit. Des centaines de salariés se sont rassemblés pour dénoncer l’utilisation de l’intelligence artificielle à des fins militaires, la reconnaissance faciale dans le cadre de l’application des lois ou même certaines pratiques internes discriminatoires.

Quand ça clashe dans la tech

Data & Society est un institut de recherche à but non lucratif, spécialisé dans les questions sociales et culturelles que soulève l’exploitation des données dans les nouvelles technologies. Emanuel Moss y travaille autour des sujets de l’éthique et de la responsabilité individuelle et collective. « On constate un intérêt grandissant, voire un militantisme affirmé, parmi les salariés de la tech sur les enjeux éthiques de leurs métiers. »

« Cette prise de conscience touche toutes les strates hiérarchiques, plus uniquement les sphères habituellement en charge de rendre des comptes. » - Emanuel Moss, chercheur chez Data & Society

Une (désormais ancienne) data scientist de chez Facebook a récemment publié un mémo interne explosif sur l’utilisation de la plateforme par des dirigeants du monde entier à des fins électorales. Pendant ce temps, le mastodonte des réseaux sociaux se contente de détourner le regard. « Je ne peux plus ignorer que j’ai du sang sur les mains », déclare Sophie Zhang, la salariée en question.

Ceux qui ont décidé de faire entendre leur voix au sein des entreprises de la tech ont dévoilé au grand jour des problèmes d’éthique, dont on s’empare aujourd’hui davantage, et à tous les niveaux. « Cette prise de conscience touche toutes les strates hiérarchiques, et non plus seulement les responsables directs », confirme Emanuel Moss.

Les salariés de la tech se rebellent. Ils sont de plus en plus nombreux à souhaiter une réflexion honnête sur ce qu’ils produisent, et plus nombreux encore à désirer un cadre, des clés et des ressources pour bien le faire.

Éthique : travail en cours

Omidyar Network, une société américaine d’investissements philanthropiques créée par le fondateur d’eBay, a bien compris que les choses étaient en train de bouger. Son guide (en anglais) téléchargeable à destination des travailleurs de la tech, baptisé Ethical Explorer Pack se veut une boussole pour « accompagner la création d’un espace de débat sur des sujets difficiles ou qui divisent, comme l’exclusion et les partis pris », explique Sarah Drinkwater, directrice de l’équipe technologique dédiée à la cause. Ce guide se veut la suite logique d’un premier opus destiné aux PDG, publié par Omidyar en 2018.

Sarah Drinkwater décrit cette nouvelle version comme un jeu de cartes, conçu spécifiquement pour les « personnes qui travaillent dans des structures trop petites pour avoir une équipe dédiée aux questions éthiques, sociétales ou environnementales » : concepteurs, ingénieurs, créateurs d’entreprise, collaborateurs… « Avec ce pack éthique, nous avons aussi touché des milliers d’autres acteurs, issus d’entreprises de la tech, du monde universitaire et de la création en général », se réjouit-elle.

Dedans, une carte, un peu comme celles que l’on retrouve dans les livres de géo. N’y figurent cependant ni continent ni relief montagneux, mais, à la place, des « zones de risque » : addiction, désinformation, biais algorithmique et exclusion, pour en citer quelques-unes. Un planisphère d’un nouveau genre permettant à celui qui l’arpente de (se) poser les bonnes questions en matière de tech responsable. Par exemple : « Quels sont les possibles effets indésirables/imprévus des solutions tech que j’aide à développer ? »

Dans la même veine, le Syntec numérique et le Cigref ont publié en 2018 un référentiel pratique baptisé « Éthique et numérique ». En France, le débat a été amorcé autour de la notion de confiance, notamment au sujet de l’utilisation des données personnelles. Si les nouvelles technologies font peur au consommateur, c’est fichu. Le champ de la réflexion s’est ensuite élargi pour inclure les questions de responsabilité environnementale et sociétale, entre autres.

Laver son linge sale en famille ?

Alicia Roberts travaille dans une start-up proposant aux e-commerçants des expériences clients sur-mesure grâce à l’intelligence artificielle. « La même question revient sans cesse : que penser de notre gamme de solutions visant à remettre sous le nez des visiteurs les produits qu’ils ont repérés en navigant sur le web ? On peut se persuader qu’il ne s’agit que d’une innocente redite. Mais au bout du compte, en faveur de qui notre algorithme œuvre-t-il vraiment ? Peut-être pas du consommateur. On envoie des messages subliminaux poussant clairement à l’achat… Qui sait si cela n’est pas la première étape d’une addiction à certains produits ? »

« Pouvoir exprimer une opinion sans craindre de se faire licencier ou blacklister sur le marché de la tech est un privilège de taille. » - Emanuel Moss

La question de l’éthique ne se posait pas franchement parmi les équipes, admet Alicia Roberts. La plupart de ses collègues avaient trop la tête dans le guidon pour faire un pas de côté et considérer leur rôle dans son ensemble. Aborder un tel sujet restait « compliqué » au travail. Ça l’est souvent, surtout quand on dépend directement de la bonne santé financière de l’entreprise.

Parler éthique autour de la machine à café ou en réunion ? Tentant, mais encore faut-il pouvoir oser. Certains ont cependant un atout dans leur poche : leur valeur sur le marché de l’emploi. « Les meilleurs sont souvent bien rémunérés ; ils montent rapidement les échelons et sont très demandés, résume Emanuel Moss. Pouvoir exprimer une opinion sans craindre de se faire licencier ou blacklister sur le marché de la tech est un privilège de taille. Cela permet à d’adopter une posture plus militante. »

Poser un cadre

« [Chez Facebook] c’était un peu le règne de l’autocensure. » - Anne Williams, ex-salariée de Facebook

Si les outils d’aide à la réflexion éthique ne sont pas inutiles, c’est qu’ils ont pour prérequis un environnement de travail ouvert au débat, dans lequel le dialogue est possible entre collègues et avec la direction. Dans un documentaire intitulé Derrière nos écrans de fumée, diffusé sur Netflix, Bailey Richardson, ancien salarié d’Instagram, soulève ce qu’il estime être l’un des plus gros problèmes de la tech : « Il n’y a personne pour se lever et prendre les rênes du débat. C’est sympa de fêter les succès, mais quand est-ce qu’on parle de ce qui va moins bien ? »

De ses neuf mois passés chez Facebook, connu pour sa session hebdomadaire de questions/réponses en présence du fondateur, Anne Williams retient une ambiance paradoxalement hermétique. « C’était un peu le règne de l’autocensure. Il y a un système d’évaluation en interne, et une culture officielle du feedback. Du coup, chacun passe son temps rivé sur ce que fait son voisin. Là-dedans, je ne voyais pas trop à quel moment on pouvait exprimer des interrogations ou parler déontologie sereinement. »

Le système d’évaluation des performances instauré par Facebook – les salariés sont notés sur une échelle de 1 à 7, avec un quota limitant le nombre de personnes ainsi « reconnues » – décourage indirectement toute approche critique. C’est ce qu’ont dévoilé, en 2019, plusieurs anciens salariés de la firme. Facebook n’est pas le seul à avoir mis en place un principe de « classement général ». Jusqu’en 2013, Microsoft fonctionnait sur le même modèle.

Anne Williams avait pour mission d’accompagner les TPE-PME dans leur transition digitale, notamment par le biais de la publicité sur le célèbre réseau social. Son travail consistait principalement à concevoir et animer des ateliers pratiques. La réalité n’a pas tardé à la rattraper : « Mon principal KPI (indicateur-clé de performance, ndlr) n’était pas de savoir si mes clients avaient réellement appris quelque chose, mais de recueillir des retours ultra positifs sur Facebook, tout simplement. »

« Je trouve que tout engagement en faveur d’une meilleure éthique devrait être récompensé, ou du tout moins intégré aux objectifs et systèmes de primes » - Emanuel Moss

Dans l’industrie de la tech, le quotidien des salariés est rythmé par la course aux objectifs et aux résultats. La dimension éthique reste souvent étrangère aux systèmes d’évaluation individuelle. Si certains ont pris les devants et se chargent eux-mêmes de creuser la question, la démarche n’est pas du tout valorisée. « Je trouve que tout engagement en faveur d’une meilleure éthique devrait être récompensé, ou du tout moins intégré aux objectifs et systèmes de primes », insiste Emanuel Moss. Il est en effet persuadé qu’« une grille d’évaluation dédiée à l’éthique et à la déontologie serait un levier efficace pour démocratiser les bonnes pratiques au sein des entreprises. »

À tâtons

Si le sujet de l’éthique peine à s’enraciner dans les cultures d’entreprise, c’est avant tout parce qu’il n’est accompagné d’aucune contrainte légale. Il implique, en outre, d’investir dans divers types de ressources pour « bonifier » les services ou produits développés. Un virage qui n’est pas sans difficulté pour les entreprises de la tech, soumises à un business model bien ficelé, à la pression des actionnaires et à l’appât du gain.

« Quelle est ma légitimité, en tant que développeur, à m’imposer et affirmer qu’il faudrait faire les choses différemment ? » - Nicolas Esneault, développeur front-end chez Blablacar

Cela fait quelques années maintenant que Nicolas Esneault, développeur front-end chez BlaBlaCar, se bat pour rendre la plateforme accessible aux non-voyants et à ceux qui ne peuvent pas utiliser une souris d’ordinateur. « Certains de mes collègues s’intéressent de près à la question de l’accessibilité et à l’éthique en général, d’autres en sont encore loin. Quelle est ma légitimité, en tant que développeur, à m’imposer et affirmer qu’il faudrait faire les choses différemment ? »

Nicolas Esneault n’a pas tardé à comprendre qu’il lui fallait commencer par sensibiliser ses collègues au travers d’ateliers et de tutoriels. Il estime qu’un salarié conscient d’une amélioration possible (et souhaitable) d’un produit ne devrait pas hésiter à faire entendre sa voix. « Il revient à chacun de partager son point de vue, de convaincre les autres en apportant les bons arguments. »
Chez Blablacar, il a réussi a trouvé un écho auprès de ses supérieurs et des équipes. Une analyse complète de l’interface est d’ailleurs en cours, afin de combler les manquements à l’accessibilité.

Formaliser la réflexion et les actes

« Vu comme les entreprises sont organisées, il est difficile d’exiger que ceux qui codent soient aussi ceux devant rendre des comptes. Ce qui se passe au niveau du business leur échappe. » - Emanuel Moss

Le manque de déontologie au sein des entreprises de la tech fait les gros titres un peu partout, si bien que certaines d’entre elles, surtout à l’international pour le moment, à l’image de Salesforce, commencent à recruter des profils d’un genre nouveau : les « ethics owner » (les titres de poste varient), dont le rôle est de s’intéresser précisément aux questions éthiques, en prêchant la bonne parole autour d’eux et distillant des compétences en matière de déontologie à tous les étages de l’entreprise.

Si les consciences s’éveillent, citons les cas de programmes comme Project Maven (utilisation de l’IA à des fins militaires, ndlr) ou Dragonfly (moteur de recherche censuré, destiné à la Chine, ndlr) chez Google, qui ont embarqué des salariés à leur insu dans des applications très éloignées de leurs valeurs morales. « Quand on bosse sur un programme de détection et d’analyse visuelle par ordinateur, on ne sait pas nécessairement qu’il pourrait finir entre les mains de l’armée. Vu comme les entreprises sont organisées, il est difficile d’exiger que ceux qui codent soient aussi ceux devant rendre des comptes. Ce qui se passe au niveau du business leur échappe », estime Emanuel Moss chez Data & Society.

On a donc imaginé des guides à l’usage du monde de la tech. Mais ils ne sont utiles que s’ils sont effectivement appliqués, pas seulement rayés de la liste des indispensables du parfait penseur éthique. La démarche devrait, en outre, être entreprise sous l’égide d’une autorité externe, référente pour toute l’industrie de la tech. « Les entreprises ne peuvent pas s’autoréguler à leur simple échelle. Quelle que soit sa forme, il faut mettre en place un mécanisme d’évaluation des actions, pour que chacun prennent ses responsabilités et que les choses bougent réellement », alerte Emanuel Moss.

« À ce stade et au vu des enjeux, les salariés de l’industrie ne devraient plus être les seuls à se mobiliser. » - Emanuel Moss

Si les chiffres manquent encore pour la France, on sait que la grogne monte parmi les salariés de la tech aux États-Unis et, qu’ils sont 45% au Royaume-Uni, à estimer que le secteur n’est pas suffisamment régulé. Parmi ces derniers, la plupart en appellent à des décisions au niveau gouvernemental : l’impact social et sociétal de la technologie aurait ainsi, selon eux, davantage de chance d’être réellement mesuré et pris en compte. « À ce stade et au vu des enjeux, les salariés de l’industrie ne devraient plus être les seuls à se mobiliser. Tout le monde devrait se poser la question de l’éthique et tâcher d’y répondre le mieux possible », conclut Emanuel Moss.

Suivez Welcome to the Jungle sur Facebook, LinkedIn et Instagram ou abonnez-vous à notre newsletter pour recevoir, chaque jour, nos derniers articles !

_
Traduit de l’anglais par Sophie Lecoq
Photo d’illustration by WTTJ