back to top

Ariel Davis / BuzzFeed News

«Un Eldorado à connards»: comment Twitter échoue depuis dix ans dans sa lutte contre le harcèlement

Depuis toujours, ou presque, Twitter a non seulement fait preuve de tolérance vis-à-vis du harcèlement et des discours haineux, mais pour ainsi dire tout mis en œuvre pour les encourager. Aujourd'hui le réseau social a une croissance en berne et des utilisateurs de plus en plus remontés. Comment la plateforme qui se posait en «champion de la liberté d'expression dans le parti pour la liberté d'expression» compte-t-elle régler le problème? BuzzFeed News a recueilli les témoignages de ceux qui tentent de répondre à cette question depuis bientôt dix ans.

Publié le

Le 22 mai 2008, Ariel Waldman était au pied du mur. Alors blogueuse et community manager, elle s’était inscrite sur Twitter en mars 2007 et était devenue, en l’espace de quelques mois, l’un des 100 comptes les plus suivis. Elle était «accro» au réseau social, selon ses propres mots.

Le harcèlement commença peu de temps après, simplement parce qu’Ariel Waldman est une femme qui écrit parfois des articles sur le sexe et la technologie. En juin 2007, on publia à son encontre plusieurs tweets menaçants contenant ses informations personnelles. La jeune femme contacta Twitter, qui bloqua l’utilisateur en question. Mais durant les huit mois qui suivirent, le harcèlement s’intensifia. En mars 2008, épuisée et désabusée par le torrent de tweets la traitant de «salope» et de «pute», et par la publication d'informations privées comme son adresse mail, Ariel Waldman contacta Twitter une nouvelle fois, par le biais de son PDG, Jack Dorsey. Après de nombreux et vains coups de téléphone, ce dernier, ainsi que son entreprise, ne donnèrent plus de nouvelles. Alors, au mois de mai suivant, Ariel Waldman décida de rendre public son calvaire, qu’elle détailla dans un post de blog largement repris par les médias.

Twitter, qui n’était encore qu’une start-up, avait présenté son outil lors du festival SXSW quelques mois plus tôt et profitait d'un joli buzz. La mauvaise presse que constituait le post d’Ariel Waldman faisait tache, puisque Jack Dorsey y apparaissait comme un patron antipathique, voire lâche. «Jack m’a expliqué qu’ils avaient peur de suspendre un utilisateur parce que ça pouvait se transformer en procès et que leur entreprise était encore trop modeste pour gérer ce genre de chose», écrivait-elle alors. Si le fondateur de Twitter, Biz Stone, a lui reconnu officiellement le problème, tout en affirmant que «Twitter est un moyen de communication, pas un modérateur de contenu», Jack Dorsey restait aux abonnés absents. Le cofondateur du réseau social, Ev Williams, s’est lui montré plus critique à l’égard d’Ariel Waldman, publiant des tweets dubitatifs quant à sa situation et se fendant d’un laconique «au temps pour nous». La jeune femme était anéantie. «Avant ce "coming out", j’avais d’excellentes relations avec eux, et certains étaient même devenus des amis», expliquait-elle alors à BuzzFeed News. «Je l’ai pris personnellement. C'était vraiment chiant.»

Plus de huit ans après le calvaire vécu par Ariel Waldman, le harcèlement sur Twitter a pris des proportions endémiques. À tel point que le site est devenu le point de chute privilégié des trolls et des groupes de pression souhaitant déverser leur haine sur des cibles précises. À tel point que son PDG a déclaré: «On est nuls dans tout ce qui est lutte contre le harcèlement et contre les trolls sur notre plateforme, et ça fait des années que c’est comme ça.» À tel point que de nombreuses célébrités de la twittosphère ont fermé leur compte, invoquant un sentiment d’insécurité. Aujourd’hui, Twitter est devenu le terrain de chasse favori des misogynes, des néonazis, des racistes et des trolls, qui s’en prennent aux femmes et aux personnes racisées qui n’ont rien fait d’autre que s’y être inscrites. Cet été, l’actrice Leslie Jones a quitté Twitter après un déluge de messages racistes et de menaces de mort, n’officialisant son retour qu’après avoir été rassurée par Jack Dorsey en personne. La semaine dernière, Normani Kordei, du groupe Fifth Harmony, a elle aussi fait ses adieux au site après avoir subi des années de tweets «horribles et à connotation raciste». Malgré son rôle prépondérant dans la pop culture contemporaine et ses initiatives liées à la justice sociale, du Printemps arabe au mouvement Black Lives Matter, Twitter est désormais autant reconnu pour sa capacité de nuisance que pour sa dimension révolutionnaire. Et à moins d’être une célébrité –ou bien le président des États-Unis– bonne chance pour demander de l'aide.

D’après les témoignages de dix anciens cadres, les lourds antécédents du réseau de micro-blogging en matière d’abus sont marqués par l’inaction et le chaos structurel. Leurs révélations brossent le portrait d’une entreprise qui ne s’est jamais donné les moyens de lutter contre le harcèlement. Muré derrière son engagement indéfectible en faveur de la liberté d’expression et promouvant un produit unique en son genre rendant délicate toute tentative de modération et facilitant le trolling, Twitter a, durant une décennie chaotique marquée par des priorités commerciales changeantes et une certaine confusion institutionnelle, laissé toute la place au harcèlement. Devenu un problème majeur, celui-ci est resté perpétuellement relégué, en interne, au rang de priorité secondaire. Sur Twitter, les abus ne sont pas un bug, mais, pour parler comme dans la Silicon Valley, une fonctionnalité essentielle.

Pour bien comprendre le problème du harcèlement sur Twitter, il faut faire un bond dans le passé, chez Google, des années avant que le premier tweet ne soit publié. Alors employés à Blogger, un outil de publication très plébiscité appartenant à Google, Ev Williams, Biz Stone, et Jason Goldman –qui plus tard créeront Twitter ou y travailleront– se trouvèrent confrontés à une situation aujourd’hui familière.

À l’instar de Twitter, Blogger est rapidement devenu l’outil privilégié pour diffuser des opinions diverses et variées, parmi lesquelles un nombre non négligeable se trouvant être odieuses et répréhensibles. Mais plutôt que de censurer ces blogs infects, Ev Williams et Cie y ont vu l’opportunité de construire une plateforme engagée en faveur de la liberté d’expression et reflétant l’esprit démocratique d’internet. Une décision fortement débattue au sein de l’entreprise, dans une «véritable guerre intestine», selon les termes de Jason Goldman, alors opposé à Sheryl Sandberg, chargée à l’époque des Google AdWords.

Cette dernière vaincue, Blogger s’alloua les services d’Alexander Macgillivray, fervent défenseur de la liberté d’expression et, à l’époque, juriste chez Google, pour ériger en principe fondamental le droit universel à publier, et ce malgré les critiques extérieures. «Nous ne sommes pas là pour juger ce qui relève de la diffamation ou de la calomnie», déclarait Jason Goldman à Forbes en 2005. Ce qui suit pourrait tout aussi bien évoquer Twitter aujourd’hui: «Dans les querelles opposant blogueurs anonymes et victimes, Google prend le parti des détracteurs, refusant de transmettre la moindre information sans ordonnance du juge. "Nous le ferons si la loi nous y oblige", indique [Goldman].»

Un peu moins d’un an plus tard, lorsqu’Ev Williams et Biz Stone fondèrent Twitter avec Jack Dorsey, ils firent venir Jason Goldman pour continuer le travail entamé chez Blogger. «On a travaillé dur, dès les débuts de Twitter, pour conserver une liberté d’expression avec des limites claires», affirme Biz Stone dans un mail récent à BuzzFeed News. «Ça vient de mes années passées chez Google à travailler sur les mêmes problèmes avec Blogger.» Mais comme l’illustre parfaitement le cas d’Ariel Waldman, même à ses débuts, cette «liberté d’expression avec des limites claires» s’est retrouvée sous le feu des critiques, qui dénonçaient leur manque de transparence et leur caractère arbitraire.

Ainsi, gérer les problèmes de liberté d’expression sur Twitter, avec son modèle basé sur des abonnés et un système de réponses publiques, s’est montré plus retors que sur Blogger, où ces affaires étaient, à l’époque, inédites, d’ampleur modeste et souvent abstraites. La différence est de taille entre des commentaires blessants postés sur un blog de niche facile à modérer et un torrent de mentions haineuses sur son fil Twitter. «Les travers du produit étaient secondaires… derrière la liberté d’expression, dit un ancien employé. Les patrons de Blogger ont gravé leurs principes dans le marbre quand ils sont devenus Twitter Inc.»

À l’été 2009, les valeurs défendues par Twitter furent acclamées et le réseau social consacré pour son rôle dans le soulèvement suivant l’élection présidentielle iranienne. Lorsque le ministère des Affaires étrangères américain demanda au réseau social de reporter une opération de maintenance sur ses serveurs afin de permettre aux manifestants de continuer à échanger par ce biais pendant l’élection, cela ne fit que consolider sa réputation de puissant outil de communication. Quelques semaines plus tard, l’entreprise débauchait Alexander Macgillivray de Google pour en faire son directeur juridique.

«Ce qui fut autrefois considéré comme une qualité est devenu le talon d’Achille de cette entreprise.»

«Vous avez un super avocat très influent, intimement convaincu qu’on ne ferme pas une plateforme sur la seule base de propos controversés, décrit un ancien employé. Tous les gens de la boîte ont adhéré à cette philosophie. De gré ou de force.» En 2011, ce furent les Printemps arabes qui permirent au réseau social de s'affirmer comme la plateforme des révolutionnaires. La même année, l’entreprise s’est battue pour ne pas avoir à transmettre au gouvernement des informations d’utilisateurs dans l’affaire WikiLeaks. D’après une source, Alexander Macgillivray et Biz Stone ont passé des mois à fignoler un post de blog intitulé «The Tweets Must Flow» («Le flot de tweets doit continuer», ndlr), destiné à être publié en pleine controverse WikiLeaks. Ce fut le plus ferme engagement de Twitter en faveur de la liberté d’expression à ce jour. «Nous supprimons certains tweets, s’ils vont contre la loi ou qu’il s’agit de spam, pouvait-on lire. Cependant, nous faisons tout notre possible pour que cela reste exceptionnel, afin de faire respecter une règle plus large qui est que nous nous efforçons à ne pas supprimer de tweets sur la base de leur contenu.» Peu de temps après, certains cadres de l’entreprise se sont vantés que «Twitter est le champion de la liberté d'expression dans le parti pour la liberté d'expression». Un slogan dont nos sources attribuent la paternité à Alexander Macgillivray.

Cette approche maximaliste vis-à-vis de la liberté d’expression a été essentielle dans l’ascension de Twitter, mais elle a également permis de créer un climat propice aux abus en tous genres. À l’inverse de Facebook ou d’Instagram, qui ont toujours supprimé du contenu et ne se sont jamais positionnés comme les plateformes de la liberté d’expression, Twitter a fait de la protection de ses utilisateurs les plus indésirables une véritable idéologie. Une philosophie qui en a fait le relais privilégié des personnalités les plus controversées du web, de celles qui prennent un malin plaisir à harceler les utilisateurs qui se servent de Twitter à des fins professionnelles. Au printemps dernier, le podcast Just Not Sports a filmé ses fans en train de lire les tweets haineux envoyés aux journalistes sportives Sarah Spain et Julie DiCaro. La vidéo a été vue plus de 3,5 millions de fois sur YouTube. Son message: cette débauche d’insultes est monnaie courante sur Twitter.

«Ce qui fut autrefois considéré comme une qualité est devenu le talon d’Achille de l’entreprise –c’est désormais l’axe autour duquel tourne toute cette merde de harcèlement», explique un ancien employé. Presque tous les anciens de Twitter qui ont accepté de parler à BuzzFeed News disent la même chose. «Tout ce truc du "champion de la liberté d'expression dans le parti pour la liberté d'expression", ce n’est pas un slogan, c’est vraiment profondément ancré dans l’ADN de la boîte», affirme Vivian Schiller, ex-chef des informations à Twitter. «Les gens qui dirigent Twitter… ne sont pas bêtes. Ils savent bien que ce genre de nuisance peut les détruire. Mais comment tracer une ligne? Et où la tracer? Je mets quiconque au défi de trouver une solution imparable. Mais on peut avoir le sentiment que, dans une certaine mesure, tout cela les a empêchés d’agir.»

Un ingénieur expérimenté qui a quitté l’entreprise avant son introduction en bourse en 2013 ne dit pas autre chose: «Il y a cet antagonisme entre la défense de l’expérience utilisateur et la volonté de ne pas supprimer de contenus –et pendant ce temps, vous avez tous ces gens odieux qui en harcèlent d’autres. Je pense que cette tension a, depuis quelques années, pris d’autres proportions. Il faut vraiment faire quelque chose.»

Des premières années de Twitter, plusieurs ex-employés invoquent une direction disproportionnellement blanche et masculine –une critique factuelle adressée fréquemment aux plus grosses entreprises high-tech de la Silicon Valley– un environnement pour qui développer des outils pour lutter contre le harcèlement était une préoccupation mineure. «Le péché originel, c’est d'avoir nommé une direction homogène, explique un-e ancien-ne de Twitter. Ça fait clairement partie des choses qui ont aggravé le problème. Le plus souvent, ils étaient sourds aux inquiétudes des utilisateurs du monde extérieur, c’est-à-dire les femmes et les personnes racisées.»



À mesure que les témoignages affluent, l’évidence saute aux yeux: les patrons de Twitter n’ont pas toujours réussi à offrir à leurs employés des explications claires sur le fonctionnement de la plateforme, ni même aux cadres. Un manquement qui a lui-même compliqué la gestion du harcèlement. Une source se souvient que Jack Dorsey a toujours refusé de définir l’usage de Twitter. «Il m’a dit "Twitter vous rapproche", raconte cet-te ancien-ne employé-e. J’ai répondu, "De quoi?", et il m’a dit, "Nos utilisateurs finissent toujours cette phrase pour nous". Alors je me suis dit, OK, ça va vraiment être compliqué de mettre en place une politique si on n’est pas capables de définir ce qu'est ce truc.»

Les salariés se sont toujours interrogés, en interne, sur la nature de Twitter. Est-ce un média, une plateforme de diffusion qui devrait suivre les mêmes règles de contenus et de pratiques qu’une chaîne de télé, ou bien fait-il partie de l’infrastructure d’internet, comme un fournisseur d'accès à internet, et dans ce cas devrait rester libre et ouvert à tous?

«Si Twitter est le pouls de la planète, alors il est dans la même sphère que Verizon (une entreprise américaine de télécommunications, ndlt), analyse un-e ancien-ne cadre. Et personne ne dit à Verizon qu’il doit modérer les mots et les sujets qui passent par ses lignes téléphoniques. Je crois que cette histoire de harcèlement a empiré en l’absence d’une vision claire de la part de Twitter.»

À en croire d’anciens salariés, l’histoire de l’entreprise est une succession infinie de problèmes –des serveurs qu’il fallait faire tourner (les pannes de Twitter étaient si fréquentes que la Fail Whale de sa page d’erreur est devenue culte) à une entrée en bourse devant permettre de se développer sur mobile. «Nous avions toujours d'autres priorités; il y avait toujours des objectifs de croissance qui n’étaient pas atteints ou des cadres qui partaient», dit un-e ancien-ne employé-e. Une culture d’entreprise qualifiée de «jamais, jamais tranquille» par une de nos sources, tandis qu’une autre décrit une expérience «intense, chaotique et démoralisante, même si j’ai travaillé avec les gens les plus brillants que j’aie rencontrés».

«Ils auraient pu monter au créneau et devenir des pionniers, être pro-actifs plutôt que réactifs. Qu’ils n’aient rien fait de tout ça me dépasse.»

Pendant tout ce temps, les abus ont pris de l’ampleur et le public a commencé à le remarquer. En 2013, Caroline Criado-Perez a lancé une campagne pour que Jane Austen figure sur les billets britanniques. Elle s’est rapidement retrouvée la cible de plus de cinquante menaces de viol par heure, forçant Twitter à ajouter un bouton «signaler» sous chaque tweet. Une fonctionnalité lancée six ans après la naissance de la plateforme et plus de cinq ans après le calvaire subi par Ariel Waldman. «En fait, non seulement ils auraient pu s’attaquer au problème plus tôt, mais ils auraient aussi pu monter au créneau et devenir des pionniers, être pro-actifs plutôt que réactifs. Qu’ils n’aient rien fait de tout ça me dépasse et je trouve ça dangereux.»

À cette même époque, chaque semaine –voire chaque jour– voyait une célébrité subir ce genre de harcèlement en ligne, plus particulièrement au Royaume-Uni. Sinéad O’Connor a quitté Twitter en 2011 et déclaré plus tard au Daily Mail qu’elle y recevait «trop d’insultes». L’actrice de Downton Abbey Lily James en est partie après des centaines de tweets haineux envoyés par des fans furieux. L’acteur Matt Lucas a dû fermer son compte quand des trolls ont décidé de le harceler après la mort de son compagnon.

Aux États-Unis, des affaires de harcèlement sur des femmes, des personnes racisées ou des minorités religieuses se sont multipliées, dont celle, en août 2014, de la fille de Robin Williams, Zelda, obligée de quitter Twitter à cause de trolls qui ne cessaient de lui envoyer des images photoshoppées de son père récemment disparu. Son départ a fait le tour du web et poussé Del Harvey, la directrice de l’équipe Confiance et Sécurité de Twitter, à condamner ces attaques. «Nous ne tolérerons aucun abus de ce genre», a-t-elle affirmé, ajoutant que l’entreprise allait travailler à mettre en place des règles pour éviter que des situations comme celle de Zelda Williams ne se reproduisent.

C’est aussi à peu près à cette époque que Twitter a commencé à diffuser les macabres décapitations de Daech ainsi que les attaques tous azimuts du Gamergate, une campagne de harcèlement misogyne contre les gameuses. L’équipe de Del Harvey a sorti davantage de formulaires simplifiant les signalements (au lieu de son fastidieux questionnaire en neuf parties), ainsi que des outils en interne. Un mois plus tard, Anita Sarkeesian, journaliste féministe et critique de jeux vidéo, a publié sur son Tumblr 157 exemples de misogynie, d’insultes sexistes, de stigmatisation des victimes, d’incitation au suicide et de menaces de mort et de viol reçus sur Twitter en seulement six jours. Malgré les progrès faits, les trolls l’emportaient.

Le 25 octobre 2013, Twitter a révélé la vidéo tournée à l’intention des contrôleurs de Wall Street lors de son entrée en bourse. La présentation de 37 minutes, mélange d’une session Skype en bas débit et d’un PowerPoint, montrait un Dick Costolo (à l’époque PDG de Twitter) tiré à quatre épingles devant un fond bleu azur. «Nous avons à peine gratté la surface de ce que Twitter peut devenir, assenait Dick Costolo face caméra. Il y a 2,4 milliards d’individus connectés autour du monde et plus de 230 millions d’utilisateurs Twitter -nous n’avons encore touché que moins de 10% des internautes du globe». Sous-entendu: Twitter a l’intention de connecter la planète et de connaître une croissance exponentielle dans la manœuvre.

Ce qui n’est pas arrivé. Par contre, en se focalisant sur sa cotation, avant de piètres performances sur le marché, Twitter allait générer une ribambelle de problèmes qui, selon d’anciens employés, ont sérieusement mis du plomb dans l’aile au produit. «Avant l’entrée en bourse, tout le monde était obnubilé par la croissance des recettes, du haut en bas de l’organigramme», explique à BuzzFeed News un ancien membre de l’équipe produit. «Tous les investissements se sont concentrés sur les recettes et je sais pertinemment que le produit final en a pâti. Idem pour la question des abus -à l’époque, je pense bien que que nous n’avons absolument rien fait pour améliorer le service proposé aux consommateurs, ce qui peut s’expliquer quand vous avez votre cotation en bourse en ligne de mire», ajoute cette source.

Et si Twitter était loin d’être une mer d’huile avant l’entrée en bourse, les choses n’ont qu’empiré ensuite. Si l’entreprise générait de confortables revenus, la peur de décevoir Wall Street avec un nombre d’utilisateurs stagnant allait pousser Dick Costolo et la direction à revoir encore et toujours les priorités de Twitter, selon plusieurs collègues et partenaires du PDG à l’époque. Selon ces sources, Dick Costolo et Anthony Noto, tout nouveau directeur administratif et financier de Twitter, étaient si réactifs sur le plan stratégique que des employés se mirent à parler du duo comme de l’«opportunistocratie» de Twitter.

“S’il y a un feu de poubelles dans votre jardin et que vous rechignez à appeler les pompiers par peur que votre maison soit mouillée, ce n’est pas vraiment une décision sensée.”

Nulle part le sobriquet fut plus approprié que dans l’équipe produit de Twitter, le secteur chargé du développement, du test et du déploiement de nouvelles fonctionnalités sur les plateformes mobile et web. «C’était une période de réflexion intense et toujours fluctuante, dans quasiment tous les secteurs de l’entreprise, sur quasiment tous les sujets, tous sauf les abus», affirme un ancien membre de l’équipe produit. Conséquence de quoi, depuis 2010, Twitter aura épuisé sept chefs de produit (huit si vous comptez le bref intérim de Jack Dorsey début 2016), dont cinq de ces changements effectués depuis 2014. «J’ai connu peut-être quatre vice-présidents produit différents (...) sans jamais aucune continuité, déclare un ancien employé. Il y avait plein de blagues à ce sujet», ajoute un autre. «Sans continuité, c’est difficile d’aboutir à quoi que ce soit».

«Trouver une solution produit pour les abus, c’était notre Mission Apollo, affirme un autre. Sauf que la NASA n’aurait jamais envoyé personne sur la Lune si elle avait eu sept directeurs entre 1959 et 1969».

Des sources internes à l’entreprise précisent aussi que dans les années ayant suivi l’entrée en bourse, les décisions produit étaient souvent abandonnées ou tuées dans l’oeuf après les premiers tests, si jamais elles étaient considérées comme nocives à la croissance des abonnés. «Sur la gestion des abus, j’ai vu plein de décisions prises uniquement sur la base de la croissance, ce que je comprends tout à fait», explique à BuzzFeed News Leslie Miley, ancien ingénieur en chef de Twitter. «Mais d’un autre côté, s’il y a un feu de poubelles dans votre jardin et que vous rechignez à appeler les pompiers par peur que votre maison soit mouillée, ce n’est pas vraiment une décision sensée».

Leslie Miley —qui a contribué à la mise en place de la vérification en deux étapes sur la plateforme— mentionne son année de lobbying auprès des employés de Twitter pour qu’ils adoptent cette sécurité sur leurs propres comptes. «J’étais vraiment intraitable là-dessus, il n’y avait aucune bonne raison de ne pas le faire, car quelle plus grosse cible pour le piratage de compte Twitter qu’un employé de Twitter?» se souvient-il. Mais l’obstination de Leslie Miley allait rester lettre morte auprès de l’exécutif, qui avait peur d’un produit trop difficile à utiliser pour les employés, qui cesseraient dès lors de tweeter. «Je leur ai dit: "Quel meilleur moyen pour résoudre le problème que de déployer l'authentification à deux étapes auprès de milliers d’utilisateurs et d’attendre leur retour?" commente Leslie Miley. Mais ils m’ont répondu: "Non, c’est quand même trop compliqué et on veut que nos équipes se servent du produit."» Leslie Miley baissa les bras. Peu après, le compte d'Anthony Noto fut piraté.

Pour beaucoup d’anciens employés, la stagnation de l’équipe produit de Twitter est ce qui explique principalement la multiplication des cas de harcèlement après 2012. «Pour moi, les utilisateurs ont été floués par le produit», tance un ancien cadre de Twitter, interrogé par BuzzFeed News. Un des éléments de la puissance de Twitter, c’est sa capacité à abolir les hiérarchies dans la communication. Les tweets d’un petit utilisateur, avec peu d’abonnés, sont en théorie aussi visibles que ceux d’une célébrité. Pour faire simple, Twitter n’est pas conçu comme les autres réseaux sociaux. Deux comptes n’ont pas à se suivre l’un l’autre pour interagir et une fois qu’un tweet est posté, son auteur n’a aucun moyen d’en modérer les réponses —contrairement à ce qu’il peut faire sur Facebook ou Instagram. Une fonctionnalité spécifique merveilleusement créative, à l’origine des moments les plus révolutionnaires de Twitter. Mais qui en fait, aussi, un écosystème parfait pour les abus.

«Pendant des années, les gens ont été sur un pied d’égalité. Un troll que vous ne suiviez pas et votre meilleur ami auquel vous étiez abonné et avec lequel vous échangiez tout le temps avaient le même poids. Ce qui est dingue, déclare un ancien employé. Sans blague, si vous étiez un extraterrestre débarquant sur Terre et voyant ce truc, vous ne pouviez que vous dire: "Oh, ce produit a été conçu à la base pour faciliter au maximum le trolling." Comme s’ils l’avaient conçu pour les trolls.»

Une frustration partagée par des employés proches de l’équipe produit. «Il y a des idées évidentes pour combattre les abus, que des directeurs produit ont peut-être mentionnées des dizaines de fois —par exemple, quand vous déroulez le tweet d’une personne célèbre, la première réponse affichée devrait être celle d’un utilisateur que suit cette personne, pas du premier venu, précise un ancien employé. Cela fait cinq ans qu’on en parle — une éternité pour le secteur technologique— et elle n’a encore jamais été mise en place, je ne suis pas très optimiste sur le fait qu’ils réfléchissent à ce problème.»

Ou, pour le dire comme un autre ancien employé, cette inaction «aura fait de Twitter un eldorado pour les connards».

Sarah Hagi, auteure spécialisée sur les questions d’identité et célèbre pour avoir créé le mème «Seigneur, donne-moi la confiance d’un homme blanc médiocre», explique à BuzzFeed News comment elle est harcelée sur Twitter depuis le début de sa carrière professionnelle. Selon l’auteure, les abus se concentrent essentiellement sur sa couleur de peau (elle est noire), sa religion (elle est musulmane) et son sexe (c’est une femme) —«selon toute une gamme d’insultes qui faisait de moi un animal musulman fou à lier ou une ignoble femme musulmane opprimée, dit-elle. Au début, quand j’ai eu mes premiers commentaires de ce genre, que ce soit des insultes contre des éléments de mon identité ou des photos de mutilations génitales, je répondais, mais j’ai vite compris que ça ne faisait qu’empirer les choses. Aujourd’hui, je bloque ou je masque tout de suite et j’essaye de ne pas y prêter attention». Des abus qui peuvent prendre la forme d’une réponse isolée, après un tweet banal. À d’autres moments, c’est toute une foule de trolls qui foncent sur elle, galvanisés par un compte à grosse audience. «À mon avis, parce que la modération de Twitter n’a pas vraiment évolué, la situation s’est aggravée, ajoute-elle. Ils savent que rien ne peut vraiment leur arriver, alors ils continuent à faire ce qu’ils veulent.»

En 2015, la journaliste du Guardian Lindy West a détaillé ce qu’elle vivait, depuis plusieurs années, en matière de harcèlement sur Twitter. En réaction, Dick Costolo a écrit à son équipe: «on est vraiment à chier sur le harcèlement», un mémo interne qui a fuité peu après. A l’époque, les employés de Twitter pensaient que le scandale —et le mémo— allaient pousser à l’amélioration du produit, mais la fourmilière est retournée à ses occupations une fois l’attention du public orientée vers un nouveau motif d’indignation. «Après un cas de personnalité harcelée, on sentait de la pression, explique un ancien employé. Mais globalement, c’était du genre “bon, on va régler le problème et il ne reviendra plus.” Sauf que c’était trop superficiel. On avait l’impression d’être des pompiers dépêchés en urgence alors que la vraie question à se poser était “comment on évite les incendies?”»

Quasiment tous les anciens employés avec lesquels BuzzFeed News s’est entretenu n’ont pas tari d’éloges sur Del Harvey et son équipe, pour sa détermination réelle à lutter contre le harcèlement, mais selon eux, l’initiative ne pouvait aller bien loin vu les défaillances du secteur produit. «Ils étaient en premières lignes avec les utilisateurs et ils se tuaient à la tâche, affirme un ancien cadre, mais ils étaient pris entre le marteau et l’enclume, entre les promesses de l’entreprise et les ressources disponibles pour créer un tel environnement.»

«Si, au moment de sa création, Twitter avait eu dans ses réunions des gens pouvant subir ces abus, je peux vous jurer que le service aurait été totalement différent»

Pour beaucoup d’anciens employés, les limites venaient aussi de cadres qui ne savaient globalement pas à quoi les abus pouvaient ressembler, ni les effets qu’ils pouvaient susciter à leurs victimes. «Les décisionnaires n’étaient pas du genre à se faire harceler et ils ne comprenaient pas que ce n’était pas une question de contenu, mais de contexte, affirme Leslie Miley. Si, au moment de sa création, Twitter avait eu dans ses réunions des gens pouvant subir ces abus —c’est-à-dire, pas seulement des types blancs et hétéros—, je peux vous jurer que le service aurait été totalement différent». En 2015, une étude du groupe Women, Action, and the Media révélait qu’en 2014, le leadership de Twitter était à 79% masculin et à 72% blanc.

Leslie Miley allait faire d’une solution technique et pro-active au trolling son cheval de bataille, mais c’était sans compter l’opposition constante d’une équipe produit privilégiant les filtres sémantiques (prévenir les abus sur la base de mots-clés) aux contextuels (identifier et stopper les cas de harcèlement en fonction des comptes et des sujets concernés). Leslie Miley donne l’exemple d’un algorithme de filtrage pour le mot «cunt» (connasse). Il avait tenté d’expliquer à l’équipe produit que le procédé risquait de censurer des comptes qui n’avaient rien à se reprocher, car en argot britannique, le terme peut être appréciatif. «Si vous voulez vous focaliser sur des mots-clés et sur le nombre de blocages et d’unfollows, vous obtenez un algorithme qui n’a pas le niveau de précision requis.»

Selon des anciens employés, les pressions externes —une croissance en stagnation, l’attention des médias et une modification constante des équipes— allaient même fissurer l’unité autrefois solide de Twitter en matière de défense de la liberté d’expression. Peu après l’annonce du départ de Twitter de Zelda Williams, Dick Costolo recevait des DM et des SMS d’agents de Hollywood menaçant de retirer leurs clients de Twitter si jamais quelque chose n’était pas fait pour mettre fin au harcèlement. Le PDG s’est agité, a ordonné à ses équipes de supprimer comptes et tweets insultants. Des semaines plus tard, lorsqu’un flot de vidéos de décapitations est arrivé sur Twitter, Dick Costolo a de nouveau ordonné de supprimer ces tweets et les responsables de la liberté d’expression sur la plateforme, Gabriel Stricker et Vijaya Gadde, ont convoqué en urgence une réunion stratégique.

Lors de cette réunion, à laquelle tous les trois ont assisté en compagnie du directeur produit Kevin Weil (aujourd’hui chez Instagram) et dont l’existence a été révélée pour la première fois par BuzzFeed News, les tensions ont été palpables. Dick Costolo avait envie d’un réseau plus agréable, commercialement plus viable et au final plus attractif pour les utilisateurs. Gabriel Stricker et Vijaya Gadde, eux, défendirent leur vision d’une liberté d’expression absolue.

«Vous pensez vraiment qu’on devrait laisser les vidéos de gens qui se font assassiner?», aurait demandé Dick Costolo, selon un témoin de la scène, tandis que Gabriel Stricker comparait la suppression de contenus indésirables à la volonté de censure de la famille de Kennedy du film d’Abraham Zapruder. Selon une personne présente, la réunion allait aboutir à un consensus: modifier les conditions d’utilisation pour préserver les contenus macabres à caractère informatif. Une source parle d’un PDG quittant la réunion en rage et disant aux deux employés contre lui: «Le Twitter que vous voulez, personne ne s’en servira à part Daech et l’ACLU (American Civil Liberties Union, ndlr).»

«Selon moi, l’exigence de croissance a totalement biaisé la perspective de Dick [Costolo], ajoute cette source à BuzzFeed News. Rétrospectivement, c’est l’un des plus gros problèmes de l’opportunistocratie —on ne peut pas laisser une seule personne prendre des décisions qui créent d’énormes précédents, sur la base d’un petit cas précis, quand tout le monde a le dos tourné. Au même moment, on a des équipes en pourparlers avec des dictateurs russes et turcs qui nous demandent de censurer la plateforme et on leur dit d’aller se faire foutre. Il n’y a aucune continuité.»

Sauf que selon des sources, Dick Costolo aurait persévéré dans des manoeuvres de censure favorables à des célébrités —et parfois en secret. A la mi-2015, énervés de voir Reddit devenu la nouvelle destination de choix pour les stars discutant avec leur public, Dick Costolo et Anthony Noto font pression sur l’équipe média de Twitter pour faciliter ce genre d’assemblée virtuelle avec des utilisateurs influents. En mai 2015, après avoir obtenu la session #AskPOTUS avec le président Obama, le PDG ordonne secrètement aux équipes des partenariats médiatiques de Twitter d’utiliser un algorithme de filtrage destiné à masquer toutes les insultes dirigées contre le président. Selon une source, cet algorithme a été entraîné avec des milliers d’exemples de termes et de formules offensantes, afin de bloquer les tweets les plus incendiaires. Selon une autre source, la suppression des tweets a dû se faire manuellement, tant la qualité de filtrage de l’algorithme laissait à désirer. Les participants de #AskPOTUS n’ont jamais été informés de cette modération et deux sources ont déclaré à BuzzFeed News que cette décision avait été cachée à certains cadres de Twitter, de peur qu’ils s’y opposent.

Selon une autre source, la technique aurait aussi été employée dans une session de questions/réponses avec Caitlyn Jenner. «Un autre exemple de chouchoutage des célébrités, pour leur montrer qu’elles pouvaient avoir une conversation civilisée sur Twitter, sans déferlement de haine, explique un ancien employé. Mais ça relève aussi du deux poids deux mesures —on protège les stars, alors que l’utilisateur lambda peut subir toutes les horreurs possibles». Dick Costolo n’a pas répondu à nos multiples demandes de commentaires.

Un mois après #AskPOTUS, Dick Costolo a quitté son poste de PDG de Twitter, tout en demeurant à son conseil d’administration. Dans une interview avec le Guardian, le 30 juin 2015, il défendait la détermination de Twitter à protéger la liberté d’expression. «Je vais le dire sans ambages: la régulation menace la liberté d’expression», peut-on y lire.

Les cas Jenner et Obama ne sont pas les seuls illustrations de ce deux poids deux mesures. En juillet, après avoir été l’objet d’une avalanche de tweets racistes et sexistes, galvanisée par le blogueur conservateur Milo Yiannopoulos, l’actrice de Ghostbusters et membre du Saturday Night Live, Leslie Jones, décidait de quitter Twitter. L’actuel PDG, Jack Dorsey, allait la contacter et, après avoir discuté avec elle, décidait de bannir définitivement Milo Yiannopoulos. Leslie Jones a depuis rouvert son compte, mais l’opacité de la modération de Twitter dans ce genre d’affaires de harcèlement très médiatisées demeure.

Il suffit de taper “harcèlement” sur Twitter pour tomber sur les griefs de centaines d’utilisateurs non célèbres qui, s’ils sont victimes d’abus quotidiens, n’ont pas le numéro de téléphone personnel de Jack Dorsey. Selon la journaliste et auteure Jessica Valenti, le bannissement ne refroidit pas les trolls. «Ce matin, je me suis levée pour lire une menace de viol et de meurtre dirigée contre ma fille de 5 ans. C’est cette partie de ma vie professionnelle qui est inacceptable.»

Le mois dernier, lors de la plus récente conférence sur les résultats trimestriels de l’entreprise, Jack Dorsey a fait une déclaration familière, en jurant vouloir combattre les abus. «Personne ne mérite d’être la cible d’abus sur Twitter, a-t-il dit. Et il faut que nous nous améliorions là-dessus.» Au mieux, d’anciens employés font part de leur scepticisme. «Selon moi, à chaque changement de direction, il y a une légère variation des priorités», déclare à BuzzFeed News Miley, parti de Twitter début 2016. «Quand Dick [Costolo] est parti et que Jack [Dorsey] est arrivé, il y a eu beaucoup d’agitation quant à la définition des priorités pour Twitter, et je pense que la question des abus a été rétrogradée», dit-il. Une source se dit préoccupée par l’autre boulot de Jack Dorsey —PDG de Square— qui pourrait complexifier la situation. «Jack [Dorsey] est merveilleux et il a vraiment le problème du harcèlement à cœur, mais en tant que PDG à mi-temps, c’est difficile pour lui de maintenir la pression, ajoute cette source. Il est incroyable, mais au moins du côté Twitter, l’entreprise exige une présence à 1000%.»

Et comme toujours, les cadres espèrent que Twitter réussisse enfin à régler le problème. En février, Twitter formait un Conseil confiance et sécurité, comportant plus de 40 partenaires, dont Anita Sarkeesian, chargés de formuler des suggestions sur ses produits et ses politiques. Son cofondateur, Biz Stone, assure à BuzzFeed News qu’en coulisses et sous l’égide de Jack Dorsey, «Twitter travaille d’arrache-pied et progresse sur ce plan». Et il ajoute que Twitter doit s’adapter à son époque. «Aucun employé ne devrait être dans la position de décider, subjectivement, ce qui relève ou non de la liberté d’expression. Une constitution solide sera d’un grand secours». Selon un ancien cadre dirigeant, Twitter aurait de nouveaux projets dans les tuyaux, des solutions produit globales dont il s’est moqué et qui seraient aujourd’hui à l’étude, notamment dans le bureau de Dorsey.

Pour d’autres, si les changements à venir sont nécessaires, ils seront forcément insuffisants et arriveront trop tard. «Si, demain, Twitter met en oeuvre un ensemble de réformes super raisonnables, il sera critiqué, et à raison, pour avoir lambiné, même si les solutions sont géniales, déclare un ancien cadre à BuzzFeed News. Plus vous attendez, plus vos solutions doivent être irréprochables. On leur fera: "Super les gars, ça vous a pris dix ans, c’est quoi votre problème?"»

À nos demandes de commentaires, un porte-parole de Twitter nous a envoyé ce communiqué: «La sécurité sur Twitter fait partie de nos premières priorités. Personne ne mérite d’être l’objet d’abus sur internet et notre règlement interdit toute incitation ou participation à des abus ou à une campagne de harcèlement.»


Huit ans après son post de blog, Ariel Waldman, la première victime publique du harcèlement sur Twitter, est passée à autre chose. Elle a choisi de rester sur Twitter, car les coûts des trolls et des insultes sont inférieurs aux bénéfices qu’elle peut tirer de la plateforme.

«Ça devient trop pénible d’utiliser Twitter, c’est trop de travail et cela devrait mettre la puce à l’oreille.»

Sauf que les choses ont encore empiré. Ces deux dernières semaines, elle aura bataillé contre des dizaines de tweets abusifs après avoir posté un selfie en foulard, en préparation d’un voyage en Iran. «En quelques secondes, ça a été le déluge de propos racistes —à la limite de l’appel au meurtre», dit-elle. Alors elle a supprimé son tweet, bloqué des dizaines d’utilisateurs et posté la photo sur Instagram, où elle n’est pas harcelée. Voici quelques jours, Ariel Waldman parlait sur Twitter de la bourse qu’elle espérait recevoir de la NASA, son message allait être pris d’assaut par des néonazis exhortant au génocide des gens de couleur.

Ariel Waldman, à l’instar des dizaines d’individus qui ont été interviewés pour cet article, ont mis en avant leur amour de Twitter. Quand tout se passe bien, c’est un outil formidable, vecteur d’autonomie, de joie, et qui peut même changer votre vie. Mais à l’instar de tous les participants à cet article, elle en a un peu marre de trouver des excuses aux défaillances de Twitter. «Je veux dire, on en est arrivé à un tel point que l’utiliser nous épuise», dit-elle dans un profond soupir. «Bloquer 20 personnes horribles par jour ne devrait pas faire partie de mon quotidien —et cela même quand je ne suis pas particulièrement attentive aux abus. Le truc, c’est que ça devient trop pénible d’utiliser Twitter, c’est trop de travail et ça devrait mettre la puce à l’oreille. Ils ont clairement prouvé que la lutte contre les abus ne faisait pas partie de leurs priorités.»

«Pardon, mais, qui a envie d’un service qui vous inflige ce genre de choses?»

Traduit de l'anglais par Nora Bouazzouni et Peggy Sastre

Charlie Warzel is a senior writer for BuzzFeed News and is based in New York. Warzel reports on and writes about the intersection of tech and culture.

Contact Charlie Warzel at charlie.warzel@buzzfeed.com.

Got a confidential tip? Submit it here.