Twitter et Tinder réinventent « l’arrêt du crime » d’Orwell

Red­if­fu­sion esti­vale. Pre­mière dif­fu­sion le 24/05/2021

« L’arrêtducrime, c’est la fac­ulté de s’arrêter net, comme par instinct, au seuil d’une pen­sée dan­gereuse » (Orwell, 1984, Folio, p. 281)

Nous traduisons partiellement et commentons un article d’Axios, un média d’Amazon, une synthèse parfaite de la pensée libérale libertaire américaine, du 22 mai 2021.

Honte présente, pré-honte future

Le « sham­ing » en anglais ou plutôt en améri­cain, c’est notre bonne vieille dénon­ci­a­tion mise au goût du jour, le caf­tage sauce libérale lib­er­taire. Votre voisin a oublié 10 sec­on­des de met­tre son masque en sor­tant de chez lui, vous le dénon­cez sur les réseaux soci­aux. Mon­sieur Mar­tin a peu appré­cié la désig­na­tion du rappeur Yous­soupha comme représen­tant offi­ciel pour être le chantre de l’équipe de France de balle au pied, il sera désigné comme « haineux » ; s’il a posté quelque chose sur un réseau social, son post sera sup­primé, voire son compte sus­pendu et s’il per­siste son compte sera sup­primé. Mais on peut faire mieux avec le « pre­sham­ing ».

La pré-honte

L’amour c’est chou­ette, la haine c’est glauque, com­ment assur­er le tri­om­phe de l’amour ? Réponse de Twit­ter et de Tin­der : la pré-honte (pre­sham­ing), l’avertissement avant pub­li­ca­tion. Tout le monde con­naît Twit­ter qui sus­pend la parole du prési­dent des Etats-Unis, Tin­der c’est une appli­ca­tion à suc­cès de ren­con­tres sen­ti­men­tales et sex­uelles. Ils ont main­tenant un point com­mun, ils aver­tis­sent à l’avance les con­trevenants en cas de « mau­vaise pen­sée ». Mon­sieur Mar­tin, tou­jours lui,  va poster sur Twit­ter le mes­sage suiv­ant « #Yous­soupha chantre de l’Anti-France et de la haine des flics désigné comme porte-parole des sportifs français, scan­dale, #repen­tance et #indigénisme ». Il va recevoir un mes­sage avant d’avoir posté du type : « Vos pro­pos peu­vent cho­quer cer­taines minorités et être por­teurs de haine, ils peu­vent ne pas cor­re­spon­dre aux valeurs de la com­mu­nauté, les main­tenez-vous ? ». Mon­sieur Mar­tin, piteux, efface son mes­sage ou le mod­i­fie en chan­tant les grâces du rappeur africain.

Tout ceci grâce à l’intelligence artificielle

Mer­ci l’IA ! D’après l’article d’Axios (ent­hou­si­aste), Twit­ter a con­staté que 34% des mes­sages qui rece­vaient un aver­tisse­ment soit étaient mod­i­fiés soit étaient sup­primés. Comme le note avec sat­is­fac­tion le rédac­teur du média d’Amazon :

« Un lan­gage offen­sant et une forme d’harassement sont répan­dus sur les plates formes des réseaux soci­aux, en par­ti­c­uli­er con­cer­nant les femmes, les gens de couleur et la com­mu­nauté LGBTQ…L’intelligence arti­fi­cielle per­met de réduire les mes­sages qui pour­raient être offen­sants à la marge ».

Extrait de 1984 d’Orwell

O’Brien (mem­bre du Par­ti intérieur qui con­trôle la société) par­le à Win­ston qui a été pris sur le fait comme déviant et emprisonné :

« Nous ne détru­isons pas l’hérétique parce qu’il nous résiste. Tant qu’il nous résiste, nous ne le détru­isons pas, nous le con­ver­tis­sons. Nous cap­tons son âme, nous lui don­nons une autre forme. Nous lui enlevons et lui brûlons tout mal et toute illu­sion. Nous l’amenons à nous, pas seule­ment en apparence, mais réelle­ment, de cœur et d’âme. Avant de le tuer, nous en faisons un des nôtres. Il nous est intolérable qu’une pen­sée erronée puisse exis­ter dans le monde, quelque secrète et impuis­sante qu’elle puisse être. Nous ne pou­vons per­me­t­tre aucun écart, même à celui qui est sur le point de mourir…Nous, nous ren­dons le cerveau par­fait avant de le faire éclater »