Facebook détecte notre classe sociale et déclenche la lutte (algorithmique) finale

 

 

Depuis le temps que je vous raconte que le projet des grandes plateformes de l’internet est avant tout un projet politique. Depuis le temps que je dénonce le risque d’un fascisme documentaire opposant une humanité sous-documentée à une humanité sur-documentée. …

Le 1er Février 2018 Facebook a obtenu la publication d’un brevet qu’il avait déposé en Juillet 2016, brevet intitulé “Socioeconomic group classification based on user features”. (disponible en pdf et en intégralité par ici)

 

La prédiction est le soupir de la créature opprimée.

Et voilà tout. Qu’il soit ou non finalement utilisé, l’histoire de ce brevet de détection de la classe sociale, c’est une nouvelle histoire de l’oppression d’une classe sur une autre. Une oppression qui est une automatisation qui est elle-même une essentialisation. En fait, la conclusion de l’article que vous êtes en train de lire a déjà été écrite dans un ouvrage paru bien avant la publication du brevet des classes sociales, ouvrage de Virginia Eubanks titré “De l’automatisation des inégalités“, que je n’ai personnellement pas lu mais dont Hubert Guillaud nous livre, comme il en a l’habitude, une synthèse et une mise en perspective brillante et exhaustive.

En enquêtant sur une poignée de systèmes automatisés développés pour optimiser les programmes sociaux américains, elle dénonce une politique devenue performative … c’est-à-dire qui réalise ce qu’elle énonce. Selon elle, les programmes sociaux n’ont pas pour objectif de fonctionner, mais ont pour objectif d’accumuler de la stigmatisation sur les programmes sociaux et renforcer le discours montrant que ceux qui bénéficient de l’assistance sociale sont, au choix, des criminels, des paresseux ou des profiteurs. La rationalisation des programmes d’aide publics du fait de la crise et des coupes budgétaires les contraint à toujours plus de performance et d’efficacité. Or cette performance et cette efficacité s’incarnent dans des outils numériques qui n’ont rien de neutre, pointe la chercheuse.”

A lire tout cela on se souvient bien sûr de Lawrence Lessig et de son Code Is Law. De l’importance qu’il soulignait déjà en 1999 de former les ingénieurs et les développeurs à des questions juridiques, éthiques, philosophiques ; à ce qu’il racontait sur le fait que les programmes transmettaient avant tout des chaînes de valeurs, et que ces valeurs n’étaient pas uniquement des “variables” mais bien des postures et des postulats relevant de la morale. Une thèse reprise et développée par Virginia Eubanks :

“Quand on parle de technologies, on évoque toujours leurs qualités. Leurs promoteurs parlent de technologies disruptives, arguant combien elles secouent les relations de pouvoirs instituées, produisant une gouvernementalité plus transparente, plus responsable, plus efficace, et intrinsèquement plus démocratique.” Mais c’est oublier combien ces outils sont intégrés dans de vieux systèmes de pouvoirs et de privilèges.”

La métaphore de l’hospice numérique qu’elle utilise permet de résister à l’effacement du contexte historique, à la neutralité, que la technologie aimerait produire. L’hospice numérique produit les mêmes conséquences que les institutions de surveillance passées : elle limite le nombre de bénéficiaires des aides, entrave leur mobilité, sépare les familles, diminue les droits politiques, transforme les pauvres en sujets d’expérience, criminalise, construit des suspects et des classifications morales, créé une distance avec les autres classes sociales, reproduit les hiérarchies racistes et ségrégationnistes… Sa seule différence avec les institutions d’antan est de ne plus produire de l’enfermement physique. Certainement parce que l’enfermement dans les institutions de surveillance a pu produire des solidarités qui ont permis de les combattre … Les outils numériques produisent non seulement de la discrimination, mais aussi de l’isolement entre ceux qui partagent pourtant les mêmes souffrances.

 

close
0 0 votes
Évaluation de l'article
S’abonner
Notification pour
guest

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

0 Commentaires
Commentaires en ligne
Afficher tous les commentaires
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x