Fin octobre, Facebook a vu une partie de ses dossiers confidentiels publiée dans la presse. France Haugen, ancienne cadre chez le géant américain, a en effet décidé d’attaquer son employeur pour "avoir trahi la démocratie". Si les motifs qui ont poussé la jeune femme à aller en justice sont assez flous, son action a permis de faire parvenir aux journalistes des dizaines de notes internes qui alertaient le conseil d’administration du groupe sur le fait que les algorithmes étaient désormais hors de contrôle !
Depuis 2018, la stratégie de la plateforme consiste à réorienter le contenu vu par ses utilisateurs vers leur cercle proche (famille ou "amis Facebook"). Sauf que ce choix stratégique n’a pas eu du tout l’effet recherché. Il a conduit à inonder les utilisateurs de contenus non désirés : incitations à la polémique, discours de haine, propagande complotiste amplifiée par la crise de la covid-19…
Facebook — comme l’ensemble des plateformes numériques — ne modère pas le contenu de ses pages en faisant appel à des humains, mais en se basant sur des algorithmes dits intelligents. Ces algorithmes ont pour mission de mettre en valeur les publications des cercles proches des utilisateurs. Mais les développeurs desdits algorithmes expliquent que leurs créatures échappent à tout contrôle : ils apprennent par eux-mêmes en prenant appui sur la masse de données personnelles qui sont à leur portée — on parle de machine learning — et relaient les messages qui leur paraissent les plus "efficaces", sans aucun filtre.
La plateforme a réagi à ces attaques en expliquant que plus de 13 milliards de dollars ont été investis pour lutter contre les contenus dangereux. À quoi Mme Haugen répond que ces investissements ont eu lieu en grande majorité sur du contenu en langue anglaise, laissant de facto le reste au bon vouloir des algorithmes. Ce qui a permis aux messages djihadistes en langue arabe de circuler assez librement ou au contenu pornographique venu d’Asie de se retrouver sur la "page d’accueil" de millions d’utilisateurs.
Cette énième affaire touchant la société de M. Zuckerberg pourrait nous laisser de marbre, tant la firme est connue pour ses scandales à répétition (Cambridge Analytica, les "fermes de bots" pro-Trump, etc). Mais nous sommes maintenant en face d’un sujet qui dépasse le cadre de la protection des données. On touche à l’éthique, avec des algorithmes qui n’ont plus besoin de l’homme et qui ont des comportements dangereux. On peut d’ores et déjà avancer que l’algorithmie a dépassé les attentes de l’humanité et qu’elle sera en capacité de s’autoentretenir assez rapidement.
Plusieurs solutions s’offrent à nous. La première est du domaine de la loi : la représentation nationale devrait légiférer sur les limites que les géants privés du net peuvent atteindre en termes de domaines d’action. La seconde relève du droit international : interdire aux GAFAM et autres monstres numériques chinois de capter et d’utiliser des données sensibles, ce qui permettrait d’assécher les énormes bases de données qui nourrissent les algorithmes et de les empêcher de s’immiscer dans certains domaines, comme la santé, la défense ou le fonctionnement des infrastructures.
La recrudescence de ce genre d’épisodes questionne sur l’impact qu’ont aujourd’hui les géants du numérique sur nos vies et sur la place qu’on leur a laissé. A-t-on été trop loin ? Sans doute.
numérique. «Facebook Papers» : les algorithmes devenus fous
Publié le 25/11/2021 à 00h00 - Par Guillaume Villers
En direct
- 06/02Médico-social. Le ras-le-bol des oubliés du “Ségur de la Santé”
- 04/02Les correspondances de Jean-Paul Pelras. Lettre à la présentatrice météo qui nous conseille de ne plus manger de viande
- 03/02Énergie. Un convoi XXL de 346 tonnes en direction de Montézic
- 02/02Conseil départemental. Un budget de 435 millions pour l'Aveyron
- 02/02PNR. L’Aubrac, un territoire riche en projets
- 02/02Le Panorama de la semaine
- 02/02Bus. Aménagements des trajets entre Chaudes-Aigues et Clermont-Ferrand
- 02/02La médiathèque du 7 rue Saint-Jacques retrouve, presque, ses couleurs
- 02/02Tableaux et sculptures. Exposition originale au musée Boudou
- 02/02Association des commerçants. Une 1.000e carte de fidélité pour Rue d'Espalion
- 02/02Intergénération. Bientôt 20 ans d'originalité et de diversité
- 02/02Relais de Boralde. Un demi-siècle d'hospitalité et de bons petits plats
- 02/02Parti socialiste. Réflexes de survie
- 02/02Humeur. La rente de l’islamophobie
- 02/02Religion. François au Congo
- 02/02Croisière 2020 annulée :
- 02/02Société. Retraites :
- 02/02Énergie-environnement. «La ruée vers le lithium»
- 02/02360 millions d’euros !
- 02/02Le 2 février, c'est la Chandeleur. On prépare des crêpes mais savez-vous pourquoi ?
Les plus lus
- 1 -Énergie. Un convoi XXL de 346 tonnes en direction de Montézic
- 2 -Dans les secrets des stations de ski (1/4). À Saint-Urcize, l’art du damage est une passion
- 3 -Bus. Aménagements des trajets entre Chaudes-Aigues et Clermont-Ferrand
- 4 -Médico-social. Le ras-le-bol des oubliés du “Ségur de la Santé”
- 5 -Musique. Les Souvenirs de Nestor
L'espace des commentaires est ouvert aux inscrits.
Connectez-vous ou créez un compte pour pouvoir commenter cet article.