Sauveur du monde

Il y a quelque chose dans l'air...
Mon trait toxique est que je ne peux pas me débarrasser de cet optimisme naïf des premiers Internet.. ...
Les gens devraient acheter leurs propres domaines, créer leurs propres blogs, posséder leurs propres contenus. ...

Cher Henri,
En octobre, l'article suivant a été publié dans la MIT Technology Review, Culture, qui fait une bonne analyse et montre quelques pistes de sortie et... ne vous laisse pas perdre espoir.
En tant qu’« Européen professionnel », je suis, comme toujours, optimiste (- on ne peut pas être autre chose. 😉 )

avec mes aimables salutations européennes

peter schulze

Revue technologique du MIT, Culture
Comment réparer Internet
Si nous voulons améliorer le discours en ligne, nous devons aller au-delà des grandes plateformes.
By Katie Notopoulos
17 octobre 2023

Nous vivons un moment très étrange pour Internet.
Nous savons tous qu'il est cassé. Ce n'est pas une nouvelle.
Mais il y a quelque chose dans l'air : un changement d'ambiance, le sentiment que les choses sont sur le point de changer.
Pour la première fois depuis des années, nous avons l’impression que quelque chose de vraiment nouveau et différent pourrait se produire dans la façon dont nous communiquons en ligne. L’emprise que les grandes plateformes sociales ont exercée sur nous au cours de la dernière décennie s’affaiblit.
La question est : que voulons-nous faire ensuite ?

Il existe une sorte de sagesse commune selon laquelle Internet est irrémédiablement mauvais, toxique, une série de « sites infernaux » à éviter. Les plateformes sociales, avides de profiter de vos données, ont ouvert une boîte de Pandore qui ne peut être fermée. En effet, il se passe des choses vraiment horribles sur Internet, des choses qui le rendent particulièrement toxique pour les personnes appartenant à des groupes ciblés de manière disproportionnée par le harcèlement et les abus en ligne. Les motivations du profit ont conduit les plateformes à ignorer trop souvent les abus, et elles ont également permis la propagation de la désinformation, le déclin des informations locales, la montée de l’hyperpartisanisme et des formes entièrement nouvelles d’intimidation et de mauvais comportements. Tout cela est vrai, et cela ne fait qu’effleurer la surface.

Mais Internet constitue également un refuge pour les groupes marginalisés et un lieu de soutien, de plaidoyer et de communauté. Il offre des informations en temps de crise. Cela peut vous connecter avec des amis perdus depuis longtemps. Cela peut vous faire rire. Il peut vous envoyer une pizza. C'est une dualité, bonne et mauvaise, et je refuse de jeter le GIF du bébé dansant avec l'eau du bain tubgirl-dot-png. Internet vaut la peine de se battre car malgré toute la misère, il y a encore tant de bien à y trouver. Et pourtant, réparer le discours en ligne est la définition d’un problème difficile.

Mais regarde. Ne t'inquiète pas. J'ai une idée.
Qu'est-ce qu'Internet et pourquoi me suit-il partout ?
Pour guérir le patient, il faut d’abord identifier la maladie.

Lorsque nous parlons de réparer Internet, nous ne faisons pas référence à l’infrastructure physique et numérique du réseau : les protocoles, les échanges, les câbles et même les satellites eux-mêmes sont pour la plupart corrects. (Il y a des problèmes avec certains de ces éléments, bien sûr. Mais c'est un tout autre problème, même si les deux impliquent Elon Musk.) « Internet » dont nous parlons fait référence aux types populaires de plateformes de communication qui hébergent des discussions. et avec lequel vous interagissez probablement sous une forme ou une autre sur votre téléphone.

Certains d'entre eux sont massifs : Facebook, Instagram, YouTube, Twitter, TikTok, X. Vous avez presque certainement un compte sur au moins l'un d'entre eux ; peut-être que vous êtes un afficheur actif, peut-être que vous feuilletez simplement les photos de vacances de vos amis lorsque vous êtes aux toilettes

Internet est une bonne chose. C'est Keyboard Cat, Double Rainbow. Ce sont des blogs personnels et des LiveJournals. C'est le mème de la petite amie distraite et un subreddit pour "Qu'est-ce que ce bug ?"

Bien que la nature exacte de ce que nous voyons sur ces plateformes puisse varier considérablement d’une personne à l’autre, elles assurent la diffusion de contenu de manière universellement similaire et alignée sur leurs objectifs commerciaux. Un adolescent indonésien ne voit peut-être pas les mêmes images que moi sur Instagram, mais l'expérience est à peu près la même : nous faisons défiler des photos d'amis ou de famille, nous voyons peut-être des mèmes ou des publications de célébrités ; le flux se transforme en bobines ; nous regardons quelques vidéos, répondons peut-être à l'histoire d'un ami ou envoyons des messages. Même si le contenu réel peut être très différent, nous y réagissons probablement de la même manière, et c'est intentionnel.

Internet existe également en dehors de ces grandes plateformes ; ce sont des blogs, des forums de discussion, des newsletters et d'autres sites médiatiques. Il s'agit de podcasts, de salons de discussion Discord et de groupes iMessage. Ceux-ci offriront des expériences plus individualisées qui peuvent être très différentes d’une personne à l’autre. Ils existent souvent dans une sorte de symbiose parasitaire avec les grands acteurs dominants, se nourrissant mutuellement du contenu, des algorithmes et de l’audience de chacun.

Les grands modèles de langage regorgent de failles de sécurité, mais ils sont intégrés à grande échelle dans des produits technologiques.

Internet est une bonne chose. Pour moi, ce sont des choses que j'aime, comme Keyboard Cat et Double Rainbow. Il s'agit de blogs personnels et de LiveJournals ; ce sont les messages AIM et les top 8 de MySpace. C'est le mème de la petite amie distraite et un subreddit pour "Qu'est-ce que ce bug ?" Il s'agit d'un fil de discussion célèbre sur un forum de culturisme où des idiots se disputent sur le nombre de jours dans une semaine. Pour d'autres, il s'agit des mèmes de Call of Duty et du divertissement insensé de YouTubers comme Mr. Beast, ou d'un endroit où trouver le type très spécifique de vidéo ASMR qu'ils n'auraient jamais pensé vouloir. Il s'agit d'une communauté de soutien anonyme pour les victimes d'abus, qui se moque des mèmes de Black Twitter sur la bagarre du bateau de Montgomery, ou qui essaie de nouvelles techniques de maquillage que vous avez apprises sur TikTok.

Ce sont aussi de très mauvaises choses : 4chan et le Daily Stormer, le porno vengeance, les faux sites d'informations, le racisme sur Reddit, l'inspiration pour les troubles de l'alimentation sur Instagram, l'intimidation, les adultes qui envoient des messages aux enfants sur Roblox, le harcèlement, les escroqueries, le spam, les incels et le besoin croissant de comprendre. savoir si quelque chose est réel ou IA.

Les mauvaises choses transcendent la simple grossièreté ou la pêche à la traîne. Il existe une épidémie de tristesse, de solitude et de méchanceté qui semble s’auto-renforcer dans de nombreux espaces en ligne. Dans certains cas, c’est véritablement une question de vie ou de mort. Internet est l'endroit où le prochain tireur de masse tire actuellement ses idées du dernier tireur de masse, qui les a obtenues du précédent, qui les a obtenues de certains des premiers sites Web en ligne. C'est une exhortation au génocide dans un pays où Facebook employait trop peu de modérateurs parlant la langue locale parce qu'il avait donné la priorité à la croissance plutôt qu'à la sécurité.

Le problème existentiel est que les meilleures et les pires parties d’Internet existent pour les mêmes raisons, ont été développées avec bon nombre des mêmes ressources et se sont souvent développées conjointement les unes avec les autres. Alors d’où vient la maladie ? Comment Internet est-il devenu si… méchant ? Pour démêler ce problème, nous devons revenir aux débuts du discours en ligne.

C'est aussi de très mauvaises choses : 4chan et le Daily Stormer, le porno vengeance, les faux sites d'informations, le racisme sur Reddit, l'inspiration pour les troubles de l'alimentation sur Instagram, l'intimidation, les adultes qui envoient des messages aux enfants sur Roblox, le harcèlement, les escroqueries, le spam, les incels.

Le péché originel d’Internet était d’insister sur la liberté : il a été créé pour être libre, dans de nombreux sens du terme. Internet n’a pas été initialement conçu dans un but lucratif ; il est né d'un moyen de communication destiné aux militaires et aux universitaires (certains militaires voulaient limiter Arpanet à un usage militaire jusqu'au début des années 1980). Lorsqu'il a gagné en popularité, parallèlement aux ordinateurs de bureau, Usenet et d'autres premières applications Internet populaires étaient encore largement utilisées sur les campus universitaires disposant d'un accès au réseau. Les utilisateurs se plaignaient du fait que chaque mois de septembre, leurs forums de discussion étaient inondés de nouveaux venus, jusqu'à ce que finalement « l'éternel septembre » – un flux constant de nouveaux utilisateurs – arrive au milieu des années 90 avec l'explosion de l'accès Internet à domicile.

Lorsque l’Internet a commencé à se développer à des fins commerciales dans les années 1990, sa culture était, de manière perverse, anticommerciale.

Bon nombre des principaux penseurs d’Internet de l’époque appartenaient à une cohorte de lecteurs d’AdBusters de la génération X et de baby-boomers anti-establishment. Ils étaient passionnés par la création de logiciels open source. Leur mantra était « L’information veut être libre » – une phrase attribuée à Stewart Brand, fondateur de Whole Earth Catalog et de la communauté Internet pionnière du WELL. Cette philosophie s’étend également à une passion pour la liberté d’expression et au sens de la responsabilité de la protéger.

Il se trouve que ces personnes étaient bien souvent des hommes blancs aisés de Californie, dont le point de vue ne parvenait pas à prédire le côté sombre des paradis de liberté d'expression et de libre accès qu'ils étaient en train de créer. (En toute honnêteté, qui aurait imaginé que le résultat final de ces premières discussions serait des campagnes de désinformation russes ciblant Black Lives Matter ? Mais je m’éloigne du sujet.)

La culture du libre exigeait un modèle économique capable de la soutenir. Et c'était de la publicité. Tout au long des années 1990 et même au début des années 00, la publicité sur Internet était un compromis difficile mais tolérable. Les premières publicités étaient souvent laides et ennuyeuses : spams pour des pilules pour l’agrandissement du pénis, bannières mal conçues et (frissons) publicités pop-up. C’était grossier mais permettait aux parties intéressantes d’Internet – les forums de discussion, les blogs et les sites d’actualités – d’être accessibles à toute personne disposant d’une connexion.

Mais la publicité et Internet sont comme ce petit submersible envoyé pour explorer le Titanic : la fibre de carbone fonctionne très efficacement, jusqu'à ce que vous appliquiez suffisamment de pression. Puis tout implose.

Publicité ciblée et marchandisation de l’attention

En 1999, la société de publicité DoubleClick prévoyait de combiner les données personnelles avec des cookies de suivi pour suivre les internautes sur le Web afin de pouvoir cibler plus efficacement ses publicités. Cela a changé ce que les gens pensaient possible. Il a transformé le cookie, à l'origine une technologie neutre permettant de stocker des données Web localement sur les ordinateurs des utilisateurs, en un outil utilisé pour suivre les individus sur Internet dans le but de les monétiser.

Pour les internautes du début du siècle, c’était une abomination. Et après qu’une plainte ait été déposée auprès de la Federal Trade Commission des États-Unis, DoubleClick a rappelé les détails de ses projets. Mais l’idée d’une publicité basée sur des profils personnels a fait son chemin. C’était le début de l’ère de la publicité ciblée, et avec elle, de l’Internet moderne.
Google a acheté DoubleClick pour 3.1 milliards de dollars en 2008. Cette année-là, les revenus publicitaires de Google s'élevaient à 21 milliards de dollars. L'année dernière, la société mère de Google, Alphabet, a généré 224.4 milliards de dollars de revenus publicitaires.

Notre Internet moderne repose sur des publicités hautement ciblées utilisant nos données personnelles. C'est ce qui le rend gratuit. Les plateformes sociales, la plupart des éditeurs numériques, Google, fonctionnent tous grâce aux revenus publicitaires. Pour les plateformes sociales et Google, leur modèle économique consiste à diffuser des publicités ciblées très sophistiquées. (Et les affaires vont bien : en plus des milliards de Google, Meta a généré 116 milliards de dollars de revenus pour 2022. Près de la moitié des personnes vivant sur la planète Terre sont des utilisateurs actifs mensuels d'un produit appartenant à Meta.) Les données que nous leur remettons volontiers en échange de l'utilisation gratuite de leurs services inciteraient les gens de l'an 2000 à laisser tomber leurs téléphones à clapet sous le choc.

Et ce processus de ciblage est incroyablement efficace pour déterminer qui vous êtes et ce qui vous intéresse. C'est le ciblage qui donne aux gens l'impression que leurs téléphones écoutent leurs conversations ; en réalité, les traces de données que nous laissons derrière nous deviennent plutôt des feuilles de route pour notre cerveau.

La ville de New York est en train d'améliorer la relation entre le gouvernement et la technologie, et pas de la manière à laquelle on pourrait s'attendre.
Quand on pense à ce qui est le plus manifestement défectueux sur Internet : le harcèlement et les abus ; son rôle dans la montée de l’extrémisme politique, la polarisation et la propagation de la désinformation ; les effets néfastes d’Instagram sur la santé mentale des adolescentes – le lien avec la publicité peut ne pas sembler immédiat. Et en fait, la publicité peut parfois avoir un effet atténuant : Coca-Cola ne veut pas diffuser de publicité à côté des nazis, alors les plateformes développent des mécanismes pour les éloigner.

Mais la publicité en ligne exige une attention avant tout, et elle a finalement permis et nourri les pires des pires choses. Les plateformes sociales ont été incitées à accroître leur base d’utilisateurs et à attirer autant de regards que possible le plus longtemps possible afin de diffuser toujours plus de publicités. Ou, plus précisément, pour vous servir toujours plus auprès des annonceurs. Pour y parvenir, les plateformes ont conçu des algorithmes qui nous permettent de faire défiler et de cliquer, ce qui a eu pour résultat de jouer sur certains des pires penchants de l'humanité.

En 2018, Facebook a peaufiné ses algorithmes pour favoriser des « interactions sociales plus significatives ». Il s'agissait d'une mesure destinée à encourager les utilisateurs à interagir davantage les uns avec les autres et, en fin de compte, à garder les yeux rivés sur le fil d'actualité, mais cela a abouti à ce que les flux des gens soient envahis par un contenu qui divise. Les éditeurs ont commencé à optimiser l'indignation, car c'était le type de contenu qui générait de nombreuses interactions.

Sur YouTube, où la « durée de visionnage » était prioritaire sur le nombre de vues, les algorithmes recommandaient et diffusaient les vidéos en flux continu. Et dans leur quête pour rassasier l’attention, ces algorithmes conduisaient fréquemment les gens dans des couloirs toujours plus labyrinthiques vers les royaumes conspirateurs des véridiques de la Terre plate, de QAnon et de leurs semblables. Les algorithmes de la page Découvrir d'Instagram sont conçus pour nous permettre de faire défiler (et de dépenser) même après avoir épuisé le contenu de nos amis, souvent en promouvant l'esthétique populaire, que l'utilisateur ait été intéressé ou non auparavant. Le Wall Street Journal a rapporté en 2021 qu'Instagram avait depuis longtemps compris qu'il nuisait à la santé mentale des adolescentes à travers des contenus sur l'image corporelle et les troubles de l'alimentation, mais a ignoré ces rapports. Continuez à les faire défiler.

Certains prétendent que les grandes plateformes ne font que nous donner ce que nous voulions.

Anil Dash, un entrepreneur technologique et pionnier des blogs qui a travaillé chez SixApart, la société qui a développé le logiciel de blog Movable Type, se souvient d'une réaction violente lorsque son entreprise a commencé à facturer ses services au milieu des années 00. « Les gens me disaient : « Vous facturez de l'argent pour quelque chose sur Internet ? » C'est dégoûtant !' », a-t-il déclaré au MIT Technology Review. « Le passage de cela à : Si vous ne payez pas pour le produit, vous êtes le produit… Je pense que si nous avions trouvé cette phrase plus tôt, alors tout aurait été différent. Toute l’ère des médias sociaux aurait été différente.

L’accent mis par les grandes plateformes sur l’engagement à tout prix les a rendues prêtes à être exploitées.
Twitter est devenu un « pot de miel pour les connards » où les trolls d'endroits comme 4chan ont trouvé un forum efficace pour un harcèlement coordonné. Gamergate a commencé dans des eaux plus marécageuses comme Reddit et 4chan, mais il s'est déroulé sur Twitter, où des nuées de comptes s'en sont pris aux cibles choisies, généralement des critiques de jeux vidéo féminines. Les trolls ont également découvert que Twitter pouvait être manipulé pour faire apparaître des phrases ignobles : en 2013, 4chan y est parvenu avec #cuttingforbieber, prétendant faussement représenter des adolescents s'automutilant pour le chanteur pop.

La dynamique des plateformes a créé un environnement si riche en cibles que les services de renseignement de Russie, de Chine et d’Iran, entre autres, les utilisent encore aujourd’hui pour semer la division politique et la désinformation.

"Les humains n'ont jamais été censés exister dans une société qui compte 2 milliards d'individus", déclare Yoel Roth, chercheur en politique technologique à l'UC Berkeley et ancien responsable de la confiance et de la sécurité chez Twitter. « Et si l’on considère qu’Instagram est une société selon une définition tordue, nous avons chargé une entreprise de gouverner une société plus grande que toutes celles qui ont jamais existé au cours de l’histoire de l’humanité. Bien sûr, ils vont échouer.

Comment le réparer

Voici la bonne nouvelle. Nous vivons un moment rare où un changement pourrait bien être possible ; les systèmes et plates-formes auparavant insolubles et apparemment permanents montrent qu’ils peuvent être modifiés et déplacés, et que quelque chose de nouveau pourrait réellement se développer.
Un signe positif est la prise de conscience croissante du fait que parfois... il faut payer pour certaines choses. Et en effet, les gens paient des créateurs et des éditeurs individuels sur des plateformes telles que Substack, Patreon et Twitch. Pendant ce temps, le modèle freemium exploré par YouTube Premium, Spotify et Hulu prouve que (certaines) personnes sont prêtes à débourser pour des expériences sans publicité. Un monde dans lequel seules les personnes qui peuvent se permettre de payer 9.99 $ par mois pour récupérer leur temps et leur attention face à des publicités merdiques n'est pas idéal, mais cela démontre au moins qu'un modèle différent fonctionnera.

Une autre chose sur laquelle il faut être optimiste (même si le temps nous dira si elle fait réellement son chemin) est la fédération, une version plus décentralisée des réseaux sociaux. Les réseaux fédérés comme Mastodon, Bluesky et Meta's Threads ne sont que des clones de Twitter à leur surface – un flux de courts messages texte – mais ils sont également tous conçus pour offrir diverses formes d'interopérabilité.
Fondamentalement, lorsque votre compte et vos données de réseaux sociaux actuels existent dans un jardin clos entièrement contrôlé par une seule entreprise, vous pouvez être sur Threads et suivre les publications de quelqu'un que vous aimez sur Mastodon – ou du moins Meta dit que cela s'en vient. (Beaucoup, y compris le pionnier de l'Internet Richard Stallman, qui a une page sur son site personnel consacrée aux « Pourquoi vous ne devriez pas être utilisé par Threads » – ont exprimé leur scepticisme quant aux intentions et aux promesses de Meta.) Mieux encore, cela permet une modération plus granulaire. Encore une fois, cela pourrait résoudre.

La grande idée est que dans un avenir où les médias sociaux seront plus décentralisés, les utilisateurs pourront facilement changer de réseau sans perdre leur contenu et leurs abonnés. « En tant qu'individu, si vous voyez [un discours de haine], vous pouvez simplement partir, et vous ne laisserez pas toute votre communauté – toute votre vie en ligne – derrière vous. "Vous pouvez simplement passer à un autre serveur et migrer tous vos contacts, et tout devrait bien se passer", déclare Paige Collings, défenseure principale de la parole et de la vie privée à l'Electronic Frontier Foundation. "Et je pense que c'est probablement là que nous avons de nombreuses opportunités de bien faire les choses."

Histoire connexe
Internet est sur le point de devenir beaucoup plus sûr

Le grand projet technologique européen porte ses fruits. Voici ce que vous devez savoir.

Cela présente de nombreux avantages, mais Collings reste prudent. « Je crains que même si nous avons une opportunité incroyable », dit-elle, « à moins d'un effort intentionnel pour s'assurer que ce qui s'est passé sur le Web2 ne se reproduise pas sur le Web3, je ne vois pas comment cela ne perpétuerait pas les mêmes choses. »

La fédération et une concurrence accrue entre les nouvelles applications et plates-formes offrent aux différentes communautés la possibilité de créer les types de confidentialité et de modération qu'elles souhaitent, plutôt que de suivre des politiques de modération de contenu imposées de haut en bas, créées au siège social de San Francisco, qui sont souvent explicitement mandatées pour ne pas déranger. fiançailles.

Le scénario rêvé de Yoel Roth serait que dans un monde de réseaux sociaux plus petits, la confiance et la sécurité pourraient être gérées par des sociétés tierces spécialisées dans ce domaine, de sorte que les réseaux sociaux n'auraient pas à créer à chaque fois leurs propres politiques et tactiques de modération. .

La vision tunnel axée sur la croissance a créé de mauvaises incitations à l’ère des médias sociaux. Cela a fait comprendre aux gens que si l’on voulait gagner de l’argent, il fallait avoir une audience massive, et que pour obtenir une audience massive, il fallait souvent se comporter mal. La nouvelle forme d’Internet doit trouver un moyen de gagner de l’argent sans attirer l’attention. Il existe déjà de nouveaux gestes prometteurs visant à modifier ces incitations. Threads n'affiche pas le nombre de republications sur les publications, par exemple – un simple ajustement qui fait une grande différence car il n'encourage pas la viralité.

Nous, internautes, devons également apprendre à recalibrer nos attentes et nos comportements en ligne. Nous devons apprendre à apprécier les petites zones d'Internet, comme un nouveau serveur Mastodon, Discord ou un blog.

Nous devons faire confiance au pouvoir de « 1,000 XNUMX vrais fans » plutôt qu’à des millions amassés à moindre coût.

Anil Dash ne cesse de répéter la même chose depuis des années :
que les gens devraient acheter leurs propres domaines, créer leurs propres blogs, posséder leurs propres contenus.
Et bien sûr, ces solutions nécessitent une capacité technique et financière que beaucoup de gens ne possèdent pas. Mais avec le passage à la fédération (qui assure au moins le contrôle, sinon la propriété) et des espaces plus petits, il semble possible que nous assistions réellement à un certain changement par rapport à la communication médiatisée par les grandes plateformes.

« Il y a actuellement un changement systémique plus important qui se produit actuellement », dit-il. « Il faut avoir une certaine perspective de la vie avant Facebook pour dire : Oh, en fait, certaines de ces choses sont tout simplement arbitraires. Ils ne sont pas intrinsèques à Internet.

La solution à Internet n’est pas de fermer Facebook, de se déconnecter ou de sortir et de toucher l’herbe. La solution à Internet est plus d’Internet : plus d’applications, plus d’espaces disponibles, plus d’argent dépensé pour trouver plus de bonnes choses dans plus de variété, plus de gens s’engagent de manière réfléchie dans les endroits qu’ils aiment. Plus d'utilité, plus de voix, plus de joie.

Mon trait toxique est que je ne peux pas me débarrasser de cet optimisme naïf des premiers Internet.
Des erreurs ont été commises, beaucoup de choses ont déraillé et il y a indéniablement beaucoup de douleur, de misère et de mauvaises choses qui sont venues de l’ère sociale. L'erreur serait maintenant de ne pas apprendre d'eux

Katie Notopoulos est un écrivain qui vit dans le Connecticut. Elle a écrit pour BuzzFeed News, Fast Company, GQ et Columbia Journalism Review.