Un visuel de la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) pour alerter contre les dark patterns. © DGCCRF
Un clic qui vous abonne à votre insu à un service payant ; un vêtement ajouté à titre de "suggestion" dans votre panier ; un surcoût surprise pour les bagages au moment de payer un billet d'avion… Pourquoi une simple navigation sur Internet s'apparente-t-elle si souvent à un jeu de bonneteau ? En cause, les "dark patterns", ou "interfaces trompeuses", selon la formulation européenne. Notre existence en ligne est pavée de ces méthodes de manipulation commerciale, élaborées pour nous inciter à la consommation, pour récolter nos données personnelles, ou tout simplement pour capter notre attention le plus longtemps possible.
L'expression a été inventée en 2010 par le webdesigner britannique Harry Brignull, qui préfère désormais parler de "deceptive patterns". Devenu expert et consultant sur le sujet, il raconte à France 24 comment il a pris conscience de cette face sombre de l'architecture numérique : "Mon travail, à l'époque, c'était d'identifier les problèmes d'interface qui ennuyaient les gens, dont ils se plaignaient, et d'en informer mon client. Par exemple, l'option pré-cochée qui abonne les gens à une newsletter. Sauf que le client me répondait : 'En fait, on veut garder cette option, elle nous rapporte de l'argent.' C'est là que les rouages se sont actionnés dans mon esprit. J'ai compris qu'il existait un mauvais design, source de mauvaise expérience pour l'utilisateur, qui profitait à l'employeur."
Quelque 97 % des sites les plus populaires concernés
Selon l'Organisation de coopération et de développement économiques (OCDE), qui leur consacre un long et accablant rapport en 2022, ces pratiques "minent ou réduisent l'autonomie des consommateurs, leur prise de décision, ou leur choix. Souvent, elles trompent, contraignent ou manipulent les consommateurs et sont susceptibles de leur causer du tort, de manière directe ou indirecte."
Le principe : pousser l'internaute à dépenser plus que ce qu'il a prévu, de s'abonner à un service dont il n'a ni besoin ni envie, ou encore à fournir plus de données personnelles que nécessaires, par le truchement d'une série d'incitations plus ou moins insidieuses. Comme ces messages culpabilisants au moment de décliner les cookies, ces comptes à rebours artificiels avant expiration d'une promo, ou ces annonces mensongères – "Plus que trois articles de ce type !" –, qui poussent à précipiter l'achat.
Ces techniques sont généralisées. Une étude de la Commission européenne révèle qu'en 2022, 97 % des 75 sites les plus populaires de l'Union européenne utilisaient au moins un dark pattern : les réseaux sociaux, les plateformes de vente en ligne, les vidéos d'influenceurs, mais aussi l'intelligence artificielle (IA) générative... Les dark patterns sont partout.
Que reste-t-il de notre libre arbitre face à ces tactiques ? Si elles fonctionnent, c'est qu'elles s'appuient sur nos biais cognitifs, ces raccourcis du raisonnement qui entrent, inconsciemment, dans notre prise de décision lorsqu'elle est précipitée. Comme le biais de conformité, qui pousse à s'aligner sur les actions des autres, ou le biais d'aversion à la perte, activé avec ces messages qui prétendent qu'une promotion est éphémère.
Anxiété accrue et libre concurrence en berne
En 2022, l'OCDE a documenté les dégâts causés par ces pratiques : un niveau d'anxiété accru pour les consommateurs, confrontés à ces chausse-trappes perpétuelles, mais plus largement, l'érosion de la libre concurrence. "Là où on pense que la concurrence entre entreprises est bénéfique, avec des produits plus innovants et de meilleurs prix, elles se contentent d'avoir les meilleurs dark patterns", déplore Marie Potel-Saville, créatrice de Fairpatterns, un outil d'IA qui vise à détecter les interfaces trompeuses.
Le droit européen tente d'abolir ces manigances numériques. L'article 25 du Digital Service Act européen, adopté en 2023, proscrit tout contenu qui "trompe ou manipule les destinataires du service, en altérant ou en compromettant leur autonomie, leur capacité de décision ou leurs choix".
Les dark patterns sont aussi contraires aux exigences du règlement général de la protection des données (RGPD), comme l'explique Audrey Pety, designeuse au sein de la Commission nationale de l'informatique et des libertés (Cnil) : "Pour la plupart, les 'dark patterns' contreviennent à un certain nombre de grands principes du RGPD : le consentement, la transparence de l'information, l'exercice des droits, la protection des données dès la conception et par défaut. Et, surtout, le principe de loyauté envers l'utilisateur, la manière dont l'architecture des choix lui est proposée."
Mais pour les plateformes, ce système s'avère trop profitable pour y renoncer. "Depuis la pandémie, tout est tech dans nos vies, donc ces designs trompeurs sont partout aujourd'hui, et ils sont pires que jamais, constate le webdesigneur Harry Brignull. La raison, c'est que les entreprises doivent prendre des décisions rationnelles dans un environnement concurrentiel : si cette entreprise en face utilise des designs trompeurs et pas nous, on risque d'être désavantagées. Et la pratique comporte peu de risques. Même si les lois européennes sont en avance, vous n'avez qu'une poignée de régulateurs. Comment tout contrôler ?"
Des victoires juridiques contre les plateformes
Les adversaires des plateformes commencent toutefois à remporter quelques victoires. Amazon a été prise la main dans le pot de confiture : son système retors d'abonnement à son service payant "Prime" était configuré pour être validé presque à l'insu de l'utilisateur, à titre d'essai "gratuit" et très difficile à annuler. Pour s'épargner une condamnation en justice par une cour fédérale de Seattle, la firme de Jeff Bezos a préféré payer 2,5 milliards de dollars au Trésor américain et aux clients.
Le géant de l'ultra fast-fashion Shein, lui, a été rattrapé par la patrouille tricolore. Il faut dire que l'entreprise chinoise cumule les dark patterns. Roue de la fortune, fausses promotions, cookies automatiques… Ces deux dernières pratiques lui ont valu des amendes colossales de la part de la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) et de la Cnil, gendarmes français de la concurrence et des données personnelles.
Plus récemment, un jury de Los Angeles a rendu un verdict inédit contre Meta et YouTube, reconnus coupables de négligence pour ne pas avoir assez alerté sur les risques d'addiction que comportent leurs designs chez les jeunes. Scrolling infini, autoplay des vidéos : des dispositifs que la cour américaine a jugé susceptibles d'encourager le mal-être chez les adolescents, en première ligne face à cette force de frappe cognitive.
Des tactiques moins rentables
Le bâton d'un côté, la pédagogie de l'autre : les adversaires des dark patterns prônent la double méthode. Comme Marie Potel-Saville, la créatrice de Fairpatterns, dont l'outil IA de détection des interfaces trompeuses vise à faciliter des recours juridiques, mais aussi à accompagner des entreprises désireuses de revenir à des pratiques plus éthiques. "Certaines se rendent compte que les dark patterns sont moins rentables qu'avant, dépeint-elle. Les utilisateurs finissent par repérer que c'est louche que 45 personnes regardent cette chambre en même temps qu'eux… La valeur de la marque en est affectée."
Le Laboratoire d'innovation numérique de la Cnil (Linc) a conçu Apparences trompeuses, un quiz de sensibilisation du grand public, mais aussi une gamme d'outils à destination des premiers concernés, ceux qui bâtissent ces parcours utilisateurs. Son but : encourager une architecture éthique et lisible de nos expériences en ligne. Car "on n'enseigne pas la protection des données personnelles dans les écoles de design. Notre objectif pédagogique, c'est de donner des outils et des informations clé en main aux praticiens, et, aux enseignants, des outils pour leurs élèves, afin de promouvoir les bonnes pratiques et éviter les mauvaises", explique Audrey Pety, designeuse au Linc.
Harry Brignull estime qu'au fil du temps, les normes européennes finissent par rencontrer quelques succès. "Si on regarde les cookies, il y a encore quelques années, c'était très fréquent de ne pas pouvoir les rejeter. Il fallait naviguer dans un labyrinthe de menus, cliquer 1 000 fois, etc. C'était assez évident que ce design visait à contourner le RGPD. Mais aujourd'hui, dans la plupart des cas, vous avez un bouton 'décliner les cookies' assez clair." Il voit dans ce résultat la combinaison de la législation et de l'éducation numérique des utilisateurs. Mais prône une réglementation plus mature pour la tech, qui ne laisse pas les internautes en première ligne pour se dépêtrer.
"On est en droit d'attendre que les environnements digitaux soient exempts de pièges et de biais cognitifs à échelle industrielle, insiste Marie Potel-Saville. On ne mettrait pas sur le marché une voiture qui grille le cerveau de ses occupants."