Quels sont les dangers de la technologie persuasive ?

– Jasper, 24 ans, du Cap (Afrique du Sud)

– Amanda, 19 ans, Sydney (Australie)

Au début de ce cours, les témoignages de Dasani et de Siri sur les réseaux sociaux vous ont été présentés. Souvent, il arrive d'entendre des expériences similaires et de penser qu'effectivement, les réseaux sociaux peuvent être vraiment distrayants. Les distractions qui surviennent de temps en temps peuvent être embêtantes, mais elles ne sont pas si graves. Vous êtes distrait·es, puis vous passez à autre chose.

Cependant, quand la distraction se répète encore et encore, elle fait partie d'un problème plus large. Les applications de réseaux sociaux sur nos téléphones font plus que nous distraire : comme dans les témoignages de Jasper et d’Amanda, les applications peuvent changer notre comportement, ce que nous pensons, ce que nous ressentons et finissent par gêner la compréhension de notre propre personne.

La technologie persuasive est destinée à générer des profits pour les entreprises technologiques. Néanmoins, chacune des fonctionnalités discutées précédemment a des conséquences imprévues. Le design persuasif ne peut pas nous contrôler comme une marionnette, mais il peut nous influencer de manière à y parvenir. Ce design nous enseigne à tous et à toutes, y compris aux adultes, des habitudes qui peuvent devenir des pulsions et même des dépendances. Souvent, il prend la forme d'un miroir déformant qui peut façonner nos pensées culturelles, politiques et même la perception de nos propres corps.

Vous avez vu dans les leçons précédentes la façon dont les algorithmes déterminent les sujets qui inondent nos fils d'actualité en cherchant des tendances dans les données passées pour effectuer des prédictions sur ce qui nous engagera sur le long terme. Imaginez maintenant un algorithme IA qui observe le comportement d'humains pour tenter de comprendre ce qu'ils et elles veulent. Par exemple, un algorithme remarque que chaque fois que les gens passent devant un accident de voiture, ils ralentissent et y prêtent attention. Dans sa logique, il est clair que les gens doivent être attirés par les accidents de voiture, donc peut-être ce qu'ils veulent, ce sont les autoroutes pleines d'accidents de voiture !

Bien sûr qu'en réalité, ce raisonnement ne tient pas la route. Les gens regardent les accidents de voiture parce qu'ils ont besoin d'être conscients d'une situation potentiellement dangereuse et parce que l'humain est naturellement curieux du monde qui l'entoure.

Aussi ridicule que puisse paraître cet exemple, nos plateformes de réseaux sociaux font constamment la même chose. Elles remplissent nos fils d'actualité d'accidents de voiture métaphoriques en promouvant un contenu plus provocant et performant, nous laissant dans l'équivalent en ligne d'un embouteillage. Les réseaux sociaux ne nous montrent pas ce que nous voulons, mais le contenu que nous ne pouvons pas nous empêcher de regarder.

Ce que nous regardons et ce sur quoi nous cliquons ne déterminent pas ce que nous voulons ni ce que nous pensons être le mieux pour nous. Plus souvent, notre activité en ligne reflète à quel point les applications nous poussent efficacement à adopter un comportement spécifique, souvent un engagement.