Les auteurs :
The Social Dilemma est un documentaire produit par The Exposure Lab, une boîte de production de film et d’impact (pour reprendre leur tagline). Outre ce documentaire, The Exposure Lab est également à l’origine de deux autres documentaires engagés : Chacing Ice et Chasing Coral.
Le propos :
The Social Dilemma interroge des têtes connues de la Silicon Valley (anciens employés de Facebook, Google, Instagram, Pinterest, etc. devenus activistes ou engagés dans un processus d’humanisation des nouvelles technologies). Ceux-ci décrivent les coulisses des réseaux sociaux et autres produits de la tech industry et en dévoilent les côtés sombres. En particulier, le business model qui se cache derrière les grandes compagnies telles que Facebook, Snapchat, Twitter, Instagram, YouTube, Tiktok, Google, Pinterest, Reddit, LinkedIn, etc.
Leur business model est le suivant : en captant notre attention le plus longtemps possible, toutes ces compagnies récoltent des informations sur nous (nos goûts, nos habitudes de connexions, etc.) pour les revendre à leurs vrais clients (= ceux qui les payent) : les annonceurs. C’est ce qu’on appelle le capitalisme de surveillance, c’est leur moteur économique. Le vecteur de cette économie, c’est la technologie de persuasion (= utiliser la technologie pour modifier un comportement dans le sens qui nous arrange). Le « nouveau » marché, c’est de spéculer sur les comportements humains en récoltant un nombre incroyable de données. Les algorithmes travaillent, sans pratiquement aucun supervision humaine, à devenir meilleurs à chaque instant pour prédire ce qu’on va faire ensuite (nos comportements), et qui nous sommes (notre identité). Ce travail de prédiction est basé sur tous les clics, les scrolls, les likes, etc. qu’on a fait sur les plateformes (ex. Facebook, Google,…) depuis qu’on les visite.
Notre avis :
Ce qui est écrit plus haut est superbement illustré dans la partie fictionnelle du docu (on suit une famille avec 3 adolescents et leur rapport aux écrans, en particulier leur smartphone). Le film est ponctué de moments de témoignages et d’illustrations fictionnelles de ce qui est dit.
Le documentaire aborde plein d’aspects problématiques des réseaux sociaux et autres produits des nouvelles technologies : addiction, repli sur soi, mise en représentation, fake news et polarisation de la société, big data, santé mentale… et démontre l’ampleur du changement sociétal que la tech industry a provoqué.
Je pourrais citer à peu près 60% des phrases du docu tant elles sont impactantes. Cela vaut la peine de faire des pauses pour digérer les propos au fur et à mesure.
Extraits (librement traduits ou non) :
How much of your life can we get you to give to us ? – Tim Kendall, ancien directeur de la monétisation de Facebook.
It’s the gradual, slightest, imperceptible change in your own behaviour and perception that’s the product. (…) Changing what you do, how you think, who you are. – Jaron Lanier (dont nous avons déjà parlé ici)
Ils savent quand les gens se sentent seuls, quand ils sont déprimés, quand vous regardez des photos de vos ex, ils savent ce que vous faites tard le soir, ils savent tout.
We’ve put deceit and sneakiness in the absolute center of everything we do. – Jaron Lanier
On est des rats de laboratoire. Et ça serait ok si on était des rats de laboratoire dans le but de guérir le cancer. C’est pas comme si leurs expériences sur nous nous était bénéfiques, non, on est juste des zombies et eux veulent qu’on regarde plus de pub pour qu’ils se fassent plus de thunes.
It’s a disinformation for profiy business model. – Tristan Harris, ancient ethicien chez Google.
La menace existentielle n’est pas la technologie, c’est sa capacité à faire ressortir le pire de la société. Et c’est ce pire de la société qui constitue la menace existentielle. – Tristan Harris.
Détails intéressants :
Ce sont surtout certains mots et expressions qui ont retenu mon attention et m’ont impressionné, tels que l’expression « weaponizing social media » ou encore la notion de « digital privacy ». Enfin, à 30 minutes du documentaire, Tristan Harris remet brillamment en question le fait de considérer les écrans comme de simples outils.
Pour aller plus loin :
- Le site du film
- Le livre de Shoshana Zuboff : the age of surveillance capitalism (sur ma liste de lecture)